[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング19 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
803: (ﾏｸﾄﾞ FF2f-J6FL) 2018/07/27(金)14:40 ID:W9c1VECCF(1/3) AAS
ベンダー企業で研究開発してる奴らなら数学も出来ないと辛いことはあるだろう
逆に、極端な話、機械学習エンジニアとは名ばかりのただの組み込みエンジニアなら
数学どころか理論まわりも分かってなくていいんじゃないか
結局はピンキリ
808: (ﾏｸﾄﾞ FF2f-J6FL) 2018/07/27(金)17:09 ID:W9c1VECCF(2/3) AAS
>>805
それぞれのレイア―を関数に見立てて考えよう
レイア―1 …… y=f1(x)
レイア―2 …… z=f2(y)
レイア―3 …… o=f3(z)
f1にまずxが入力されて、f3から出力値oがでてくる
さて、いま出力値oを最大値に近づけたい
レイアー3だけ考えよう
f3()に入るzという引数を、いったん定数と置こう
このzに、限りなく0に近い Δz という値を足すと、
f3(z＋Δz) = f3(z) + g3×Δzと、出力値oがg3×Δzだけ増える
レイアー2も
yを定数と置いて、Δyをyに足すと、f2(y＋Δy)がg2×Δyだけ増える
809: (ﾏｸﾄﾞ FF2f-J6FL) 2018/07/27(金)17:10 ID:W9c1VECCF(3/3) AAS
レイアー3も
xにΔxを足すと、f1(x＋Δx)がg1×Δxだけ増える
ここで、g1×Δx=Δy , g2×Δy=Δz
だから、g1・g2・g3・Δx = Δo(出力値oの増加分)
このg1・g2・g3がgrad(勾配)の正体だ
誤差逆伝搬では、g3、g2、g1と反対側から各レイヤーの傾きを求めて、
最後に掛け算することで、この勾配の値を算出している
えっ、g3、g2、g1はどうやって求めてるんだって？
偏微分とか(ごにょごにょごにょ……まあ、気にするな
あと最後に言っておく
分かりやすさを優先して説明をはしょったり、捻じ曲げたりしてるから
ネットの落書きなんてあんまり信用するな。がんば
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.038s