[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング28 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
438: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)01:51 ID:I6aovzvx0(1/4) AAS
>>431
その本読んでみないと何とも言えんな
パーセプトロンの解説なんてネット上に腐るほどあると思うんだがな
一般的には分類用の単純パーセプトロンはロジスティック回帰が使われる事が多くて、指数型分布族でコスト関数が凸になるからつまずくとこなんてあるかーって感じだわ
普通にロジスティック回帰の勾配法での更新式を自分で計算してみたらどうだ？
「ロジスティック回帰 勾配法 導出」とかで検索すれば直ぐ答えが得られるが
439(1): (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)03:01 ID:I6aovzvx0(2/4) AAS
>>431
あーなるほど、これは活性化関数にステップ関数を使っていて、さらにデータは線形モデルで精度１００％が達成可能である事を前提としてんのね
それじゃあロジスティック回帰とは全然違うわなｗ
重みの更新式は学習率に応じて少しずつ何度も繰り返し計算されるからいずれ正になるぞー
w'_1*x=w_1*x+η*x^2 > w_1*x
となるわけだから
ηは学習率
442: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)11:43 ID:I6aovzvx0(3/4) AAS
面白い人である必要はない
447: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)18:53 ID:I6aovzvx0(4/4) AAS
>>443
w_3の存在を忘れてたりしない？
サンプルに１次元追加してそこを１で埋めればw_3はちょうど切片の役割を果たす
まずは１次元の場合で考えてみたらどうかな？
そうしたら切片の役割がより分かりやすいと思う
その上で、ステップ関数を使った単純パーセプトロンは損失関数をmax(0,-twx)とする事が出来る為、不正解となったサンプルのみ勾配法によって重み更新する事を考える
不正解の場合損失関数は-twx返す為、-twxをｗで微分して、答えは-txとなる
従って更新式は勾配法によってw+txとなることがわかる
証明としては不完全だけど分かりやすくイメージがつかめると思う
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 1.639s*