[過去ﾛｸﾞ]
【統計分析】機械学習・データマイニング28 (1002ﾚｽ)
【統計分析】機械学習・データマイニング28 http://mevius.5ch.net/test/read.cgi/tech/1588293154/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
431: デフォルトの名無しさん (ﾜｯﾁｮｲ 1255-VQSO [59.147.205.222]) [] 2020/07/04(土) 19:35:14.08 ID:Fkv+Fc/J0 Raschkaの機械学習の本を読んでいて、一番最初のパーセプトロンのところで躓いた。 重みをああいう風に更新しても正しく分類されていない点が正しく分類されるようになるとは限らないと思う。 中井悦司の機械学習理論入門の4.2.2でいうと、 点(x, y)が以下のように正しく分類されていないとする。 w_1*x + w_2*y < 0 t = 1 重みは以下のように更新される。 w'_1 = w_1 + x w'_2 = w_2 + y w'_1*x + w'_2*y = w_1*x + w_2*y + x^2 + y^2となるが、これがかならずしも正になるとは限らないと思う。 x^2 + y^2 > 0 ならば改善はされるとは思いますが。 http://mevius.5ch.net/test/read.cgi/tech/1588293154/431
436: デフォルトの名無しさん (ｱｳｱｳｳｰ Sa4d-PeUO [106.154.130.146]) [] 2020/07/04(土) 23:01:52.65 ID:AaHxJlLHa >>431 パーセプトロンの収束定理というものがあるので、必ず有限回で正しく分類できるようになる http://mevius.5ch.net/test/read.cgi/tech/1588293154/436
438: デフォルトの名無しさん (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) [] 2020/07/05(日) 01:51:19.26 ID:I6aovzvx0 >>431 その本読んでみないと何とも言えんな パーセプトロンの解説なんてネット上に腐るほどあると思うんだがな 一般的には分類用の単純パーセプトロンはロジスティック回帰が使われる事が多くて、指数型分布族でコスト関数が凸になるからつまずくとこなんてあるかーって感じだわ 普通にロジスティック回帰の勾配法での更新式を自分で計算してみたらどうだ？ 「ロジスティック回帰 勾配法 導出」とかで検索すれば直ぐ答えが得られるが http://mevius.5ch.net/test/read.cgi/tech/1588293154/438
439: デフォルトの名無しさん (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) [] 2020/07/05(日) 03:01:57.62 ID:I6aovzvx0 >>431 あーなるほど、これは活性化関数にステップ関数を使っていて、さらにデータは線形モデルで精度１００％が達成可能である事を前提としてんのね それじゃあロジスティック回帰とは全然違うわなｗ 重みの更新式は学習率に応じて少しずつ何度も繰り返し計算されるからいずれ正になるぞー w'_1*x=w_1*x+η*x^2 > w_1*x となるわけだから ηは学習率 http://mevius.5ch.net/test/read.cgi/tech/1588293154/439
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.032s