[過去ログ]
【オセロ,将棋】ボードゲーム【囲碁,War】 (1002レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
530
:
310
2016/09/05(月)22:33
ID:KkVISbKe(1/2)
AA×
外部リンク:postd.cc
外部リンク:qiita.com
[240|
320
|
480
|
600
|
原寸
|
JPG
|
べ
|
レス栞
|
レス消
]
530: 310 [sage] 2016/09/05(月) 22:33:11.28 ID:KkVISbKe 上に書いた通り、線形回帰はディープラーニングに内包される計算手法ですので (実際に最急降下法とバックプロパゲーション部分以外の計算式はほぼ同じ)、 学習率の設定にディープラーニングの最新の手法が使えるんじゃないかと思います。 学習率を外から与えるのではなく、初期値だけ与えて、後は誤差の具合を管理して 動的に変える。しかも、各重み毎に個別に学習率を変える。という発想です。 参考) http://postd.cc/optimizing-gradient-descent/#gradientdescentoptimizationalgorithms http://qiita.com/skitaoka/items/e6afbe238cd69c899b2a ※)数式で、ただの変数のように書いてますが、行列だったりベクトルだったり解読が必要です 自分はこの中で一番新しいSMORMS3を使用してみたところ、モーメンタム法の10倍 以上の速さ(学習回数)で収束するようになったと感覚的に感じています。大体30〜 50回も回せば収束してしまう感じです。実装&テストだけして確認していませんが、 AdamやRMSpropでもそん色ない程度には速くなると思います。 でも、早いPCで解決できるんなら、それに越した事はありませんねorz http://mevius.5ch.net/test/read.cgi/gamedev/1057763418/530
上に書いた通り線形回帰はディープラーニングに内包される計算手法ですので 実際に最急降下法とバックプロパゲーション部分以外の計算式はほぼ同じ 学習率の設定にディープラーニングの最新の手法が使えるんじゃないかと思います 学習率を外から与えるのではなく初期値だけ与えて後は誤差の具合を管理して 動的に変えるしかも各重み毎に個別に学習率を変えるという発想です 参考 数式でただの変数のように書いてますが行列だったりベクトルだったり解読が必要です 自分はこの中で一番新しいを使用してみたところモーメンタム法の10倍 以上の速さ学習回数で収束するようになったと感覚的に感じています大体30 50回も回せば収束してしまう感じです実装テストだけして確認していませんが やでもそん色ない程度には速くなると思います でも早いで解決できるんならそれに越した事はありませんね
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 472 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.050s