[過去ﾛｸﾞ]
【オセロ,将棋】ボードゲーム【囲碁,War】 (1002ﾚｽ)
上
下
前
次
1-
新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
714
:
310
2017/02/01(水)15:57
ID:DrzIg7bz(1)
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
ﾚｽ栞
|
ﾚｽ消
]
714: 310 [sage] 2017/02/01(水) 15:57:52.90 ID:DrzIg7bz ひょんな事から学習できました。デバッグ用に学習データを減らしてテストをしようとしたら 学習できてしまいまして。件数を増やすとダメになる模様。 これは仮説ですが、多種多様な棋譜を学習させると、ネットワークの自由度が不足して、 ウェイト更新が相互に打ち消し合った結果、ウエイトがゼロ（勾配消失）に陥ってしまうと。 学習に失敗した時は、大半のテストの結果が、全て同じ確率（softmaxのため）となってい ます。中身は見ていませんが、softmax関数を通す前はオールゼロとなっている事が十分 に想像できます。 今から思うと、NNで評価関数を作ろうとして失敗していた時も、同じ状態だったのかなと。 学習データを減らすと精度が落ちますので、ネットワークをより複雑かつ大規模にしない といけないのかなぁと。結局、同じ問題（ネットワークを大規模化しなきゃいけないけど、 自前のパソコンでは計算が厳しい上に、結果を使用する方もタイムクリティカルなので あまりややこしくしたくない）の周りをグルグルしはじめてしまいました（汗 http://mevius.5ch.net/test/read.cgi/gamedev/1057763418/714
ひょんな事から学習できましたデバッグ用に学習データを減らしてテストをしようとしたら 学習できてしまいまして件数を増やすとダメになる模様 これは仮説ですが多種多様な棋譜を学習させるとネットワークの自由度が不足して ウェイト更新が相互に打ち消し合った結果ウエイトがゼロ勾配消失に陥ってしまうと 学習に失敗した時は大半のテストの結果が全て同じ確率のためとなってい ます中身は見ていませんが関数を通す前はオールゼロとなっている事が十分 に想像できます 今から思うとで評価関数を作ろうとして失敗していた時も同じ状態だったのかなと 学習データを減らすと精度が落ちますのでネットワークをより複雑かつ大規模にしない といけないのかなぁと結局同じ問題ネットワークを大規模化しなきゃいけないけど 自前のパソコンでは計算が厳しい上に結果を使用する方もタイムクリティカルなので あまりややこしくしたくないの周りをグルグルしはじめてしまいました汗
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 288 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
ぬこの手
ぬこTOP
0.038s