[過去ﾛｸﾞ] 【オセロ,将棋】ボードゲーム Part2【囲碁,War】 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
52: 535 2017/11/02(木)20:54 ID:PGhNTWut(1/4) AAS
６０エポック回したけど損失減らずorz
くそ〜どうすりゃいいのさ
53: 535 2017/11/02(木)21:57 ID:PGhNTWut(2/4) AAS
ライフゲーム囲碁は結構損失減ったのになぜ囲連星はあんまり損失が減らないんだろう？
入力のサイズがでかいのは確かにあるけど。
54: 535 2017/11/02(木)22:35 ID:PGhNTWut(3/4) AAS
石を中央寄せにして19x19の盤面を9x9くらいに削ってみるか…
55: 535 2017/11/02(木)23:58 ID:PGhNTWut(4/4) AAS
お、損失ちょっと減った。
これで一晩回してみるか
56: 535 2017/11/03(金)20:29 ID:MdRaqfZr(1/3) AAS
うーん。学習率がでかすぎるっぽい?
57: 535 2017/11/03(金)20:40 ID:MdRaqfZr(2/3) AAS
ユニット数少な目段数多めがいいみたい?
58: 535 2017/11/03(金)21:52 ID:MdRaqfZr(3/3) AAS
ミニバッチサイズも何気に速度に影響ありですねぇ
ここでもパラメータいじりの沼か。。。
59: 535 2017/11/04(土)20:21 ID:N2Ul/N+d(1/3) AAS
あかん、まったく使い物にならないっぽい。orz
学習が足りないだけなのか根本的に無理筋なのか。。。
60: 535 2017/11/04(土)21:18 ID:N2Ul/N+d(2/3) AAS
勝率予想だからダメなのか？
次の一手予想のほうがいいんだろか？
うーん。
61: 535 2017/11/04(土)22:07 ID:N2Ul/N+d(3/3) AAS
あとは畳み込み試してないか…
畳み込みに賭けるか…
62: 535 2017/11/05(日)00:31 ID:BZBdQob/(1/2) AAS
お、畳み込み動いた。
後はどれだけ損失が減ってくれるかだな…
63: 310 2017/11/05(日)01:04 ID:BooXEMcV(1/4) AAS
同じ道をたどってますね（汗
こちらは、MCTSで構築したツリーを使って、完全読み切りが速くならないか
試していますが、謎のバグのオンパレードでかなり戦線縮小。一応、それなり
に動作するレベルまで撤退してテストしていますが、なんとなく速度アップは
している模様。
ただ、バグの過程で置換表データに変なものが混じったらしく、学習させると
異常終了になります。記譜は１７００件くらい集まっているので、一旦全消去して
しまいました。
64: 310 2017/11/05(日)17:40 ID:BooXEMcV(2/4) AAS
ツリー探査がおかしくなる状態を確認。
けど、カーっとなって即座に終了してしまったので、詳細判明せず。
なんとなく症状は見えたので、しばらく目視デバッグします。
というか、これにより直近に遡りチェックやった記譜の正確さに不安が生じてます。
やけに遡りチェックが簡単に通るなぁと思っていたけど、これが原因かもしれない。
というわけでタイムアウトまで行った記譜を５０件ほど再チェックしなきゃならん。
全部で５４時間くらいかかる予想。今週はまるまるパーになりそうです。
その分、良質な置換表データが補えるんだけど。
65: 310 2017/11/05(日)17:50 ID:BooXEMcV(3/4) AAS
計算間違い。全部で８０時間くらいだorz
66: 535 2017/11/05(日)20:13 ID:BZBdQob/(2/2) AAS
畳み込み駄目でしたorz
くそ〜ディープラーニングからは一時撤退するか…
67: 310 2017/11/05(日)23:36 ID:BooXEMcV(4/4) AAS
ぬがーーーーーーーーーーーー！
バグって、記譜データがすべて上書きされて消えてしまったorz
ツリー利用探索のデバッグ用にput処理にエラートラップ仕掛けた時に
やっちゃいました。
学習済のデータが残っているのだけが救いだ・・・。
ここから記譜作ると、そこそこ精度が良い記譜になるはずなのが救いだ…。
68(1): 535 2017/11/06(月)20:40 ID:opZqsFg1(1/2) AAS
バックアップ取れしｗ
一回コード全飛ばししてるでしょうに。
69(1): 535 2017/11/06(月)21:50 ID:opZqsFg1(2/2) AAS
アルファ碁Zeroの手法まねできないかなぁ
でも論文読んでもわかんねぇだろうなぁ
ていうかGoogleがライブラリとして公開してくんねかなぁｗ（他力本願）
70: 310 2017/11/07(火)15:06 ID:8EOI4Ksy(1) AAS
>>68
おっしゃる通りですorz
評価関数の方は要所要所でコピー残していたのに、記譜はなめてました。
>>69
ライブラリ公開されても、実行できる環境構築の方がハードル高いかなと。
論文はいまだに読んでいませんが、rollout無し（バリューネットに１００％依存）
はうまく機能しています。圧倒的にツリー探索性能がアップしているため、評価関数
の精度の低さを、力技でカバーしている感じですが。
とはいえまだ３０手以前の評価値はでたらめに近い状態なので頻繁に間違えます。
強化学習でここまで治るのにどれくらいの時間がかかるのかは不明。後ろの方の
精度が上がらないと、前の方は間違った学習を繰り返すことになりますので。
後ろの方の評価関数がそこそこまともになったので、読み切り処理や遡りチェックの
時間はかなり早くなりました。タイムアウト１時間設定で時々空白３１マスまで遡れる
ようになってきています。
71: 535 2017/11/09(木)21:31 ID:H3GhZh8x(1) AAS
とりあえず、ディープラーニングは一時中断します。
囲連星の序盤のDBは非常にうまく動いてるので、
終盤もDBを生かせないか検討中です。
それと同時にLV3 vs LV3の棋譜取も再開しました。
データは多いほどいいので。
あと310さんの遡りチェックというワードが気になってます。
例えば囲連星の終盤DB作るときにどこから勝負ありの状態になったか
チェック出来たらどうだろう。とか考えています。
72: 535 2017/11/10(金)23:45 ID:8vC+UsNi(1) AAS
天頂７買ってみました。
９段に５子置きで勝てましたが４子で勝つのは相当厳しそう。
天頂６より「あ〜そこ大きそうだよね」ってところを的確に打ってくるみたいです。
73: 535 2017/11/12(日)20:00 ID:UqBtKmZ3(1/2) AAS
終盤DBの試作、作ってみましたがあんまり上手く動いてないみたい。
データが終局までの手数しかないのがまずいのかも。
74: 535 2017/11/12(日)21:02 ID:UqBtKmZ3(2/2) AAS
将棋電王戦あったみたいですね。
ポナンザは優勝ならずみたいですね。
75: 310 2017/11/12(日)22:19 ID:Uu7EAeJ9(1/2) AAS
しばらく出張してました。
終盤DBといえばチェスですかね。
遡りチェックは詰みを回避できるかチェックになるのかなぁ。
オセロだと何にも考えずに終局の石差でやっちゃうので。
言われてみて気付いたけど、ゲームの種類によって結構違う考えが必要なんですね。
最近、藤井四段に触発された友人の影響で将棋を始めました。
負けたくないので、３手詰め問題解いていると、どうやってプログラムしようか
とか雑念が沸いてきてしまいます（汗
76: 310 2017/11/12(日)22:31 ID:Uu7EAeJ9(2/2) AAS
MCTSのツリーを使ったオーダリングは、たぶんバグが取れたと思います。
が、なんか別のところで意味不明の動作をして、速度が出せませんorz
また、テストの際に半日経っても終了しなかった盤面を使ってしまい、
何度もやり直しをしていたために、強化学習が滞ってしまいました。
これ曲者過ぎるので、今夜一晩解かせてパスしたい。
朝までにとけなかったらどうしよう。
77: 535 2017/11/13(月)23:59 ID:0hUAGldi(1) AAS
試しにMCTSとか必至ルーチンとか重い処理全部取っ払ってみたけど思ったより弱くならなかった。
思ったよりってだけで弱いことは弱いけど。
78: 535 2017/11/14(火)00:20 ID:7RkiqcHt(1/3) AAS
LV1,LV2にも負け越すみたい。
やっぱ弱いわｗ
勝負が十数秒でつくのは面白いけど。
79: 310 2017/11/14(火)00:31 ID:ZeqYQGfh(1/2) AAS
重い局面は６〜７時間くらいかけてクリアしました。
MCTSの速度が出ない問題は、解消というか、原因不明のまま別の方法で回避。
parallel_forの問題かと思っていたけど、shared_ptrの方の問題だったっぽい。
遡りチェックの時、PVは探索せずに、その他の手をチェックしていくので、他の手
にも探索を振り向けたかったのですが、単純に１手先の局面からUCTを実行すると
１０万プレイアウトくらいで突然数十秒宇固まったようになって、それを何度も繰り
返す結果、まったくツリー探索が進まないという症状です。UCT探索の方に１回目
だけランダムに着手する関数を作って、そちらを呼び出したところ、固まらなくなり
ました。
ようやくまともにツリーをオーダリングに再利用できるようになったのですが、要所
要所で極端に探索が遅くなって、逆に時間がかかります。
今しばらく調査が必要な模様。
80: 535 2017/11/14(火)00:38 ID:7RkiqcHt(2/3) AAS
途中経過
70局目
黒(airandom.dll)の勝利回数: 29
白(ai-lv2.dll)の勝利回数: 41
61局目
黒(ai-lv2.dll)の勝利回数: 53
白(airandom.dll)の勝利回数: 8
58局目
黒(airandom.dll)の勝利回数: 18
白(ai-lv1.dll)の勝利回数: 40
46局目
黒(ai-lv1.dll)の勝利回数: 26
白(airandom.dll)の勝利回数: 20
81: 535 2017/11/14(火)08:46 ID:7RkiqcHt(3/3) AAS
途中経過
311局目
黒(airandom.dll)の勝利回数: 97
白(ai-lv2.dll)の勝利回数: 214
275局目
黒(ai-lv2.dll)の勝利回数: 237
白(airandom.dll)の勝利回数: 38
259局目
黒(airandom.dll)の勝利回数: 114
白(ai-lv1.dll)の勝利回数: 145
213局目
黒(ai-lv1.dll)の勝利回数: 144
白(airandom.dll)の勝利回数: 69
上下前次1-新書関写板覧索設栞歴
あと 921 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.196s