【オセロ,将棋】ボードゲーム Part3【囲碁,War】 (636ﾚｽ)
【オセロ,将棋】ボードゲーム Part3【囲碁,War】 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
121: 535 [sage] 2020/02/20(木) 22:44:26.40 ID:BvOV7XJR 70499種類の盤面のモンテカルロ勝率スコアデータが取れました。 これをもとにDNNをトレーニングしてみます。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/121
122: 535 [sage] 2020/02/21(金) 21:02:31.11 ID:/4d3LiPl やっぱ素のモンテカルロに勝てない！！！ どうしてなんだ… http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/122
123: 535 [sage] 2020/02/21(金) 22:56:34.67 ID:/4d3LiPl 単に白番有利説が急浮上ｗｗｗ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/123
124: 535 [sage] 2020/02/22(土) 00:47:13.32 ID:j5uEDLd9 いや、ちがうっぽい。 うーん。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/124
125: 535 [sage] 2020/02/22(土) 17:03:42.93 ID:j5uEDLd9 キター！素のモンテカルロに勝ち越しました！ 黒番 31勝20敗 白番 32勝19敗 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/125
126: 535 [sage] 2020/02/22(土) 20:31:10.32 ID:j5uEDLd9 モンテカルロが間違える局面で間違いを訂正してそれをDNNに学習させる方法ないかなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/126
127: 310 [sage] 2020/02/22(土) 21:32:51.12 ID:wHsEFeMN 間違える局面が特定できているて、間違えた手を訂正できるんなら、 訂正後から対戦再開させて、その棋譜で局面DB更新して、学習するとか。 特定できていなくても、基本強化学習は、対戦→DB更新＆学習の 繰り返しで、徐々に間違いを訂正していく方法。もうちょっと工夫する ならε-Greedyなどの手法で既存の棋譜の途中で無理やり別の手に 分岐させていく。その手が悪くても、「悪い手である」という認識を学習 させる事ができる。 線形計画だとモデルが上手くできていないと学習が飽和しち
ゃうけど、 DNNだったらある程度うまく学習してくれるかも。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/127
128: 535 [sage] 2020/02/22(土) 21:53:22.17 ID:j5uEDLd9 >>127 特定も訂正も現状できてないですね。 それよりひどいバグを発見して>>115で取ったデータが全て台無しになる可能性が… http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/128
129: 535 [sage] 2020/02/22(土) 22:00:44.31 ID:j5uEDLd9 あかん、なんか全然おかしいorz ちゃんと見直さないと… http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/129
130: 535 [sage] 2020/02/22(土) 22:22:49.38 ID:j5uEDLd9 データ取りからやり直しますorzorzorz http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/130
131: 310 [sage] 2020/02/23(日) 00:56:57.70 ID:9FygPBnT 間違い探しを続けるうちに、何故Zebraの評価値の方がまともに見えるか問題に 突き当りました。で、評価関数を手数毎に６０種類に分割している事で、学習データ が不足しているとか、スムージングしていないために、２手前の自分の番の盤面との 差分が取れないとかの問題があるのかなぁと思い立ちまして…。 また、４対称採用した事で学習時間も４倍になってしまいまして…。 思い切って、評価関数を１つにまとめてみたらどうだろうと思い立って、専用の学習 プロジェクトを作ってやってみ
ました。通常数百回学習しないとまともな学習ができ ないのですが、２０回学習したところで、意外とフィットしてしまいました。学習時間も 少し減ってる気がする。 一旦評価関数の癖を変えたほうが強化学習も進むかなと思い、とりあえず本番採用 してみました。気持ち速度も速くなった気がしています。もっとも、評価関数の学習具合 によってαβのorderingも変わって速度が変わったりするので、今後学習を積み重ね て、過学習気味になったりした時にどうなるのかは不明。 これから数日動かしてみて、良かったらこっちにしようかと思います。強いオ
セロAIを 作るのなら、対戦してどっちが強いとかやるのが本来なのですが、特にそういう目標も 現状あるわけでなし（汗 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/131
132: 310 [sage] 2020/02/23(日) 01:08:08.23 ID:9FygPBnT >>127に捕捉しとくと、 自分はGreedyな手法の精度をあげるために、浅い探索（９手）と組み合わせて、 評価値が少しだけ悪い手とか、Book登録ないのに評価値が良いとか、いくつかの 基準の訂正ロジックを作って、明らかに悪い手を排除したGreedy法をとって、 既存の棋譜に対して順次分岐を生成していく事で、Bookを埋めて行っています。 分岐は１３手読みで作成していますが、この分岐も間違いがそれなりにあるため、 間違いを積み上げているのではないかという懸念もあります（汗
オセロの場合、黒白両者とも最善の場合、引き分けに収束する可能性が濃厚なため 初手から最善引き分けとなるツリーについては、先頭側からこのGreedy法で分岐を 生成し、また（後ろから）確定読み切りを優先して実行する事で、引き分け手順だけ 優先的に精度を上げています。 評価関数作るのに、こういう制約をつけた方法が良いのかは不明です。現に極端に 形勢が傾いた盤面の読み切りは、学習データが不足しているために、引き分け盤面 よりずっと時間がかかるように感じています。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/132
133: 310 [sage] 2020/02/23(日) 03:01:39.99 ID:9FygPBnT げげ。>>131の奴、本番に入れて学習させたらうまく動かん…。 原因箇所は特定できたけど、そもそもBook分だけで学習していて、後半の棋譜から 教師データ作ってなかったので、件数が大幅に違う。後ろ１５手分が抜けている。 が、これが入ると学習の途中で無限ループに入ってしまう。 何かのオーバフローなんだと思うけど、今は原因不明orz http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/133
134: 310 [sage] 2020/02/23(日) 10:00:35.35 ID:9FygPBnT たぶんなおった。 学習の進行具合インジケータの＊印の数を作るところでオーバーフローして 延々と＊を表示し続けてるだけだったｗ こういうところで適当にint使っているのがいかん。 と、怪しそうなところをsize_tに直したら、整合性が取れなくなってワーニングの嵐ｗ 適当にsize_tにすればよいというものでもなかったｗ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/134
135: 535 [sage] 2020/02/23(日) 22:36:15.39 ID:xJvwRHu1 オーバーフローが嫌だからついlong longを使ってしまうｗ メモリ余計に食うけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/135
136: 535 [sage] 2020/02/24(月) 18:53:46.31 ID:S84dSY4F タイルゲーム、完全解析した後でもそれなりに楽しめる不思議。自力では勝てないからな。 そういやconnect4より複雑で完全解析されててネットで遊べるゲームってなにかあるのかな？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/136
137: 535 [sage] 2020/02/25(火) 20:37:07.39 ID:10rOW9ls データ取りなおしたので再度DNN学習させてみます。 ついでにネットワーク少し大きくしてみます。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/137
138: 535 [sage] 2020/02/26(水) 20:24:56.08 ID:LbNvrAvP なんかDNNほぼ最悪の手を打つんだが… 真逆の学習させちまったか？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/138
139: 535 [sage] 2020/02/26(水) 20:40:14.06 ID:LbNvrAvP 試しに評価値に*-1してみたがやっぱり悪い手を打つ。 真逆ってわけでもないのか？ わけわからん http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/139
140: 535 [sage] 2020/02/26(水) 20:50:37.02 ID:LbNvrAvP モンテカルロ木探索の部分が間違ってたっぽい http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/140
141: 535 [sage] 2020/02/26(水) 21:22:57.03 ID:LbNvrAvP うーん、なんかアルファ碁Leeみたいに、数手前の手順を学習データとして食わせるといいかもなぁ。 石がぶつかってる時の判断がちょっとおかしいんだよなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/141
142: 535 [sage] 2020/02/26(水) 21:35:19.66 ID:LbNvrAvP もうヒューリスティックもモリモリ入れちゃおうかなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/142
143: 535 [sage] 2020/02/27(木) 19:12:50.92 ID:7f4H7cqb お、微妙に勝ち越している。 でも微妙すぎｗ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/143
144: 535 [sage] 2020/02/27(木) 21:11:32.40 ID:7f4H7cqb 先制攻撃を仕掛ける体制が整っているかどうかの判定が今後の課題ですね。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/144
145: 535 [sage] 2020/03/01(日) 21:57:12.55 ID:X+Ti9n7n 先制攻撃を仕掛けた時に反撃で逆に取られる確率とか学習させたら駄目かなぁ？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/145
146: 535 [sage] 2020/03/02(月) 06:27:35.74 ID:Td8MIT1I ある局面に対し、それぞれの点が黒の地になる確率のベクタを返すようにDNNを学習したらどうだろう？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/146
147: 535 [sage] 2020/03/03(火) 21:11:27.98 ID:PL4UDoSq 前回はスコア差を評価値に学習させましたが、今回は勝率で学習させてみます。 結局セオリー通りがいいのかもしれないので。 ホントはスコア最大化はぜひともやりたいんだけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/147
148: 535 [sage] 2020/03/04(水) 20:23:35.42 ID:Q7ItuMwb 勝率で学習させたら黒番は勝ち越してますが、白番は負け越してますね。 白番でも勝てると思いましたが。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/148
149: 535 [sage] 2020/03/04(水) 20:44:28.42 ID:Q7ItuMwb うお、バグ発見ｗ DNNが全く働いてなかったｗｗ 黒番で勝ち越したのはたまたまやなこれは。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/149
150: 535 [sage] 2020/03/04(水) 21:10:05.82 ID:Q7ItuMwb うーん、石をくっつけて打つなぁ もっとばらけさせたほうがいいと思うんだけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/150
151: 535 [sage] 2020/03/04(水) 21:14:38.18 ID:Q7ItuMwb うーん、石がくっついているか離れているか標準偏差のようなものを出して学習パラメータに渡すとか http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/151
152: 535 [sage] 2020/03/04(水) 21:17:15.27 ID:Q7ItuMwb ホントはあんま手動で特徴量出そうとするのよくないアイディアなんだろうけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/152
153: 535 [sage] 2020/03/04(水) 21:43:12.15 ID:Q7ItuMwb 結局モンテカルロの勝率データだけだとだめっぽくて、いろんな戦略の中からより良いものを探すようにしたいなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/153
154: 535 [sage] 2020/03/04(水) 22:34:42.21 ID:Q7ItuMwb あれ、黒番、白番ともダブルスコアで勝ち越してる？？ まだ対局数少ないからあれだけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/154
155: 310 [sage] 2020/03/04(水) 22:39:44.37 ID:XCbeW9Ri 自分は、最近、学習効率アップさせようと入れていたヒューリスティックなロジックは 見つけ次第外す方向だったりします。 棋譜作成の元ネタだけは、結構たくさん手動で追加していますが、見つけ次第追加 みたいなやり方で、偏りが出そうな気がするのと、手動追加だと入力ミスも結構あって 面倒なので、どこかで後続棋譜が少ない手順を順次自動で追加していくようにしちゃ おうかなと思ったりしています。ただ、本当に見てるだけになっちゃうのがちょっと嫌。 そんな事より、棋譜作成のペー
スが速すぎて、逆順での読み切り（スコア確定）が 追い付かない。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/155
156: 535 [sage] 2020/03/05(木) 20:28:15.73 ID:P4JeNRVF 黒番 188勝 48敗 白番 176勝 55敗 めっちゃ勝ってる！！ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/156
157: 535 [sage] 2020/03/05(木) 20:45:33.61 ID:P4JeNRVF 結局ポスグレ全く使ってないというｗ ま、当面ポスグレは保留かなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/157
158: 535 [sage] 2020/03/05(木) 21:05:27.39 ID:P4JeNRVF とりあえず、この新しいAIで勝率データ取りなおして更に学習させるスパイラルへもっていくか。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/158
159: 535 [sage] 2020/03/06(金) 20:19:27.94 ID:1GJjUnMY うお、人間(俺)に勝った! まぐれっぽいけど http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/159
160: 310 [sage] 2020/03/06(金) 21:29:36.82 ID:76Zol1eh 小人閑居して不善をなす… 評価関数の学習周りをいじっていたら、学習エラーが大きく（４〜５倍）なってしまった。 オプティマイザーをAdamにしてみたのが悪かったのか（バグ？）、それとも他にいじった ところが悪かったのか。オプティマイザーを戻して、追加学習してみたけど、全然もとに 戻らない。 と言いながら、色々と溜まっていた懸案も機能追加してしまった。 結局、どうにも直らないのでウェイトを一旦クリアしてRMSpropで再学習してる最中です。 明日の朝にはまともにな
っているかなぁ。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/160
161: 310 [sage] 2020/03/06(金) 21:39:02.84 ID:76Zol1eh 行列パッケージEigenにユーザ拡張のサポート無し機能がいくつか追加されていて、 その中にTensorクラスがある事に気づいた。 速度は期待できないけど、もう一度DCNNやってみようかなぁ。 つか、もう一台PCがあれば、棋譜が既にあるので、テストできるんだよなぁ。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/161
162: 310 [sage] 2020/03/06(金) 22:53:37.48 ID:76Zol1eh RMSpropで一から学習しなおしで、もうすぐ２０エポックだけど、順調な感じ。 前回同様２０回＋αも回せば結構よいところに行きそうな感じ。 おかしかった時は、もともとの場所から離れて、変な局所解にトラップされていた ような感じになっていたんだよなぁ。現状のAdamのコードにバグがあるのか調べ たいけど、もともと参考にしたサイトが見つからない。今見つかるやつはChainerの 類の疑似コードらしく、ちょっとやそっとでは解読できないレベルの記号の羅列orz http://mevius.5ch.net/t
est/read.cgi/gamedev/1574503798/162
163: 535 [sage] 2020/03/07(土) 01:06:05.32 ID:NIcvsU6/ モンテカルロ＋ヒューリスティックAIにも勝利！！ いい感じだ。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/163
164: 535 [sage] 2020/03/07(土) 21:53:01.55 ID:NIcvsU6/ あーもう、計算時間かかりすぎ！ あと3〜4日は計算回さないとデータが集まらない。 こんなときスレッドリッパー3990xがあれば… http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/164
165: 535 [sage] 2020/03/07(土) 22:30:53.08 ID:NIcvsU6/ ぶっちゃけ1週間かかる計算が1日で終わるとしたら3990x買うのもありなんじゃないか…？？？ 金がないけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/165
166: 310 [sage] 2020/03/07(土) 22:53:18.55 ID:6tZRBA6n まあまあ。 自分は棋譜作成開始して、既に数年経ってる気がする（汗 途中データ飛んだりしているから、実際はもっと長い。 だんだんコツがわかって収集速度は加速的に高速化してきているけど、 今度はメモリー溢れが恐怖。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/166
167: 535 [sage] 2020/03/10(火) 21:38:55.27 ID:IkE5Ol6x データもぼちぼち溜まったしDNN学習に移ります。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/167
168: 310 [sage] 2020/03/11(水) 19:25:55.84 ID:N0CjcdIm Eigen UnsupportedのTensorクラスを見つけて、またぞろDCNNに興味が沸いて来ま した。で、思い出しがてらウェブを眺めていました。前回断念したのは畳み込み層の 計算を行列で行うためのim2colのロジックを高速に行う方法が見つからなかったから だと思い出しました（汗 しかし、気が付いてしまいました。所詮８×８のマスの定型変換で、汎用性いらないので ６４ビットのローテーションとマスク値とのandというビット演算で、前処理ができてしまい ます。そのあとで行列に変換すれば良いだ
けの事でした。つまりim2col関数はいらん。 もう少しDCNNの最新動向をフォローしてから、同じ棋譜を学習させて試してみたいと 思います。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/168
169: 535 [sage] 2020/03/11(水) 20:59:47.72 ID:kvcp7+Sq DNN学習、損失もいい感じで減ってきました。 素のモンテカルロとの対戦に移ります。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/169
170: 535 [sage] 2020/03/11(水) 21:02:33.51 ID:kvcp7+Sq 実を言えば私は畳み込みはやってないんですな。 全結合でやってます。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/170
171: 535 [sage] 2020/03/11(水) 21:13:45.28 ID:kvcp7+Sq お、 黒番 7勝2敗 白番 9勝0敗 これは期待が高まる！！！ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/171
172: 535 [sage] 2020/03/11(水) 22:57:19.64 ID:kvcp7+Sq 黒番 22勝3敗 白番 20勝5敗 いいね〜いいね〜 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/172
173: 535 [sage] 2020/03/11(水) 23:19:03.17 ID:kvcp7+Sq そろそろソースコードのバージョン管理とかやったほうがいいのかなぁ GitHubとか http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/173
174: 310 [sage] 2020/03/12(木) 00:31:25.32 ID:CNvjXxHZ GitHubとかよーわからんのだけど、コメント適当だったり、変数や関数名の英語が 変だったりするソース公開する度胸ないのを言い訳に、調べようとしていない（汗 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/174
175: 名前は開発中のものです。 [sage] 2020/03/12(木) 00:34:39.55 ID:TwK5c7NK プライベートプロジェクトにすればいい。昔はパブリックだけプロジェクト数無制限だったけど今はプライベートも無制限。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/175
176: 310 [sage] 2020/03/12(木) 00:39:06.73 ID:CNvjXxHZ 情報ありがとうございます。 ちと調べてみます。 前みたいにソースもデータも丸ごと飛んだら困るので。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/176
177: 名前は開発中のものです。 [sage] 2020/03/12(木) 10:02:43.61 ID:c8m7GwVr GitHubの前にGitを使おう 使えるようになってからでいいよ、GitHubは http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/177
178: 535 [sage] 2020/03/12(木) 19:58:09.43 ID:so1xRnaL ありゃ、 黒番111勝 29敗 白番105勝 33敗 おもったほどじゃなかったorz http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/178
179: 535 [sage] 2020/03/13(金) 22:42:10.14 ID:vmr0Tb8m 業を煮やしてヒューリスティックを実装した。 さてどうなるか。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/179
180: 535 [sage] 2020/03/13(金) 23:28:51.32 ID:vmr0Tb8m ちなみにヒューリスティックの内容は石がぶつかってないときは相手の石からも自分の石からも一間以上離して打つというもの。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/180
181: 535 [sage] 2020/03/14(土) 18:49:30.64 ID:z7EfFQTc くそーうまく行かねー http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/181
182: 535 [sage] 2020/03/14(土) 23:30:28.50 ID:z7EfFQTc あーなんか気が抜けちゃったな 次のアイディアもないし http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/182
183: 310 [sage] 2020/03/16(月) 00:36:34.84 ID:FpZgJFeI しばらくは棋譜の遡りを優先しようと思っていたのですが、やっぱり暇ができると どうしても何かやりたくなってしまい、結局序盤中盤の貪欲法絡みのブラッシュアップ をしてしまい、またまた遡り対象の棋譜を増殖させています（汗。 DLやろうか、将棋AIの勉強しようかと思い立ち、将棋AIの本などを買い込んでつらつら 眺めていたら、実現確率探索なるものを見つけてしまいました。遷移確率は評価値の Softmaxで作れる気がしています。現在、前方の打ち切りはProbCutでやっていますが、 途中
の１つの盤面の評価値が酷い状態だと、その時点で問答無用でカット対象となって しまう懸念があります。その点、実現確率探索の方が多少ロバストなのかなぁと。逆に、 手が広い局面では探索深さが浅くなってしまう悪影響も想定できます。 とはいえ、中盤探索のロジック自体は多少の改良で済むのですが、置換表使って中盤 探索の結果を終盤探索のオーダリングに使うところは結構修正が必要な気がします。 最悪反復深化をまるっとあきらめなきゃならないかも知れません。あと、なぜか評価値 に＋１〜２程度の手番加算がついたみたいになっている
事から、探索深さを揃えられ ないと、そっちからも悪影響が出る可能性があります。 かなり大幅な変更と、テストが必要なので、ちょっと躊躇しています。 プロジェクト全体コピーして別プロジェクト建てるレベルです。むむむ。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/183
184: 535 [sage] 2020/03/17(火) 21:33:11.60 ID:7xvLqO5q DNN評価値の上位7手を初手から全展開するというのをやろうとしたのですが、意外とDNNの計算が重たいですね。 すぐにメモリ溢れるだろうとみていたのですが、牛歩のような計算の進み具合で、溢れるまでかなり時間かかりそうです。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/184
185: 535 [sage] 2020/03/17(火) 22:41:35.63 ID:7xvLqO5q 60万局面展開するのに33分かかる。 遅い。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/185
186: 535 [sage] 2020/03/17(火) 22:44:36.96 ID:7xvLqO5q DNN使わないと100万局面展開するのに4秒ｗｗｗ うーむ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/186
187: 310 [sage] 2020/03/18(水) 00:47:20.72 ID:Wk4mfxEa 結局、実現確率探索に取り掛かってしまいました（汗 新規ソリューション作ってコピペ始めたところで、いずれ評価関数を整数化したかった 事を思い出して、あちこち修正開始となりました。 一応、普通のDepthバージョンと同じ深さになるように調整して、速度比較してみるつもり。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/187
188: 535 [sage] 2020/03/18(水) 20:17:58.60 ID:4pnoWutQ DNNの評価値上位7手を全展開してポスグレに詰めるのを実行に移すべきかどうか迷ってる。 一応そのつもりで８TBのHDDもポスグレも用意したんだけど、あんまりいいアイディアに思えなくなってきたというか。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/188
189: 310 [sage] 2020/03/18(水) 23:45:39.14 ID:Wk4mfxEa 実現確率探索の中盤探索、プロトタイプのαβ版を作って癖を見ています。 実現確率は、評価値のSoftmaxで各要素を足して１．０になるように正規化するより、 最大値が１．０になるようにした方が使いやすいです。というのも、最大値をひたすら 追った枝の終了条件が綺麗に決まって最大深さを指定できるようになるからです。 １．０そのままだと終わらないので、例えば０．５にしておくと、深さｎにしたい時は１÷２＾ｎ が閾値になります。０．１の時は１÷１０＾ｎです。まあ、なんでもよ
いという事です。 後は各要素の差のつき具合を決める定数を調整すると、評価値が悪い手について、 どこまで探索の深さを確保するのかが決まります。ここが職人的作業なのがネック。 絞ると爆速。∞だと、ただの全幅探索になります。 速度は結構出てるのですが、調整ミスると全くダメみたいな様子が見え隠れしていて、 本当に常に使えるのか、まだ心配です。おそらくProbCutでも同じような問題がおきて いるんじゃないかと思いますが。 次は置換表ですが、合流が発生した時の実現確率がルートによって違うので、その 時の置換表の評価値を使って良い
のか悩みどころです。また、上述のように最大探索 深さを調整できるので、反復進化的に閾値を下げて行く事が可能性です。そうすると、 反復深化的に使いたくなるのが人情ですが、オーダリングにどのように反映するのが 良いのか。これも悩みどころだったりします。 要するにあと１週間くらいは遊べそうです（笑） http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/189
190: 310 [sage] 2020/03/18(水) 23:56:29.62 ID:Wk4mfxEa あと、裏で棋譜作成進行中ですが、評価関数の学習時に、既存データに対する エラーが増加を始めて、過学習の傾向を示しているのですが、例えばFFOの盤面 のように教師データ中に現れない盤面に対するエラーは減少しています。 状況的には、極端な石差がついている盤面の評価値が、石差ほどの評価値になって おらず、じわじわと汎化が進んでいる一方、±０近傍の盤面は既に多いため、過学習 気味になっているのかなぁと推測しています。 とはいえ、非常に気持ち悪いです。 というわけで、
ちょっと工夫をして石差が大きい棋譜を優先的に遡りチェック対象にしたり、 新規の自己対局するときに石差が大きくなる（悪い）進行も作るようにする事で、ほんの 少しですが、石差が大きい棋譜が増えるようにしてみました。まあ気休めです。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/190
191: 310 [sage] 2020/03/19(木) 23:17:05.43 ID:opMYHtHc 実現確率探索の中盤探索ができました。置換表と並列処理のところまでです。 反復深化→読み切り処理までです。置換表というか、オーダリング処理を結構修正。 反復深化まではそこそこ機能していますが、置換表経由で読み切り処理の高速化が 性能が出ません。置換表経由で、中盤探索の結果を用いて終盤探索のオーダリング をするところで、置換表データの不足があったり、オーダリングの間違いが生じて、 無駄な探索をしているように思います。 とすると、これは読み切り処理を前提とすると
結構致命的な問題な気がします。 もちろん、まだバグや仕様ミスの可能性もありますが。というわけで、Solver関係には 使えない可能性が出てきました。 また、評価関数で実現確率を導いているので、浅い段階での間違いに対して、探索 対象をロックしてしまいやすく、深く探索していっても間違いがなかなか改まらない 傾向が見受けられます。 まあ、仮にダメでも、新バージョンにする過程で、これまでペンディングしていた細かい 修正ができますし、既存タイプの中盤探索も作ってあるので、このまま進めてみます。 http://mevius.5ch.net/test/read.c
gi/gamedev/1574503798/191
192: 535 [sage] 2020/03/20(金) 23:24:37.61 ID:7lhYYUd2 DNNの上位7手を幅優先に展開していき200万局面を上限にストップ 展開したものをminmaxで評価値を再計算。 その結果をDNNに学習させようとしています。 ポスグレの出番はいまのところないｗ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/192
193: 310 [sage] 2020/03/21(土) 02:31:57.66 ID:XYOBIhf/ 実現確率探索で、探索幅広げる方向の反復を試してみましたが効果はあまりなし。 単体で使用するとかなり早いのですが、置換表使った探索との相性がいまいち。 とりあえずSolverまで作って速度計測していますが、既存の反復深化より遅く、反復 深化無しよりは若干早いという感じで、単体の速度を利用して幅を思いっきり広げて みましたが、こちらは逆に遅くなるという体たらく。 置換表周りでどこか間違いがあるのかなぁという気もしていますが、今のところ不明。 Solver周りでの活用は一旦
置いといて、自己対局で使ってみる事にします。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/193
194: 535 [sage] 2020/03/21(土) 17:30:57.63 ID:cG9Ai74P メモリ欲しい… 256GBくらい http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/194
195: 535 [sage] 2020/03/21(土) 18:19:45.50 ID:cG9Ai74P えー駄目だ負けるorz orz orz なんで駄目なの？？？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/195
196: 535 [sage] 2020/03/21(土) 18:23:26.64 ID:cG9Ai74P 今回のはかなり期待してたのにorz orz orz http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/196
197: 535 [sage] 2020/03/22(日) 12:02:13.16 ID:upkGajEt 棋譜見ると素のモンテカルロの動きが思っているよりずっといい。 なんでだろう？ http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/197
198: 310 [sage] 2020/03/28(土) 00:29:51.53 ID:vtZj/mQ8 実現確率探索というか、ソース全体見直し版が、だいたいできました。 まだデバッグ全部済んだわけではありませんが、後はログメッセージなんかの 細かいところくらいの修正かなと。 実現確率探索自体は、棋譜作成にフックを入れる感じでの使用にとどめていますが、 しばらく動かして、結果がよさそうなら切り替えようかなと思います。というか、対戦版 作るときには、中盤探索は実現確率探索で行くと思います。 で、実現確率探索と呼んでいますが、実際のところは違います。本来の実現確率
は 「プロ棋譜など別途棋譜集から、よく出てくる手を回帰分析で確率化したもの」で、 よく出る手については深く探索しましょうという内容です。自分の奴は、確率を１手読み の評価値から生成しています。１手読みにした理由は、差分計算で速く計算できる からです。というわけで、本来は別の名前にした方が良いのですが、ネーミングセンス が無いので放置です（笑） 他にも、本来と違う形で実装してるけど、放置してある名前が結構ありますorz http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/198
199: 535 [sage] 2020/03/28(土) 21:52:44.02 ID:XqE/6uS7 囲碁AIでKatagoという凄く強いAIがあるのですがライフゲーム囲碁に流用できないかと思い始めた。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/199
200: 310 [sage] 2020/03/28(土) 22:16:21.29 ID:vtZj/mQ8 見直し版のチェックを本番やりながら進めてます。 今のところ、学習の速度が３０％程度ダウンしたものの、終盤探索の速度が ３０〜５０％高速化している感じ。どちらも原因不明。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/200
201: 310 [sage] 2020/03/31(火) 00:30:27.16 ID:1mhY2vrp 見直し版で、遡りチェックで無駄な処理を見つけて直しました。 更に速度アップして、トータル５０％強の速度アップとなりました。 まだ探索自体の速度は上がってませんが、まだ無駄があったとは。 http://mevius.5ch.net/test/read.cgi/gamedev/1574503798/201
ﾒﾓ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 435 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.023s