[過去ﾛｸﾞ]
【オセロ,将棋】ボードゲーム Part2【囲碁,War】 (1002ﾚｽ)
【オセロ,将棋】ボードゲーム Part2【囲碁,War】 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
294: 310 [sage] 2018/03/14(水) 21:17:53.41 ID:Hsr0gVbu うぬぬ。強化学習でどこかおかしい。 強化学習単純化しすぎちゃったかなぁ。 暫定的にひたすら記譜作成＆記譜学習に戻しました。 遡り３０手が鬼門。記譜学習で、ここをクリアする事を当面の目標にします。 とはいえ、残り２９手完全読み切りの記譜がそれなりにあるのは、以前では 考えられない状況ではありますが。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/294
295: 310 [sage] 2018/03/15(木) 22:46:56.01 ID:CxmBs8oA 強化学習がおかしいというより、記譜のパターンが圧倒的に足りていなかった のかもと思い始めました。それによって、着手して分岐しても±０となっている みたいな。 とりあえず、記譜の増殖手段を模索中。 今は、ヌルウィンドウサーチを使用して、遡り探索を行っている関係で、間違った 着手（石損となる手）を捨ててますが、ある程度までその手も読み切って、記譜に 加えても良いのかなぁと思っています。 とりあえず、βカット（もっと良い手があった）時の評価関数は明らかに読み間違い をしているので、そこ限定で記譜に加えていますが、ある程度以上の手数は全て 付け足しても良いのかなぁと。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/295
296: 310 [sage] 2018/03/17(土) 02:14:23.31 ID:Foa7nGV6 なんとなく想像しただけですが、何が悪かったのかわかり始めました。 今の学習は「良い手」しか学習していないという事です。 序盤はある程度ランダムな着手を入れて、結果がばらつくようにしていますが、 途中から読みを入れて、良い手だけで着手し、その結果を遡りで訂正しています。 遡りが有効なのは３０手くらいまでで、序盤のランダムは２０手程度までに抑えて あります。とすると、遡れる範囲では、悪手を打ったらどういう事になるのかという 学習が抜けている。間違えた着手もちょっとだけ悪いだけでです。結果、最善手の 評価値はそこそこ正確なのですが、極端な悪手も、評価値としてはちょっとだけ 悪い数字でも問題が起きないという事になります。 これはこれで順序付けさえ合っていればそれで良いのですが、ちょっと学習が 進んで、微妙に係数が変わった時に、計算上０．１程度しか悪くない相当な悪手 をうっかり選択しやすくなってしまうという事で、これがオーダリングで悪さをして、 探索時間を長引かせてしまう可能性があります。 恐らく評価関数のステージ分割で、表現力がかなりアップした事から、こういう 学習漏れみたいな事が起きてくるのかなぁと。ほんと、評価関数はスカスカです。 というわけで、昨夜書いたように、ある程度深さを捨てて分岐をすべて記譜に残す ようにしてみようかなぁと思っています。しばらく記譜作成しながら、この事を踏まえ た強化学習をちょっと考えてみたいと思っています。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/296
297: 535 [sage] 2018/03/18(日) 22:34:31.76 ID:tUeDVO3T 結果が出るまで時間がかかり過ぎるなぁ。 もうちょっと様子見るけど。。。 やっぱマルチスレッド化された別のalpha zeroプロジェクト探そうかな… http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/297
298: 535 [sage] 2018/03/20(火) 21:45:14.39 ID:/Ra5toxr 駄目だぁ、強くなる気配がないorz 別のalpha zero プロジェクト本気で探すか… ここまで来てもったいない気もするけど… http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/298
299: 535 [sage] 2018/03/23(金) 21:13:02.23 ID:Z4T42krD なんかバグ直して再学習したら、ランダムに打ったほうがマシ、くらいに変な手（１の１とか）打つんだが？ もう嫌になっちゃう。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/299
300: 535 [sage] 2018/03/23(金) 21:21:30.45 ID:Z4T42krD そういやLeela Zeroも学習過程では一線うってたな。。。 逆にいい傾向なのか？？？ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/300
301: 310 [sage] 2018/03/25(日) 02:23:39.84 ID:Yig4cMbl 分岐をすべて記譜にリストアップするようにしてから、爆発的に記譜が増えてます。 ２０００程度だったのが、１５０００超えました。 が、まだまだスカスカみたいです。 ここまでするんなら、真面目に自己対戦して遡りせずに、ランダム着手に対して 分岐をリストアップさせても一緒というか、早い気がしてきています（汗 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/301
302: 310 [sage] 2018/03/31(土) 01:38:59.31 ID:h3UgGfs1 ランダム着手も追加して記譜増殖中。ただいま３２０００超え。 もっとも、残り数手とかの記譜もあるけど（汗 ステージ分割しているので、記譜がなかなか生成されない２５〜３０手近辺で 非常に少ない教師データで何度も学習する事になり、そのあたりが極端な 過学習になってしまった。 解消方法をいくつか検討中です。 １）時間かかっても良いので、２５〜３０手の記譜ができるまで頑張る ２）前後の盤面を混ぜて、教師データを増やしてみる ３）ランダム強化学習してみる。 ２）３）をやると、おそらく、平均化されて評価値がフラットになるが大小関係は 治ってくると思う。 というわけで、今夜は２）３）を試してみる予定。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/302
303: 310 [sage] 2018/03/31(土) 01:43:35.07 ID:h3UgGfs1 あと、時々スコア指定（ヌルウィンドウサーチ）の記譜作成処理で エラー（スコア間違い）が出る時がある。 運が悪い事にハンドリングミスその他で、記譜を残せていないので、 現象の特定ができていない。 頻度としては数日に１回くらい。 たぶん、全滅と直前のパスがらみだと思うんだけど。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/303
304: 535 [sage] 2018/03/31(土) 23:42:05.28 ID:4ltMn3J2 Geforce GTX 1060を増設しました。 >>214をpytorchで学習してみます。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/304
305: 535 [sage] 2018/03/31(土) 23:46:58.88 ID:4ltMn3J2 んーうごかん。 GPUありとなしでポリシーファイルに互換性がないんですかね？ もしかして。 初めからやり直すか… http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/305
306: 310 [sage] 2018/04/01(日) 01:07:10.57 ID:OBeH+1OH おお。どんどん進んでますね。 こちらは、昨夜のバグの現象は特定しました。 スコアが６２や−６２で、mtd(f)の探索開始が６４や−６４の時に、 置換表に残った６４や−６４が悪さして、６４や−６４と誤答する模様。 とはいえ、どこを直すべきかはわかりません。探索開始が６４や−６４ の時に、６２や−６２にしてやる事で、姑息的に回避はできるので後回し。 あと、記譜作成に色々機能を加えていたら、どこかがおかしそうだという 不安な状態になってしまいまして。このまま記譜学習を進めて良いか自信 が無いので、今までのデータで安全な部分をテスト用に回して、新たに 記譜を作成開始。３４手目までは全探索しながら普通に遡れる感じです。 ３３手目から先は探索時間がしんどいので、ひとしきり落ち着いてから、もう 一度、遡りチェックのプログラムをきちっと見直して、追加していこうかな と思っています。この間に、強化学習混ぜて、過学習部分を解消して いこうと思います。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/306
307: 535 [sage] 2018/04/01(日) 12:43:33.62 ID:lACu3cfl お、ちゃんと時間測ってないからあれだけど、気持ち速くなってる気がする。 ちゃんと時間測りたいなぁ。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/307
308: 310 [sage] 2018/04/01(日) 13:49:33.48 ID:DAl+8Sdv バグ問題は、結局姑息的手段では回避できず。 全滅がらみでほかのケースでも誤答するケースが発生しました。 元々FFO#59用にmin-Max探索に入れていた、全滅時の処理くらいしか 原因となりそうなものが思い当たらなかったので、とりあえずコメントアウト して様子見です。全滅時の探索が速度低下しますが、仕方がありません。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/308
309: 310 [sage] 2018/04/02(月) 20:15:06.48 ID:9LYme7cN 結局バグ問題は…迷宮入り臭いです。 記譜作成で負荷テスト並みに探索を繰り返すと、全滅絡まなくても間違うケースが 出てきました。再現性が無いのが辛いところ。 その昔悩んでいた時も、やっぱり置換表がらみの問題で迷宮入りでしたが、 今回も、ケチって置換表を極力クリアせずに使用していた事から、何らかの 矛盾が起きているようです。それを言っちゃうと、置換表付mtd(f)でｆ値を変え ながら探索することも、またその時に作成された置換表を流用して記譜作成 兼ねた読み切り処理を速度アップすることも、怪しいという事になるわけで。 間違えてしまった事が判明した時点で、その探索は捨てるくらいしか対策が 無いという事になります。 ネットで調べたら、将棋AI界隈でも置換表の問題点を書いている人がいまして。 少なくとも深さがあっていない置換表データは使うべきではない模様。 今の調子だと一晩動かすと結構な頻度で朝見たら止まっているとい状態なので せめて発生率を下げるべく、mtd(f)に入る前に置換表をクリアする事にしました。 なぜしなかったかというと、記譜データからスコアが確定している盤面を置換表に 入れて、それを見ながら既に読み切りしている盤面は飛ばす処理をしていたから です。置換表をクリアして盤面再構築に時間がかかるためです。別途盤面キャッシュ を持って、そちらは追記、置換表は毎回クリアという形に変更しました。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/309
310: 535 [sage] 2018/04/02(月) 22:24:32.85 ID:3iK+AnRP Leela ZeroがKGSでかなり強くなってる。 俺がパクったプログラムも学習し続けたらあれくらい強くなるんだろうか？ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/310
311: 535 [sage] 2018/04/04(水) 20:42:51.24 ID:Y0WMbzNW え、ちょっとまってよ。 GPUありなしでポリシーファイルが違うってことは 成果物を配布しようとしたらGPU持ってる人しか遊べないってこと？ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/311
312: 535 [sage] 2018/04/04(水) 20:54:25.72 ID:Y0WMbzNW しかもCUDAとかも一緒にインストールしてもらわないといけない？ ええぇ？ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/312
313: 310 [sage] 2018/04/06(金) 22:00:28.44 ID:952uhqxW 誤答問題は、置換表クリアで解消しました。 違う局面の探索で使用した置換表データは使いまわしてはいけないという事で。 なんか、結果的に、２年くらい前にも同じ事で騒いでいたような。 色々整ってきたので、あとはひたすら記譜作成しながら学習を回すだけになって しまって、暇になってます。別PC買ってそっちで学習させながら、別の事をはじめ ようかなぁと思い始めています。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/313
314: 535 [sage] 2018/04/07(土) 20:43:17.69 ID:SqbCC315 うーん、つよくならないorz 学習は継続しつつ別のalpha zero プロジェクトも物色するか… http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/314
315: 535 [sage] 2018/04/08(日) 22:10:18.77 ID:ZB9Bj6DG ん、なんかメモリリークあんのかな… swigでC++から移植したクラスってデフォルトでガベージコレクトされないのかなぁ？ もしかして。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/315
316: 535 [sage] 2018/04/08(日) 22:43:04.99 ID:ZB9Bj6DG VMWareの設定がメモリ1GBになってた。 とりあえず8GBに増やしてみた。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/316
317: 535 [sage] 2018/04/08(日) 22:53:48.62 ID:ZB9Bj6DG お、メモリ増やして再起動かけたら結構いい感じで進みだした？ メモリ増やしたのと再起動かけたのどっちが効いたのかわからんが。 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/317
318: 535 [sage] 2018/04/09(月) 20:58:16.91 ID:500BArdX くそ〜ベストポリシー更新が全く来ないorz もう何回目だ？TT http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/318
319: 535 [sage] 2018/04/11(水) 20:46:51.70 ID:uiOmKVU+ お、メモリ増やしたせいか連続運転が安定している。 しかしベストポリシー更新は相変わらずなしorz http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/319
320: 535 [sage] 2018/04/11(水) 23:07:04.06 ID:uiOmKVU+ もしかして、ネットワークの初期値が糞すぎるんだろうか。 でも確かめようがないorz http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/320
321: 535 [sage] 2018/04/15(日) 20:07:24.81 ID:8sCJrZFg ベストポリシー更新まじコネ〜 でも他のプロジェクトに浮気しようにもなかなか手ごろなのがないんだよなぁ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/321
322: 535 [sage] 2018/04/15(日) 20:21:37.51 ID:8sCJrZFg いっそ実績のあるLeelaZeroを本気でパクりに行ってみるべきか… でも多分、難解なんだろうな〜 http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/322
323: 535 [sage] 2018/04/16(月) 20:30:05.64 ID:6KBtspgu あんまりおかしいんでソースをオリジナルとdiffとったら学習係数が1/100になってたんだがｗｗｗ え〜何時いじったかな全く記憶にないｗｗｗ これで学習が進んでくれれば！！ http://mevius.5ch.net/test/read.cgi/gamedev/1508056498/323
ﾒﾓ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 679 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.023s