[過去ﾛｸﾞ] 【オセロ,将棋】ボードゲーム Part2【囲碁,War】 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
579: 535 2019/01/06(日)03:14 ID:6f3tqt5A(4/8) AAS
そうはいってもLV3の棋力はかなり高い。
囲碁将棋でいえばアマチュア３段くらいには相当するはず。
580: 535 2019/01/06(日)03:18 ID:6f3tqt5A(5/8) AAS
波があるからアマチュア３段は言い過ぎだったかなｗ
でもまあ強い時はかなり強い。
581: 310 2019/01/06(日)14:23 ID:a93oWf/5(1/3) AAS
置換表一時調子が良かったのですが、修正加えたら崩壊。
なんとなく読み取りが変な感じなんだけど、どこがおかしいのか全くわからず。
>>578
棋譜たくさん集めて序盤DB作ったら、その序盤DBのMax手順以外の手について
は、分岐した以後の盤面だけで学習させると序盤の穴が埋まるというか、間違った
盤面でぼやっとした学習するの避けられるかも。
今、序盤についてはそのやり方で学習させてます。
582(1): 535 2019/01/06(日)20:12 ID:6f3tqt5A(6/8) AAS
とりあえず、昔作ったTINY-DNNのプログラムを引っ張り出してきて学習プログラムを仮組したが絶望的に遅いorz
グラボ使えればちっとは違うんだろか？うーむ。
583: 310 2019/01/06(日)20:34 ID:a93oWf/5(2/3) AAS
オープンアドレスうまく動くようになりました。
ここに愚痴ると、直後に原因がわかる罠ｗ
この数日の葛藤は何だったんだ。
584(1): 310 2019/01/06(日)20:36 ID:a93oWf/5(3/3) AAS
>>582
Tiny-DNNはGPU対応していないんじゃないかなぁ。
結局、DCNNはGPUで処理しないと無理っつー気がする。
585: 535 2019/01/06(日)20:44 ID:6f3tqt5A(7/8) AAS
>>584
あ〜やっぱそうなんですかねぇ。
GPUも結構いいの買ったのでぜひ活用したいところではあります。
586: 535 2019/01/06(日)22:23 ID:6f3tqt5A(8/8) AAS
明日は仕事なのでハマらないうちに切り上げようｗｗ
社会人として自制しなければｗｗｗ
587: 535 2019/01/07(月)20:55 ID:4rY/alBf(1/2) AAS
学習回しても損失が全く減らない。。。
そういやそんなのあったな。orz
588: 535 2019/01/07(月)23:12 ID:4rY/alBf(2/2) AAS
なんかネットワーク初期化忘れてたみたいw
初期化したら損失減ったｗ
ちょっと希望が出てきた。
589: 535 2019/01/08(火)23:12 ID:1omQC7Mg(1) AAS
損失減ることは減るんだけどホントにちょっとづつしか減っていかない。
ネットワークの形状が悪いんだろうか？学習率だろうか？
うーん、深みにはまりそうorz
590: 310 2019/01/09(水)20:33 ID:9GUGdavc(1/2) AAS
学習の速度はオプティマイザに依存します。
普通のSGDだと、あちこちぐるぐる回ったり、平野トラップで立ち往生したり、
局所最適解から抜け出せなくなったり。また、SGDは学習率（α）を大きくすると、
簡単に発散しちゃったりしますので、学習率を低めにして１０００回とか学習する
事になります。それでも上記の問題で、なかなか収束しなかったり、うまく学習
できなかったりします。
そういうものなのです。昔は、初期値（乱数設定しているはず）を変えてみたりして
トライ＆エラーしてましたが、今なら別のオプティマイザ（RMSpropやADAM）を試す
べきかと思います。それでも数百回は学習を繰り返さないといけないと思います。
久々に検索したら結構種類が増えてた。
外部ﾘﾝｸ:qiita.com
自分は線形回帰モデルですが、SMORMS3を使って効率化を図っています。
それでも、数百回学習しないと損失は落ち着いてきません。
591: 310 2019/01/09(水)22:31 ID:9GUGdavc(2/2) AAS
置換表ですが、結局のところ、ハッシュのビット数を増やしてチェーン接続があまり
生じないようにし、メモリーをある程度のサイズでまとめて確保する、チェーン型
ハッシュに落ち着いています。
普段速度計測に使っているFFO#40-49ではconcurrent_unordered_map版より若干
遅いのです。が、どうも残り２８手（現在はそのあたりをチェック中）では、自作チェーン
ハッシュの方が早いというか、ノード数が増えた時に速度低下が少ないように感じて
おり、現在は自作置換表を使っています。
とはいえ、２９手や３０手まで行った暁にはチェーン接続が多発し始めて速度低下が
始まると思われるので、対策を考えて行きたいと思います。２８手が終わるまでまだ
一カ月くらいかかるので、幸か不幸か時間はたっぷりあります(--;
今のところチェーンの代わりに２分木を置いて、ハッシュが衝突したときの速度低下を
O(n)からO(log(2)ｎ)にしてみようかと考えています。
592: 535 2019/01/09(水)23:20 ID:ED/1LPLd(1) AAS
ふーむ。要素が少ない時はリストやツリーは遅く、配列が圧倒的に早いという認識でしたが。
593: 535 2019/01/12(土)00:34 ID:I11IVt9R(1/5) AAS
あれ、序盤DBに棋譜を追加したら全然おかしな手を打つようになっちゃった。
棋譜がまずいのかな？
594: 535 2019/01/12(土)01:02 ID:I11IVt9R(2/5) AAS
くそ〜強いAI（自我があるとかではないよ）作りてぇなぁ
595: 535 2019/01/12(土)01:39 ID:I11IVt9R(3/5) AAS
三連休とはいえそろそろ寝なければな。
生活のリズム崩すのはいくない。
596: 535 2019/01/12(土)21:33 ID:I11IVt9R(4/5) AAS
質にばらつきのある棋譜から良いデータを抽出する方法はあるのだろうか？
597: 535 2019/01/12(土)22:30 ID:I11IVt9R(5/5) AAS
うーんせっかく３連休なのに捗らないな。
これだというアイディアが湧くまでこねくり回すしかないか。
598: 535 2019/01/13(日)22:01 ID:vPz6niN1(1) AAS
結局アルファゼロという正解がある限りその呪縛から逃れるのはかなり難しいorz
うーん。
599: 535 2019/01/14(月)21:36 ID:yfXkG3lc(1) AAS
やっぱグラボも活用したいなぁ。
でも難しいんだよなぁ。
とくにウィンドウズだと。
600: 535 2019/01/16(水)00:51 ID:ecOlQUBV(1) AAS
昨日一日学習回して損失が初期値の2/3位になった。
この辺が限界かなぁ
それともぞうきんを絞るようにまだまだ損失減るんだろうか？
601: 310 2019/01/18(金)00:47 ID:YI61Q9H1(1) AAS
NN系は学習してるんだかわからない時があるよね。
とことんまで回すと今度は過学習も怖くなってくるし。
こちらは、自作concurrent_mapクラスができました。
ハッシュキーは二分木で、ハッシュ値は64bit。
配列ハッシュキー版と同様に、削除もiteratorも無し。
すこーし速度があがったかなぁ程度。
衝突時の処理はチェーン式。流石に64bitだとキーの衝突が無い。
棋譜訂正は時間がかかるので、暇つぶしが必要な状態。
二分木を赤黒木に変えてみようかと思い始めています（汗。
本当はヒューリスティックスの改良の方が効果あるんだろうなぁ。
602: 535 2019/01/18(金)22:51 ID:glnAkAuX(1) AAS
今週は残業がひどかったorz
でも土日は休める。
603: 310 2019/01/19(土)09:03 ID:/dbSBJQm(1) AAS
赤黒木を検討してますが、これ並列処理だと木全体をロックしないと
いかんのではないかと…。置換表のように追加の頻度が高いケース
では、排他待ちでパフォーマンス出ないかも。
まあ、やってみるしかないけれど。
604: 535 2019/01/19(土)11:25 ID:R+TIxYAB(1/4) AAS
赤黒木とかめっちゃむずかしいやつですやん。
さすがですな。
605: 535 2019/01/19(土)19:50 ID:R+TIxYAB(2/4) AAS
ん、なんか学習したネットワークがすべてのデータに対して同じ結果を返してるっぽい？
606: 535 2019/01/19(土)19:58 ID:R+TIxYAB(3/4) AAS
学習開始時のネットワークの重みの初期化をミスってるんだろうか
うーん。
607: 535 2019/01/19(土)20:54 ID:R+TIxYAB(4/4) AAS
tiny-dnn以外のGPU使えるライブラリで重みだけ学習してアプリケーションからはtiny-dnnを使うというのもあるのだろうか
608: 535 2019/01/20(日)02:28 ID:O7gh4nMQ(1/8) AAS
全く同じ結果ではなく微妙に違う結果を返してるのは確認できたけど。
単に学習量がたりてないのかなぁ。
上下前次1-新書関写板覧索設栞歴
あと 394 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.014s