[過去ﾛｸﾞ] 【オセロ,将棋】ボードゲーム Part2【囲碁,War】 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
580: 535 [sage] 2019/01/06(日) 03:18:59.57 ID:6f3tqt5A(5/8) AAS
波があるからアマチュア３段は言い過ぎだったかなｗ
でもまあ強い時はかなり強い。
581: 310 [sage] 2019/01/06(日) 14:23:08.43 ID:a93oWf/5(1/3) AAS
置換表一時調子が良かったのですが、修正加えたら崩壊。
なんとなく読み取りが変な感じなんだけど、どこがおかしいのか全くわからず。
>>578578(3): 名前は開発中のものです。 [sage] 2019/01/06(日) 03:01:38.94 ID:aGENq217(1) AAS
質の悪い棋譜ばかり100兆局集めてもあんまり強くならない気がするのですがどうなんでしょう
質のいい棋譜がそれだけ集まればいいですがそれはほぼ不可能ですし…
棋譜たくさん集めて序盤DB作ったら、その序盤DBのMax手順以外の手について
は、分岐した以後の盤面だけで学習させると序盤の穴が埋まるというか、間違った
盤面でぼやっとした学習するの避けられるかも。
今、序盤についてはそのやり方で学習させてます。
582(1): 535 [sage] 2019/01/06(日) 20:12:44.73 ID:6f3tqt5A(6/8) AAS
とりあえず、昔作ったTINY-DNNのプログラムを引っ張り出してきて学習プログラムを仮組したが絶望的に遅いorz
グラボ使えればちっとは違うんだろか？うーむ。
583: 310 [sage] 2019/01/06(日) 20:34:20.52 ID:a93oWf/5(2/3) AAS
オープンアドレスうまく動くようになりました。
ここに愚痴ると、直後に原因がわかる罠ｗ
この数日の葛藤は何だったんだ。
584(1): 310 [sage] 2019/01/06(日) 20:36:40.74 ID:a93oWf/5(3/3) AAS
>>582
Tiny-DNNはGPU対応していないんじゃないかなぁ。
結局、DCNNはGPUで処理しないと無理っつー気がする。
585: 535 [sage] 2019/01/06(日) 20:44:29.63 ID:6f3tqt5A(7/8) AAS
>>584
あ〜やっぱそうなんですかねぇ。
GPUも結構いいの買ったのでぜひ活用したいところではあります。
586: 535 [sage] 2019/01/06(日) 22:23:00.36 ID:6f3tqt5A(8/8) AAS
明日は仕事なのでハマらないうちに切り上げようｗｗ
社会人として自制しなければｗｗｗ
587: 535 [sage] 2019/01/07(月) 20:55:27.41 ID:4rY/alBf(1/2) AAS
学習回しても損失が全く減らない。。。
そういやそんなのあったな。orz
588: 535 [sage] 2019/01/07(月) 23:12:38.14 ID:4rY/alBf(2/2) AAS
なんかネットワーク初期化忘れてたみたいw
初期化したら損失減ったｗ
ちょっと希望が出てきた。
589: 535 [sage] 2019/01/08(火) 23:12:12.87 ID:1omQC7Mg(1) AAS
損失減ることは減るんだけどホントにちょっとづつしか減っていかない。
ネットワークの形状が悪いんだろうか？学習率だろうか？
うーん、深みにはまりそうorz
590: 310 [sage] 2019/01/09(水) 20:33:25.82 ID:9GUGdavc(1/2) AAS
学習の速度はオプティマイザに依存します。
普通のSGDだと、あちこちぐるぐる回ったり、平野トラップで立ち往生したり、
局所最適解から抜け出せなくなったり。また、SGDは学習率（α）を大きくすると、
簡単に発散しちゃったりしますので、学習率を低めにして１０００回とか学習する
事になります。それでも上記の問題で、なかなか収束しなかったり、うまく学習
できなかったりします。
そういうものなのです。昔は、初期値（乱数設定しているはず）を変えてみたりして
トライ＆エラーしてましたが、今なら別のオプティマイザ（RMSpropやADAM）を試す
べきかと思います。それでも数百回は学習を繰り返さないといけないと思います。
久々に検索したら結構種類が増えてた。
外部ﾘﾝｸ:qiita.com
自分は線形回帰モデルですが、SMORMS3を使って効率化を図っています。
それでも、数百回学習しないと損失は落ち着いてきません。
591: 310 [sage] 2019/01/09(水) 22:31:13.85 ID:9GUGdavc(2/2) AAS
置換表ですが、結局のところ、ハッシュのビット数を増やしてチェーン接続があまり
生じないようにし、メモリーをある程度のサイズでまとめて確保する、チェーン型
ハッシュに落ち着いています。
普段速度計測に使っているFFO#40-49ではconcurrent_unordered_map版より若干
遅いのです。が、どうも残り２８手（現在はそのあたりをチェック中）では、自作チェーン
ハッシュの方が早いというか、ノード数が増えた時に速度低下が少ないように感じて
おり、現在は自作置換表を使っています。
とはいえ、２９手や３０手まで行った暁にはチェーン接続が多発し始めて速度低下が
始まると思われるので、対策を考えて行きたいと思います。２８手が終わるまでまだ
一カ月くらいかかるので、幸か不幸か時間はたっぷりあります(--;
今のところチェーンの代わりに２分木を置いて、ハッシュが衝突したときの速度低下を
O(n)からO(log(2)ｎ)にしてみようかと考えています。
592: 535 [sage] 2019/01/09(水) 23:20:11.40 ID:ED/1LPLd(1) AAS
ふーむ。要素が少ない時はリストやツリーは遅く、配列が圧倒的に早いという認識でしたが。
593: 535 [sage] 2019/01/12(土) 00:34:20.08 ID:I11IVt9R(1/5) AAS
あれ、序盤DBに棋譜を追加したら全然おかしな手を打つようになっちゃった。
棋譜がまずいのかな？
594: 535 [sage] 2019/01/12(土) 01:02:50.64 ID:I11IVt9R(2/5) AAS
くそ〜強いAI（自我があるとかではないよ）作りてぇなぁ
595: 535 [sage] 2019/01/12(土) 01:39:38.14 ID:I11IVt9R(3/5) AAS
三連休とはいえそろそろ寝なければな。
生活のリズム崩すのはいくない。
596: 535 [sage] 2019/01/12(土) 21:33:08.59 ID:I11IVt9R(4/5) AAS
質にばらつきのある棋譜から良いデータを抽出する方法はあるのだろうか？
597: 535 [sage] 2019/01/12(土) 22:30:56.75 ID:I11IVt9R(5/5) AAS
うーんせっかく３連休なのに捗らないな。
これだというアイディアが湧くまでこねくり回すしかないか。
598: 535 [sage] 2019/01/13(日) 22:01:49.93 ID:vPz6niN1(1) AAS
結局アルファゼロという正解がある限りその呪縛から逃れるのはかなり難しいorz
うーん。
599: 535 [sage] 2019/01/14(月) 21:36:22.16 ID:yfXkG3lc(1) AAS
やっぱグラボも活用したいなぁ。
でも難しいんだよなぁ。
とくにウィンドウズだと。
600: 535 [sage] 2019/01/16(水) 00:51:29.20 ID:ecOlQUBV(1) AAS
昨日一日学習回して損失が初期値の2/3位になった。
この辺が限界かなぁ
それともぞうきんを絞るようにまだまだ損失減るんだろうか？
601: 310 [sage] 2019/01/18(金) 00:47:06.53 ID:YI61Q9H1(1) AAS
NN系は学習してるんだかわからない時があるよね。
とことんまで回すと今度は過学習も怖くなってくるし。
こちらは、自作concurrent_mapクラスができました。
ハッシュキーは二分木で、ハッシュ値は64bit。
配列ハッシュキー版と同様に、削除もiteratorも無し。
すこーし速度があがったかなぁ程度。
衝突時の処理はチェーン式。流石に64bitだとキーの衝突が無い。
棋譜訂正は時間がかかるので、暇つぶしが必要な状態。
二分木を赤黒木に変えてみようかと思い始めています（汗。
本当はヒューリスティックスの改良の方が効果あるんだろうなぁ。
602: 535 [sage] 2019/01/18(金) 22:51:46.73 ID:glnAkAuX(1) AAS
今週は残業がひどかったorz
でも土日は休める。
603: 310 [sage] 2019/01/19(土) 09:03:58.77 ID:/dbSBJQm(1) AAS
赤黒木を検討してますが、これ並列処理だと木全体をロックしないと
いかんのではないかと…。置換表のように追加の頻度が高いケース
では、排他待ちでパフォーマンス出ないかも。
まあ、やってみるしかないけれど。
604: 535 [sage] 2019/01/19(土) 11:25:42.95 ID:R+TIxYAB(1/4) AAS
赤黒木とかめっちゃむずかしいやつですやん。
さすがですな。
上下前次1-新書関写板覧索設栞歴
あと 398 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.017s