[過去ログ] 【オセロ,将棋】ボードゲーム Part2【囲碁,War】 (1002レス)
上下前次1-新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
38: 310 [sage] 2017/10/28(土) 13:51:26.14 ID:rt9aGKVT(1/2) AAS
ネットワーク1段増やすだけで信じられないくらい遅くなりますよね。
最初に十分に深くして学習させて、だんだん減らしながら適切な深さを
求めたいんだけど、この速度低下を考えると、本当に学習できるのか
わからないままだんだん深くしていくしか無いというのが萎える点です。
スレッドについては、リソースモニターで確認するとわかりますね。
ヘッダのどこかに並列化の設定があったはずです。
コンパイラがVSならOpenMPのオプションを設定します。
コンパイラのオプションの方もOpenMPの設定をお忘れなく。
39: 535 [sage] 2017/10/28(土) 22:22:00.33 ID:MUiBaiII(3/4) AAS
一応マルチスレッドで動いてるみたいですけど、CPUが50%位しか行かないですね。
あと、エポックが進んでも損失が変わらない原因がさっぱりわからないorz.
40: 535 [sage] 2017/10/28(土) 23:21:37.85 ID:MUiBaiII(4/4) AAS
畳み込み層の設定がおかしいみたい。
畳み込み層外したら損失減った。
41: 310 [sage] 2017/10/28(土) 23:37:15.46 ID:rt9aGKVT(2/2) AAS
CPU使用率はそんなもんかも。
ヘッダの話、Eigenとごっちゃになってるかも。
強化学習ですが、徐々に進んでいます。もっと早くSMORMS3にしとけば良かった。
終盤読み切りのソート順に評価値を使用しているのですが、目に見えて速度が
上がってきています。また自己対局の精度も上がってきたようで、遡りチェックで
30手まで何度か行きました。逆に記譜収集の方は、スコアのばらつきが無くなって
きて、記譜的に良い事なのか不安。
というわけで、手ごたえを感じつつ、現状に合わせて若干設定変更。
42: 535 [sage] 2017/10/29(日) 00:36:11.21 ID:zJx7nuOS(1/2) AAS
なんか畳み込みにこだわらなくても全結合でも結構いい線いきそうな?
まあ試しに全結合で進めてみるか。
43: 535 [sage] 2017/10/29(日) 18:55:23.53 ID:zJx7nuOS(2/2) AAS
AIに組み込んでみましたが全く強くなってないですw
そういえば、ライフゲーム囲碁はDBつかっても強くならないんだったww
囲連星に転進するか…
44: 535 [sage] 2017/11/01(水) 00:19:41.19 ID:M72WSH0d(1/6) AAS
囲連星のDB全部vec_tに変換したらメモリパンクした^^
学習しないな俺w
マジでスレッドリッパーに128GB積みたい気分
45: 535 [sage] 2017/11/01(水) 00:42:51.08 ID:M72WSH0d(2/6) AAS
データ減らしたら動き始めました。
でも遅いな〜こりゃそう簡単には終わらんぞorz.
まあ今晩一晩流してみますが…
46: 310 [sage] 2017/11/01(水) 01:06:46.90 ID:FDjtq7R7(1) AAS
バラして部分づつ学習する手もあるかも。
あ、元データはランダムに並び替えた方が良いですよ。
わかってると思いますが。
こちらは、しばらく強化学習していたら、それなりに学習が進んだ結果、
対戦相手側の手のばらつきが足りなくなって、局所解に陥ってた感じ。
急きょばらつきを広げて学習再開させたところです。
バリューの方は地道に損失が減っているんだけど、ポリシーの損失が
増えてきた。ポリシーはsigmoidがあるので、ウェイトが絶対値でとてつも
なく大きくなって、なかなか修正しきれない状況になってるかもしれない。
一旦リセットすべきか悩み中。
47: 535 [sage] 2017/11/01(水) 19:51:55.33 ID:M72WSH0d(3/6) AAS
1エポック5000秒、しかも損失があんまり減っていかないorz
これはかなり厳しい
48: 535 [sage] 2017/11/01(水) 20:00:50.18 ID:M72WSH0d(4/6) AAS
ネットワークの大幅な簡素化が必要か?
でも今のネットワークでも損失が減っていかないところを見るとそれも望み薄かなぁ
49(1): 310 [sage] 2017/11/01(水) 20:13:34.50 ID:A50hx8cn(1) AAS
たぶん、損失の減り方は最初はゆっくりだと思います。
「特徴抽出しながら」誤差修正していってますから。
僕と同じ悩みですね。
ネットワークの大幅簡素化の結果、最終的に線形回帰まで戻ってしまいました(汗
もっとも、オセロはBuroさんの特徴抽出があったから線形回帰まで戻れたのですが。
スリッパとGPUが呼んでます(笑)
でも、もしかしたらAMDよりINTELの方が良いかもしれない。
高いけど。
50: 535 [sage] 2017/11/01(水) 23:16:09.92 ID:M72WSH0d(5/6) AAS
簡素化してみました。
1エポック650秒位。
損失はあんまり減っていかない。
うーん。
51: 535 [sage] 2017/11/01(水) 23:18:55.84 ID:M72WSH0d(6/6) AAS
>>49
買うとしてもZen+まで待ちます。
52: 535 [sage] 2017/11/02(木) 20:54:58.92 ID:PGhNTWut(1/4) AAS
60エポック回したけど損失減らずorz
くそ〜どうすりゃいいのさ
53: 535 [sage] 2017/11/02(木) 21:57:25.36 ID:PGhNTWut(2/4) AAS
ライフゲーム囲碁は結構損失減ったのになぜ囲連星はあんまり損失が減らないんだろう?
入力のサイズがでかいのは確かにあるけど。
54: 535 [sage] 2017/11/02(木) 22:35:50.49 ID:PGhNTWut(3/4) AAS
石を中央寄せにして19x19の盤面を9x9くらいに削ってみるか…
55: 535 [sage] 2017/11/02(木) 23:58:27.26 ID:PGhNTWut(4/4) AAS
お、損失ちょっと減った。
これで一晩回してみるか
56: 535 [sage] 2017/11/03(金) 20:29:00.55 ID:MdRaqfZr(1/3) AAS
うーん。学習率がでかすぎるっぽい?
57: 535 [sage] 2017/11/03(金) 20:40:20.21 ID:MdRaqfZr(2/3) AAS
ユニット数少な目段数多めがいいみたい?
58: 535 [sage] 2017/11/03(金) 21:52:31.44 ID:MdRaqfZr(3/3) AAS
ミニバッチサイズも何気に速度に影響ありですねぇ
ここでもパラメータいじりの沼か。。。
59: 535 [sage] 2017/11/04(土) 20:21:38.30 ID:N2Ul/N+d(1/3) AAS
あかん、まったく使い物にならないっぽい。orz
学習が足りないだけなのか根本的に無理筋なのか。。。
60: 535 [sage] 2017/11/04(土) 21:18:12.47 ID:N2Ul/N+d(2/3) AAS
勝率予想だからダメなのか?
次の一手予想のほうがいいんだろか?
うーん。
61: 535 [sage] 2017/11/04(土) 22:07:45.27 ID:N2Ul/N+d(3/3) AAS
あとは畳み込み試してないか…
畳み込みに賭けるか…
62: 535 [sage] 2017/11/05(日) 00:31:37.24 ID:BZBdQob/(1/2) AAS
お、畳み込み動いた。
後はどれだけ損失が減ってくれるかだな…
上下前次1-新書関写板覧索設栞歴
あと 940 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.019s