[過去ログ] 【統計分析】機械学習・データマイニング22 (1002レス)
1-

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
550: (ワッチョイ 7d35-OF6d) 2019/02/10(日)17:18 ID:Z3H3Tv4Q0(3/6) AAS
>549
知らずに言ってるのが良く分かるぞぉ〜
大抵は両立している。kerasで学習中にpytorch、その逆、等
551: (ササクッテロ Spd1-gzwS) 2019/02/10(日)18:19 ID:L/vUvPOUp(1/3) AAS
>>548
構造の自動最適化はちょっと羨ましい
自分で書くと面倒なんだよね
交換可能なモジュールのグループ化とかね
みんな自分用の最適化ツール作ってるのかな
552
(1): (アウアウイー Sa91-mimx) 2019/02/10(日)19:22 ID:Jb5869jLa(1/2) AAS
>>545
GoogleはChromiumに仕掛けしているようで、たとえばYoutube
なども稼働するOSの上で弄っているらしい。それはChromiumで吸収してい
ようで、たとえば各種のOSじょうに独自のブラウザ提供しYoutubeも支障なく
見られるようにするには、一つ一つ別途に弄るか、Chromiumをレンダリング
エンジンに使うかの選択が必要になるようだ、マイクロソフトは今後の方向と
して主要OSにさまざまなものを提供する方向にあるが、その際に開発負荷を
減らすためにレンダリングエンジンをChromiumに変更した。
とのことらしい。

これと同じようなことだとしたら、Vivaldiで動かしてみたら使えるかも
しれんよ。暇だったら試してみて。
553
(1): (ワッチョイ 91b3-tGKk) 2019/02/10(日)19:24 ID:Pbk6oQIR0(1) AAS
改行きもいけどどこからコピペしてきたん?
554: (アウアウイー Sa91-mimx) 2019/02/10(日)19:29 ID:Jb5869jLa(2/2) AAS
>>542
>深層学習ってなんでちゃんといい解求まるのか不思議

解が求まっているっというわけでもないんだが
ま、求めているものに近いものが他より効率よく出力される
と言った方がいいのかな?

だから、深層学習も、自分で出した結果を見て
「真相はいかに?」と思ってんだと思うよ
555: (ワッチョイ 8dda-/WZR) 2019/02/10(日)19:32 ID:xy09hI340(1) AAS
藪の中
556: (ワッチョイ e101-PGOX) 2019/02/10(日)19:36 ID:PsXGMK3/0(1) AAS
飼い主にとってきたものを見せる猫
557: (アウアウエー Sa0a-ro0h) 2019/02/10(日)19:46 ID:4R8paj5za(1) AAS
>>542
誤差曲面には局所解や鞍点が無数にある筈なのにSGDのような単純な方法で良い解に辿り着けるのは長い間謎だったけど最近になってこの辺が理論的に解明され始めてる
558
(1): (ワッチョイ f901-A0Bz) 2019/02/10(日)20:05 ID:EWmLbbO60(1) AAS
バッチサイズを大きくすると学習効果が低いというのもよくわからん話だな。
これって人間でいえばドリルを一気にやってから答え合わせするよりもちょこちょこ
答え見て解答してった方が勉強効率が良いってことだよね?
559: (ササクッテロ Spd1-gzwS) 2019/02/10(日)20:39 ID:L/vUvPOUp(2/3) AAS
>>558
バッチサイズの大きさと学習効果については相反する議論が展開されていて、バッチサイズが大きくても学習率を下げれば性能は変わらないとする論文がある

更新分は

(epsilon / batch_size) * (sum of grad)

なのでbatch_sizeを倍にしたら学習率を半分にするといい
勾配分だけがbatch_sizeの影響を受けるので、モデルおよびデータ次第ではどっちにも転ぶことになる
560
(2): (ワッチョイ 02ad-J+LR) 2019/02/10(日)20:49 ID:spsEs2Cn0(1) AAS
最近勉強し始めた超初心者だけど、なんとか学習モデル生成出来るとこまできた
(ほとんど参考サイトのコピペだけど…)

が、マシンスペックが全然足りなくて学習が進まない…
↓この参考サイトの著者は100epochsで12時間かかったらしいが、俺は7時間かけて2epochsだけ
外部リンク:app.m-cocolog.jp

「ちょっと自分でモデル作って味見してみようかな」っ人には着手しづらいなぁ
561
(1): (ワッチョイ 7d35-OF6d) 2019/02/10(日)21:00 ID:Z3H3Tv4Q0(4/6) AAS
>>560
cpuで動かしてない?
tensorflowがgpuで動いてるか試してみて

from tensorflow.python.client import device_lib
device_lib.list_local_devices()

外部リンク:qiita.com
562
(1): (ササクッテロ Spd1-gzwS) 2019/02/10(日)21:03 ID:L/vUvPOUp(3/3) AAS
>>560
そこそこ良いGPUないと面白さは半減だねぇ
Google Colaboratryでもいいけど長い時間の学習は処理を分割させる必要があるし、画像系はデータが巨大になりがちだし、趣味でやるには少しハードル高いよね
563
(1): (ワッチョイ 7d35-OF6d) 2019/02/10(日)21:07 ID:Z3H3Tv4Q0(5/6) AAS
ColaboratryのGPU性能はGTX970ぐらいだったかな
結構微妙な性能な上に、制約が多いから買ったほうが良い

TPU使えるなら凄いんだけど、俺は無理だった
564
(1): (ワッチョイ 0202-RyKv) 2019/02/10(日)21:35 ID:7aqx1gb30(1/2) AAS
ColaboravoryでTPU使うのにただ切り替えるだけじゃだめなんだよね

あれ使えればかなり楽になると思うし体験してみたいけどそれ用にコード変更しなくちゃいけないんでしょ
565
(1): (ワッチョイ 7d35-OF6d) 2019/02/10(日)21:41 ID:Z3H3Tv4Q0(6/6) AAS
>>564
一から書ける技量が無いと対応できない
githubに転がってるやつをちょっと変えれる程度じゃ無理
データも容量的に厳しいので、googleドライブにおいてそこからapiでひっぱってきて・・・とかなり面倒
その内ラッパーとか出来ると思うけどね
566: (ワッチョイ 0202-RyKv) 2019/02/10(日)22:44 ID:7aqx1gb30(2/2) AAS
>>565
そうか残念

拾ったCycleGANのコード動かそうとしたら重くなって落ちたからTPUでやってみたかったんだけどね

ところでcolaboratoryでコードの出力欄に四角いダメ顔マーク出てくるのはなんの意味なんだろうか
メモリ不足?
567: (アウアウイー Sa91-mimx) 2019/02/11(月)07:49 ID:hy2CndF0a(1) AAS
>>553
それ使ってる環境しだいだよ。胆くするブラウザ使ってるから。
568
(2): (アウアウウー Sa05-FtKs) 2019/02/11(月)13:15 ID:/CQzGcw7a(1) AAS
機械学習とAIの違い
画像リンク

569
(1): (ワッチョイ 7dad-JcLr) 2019/02/11(月)13:19 ID:pkTvfEUJ0(1/3) AAS
>>563
嘘乙 Tesla K80 12GBだろ。GTX970の速度じゃない事くらい試せばすぐ分かる。
570: (ワッチョイ 02ad-J+LR) 2019/02/11(月)13:34 ID:QSAhduNJ0(1/2) AAS
>>561
cpuでやってました!
gpu版になんとか設定したものの新たなエラーが出て四苦八苦中ですw
571: (ワッチョイ 02ad-J+LR) 2019/02/11(月)13:38 ID:QSAhduNJ0(2/2) AAS
>>562
5年くらい前に組んだPCでゲームはやらずマルチディスプレイが出来ればいいので、安物グラボ積んでます…
玄人志向GTX650で当時5000円ぐらいだったような

画像リンク

572
(1): (ワッチョイ 7d35-OF6d) 2019/02/11(月)13:39 ID:fMjwAL+60(1) AAS
>>569
こないだ暇だったからmnistで計測してみたから間違いない
スペックも実測値も、ほぼGTX960〜GTX970当たりの性能
K80のGPUが1/2になる事を考慮すると、スペック的にも大体合うはず
573
(1): (ワッチョイ 7dad-JcLr) 2019/02/11(月)13:58 ID:pkTvfEUJ0(2/3) AAS
>>572
それはすまない。GTX1060Tiよりも速かったので、俺の組み方が悪かったのだろうな。メモリが少なかったせいかもしれない。
574: (ワッチョイ f901-A0Bz) 2019/02/11(月)16:51 ID:OF3/TB8A0(1) AAS
mnistとかなんのベンチマークにもならんわ。imagenetくらい回してくれ。
575
(1): (ワッチョイ 8d83-Q2RD) 2019/02/11(月)17:06 ID:UQjSOk2h0(1) AAS
GPUに辿り着く以前にラーニングの前処理で異様に時間がかかる
ひょっとしてcolaboratoryのCPU1コア?
データ読み込んで特徴量増やしてるだけなんだが・・・
576: (ワッチョイ 7dad-JcLr) 2019/02/11(月)17:38 ID:pkTvfEUJ0(3/3) AAS
>>575
zip解凍も結構時間かかってるよ。CPUやファイルアクセスは貧弱っぽい。
577: (ササクッテロ Spd1-gzwS) 2019/02/11(月)19:02 ID:rLkbUlECp(1) AAS
>>573
モデルによるかな
小さなモデルでバッチサイズ大きめな学習はK20速いけどモデルが大きくなると遅い
578: (ワッチョイ 6e1f-feI+) 2019/02/11(月)19:32 ID:TvLOMK+p0(1) AAS
>>568
ネタなのは分かるけど、共感できなくてどこがおもしろいのかわからない
579: (ワッチョイ 8dda-/WZR) 2019/02/11(月)19:40 ID:JjM5yhDQ0(1) AAS
>>568
Correction
If it is written by Kyoto Common Lisp, it maybe AI.
1-
あと 423 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ

ぬこの手 ぬこTOP 0.018s