[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング8©2ch.net (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
149: 2016/06/09(木)22:47 ID:567X3u/H(3/4) AAS
日経の主張
alpaca
外部ﾘﾝｸ:thebridge.jp
ヘッジファンド
外部ﾘﾝｸ:ventureclef.com
150(2): 2016/06/09(木)22:50 ID:EYDvGbZG(3/3) AAS
ところでRMSpropだのAdamだの出てきているのに未だにMomentunSGDばかり使われている理由知ってる人いる？
151: 2016/06/09(木)22:58 ID:567X3u/H(4/4) AAS
>>148
補足：実際の問題は複雑で解の存在も一意性も保証されていない
152(1): 2016/06/09(木)23:16 ID:WS/bpjg2(4/5) AAS
解が存在しなかったり一意性がなかったりするとバックプロバケーションでは無理だな
153: 2016/06/09(木)23:16 ID:Ldnb3Sh9(1) AAS
素人エンジニアの間で
投資×ディープラーニングが盛り上がっているのを
生暖かい目で見ている
154: 2016/06/09(木)23:22 ID:SS3PJg9r(1) AAS
>>152
お前も馬鹿か
155: 2016/06/09(木)23:45 ID:WS/bpjg2(5/5) AAS
（笑）
156: 2016/06/10(金)00:40 ID:4Cl/388C(1) AAS
DQNにFXやらせてみたけど全然ダメ。
取引しないのが最善手だと学習しちゃう。
真理なのかもしれない。
157(1): 2016/06/10(金)01:59 ID:Xu3Q8PMQ(1) AAS
FXは難易度が異常だから、株なら少しはマシかもな
158: 2016/06/10(金)12:36 ID:yEGZMfCQ(1) AAS
DeepMindかどっかが、「やらないのが最善」という学習を防ぐ技術を開発していた気がする。
159: 2016/06/10(金)16:27 ID:R3lGWxox(1) AAS
Extreme Learning Machineいじってるやついる？
160: 2016/06/10(金)23:00 ID:/w5qBRYP(1) AAS
>>145 バグ見っけ #{
#w2 = matrix (w.2 [[i]], nr = length (w1), nc = length (w3));
w2 = t (matrix (w.2 [[i]], nc = length (w1), nr = length (w3)));
#} たまたま対称行列に近かったので結果が変わらない分タチが悪い
キリがないので新しいバグを見つけてももう書きません
>>150 そのそも他の人が何を使ってるのかも知らない池沼だけど
自分の場合は、MomentunSGDはパラメータが二つ必要と怒られて
パラメータが一つでいい方法で収束が早いのを使ったよ
中身はオイラー法改ということぐらいしか知らない
自分の常識は世界の非常識だけど、通常の常微分方程式の数値計算では
lsodaかルンゲクッタのどっちかでうまくいけば良しと思っている人が多い気がする
最初に試すのはどっち？ということに関しては使い慣れた方では？
ヒトというのは多少良いぐらいでは新しいものに乗り換えないらしい
スレ違いだけど: Linuxに勝てなかったPlan 9 − ＠IT
外部ﾘﾝｸ[html]:www.atmarkit.co.jp
161: 2016/06/11(土)06:36 ID:Lft7k7ig(1) AAS
>ヒトというのは多少良いぐらいでは新しいものに乗り換えないらしい
ということは、乗り換え続ければ、シンギュラリティが起こることね？
162(2): 2016/06/11(土)12:48 ID:hBL0iHmr(1) AAS
>>150
最近見るサンプルだと、むしろ RMSprop ばかり使われてる印象だが
163(1): 2016/06/11(土)12:59 ID:YCY5eb9V(1/2) AAS
>>162
sampleではAdamやRMSpropをよく見かけるが、
論文中では最近でもMomentumSGDが使われてる印象がある。
大規模なImagenetだと特に
164(2): 2016/06/11(土)17:48 ID:JU9k/El9(1) AAS
Chainer派が減ってるように感じるのは気のせいか？
165: 2016/06/11(土)18:54 ID:e45U+qMQ(1/2) AAS
気のせいじゃない
世の中すべてgoogleに寄ってる
166: 2016/06/11(土)19:06 ID:uqzo+r9w(1) AAS
>>164 TensorFlowが出てから、勢力がみるみるうちに無くなってしまった。
167: 2016/06/11(土)20:07 ID:uegKPJVI(1) AAS
●AI技術で起業したい方へ3000万円まで投資します●
技術と情熱のある方のみ、お願いします。
外部ﾘﾝｸ:good-hill.xsrv.jp
『 グッドエンジェル 』
投資家と起業家のマッチングサービス
168(1): 2016/06/11(土)20:30 ID:YCY5eb9V(2/2) AAS
Chainerのほうがtfより進んでると思うんだがなあ。
169(1): 2016/06/11(土)20:32 ID:e45U+qMQ(2/2) AAS
おまえすごいな
両方理解して優位点分かってんのかよ
170: 2016/06/11(土)22:05 ID:n+6FlSA7(1/2) AAS
>>162 >>163
Keras のサンプルは RPMProp だったな。SGD 系の方が皆に知られているから分かりやすい、という程度の理由じゃないかな。
>>164
気のせいじゃない、自分のまわりの Chainer 派はみんな TensorFlow に乗り換えやがったw
現実問題として、最近はお客さんが TensorFlow の名前くらいは知ってるからな、仕方がない。泣く子とグーグルには勝てんw
171: 2016/06/11(土)22:24 ID:n+6FlSA7(2/2) AAS
>>168
Chainer は未だに分散に対応できてないでしょ。
趣味でやるならともかく、企業レベルだとそれだけで勝負にならない。
>>169
このスレの住人なら、両方とも使ったことくらいならあるでしょ。Caffe, Torch, Theano あたりも。
172(1): 2016/06/11(土)22:29 ID:PEhHwJ/Q(1) AAS
chainer は昨年末くらいからアップデートを繰り返されて使う気が失せた
173: 2016/06/11(土)23:39 ID:1rbAcpRy(1) AAS
小数点以下で関数を変えるな
174: 2016/06/12(日)00:02 ID:8Rsz5yWA(1) AAS
よし、あえてここで俺がcommon lispでフレームワーク作る
175: 2016/06/12(日)06:32 ID:9Yu7iVS3(1) AAS
>>172 今 どのくらいまでアップデートしてるのかな？ 172さんの言うよう
にアップデートを繰り返されて使う気が失せたので全然、見てない。
176(2): 2016/06/12(日)07:23 ID:vVZR4K/C(1/2) AAS
>>130 物理や数学との違いの一つとして多くの方言があるように思う
ターゲットの問題の多様さや人口の多さに起因しているのかもしれない
例えば、同じ自然言語をターゲットにした研究者でも言葉が通じなかったりする
word2vec Explained: Deriving Mikolov et al.’s Negative-Sampling Word-Embedding Method | Omer Levy
Omer Levy](外部ﾘﾝｸ:wp.me
> We found the description of the models in these papers to be somewhat cryptic and hard to follow.
「word2vecイミフ過ぎwww 人間の言葉で書き直したった」盛りましたすみません
目抜き通りで日本人の名前をを見ることがないのは事実かもしれないけど
裏通りに入ると日本人村があったりする
>>65 で挙げた論文はモントリオールのチームだと思うけど普通の物理や数学よりも
日本人密度が高いように思う
ヘシアンの負固有値の数が標高が下がるにつれ少なくなることを観察して
標高の高いところの極値をスキップしやすいオイラー法改を提案している
>>147 に関係した話題だと思う
177: 2016/06/12(日)08:54 ID:hE/WfIPg(1) AAS
しらみ潰しで済むなら、それに越したことはない。
178(1): 2016/06/12(日)20:55 ID:vVZR4K/C(2/2) AAS
つながり見っけ
裏道どころかタイムズスクエアの真ん前にいたんですね
前のスレッドで「現在のDNNにおける未解決問題」というスライドを挙げたんですが
スピングラスの下りでの元ネタの一つです
Open Problem: The landscape of the loss surfaces of multilayer networks
外部ﾘﾝｸ[html]:www.jmlr.org
> Earlier theoretical analysis, conveniently reviewed in Dauphin et al. (2014), suggest the
> existence of a certain structure of critical points of random Gaussian error
> functions on high dimensional continuous spaces.
> ...
> Nevertheless they provide no theoretical justification for the existence of this connection.
読んでないので憶測ですが、Dauphinさん達の観察したモース指数と標高の関係を
スピングラスを使って導けるよという趣旨のようです
そのDauphinさん達の仕事です
Identifying and attacking the saddle point problem in high-dimensional non-convex optimization
外部ﾘﾝｸ[2572]:arxiv.org
これも読んでないのですが、これを紹介しているブログを読むと
>>65 の路線をそのまま発展させたか整理したもののようです
No more local minima?
外部ﾘﾝｸ:blog.terminal.com
>>65 は悪乗りで書いたんですが、色々とつながり勉強になりました
灯台下暗し
一旦突破口を見つけるとイナゴのようによってたかって片付けるNN48恐るべし
上下前次1-新書関写板覧索設栞歴
あと 824 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.020s