[過去ログ] 【統計分析】機械学習・データマイニング8©2ch.net (1002レス)
1-

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
178
(1): 2016/06/12(日)20:55 ID:vVZR4K/C(2/2) AAS
つながり見っけ

裏道どころかタイムズスクエアの真ん前にいたんですね
前のスレッドで「現在のDNNにおける未解決問題」というスライドを挙げたんですが
スピングラスの下りでの元ネタの一つです
Open Problem: The landscape of the loss surfaces of multilayer networks
外部リンク[html]:www.jmlr.org
> Earlier theoretical analysis, conveniently reviewed in Dauphin et al. (2014), suggest the
> existence of a certain structure of critical points of random Gaussian error
> functions on high dimensional continuous spaces.
> ...
> Nevertheless they provide no theoretical justification for the existence of this connection.
読んでないので憶測ですが、Dauphinさん達の観察したモース指数と標高の関係を
スピングラスを使って導けるよという趣旨のようです
そのDauphinさん達の仕事です
Identifying and attacking the saddle point problem in high-dimensional non-convex optimization
外部リンク[2572]:arxiv.org
これも読んでないのですが、これを紹介しているブログを読むと
>>65 の路線をそのまま発展させたか整理したもののようです
No more local minima?
外部リンク:blog.terminal.com

>>65 は悪乗りで書いたんですが、色々とつながり勉強になりました
灯台下暗し
一旦突破口を見つけるとイナゴのようによってたかって片付けるNN48恐るべし
1-
あと 824 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ

ぬこの手 ぬこTOP 0.019s