[過去ログ] 【統計分析】機械学習・データマイニング8©2ch.net (1002レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
176
(2): 2016/06/12(日)07:23 ID:vVZR4K/C(1/2) AAS
>>130 物理や数学との違いの一つとして多くの方言があるように思う
ターゲットの問題の多様さや人口の多さに起因しているのかもしれない
例えば、同じ自然言語をターゲットにした研究者でも言葉が通じなかったりする
word2vec Explained: Deriving Mikolov et al.’s Negative-Sampling Word-Embedding Method | Omer Levy
Omer Levy](外部リンク:wp.me
> We found the description of the models in these papers to be somewhat cryptic and hard to follow.
「word2vecイミフ過ぎwww 人間の言葉で書き直したった」盛りましたすみません
目抜き通りで日本人の名前をを見ることがないのは事実かもしれないけど
裏通りに入ると日本人村があったりする
>>65 で挙げた論文はモントリオールのチームだと思うけど普通の物理や数学よりも
日本人密度が高いように思う
ヘシアンの負固有値の数が標高が下がるにつれ少なくなることを観察して
標高の高いところの極値をスキップしやすいオイラー法改を提案している
>>147 に関係した話題だと思う
178
(1): 2016/06/12(日)20:55 ID:vVZR4K/C(2/2) AAS
つながり見っけ

裏道どころかタイムズスクエアの真ん前にいたんですね
前のスレッドで「現在のDNNにおける未解決問題」というスライドを挙げたんですが
スピングラスの下りでの元ネタの一つです
Open Problem: The landscape of the loss surfaces of multilayer networks
外部リンク[html]:www.jmlr.org
> Earlier theoretical analysis, conveniently reviewed in Dauphin et al. (2014), suggest the
> existence of a certain structure of critical points of random Gaussian error
> functions on high dimensional continuous spaces.
> ...
> Nevertheless they provide no theoretical justification for the existence of this connection.
読んでないので憶測ですが、Dauphinさん達の観察したモース指数と標高の関係を
スピングラスを使って導けるよという趣旨のようです
そのDauphinさん達の仕事です
Identifying and attacking the saddle point problem in high-dimensional non-convex optimization
外部リンク[2572]:arxiv.org
これも読んでないのですが、これを紹介しているブログを読むと
>>65 の路線をそのまま発展させたか整理したもののようです
No more local minima?
外部リンク:blog.terminal.com

>>65 は悪乗りで書いたんですが、色々とつながり勉強になりました
灯台下暗し
一旦突破口を見つけるとイナゴのようによってたかって片付けるNN48恐るべし
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ

ぬこの手 ぬこTOP 0.032s