[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング29 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
850(2): (ｱｳｱｳｴｰ Sae3-6xLJ [111.239.185.234]) 2020/12/11(金)20:36 ID:BgeuQOWca(3/4) AAS
外部ﾘﾝｸ[pdf]:ibis.t.u-tokyo.ac.jp
最近の深層学習理論が纏められている
読むと良い
851: (ｱｳｱｳｴｰ Sae3-6xLJ [111.239.185.234]) 2020/12/11(金)20:40 ID:BgeuQOWca(4/4) AAS
外部ﾘﾝｸ[pdf]:ibis.t.u-tokyo.ac.jp
852: (ﾌﾞｰｲﾓ MM3d-SCev [202.214.231.57]) 2020/12/11(金)20:46 ID:OnRhFRT3M(1) AAS
＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な ことはよーくわかったよ。 ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw
日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw
853: (ｽｯﾌﾟ Sd33-EgOZ [49.97.106.249]) 2020/12/12(土)10:33 ID:4+CF+8cud(1) AAS
>>850
とてもためになりました。ありがとう。
854: (ﾜｯﾁｮｲ 5952-74Z4 [118.243.75.50]) 2020/12/12(土)13:35 ID:9H+yvdp50(1/3) AAS
偉い人(ﾟ∀ﾟ 三 ﾟ∀ﾟ)来てた
この資料いい
855: (ﾜｯﾁｮｲ 0b10-LBAI [153.131.102.129]) 2020/12/12(土)13:53 ID:D9gFLJkJ0(1/3) AAS
850, 851のpdfを読むと
層の横幅Mが広い（素子数が多い）と大域的最適解を得られるっぽいけど
どのくらいの素子数なのか実現可能な数なのかはよくわからなかったな
その素子数を計算で求めることができるのかも
P20に初期化は1/Mって書いてあるけど、横幅Mを計算するλminが何か書いてないような
wの初期化するN(0,I)のIも何か判らない
NTKで調べたら出てくるのか？
逆温度βもどんな値になるのか、変化するのかも判らないな
非凸性→深層学習
その他→他の機械学習（ランダムフォレストとか）
が適しているって感じ？
856(1): (ﾜｯﾁｮｲ 13ad-MyGI [125.13.183.98]) 2020/12/12(土)13:53 ID:qFkF8Df00(1/2) AAS
勾配降下法の意味は理解できましたが、使う意味がよく分からないです。
初めから勾配ベクトルが零ベクトルになるように偏微分の連立方程式解いて
その解を損失関数に代入したものの中から最小のものを選べば済むんじゃないですか？
そうすれば局所最適解に陥ることも避けられますし
857: (ﾜｯﾁｮｲ 5952-74Z4 [118.243.75.50]) 2020/12/12(土)14:05 ID:9H+yvdp50(2/3) AAS
わかんない😭💦💦
858: (ｵｯﾍﾟｹ Sra5-6xLJ [126.194.64.89]) 2020/12/12(土)14:07 ID:lSvR9P/Gr(1) AAS
>>856
数千万次元の非線形連立方程式が解けるのならね
859: (ﾌﾞｰｲﾓ MMed-Y1oi [210.138.178.145]) 2020/12/12(土)14:23 ID:FBvDYARoM(1) AAS
高校生なのかな。。
860: (ﾜｯﾁｮｲ 51ad-8thv [42.148.220.186]) 2020/12/12(土)15:03 ID:uoFruwVO0(1) AAS
損失関数の導関数が4次方程式までなら頑張れば解析的に解ける希ガスとか言ってるテスト
861(1): (ﾜｯﾁｮｲ 13ad-MyGI [125.13.183.98]) 2020/12/12(土)15:52 ID:qFkF8Df00(2/2) AAS
次元（変数の数？）が膨大な上に、偏微分で得られた導関数が5次以上になると
代数的に解くことができなくなるからってことなんですね
勉強になりました、ありがとうございます
862: (ﾜｯﾁｮｲ a1da-9ESD [114.183.142.212]) 2020/12/12(土)16:15 ID:cW0yBRdh0(1) AAS
意味がねーｗ
863: (ﾜｯﾁｮｲ 5902-LBAI [118.154.96.7]) 2020/12/12(土)16:29 ID:Qgp/l0qJ0(1) AAS
>>861
計算量の問題もあるが、それだけじゃないんだぜ
学習データだけで最適解を求めてしまうと過学習に陥りやすくなる
いろいろ制約つけて、学習を途中で止めた方が汎化性能が高くなる
アーリーストップとかで調べてみるといいよ
864(1): (ﾜｯﾁｮｲ 5952-74Z4 [118.243.75.50]) 2020/12/12(土)17:27 ID:9H+yvdp50(3/3) AAS
解析的に求められないってことを知った上での発言かと思ってた
865(1): (ｱｳｱｳｳｰ Safd-orE1 [106.154.128.125]) 2020/12/12(土)19:10 ID:cvY7SZ8Va(1) AAS
極端な話n次元ならn次方程式を用意すれば
サンプルを完全にトレースできる
でもそれだと過学習
一つ別のデータに出会ったとたん破綻する
866: (ﾜｯﾁｮｲ 0b10-/9i7 [153.131.102.129]) 2020/12/12(土)19:25 ID:D9gFLJkJ0(2/3) AAS
非線形だから簡単じゃないんだろう
わざわざより高次元空間に写して線形判別しないと上手くいかない
867(1): (ﾜｯﾁｮｲ 0b10-/9i7 [153.131.102.129]) 2020/12/12(土)19:30 ID:D9gFLJkJ0(3/3) AAS
>>865
それは違う気がするな
重みやパラメータをデータから決めただけで
モデルの出力が学習に使用したデータから少しずれたら判別でしなくなるのとは違う
例えば2値判別する時に2点のデータからその中間で判別する境界線を学習したら
データの2点から少しズレても正しく判別できる
868: (ﾜｯﾁｮｲ e901-qdUP [126.25.239.8]) 2020/12/13(日)15:04 ID:QUI91bME0(1) AAS
>>864
多分「解析的に求められない」の意味もわかってないと思われる。
869(1): (ﾜｯﾁｮｲ 0b10-/9i7 [153.131.102.129]) 2020/12/13(日)17:00 ID:tqYTVUHS0(1/3) AAS
>>867
同じグループに判別されるデータが飛び飛びではなくて連続しているという前提が成り立つ空間ではそうなるけど
少しズレたら別のグループに判別される様な空間では複雑な境界線になるだろうな
870(1): (ｱｳｱｳｳｰ Safd-orE1 [106.154.120.237]) 2020/12/13(日)17:57 ID:25RZkjwia(1/2) AAS
>>869
それを解消するために座標変換するんじゃないのか?
871: (ｱｳｱｳｶｰ Sa35-lled [182.251.230.94]) 2020/12/13(日)18:03 ID:DA9wJKZga(1) AAS
その通り
飛び飛びかどうかなど自分で勝手に決めた空間での話に過ぎない
872(1): (ﾜｯﾁｮｲ 0b10-/9i7 [153.131.102.129]) 2020/12/13(日)19:15 ID:tqYTVUHS0(2/3) AAS
>>870
それは判っているけど
具体的にどんな変換をしたら良いかはどうやって見つける？
873: (ｱｳｱｳｳｰ Safd-orE1 [106.154.120.237]) 2020/12/13(日)21:11 ID:25RZkjwia(2/2) AAS
>>872
片っ端から試してみる
874(1): (ﾜｯﾁｮｲ 0b10-t6eo [153.131.102.129]) 2020/12/13(日)21:42 ID:tqYTVUHS0(3/3) AAS
試したものより良いものがあるかもしれない
試したものが良くないものばかりの場合は幾ら試しても大して改善しない
875: (ﾜｯﾁｮｲ a1da-9ESD [114.183.142.212]) 2020/12/13(日)21:52 ID:PRaoFZ6s0(1) AAS
笑
876(1): (ｱｳｱｳｶｰ Sa35-lled [182.251.225.141]) 2020/12/14(月)00:23 ID:ZA1fGlD1a(1) AAS
>>874
そもそも真の分布などが分からないものを扱うために分析者の判断で何らかの近似をするのが機械学習を含む統計的分析なので「その方法よりいい方法があるかもしれない」は常に発生する問題
877: (ﾜｯﾁｮｲ 0b10-/9i7 [153.131.102.129]) 2020/12/14(月)00:50 ID:Uxl3N8rs0(1/2) AAS
>>876
必要な次元とか空間の特徴とか計算料を少なくする条件とか
判る事がゼロなのかどうかで違ってくるだろう
878(1): (ﾜﾝﾄﾝｷﾝ MMd3-74Z4 [153.147.50.225]) 2020/12/14(月)11:04 ID:oqEGCmVFM(1/2) AAS
アルゴリズムにも人権を与えて
自動運転でミスったりしたら
減点すればいい
運転免許もアルゴリズムに与えて
失敗したアルゴリズムには免許与えない
アルゴリズムが得た給料を
損害時の補償に使う
人を殺したらそのアルゴリズムを死刑つまり廃止する
879: (ｱｳｱｳｴｰ Sae3-6xLJ [111.239.184.222]) 2020/12/14(月)11:59 ID:hG9yFSana(1/2) AAS
そして機械学習は禁止され、技術の発展は止まりましたとさ
上下前次1-新書関写板覧索設栞歴
あと 123 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.016s