[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング28 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
417(1): (ﾌﾞｰｲﾓ MMa6-3Jm0 [163.49.206.84]) 2020/07/02(木)12:54 ID:yffqE1NHM(1) AAS
>>414
次元削減みたいなもん？
418(1): (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/02(木)13:41 ID:0WiTNedI0(2/4) AAS
>>417
次元削減とは関係がない
例えば気温とコインランドリーの売上との因果を知りたいとしよう
雨が降れば気温が下がるから天気の影響を取り除いた条件付き共分散COV(売上,気温|天気）、これを求めるのが因果推論の目的。
しかし、その時よく使われる回帰分析は条件付き期待値E(売上｜気温,天気)を求めていて、さらに古典的な回帰分析は気温と天気が無相関であることを仮定している
そこでlasso回帰というベイジアンを導入してその仮定を取り除いている訳だが、その回帰係数が本当に条件付き共分散を与えるか教科書には書かれていない
ちなみに天気と気温が無相関であれば気温の回帰係数が０の時COV(売上,気温|天気)=0になることが証明出来るが問題はそうでないとき
419(1): (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/02(木)13:49 ID:zuc+dLkW0(3/4) AAS
>>418
共分散が因果関係を表すとは自分は理解していないけどそうなのか？
回帰分析は気温の変数と売上の変数の関係を数式で表してるだけで因果関係は判らないのはそうだと思う
420: (ﾜｯﾁｮｲ 3154-Ydyj [180.235.6.52]) 2020/07/02(木)14:17 ID:2mrMXuxp0(3/4) AAS
いじめすぎ
421: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/02(木)15:03 ID:0WiTNedI0(3/4) AAS
>>419
＞共分散が因果関係を表すとは自分は理解していない
条件付き共分散には方向がないし、天気以外にも色んな影響を受けてるかもしれないから、その辺注意しながらデータを作っていく必要があるな
それをして、さらに正規分布に従うことを仮定したとしてもlassoの回帰係数を使うのが線形な因果関係を知るのに本当に正しい方法なのか疑問を持つべきだと思ってる
因果推論の手法は証明があって使い物になると思ってるからな
422(1): (ﾜｯﾁｮｲ 2dda-NP8p [114.182.229.85]) 2020/07/02(木)18:54 ID:d/Q3OaGm0(1) AAS
まあ、とりあえず共分散を信じきってる人よりましかな
423: (ﾜｯﾁｮｲ 929c-vnzE [61.125.210.168]) 2020/07/02(木)19:47 ID:5r4tXSjU0(1) AAS
一昔前のおじさんにはわかると思うけど
共分散構造解析が流行った時代があっての
ホッホ
424(1): (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/02(木)19:51 ID:0WiTNedI0(4/4) AAS
>>422
共分散の話はしていない
条件付き共分散の話をしているがそれを信じるかどうかの話もしていない
条件付き共分散を信じるとして、それをどうやって求めるのかという話をしている
425: (ﾜｯﾁｮｲ 3154-Ydyj [180.235.6.52]) 2020/07/02(木)20:25 ID:2mrMXuxp0(4/4) AAS
懐かしいね(笑)
426: (ﾜｯﾁｮｲ 0101-ERT+ [126.25.237.140]) 2020/07/02(木)21:08 ID:5ioQoB6t0(1) AAS
受験勉強ができるなんてのはオーバーフィットの典型例じゃん
427: (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/02(木)21:48 ID:zuc+dLkW0(4/4) AAS
>>424
条件を満たすデータを集めて分散共分散行列を計算したらいいのではないの？
相関行列でも線形な相関の程度は分りそうだけど
共分散が分かると何が出来る？
何のために共分散が必要？
428: (ｽｯｯﾌﾟ Sdb2-NP8p [49.98.170.131]) 2020/07/03(金)10:09 ID:8WulLCs8d(1) AAS
まるちんげーる(確率変数と時間の相関)
カルマんフィルタ
429: (ﾌﾞｰｲﾓ MM55-CLsu [210.138.179.220]) 2020/07/04(土)15:42 ID:NnHpeN18M(1) AAS
＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw
日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw
430: (ﾜｯﾁｮｲ b606-CgCh [223.165.55.42]) 2020/07/04(土)16:53 ID:kboI8Cod0(1) AAS
G検定受け終わったー
教師強制なんて参考書に出てこなかったんだが
431(3): (ﾜｯﾁｮｲ 1255-VQSO [59.147.205.222]) 2020/07/04(土)19:35 ID:Fkv+Fc/J0(1/2) AAS
Raschkaの機械学習の本を読んでいて、一番最初のパーセプトロンのところで躓いた。
重みをああいう風に更新しても正しく分類されていない点が正しく分類されるようになるとは限らないと思う。
中井悦司の機械学習理論入門の4.2.2でいうと、
点(x, y)が以下のように正しく分類されていないとする。
w_1*x + w_2*y < 0
t = 1
重みは以下のように更新される。
w'_1 = w_1 + x
w'_2 = w_2 + y
w'_1*x + w'_2*y = w_1*x + w_2*y + x^2 + y^2となるが、これがかならずしも正になるとは限らないと思う。
x^2 + y^2 > 0 ならば改善はされるとは思いますが。
432(1): (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/04(土)20:40 ID:gQDxarsI0(1/3) AAS
xORのパターンはパーセプトロンでは分類できない
次元を増やすとか層を増やすとかで解決するんじゃないか
433: (ﾜｯﾁｮｲ 1255-VQSO [59.147.205.222]) 2020/07/04(土)20:43 ID:Fkv+Fc/J0(2/2) AAS
>>432
パーセプトロンで分類できることがあらかじめわかっているデータにアルゴリズムを適用したときの話をしています。
434: (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/04(土)21:41 ID:gQDxarsI0(2/3) AAS
最小値じゃなくて極小値ローカルミニマムに捕まるときはあるだろうね
435: (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/04(土)21:42 ID:gQDxarsI0(3/3) AAS
具体的にどんなときに問題になる？
436(1): (ｱｳｱｳｳｰ Sa4d-PeUO [106.154.130.146]) 2020/07/04(土)23:01 ID:AaHxJlLHa(1) AAS
>>431
パーセプトロンの収束定理というものがあるので、必ず有限回で正しく分類できるようになる
437: (ﾜｯﾁｮｲ a590-qPyq [42.124.105.96]) 2020/07/04(土)23:33 ID:Ufkm+O3o0(1) AAS
全くついていけない。1%もお前らの話を理解できない
そんな能力あるなあdeepnudeとかいろいろ貢献しろよ
438: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)01:51 ID:I6aovzvx0(1/4) AAS
>>431
その本読んでみないと何とも言えんな
パーセプトロンの解説なんてネット上に腐るほどあると思うんだがな
一般的には分類用の単純パーセプトロンはロジスティック回帰が使われる事が多くて、指数型分布族でコスト関数が凸になるからつまずくとこなんてあるかーって感じだわ
普通にロジスティック回帰の勾配法での更新式を自分で計算してみたらどうだ？
「ロジスティック回帰 勾配法 導出」とかで検索すれば直ぐ答えが得られるが
439(1): (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)03:01 ID:I6aovzvx0(2/4) AAS
>>431
あーなるほど、これは活性化関数にステップ関数を使っていて、さらにデータは線形モデルで精度１００％が達成可能である事を前提としてんのね
それじゃあロジスティック回帰とは全然違うわなｗ
重みの更新式は学習率に応じて少しずつ何度も繰り返し計算されるからいずれ正になるぞー
w'_1*x=w_1*x+η*x^2 > w_1*x
となるわけだから
ηは学習率
440: (ﾜｯﾁｮｲ 3154-Ydyj [180.235.6.52]) 2020/07/05(日)05:01 ID:lzcLlLGQ0(1) AAS
ドヤりたいだけのつまらない人だよ
441: (ﾜｯﾁｮｲ 35da-VQSO [58.89.131.23]) 2020/07/05(日)10:27 ID:jg0qNhIf0(1/2) AAS
ドヤ
442: (ﾜｯﾁｮｲ a5ad-+WYv [42.144.122.89]) 2020/07/05(日)11:43 ID:I6aovzvx0(3/4) AAS
面白い人である必要はない
443(3): (ﾜｯﾁｮｲ 1255-VQSO [59.147.205.222]) 2020/07/05(日)11:59 ID:SI7fUPbV0(1/2) AAS
>>439
ありがとうございました。
ループの途中でi番目の点(x, y)のところに来たとします。
点(x, y)が以下のように正しく分類されていないとします。
w_1*x + w_2*y < 0
t = 1
重みは以下のように更新されます。
w'_1 = w_1 + x
w'_2 = w_2 + y
w'_1*x + w'_2*y = w_1*x + w_2*y + x^2 + y^2となります。
x^2 + y^2 > 0 ならば改善される。
ループを回して、次にまたi番目の点(x, y)のところに来たとします。
この時点で重みの値は他の点の処理によって、一般的に何度も更新されているはずです。
w_1*x + w_2*yの値を計算したときに、一つ前に計算処理をしたときよりも状況が悪くなっている可能性もあるのではないかと思うのですが、いかがでしょうか？
現時点でのw_1*x + w_2*yの値 < 一つ前の計算時点でのw_1*x + w_2*yの値 < 0
となってしまう可能性です。
444: (ﾜｯﾁｮｲ 1255-VQSO [59.147.205.222]) 2020/07/05(日)12:02 ID:SI7fUPbV0(2/2) AAS
>>436
そういう定理があるということは、結局は、分類されるということだと思いますが、
>>443
のようなことが起こらないということは自明なことではないと思います。
445: (ﾜｯﾁｮｲ 5e10-yRwb [153.131.102.129]) 2020/07/05(日)13:19 ID:IjpqC/LQ0(1) AAS
>>443
2乗したら虚数でなければまだ負にならないんじゃないか？
xもyもゼロの時は正にならないけど
446: (ﾌﾞｰｲﾓ MM55-CLsu [210.138.179.116]) 2020/07/05(日)15:52 ID:hWyZiwwGM(1) AAS
＞ お前は毎朝起きるたびに俺に負けたことを思い出すよ＾＾
あー、ホンッとに思い出すなあ（笑）
キチガイの嘘つきの低レベルFランの、
朝鮮ゴキブリBot君は、
チョン独特の「なにもできないけど俺のほうがジャップより偉い！」的な
ことはよーくわかったよ。
ホントなにもできない朝鮮ゴキブリBot君！
クソチョンｗ
Pythonさえろくにできないバカチョンのくせに
できるとほざくクソチョンw
日本で強姦と窃盗を繰り返す
犯罪者在日のクソチョンw
上下前次1-新書関写板覧索設栞歴
あと 556 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.030s