[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング31 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
367: (ﾜｯﾁｮｲ 3d02-76Y4 [118.154.96.7]) 2022/01/21(金)09:59 ID:+mYnI3nw0(1) AAS
モザイク外してモロ映像ができてたんなら猥褻物陳列罪に問われそうなもんだが違うのか
公開するのにわざわざモザイクかけ直したってことはないよな？w
猥褻物とは認識できないほどクオリティ低かったか
530(1): (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/10(火)13:14 ID:zWCxNbfy0(1/2) AAS
バッチはサイズだけでなくサンプルのまとめ方が重要になる場合も
たとえば数字の文字認識をする場合は１つのバッチに0-9のサンプルがバランスよく
含まれるようにした方が学習がうまく行く
逆に、0だけ、1だけとかでバッチを作ってしまうとなかなか収束しなくなる
535(1): (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/10(火)18:35 ID:zWCxNbfy0(2/2) AAS
>>533
俺も論文とかはわからないが教科書に載ってるレベルの話なような
バッチのサンプルでまとめて勾配を計算するので、サンプルのバランスが悪いと
ウエイトがあっちに行ったりこっちに行ったりしてしまうが、
バランスが良いとあるべき方向に真っ直ぐ進みやすい、ということかなと直感的には理解している
539: (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/11(水)02:35 ID:n/T4USjf0(1/4) AAS
確率的勾配降下法と最急降下法が混じってないか？
最急降下法 : 全サンプルで一度に勾配を求めてウエイトを更新
確率的勾配降下法：１サンプル毎に勾配を求めてウエイトを更新
ミニバッチ勾配降下法：ミニバッチ毎に勾配を求めてウエイトを更新
んで >>524- あたりから話してるのはミニバッチ勾配降下法についてね
543: (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/11(水)09:43 ID:n/T4USjf0(2/4) AAS
確率的勾配降下法でもミニバッチでもサンプルの与え方が偏るのはダメ
普通は学習ツールがランダムシャッフルしてくれるから気にしなくてもだいたいうまく行くが
性質の違うデータの種類がいっぱいあるような場合はランダムに任せてるとバッチ内のサンプルが
偏りやすくなる場合がある
そのため、たいていの学習プラットフォームではバッチを生成する処理を上書きするための
手段が用意されてたりする
バッチの処理順序はランダムでok
548(1): (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/11(水)20:06 ID:n/T4USjf0(3/4) AAS
それはなんかズレてるような
学習データでしか学習しない（勾配を求めて降下させることもない）んだから母集団とか持ち出さなくても
確率的と最急降下の本質的な違いは、確率的に学習することによりローカルミニマムを抜け出す
チャンスがあるかどうかなのでは
そういう意味ではミニバッチ法も確率的だというのはあってると思う
550: (ﾜｯﾁｮｲ 5102-U1YL [118.154.96.7]) 2022/05/11(水)20:32 ID:n/T4USjf0(4/4) AAS
サンプルの選び方によって勾配が変わるので学習の方向はあっち行ったりこっち行ったりする
でもどちらかと言うと正しい方向に進む確率の方がちょっとだけ高い
そういう意味で確率的、なんだと思う
これはアニーリング問題と同じで、分子を最初は大きくランダムに動かして
（でもちょっとだけ正しい方向に進みやすくして）少しずつ動きを小さくしていくと
最も安定したところに収束する
分子の動き＝温度で、温度を十分にゆっくり下げると最適解に到達することが証明されてる
だからDLでも学習率(温度と等価)の下げ方が重要なんだが最近は自動になって便利だね
663: (ﾜｯﾁｮｲ cf02-643o [118.154.96.7]) 2022/06/19(日)09:35 ID:G2ekVkpa0(1) AAS
何が問題なのかわからんが、完全に0になると勾配も消失するので学習が進まなくなるのでは
719: (ﾜｯﾁｮｲ 5502-XsAS [118.154.96.7]) 2022/06/30(木)18:05 ID:zfATy2ZV0(1) AAS
アルファ碁みたいなのをやろうとしてるんだよな？
モデルの方を調整するのは難易度高そう
探索のときにプレイアウトしてるんだよね？
そんなら決着までの手数の見積もりはできることになるから、最終的に手を選ぶときに
勝率だけじゃなくて手数も加味するようにすればいいのでは
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.036s