[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング13 [無断転載禁止]©2ch.net (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
949(1): 2017/03/15(水)12:19 ID:0iMjLk/g(1) AAS
>>945
それじゃ無理だということが分かって一昔前のAIブームが終わった
950(1): 2017/03/15(水)12:24 ID:D4lD2LgX(1/2) AAS
こないだからずっと思ってたんだけど
ディープラーニングをディープて略されるのは
Mr.Childrenをミスターて略してるみたいに気持ち悪い
951: 2017/03/15(水)12:27 ID:6UZSGeP0(1) AAS
じゃあディーラーって略すはｗ
952: 2017/03/15(水)12:31 ID:D4lD2LgX(2/2) AAS
SVMて言ってるんだしDLでいいんでないの？
なんかダウンロードみたいだが
そもそもダウンロードをDLて略すのが間違ってると思うし
953: 2017/03/15(水)12:48 ID:sBpGkGRF(1) AAS
>>950
そんなのいるのかよ(笑)
954: 2017/03/15(水)12:56 ID:EEFqQF0a(1) AAS
略すな
辞書登録しろ
955: 2017/03/15(水)13:01 ID:7YWEdixI(1) AAS
機械学習で造ったような関西弁
956: 2017/03/15(水)13:17 ID:jOmRonVF(1/3) AAS
ML
957(1): 2017/03/15(水)13:18 ID:MeFnWNe/(1/3) AAS
カーネルとディープ組み合わせて結果出してるやついる？
カーネル関数はガウスじゃなくてもっと軽いやつ選びたいんだけど基底関数からじゃないかな？
958: 2017/03/15(水)13:19 ID:MeFnWNe/(2/3) AAS
最後訂正
基底関数の中からじゃあ都合のいいやつないかな？
959: 2017/03/15(水)13:32 ID:jOmRonVF(2/3) AAS
KSB
960(1): 2017/03/15(水)14:31 ID:KVIdBQgW(1/2) AAS
>>949
今はどんなイメージなん？
961(1): 2017/03/15(水)14:53 ID:nVuVQrDL(1) AAS
いまはエキスパートシステムと呼ばれるものの研究が主流だよ（一度廃れてディープラーニングとして復活した
べんきょうがんばってね
962: 2017/03/15(水)15:19 ID:jOmRonVF(3/3) AAS
IMF
963: 2017/03/15(水)15:27 ID:NuNTQfyE(1) AAS
FRB
964: 2017/03/15(水)15:37 ID:KVIdBQgW(2/2) AAS
>>961
分野じゃないけど興味あったんで頭だけ見てみます
965: 2017/03/15(水)17:04 ID:krqrFtb8(1) AAS
Elastic Weight Consolidation(EWC)ってより上位の階層のためのLSTMみたいなこと？？
966: 2017/03/15(水)17:19 ID:Qr/xhsJt(1) AAS
>>960
最初凝り固まったデータ群という粘土を捏ね繰り回して広げるイメージ
上手く特徴別に別れるように広げることができれば分類が出来るし
粘土を継ぎ足して行けば少ないデータから大きな表現を出せたりもする
967: 2017/03/15(水)17:44 ID:MfwcRQoI(1) AAS
PRML MAP推定が出てきたがはしょり感がはんぱでない
968: 2017/03/15(水)18:45 ID:MeFnWNe/(3/3) AAS
>>957に誰か答えてよ
969(1): 2017/03/15(水)20:03 ID:LU+w+iAT(1/2) AAS
ゲームプレイを学習しながらスキルを向上させる「DQN」やプロの囲碁棋士を打ち破る「AlphaGo」などの開発で知られる
GoogleのAI開発部門のDeepMindが、従来のニューラルネットワークが抱える欠点を解消するために、
データを記憶することで連続的に学習できるアルゴリズム「Elastic Weight Consolidation」を開発しました。
Overcoming catastrophic forgetting in neural networks
外部ﾘﾝｸ:www.pnas.org
Enabling Continual Learning in Neural Networks | DeepMind
外部ﾘﾝｸ:deepmind.com
ディープラーニングは言語の翻訳、画像分類、画像生成などさまざまなタスクを処理するための最も成功した機械学習技術として知られています。
しかし、ディープニューラルネットワークでは、大量のデータが一度に入力される場合にのみタスクを処理できるように設計されており、
ネットワークが特定のタスクを処理するときに、各種パラメーターは、そのタスクのために最適化されます。
このため、新しいタスクが導入されると、ニューラルネットワークがそれまでに獲得した知識は上書きされるという特徴があり、
これは「catastrophic forgetting(破滅的忘却、致命的な忘却)」と呼ばれ、ニューラルネットワークの限界の一つと考えられています。
ニューラルネットワークの構造上の限界に対して、人間の脳は段階的に学び、スキルを一つずつ身につけ、
新しい課題の解決のためにそれまでの知識を応用することができるという特長があります。
このような「過去のスキルを記憶して新しい課題の解決に応用できる」という人間やほ乳類が持つ学習の特長からインスピレーションを得たDeepMindは、
課題解決を記憶して後の課題解決に応用できるニューラルネットワークのアルゴリズム「Elastic Weight Consolidation(EWC)」を開発しました。
970(2): 2017/03/15(水)20:03 ID:LU+w+iAT(2/2) AAS
EWCでは、タスクを解決するたびに、そのデータがどれくらい重要なのかをスコア化します。
そして、その重要度を示すスコアに比例して記憶が上書きから保護される仕組みが採用されています。
つまり、重要でないデータはこれまでのニューラルネットワークと同じように上書きすることで消去されますが、
重要なタスクではデータが保護されるため、以前、学習した内容を上書きしたり、大きな計算コストをあらためて割くことなく、
新しいタスクを学習できるとのこと。
DeepMindはEWCの有効性をテストするために、Atariのゲームを使って実験しています。
個々のゲームをスコアだけから学習することはそれ自体が難しい作業ですが、複数のゲームを連続して学習することは、
各ゲームごとに個別の戦略が求められるため、さらに難度は上がります。
EWCを使わない通常のニューラルネットワークでは、青色のグラフのように、一つのゲームが終わると致命的な忘却によって
データが上書きされスコアが上昇しないのに対して、EWCを有効化すると、簡単に忘れることなく、
次々とゲームが変わる中でも学習することができたとDeepMindは述べています。
画像ﾘﾝｸ
(グラフ)
現在のコンピューターはデータに応じた対応ができずリアルタイムで学習することはできませんが、
DeepMindによると今回の研究によって、ニューラルネットワークにおける致命的な忘却は回避できることが示されたとのこと。
この研究は、より柔軟に効率的に学習できるプログラム開発への第一歩を踏み出したことを象徴するものだとDeepMindは述べています。
外部ﾘﾝｸ:gigazine.net
971: 2017/03/15(水)20:48 ID:jozrvDfJ(1) AAS
俺の人工知能
P(スパム投稿) = 1/(1+exp(-1*(-2+0.01*文字数)))
972: 2017/03/15(水)20:54 ID:sovBr57c(2/2) AAS
はぇ
973: 2017/03/15(水)20:58 ID:YWbWpAvC(1) AAS
titanxや1080tiで使えるらしいint8処理（new deep learning inferencing instruction）
って何か特別な命令や処理とか必要なのかね？
ググってもイマイチそれっぽい記事が見当たらない…
974: 2017/03/15(水)21:07 ID:FmdlRk34(1) AAS
俺に1080tiくれたら教えてやる
975: 2017/03/15(水)21:12 ID:XYUUle5Y(1) AAS
tfってgpuのメモリ溢れたらcpuからメモリ持ってくるように進化した？
976(1): 2017/03/15(水)21:51 ID:jsXrAsHW(1) AAS
>>969-970
強調したい所を引用するならまだわかるが全文コピペは無意味だ。
重要な所を選べないならスレに書くのはタイトルとURLだけにしてくれ。
977: 2017/03/16(木)00:29 ID:Ndm+AfAz(1) AAS
>>976
てめーが理解できないから無意味だ！
ということかw
978(2): 2017/03/16(木)01:19 ID:sxYttCSG(1) AAS
ニューラルネットは巨大状態遷移図と等価である
大規模な場合でもそれで合ってます？
上下前次1-新書関写板覧索設栞歴
あと 24 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.022s