[過去ﾛｸﾞ] 【統計分析】機械学習・データマイニング20 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
634: (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/02(火)18:41 ID:2AKCrptK0(2/3) AAS
研究や学習用途ならもうcolabでいいんじゃねーの
TPUまで無料で使えるようになったから最強すぎるわ
ただ12時間超える学習なんかの場合は、途中で保存する処理を作るか
既にある処理を使う必要性がある、Kerasには既にある
tensorflowの低レベルでやる場合は自分で書く必要性あるのかな
Pytorchはまだ触り程度で詳しくないけど、kerasと同じようなライブラリあるならそれ使えばいい
業務やサービスの場合はどうせAWSかGCP,Azure借りるだろ
635: (ﾜｯﾁｮｲ 9f23-S4i9) 2018/10/02(火)19:43 ID:+CsxoQN10(1) AAS
学習中に不明な原因で接続が切れてた時の絶望感
636(1): (ｱｳｱｳｳｰ Sadb-VGrh) 2018/10/02(火)20:06 ID:Fw3dw3lVa(1) AAS
sotaという言葉を知らなかったので調べてみてstate of the artの略で直訳すると最先端とかそんな意味だから何となく言いたいことは分かったけど機械学習分野での定義に当たるものが全然見つからない
sota達成とか誰がどうやって決めてるの？
637: (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/02(火)22:59 ID:2AKCrptK0(3/3) AAS
>>636
sotaって論文で書いてる連中は
arxivなどのオープンアクセスな論文サイトに投稿されてるコンピューターサイエンスの論文で有用なのはほとんど全部読んでる
だからどれが最高水準かを知ってるから
その分野におけるsota近辺のモデルの論文の結果と比較してsota達成としている
っていうのが俺の認識
論文完璧に追ってる以外にもカンファレンスで情報収集してるってのもあるだろうけど
物理学なんかと違って、ML分野はオープンアクセスな論壇で発展してきたからこうなってるんだろうけど
その辺の事情を追えてない日本人には全くわからん状態なのも仕方ない
638: (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/03(水)00:45 ID:+7Euz2g60(1/5) AAS
あぁカンファで同時にsota報告が上がってたんだな
そりゃカンファで採択されるかされないかと
オープンアクセスサイトでの論文公開タイミングは、ものによってはちげーから
いくら先端追ってる連中でも被るのは仕方ない
・GAN的な双方向マルチ学習(自然言語で言うなら敵対的逆翻訳のしあいっこ？)
・特徴に時間間隔とポジション付与
・Attentionの構造改善
この3つが大体の今のトレンドだろ
全部組み合わせたのも半年以内に出てくるだろうけど
結局の所、事象における連続した時間情報の把握と
その状態における時間変化率の学習が上手く出来てないから汎用AIにはなれんだろう
ちゃんとした学者にも俺と似たような事言ってる人いて
脳構造の模倣による時間情報の学習を、哲学的な部分からやろうって言ってる人いるけどどうなるかな
639: (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)01:19 ID:jfGK+xYpd(1) AAS
脳構造だからうまくいくわけではない。
640: (ﾜｯﾁｮｲ 9f65-i+ik) 2018/10/03(水)01:29 ID:dkrkSoVO0(1) AAS
神経構造なんかは既に解明されてるけど
そうなるとしか分かっていない回路形成の発生学とか
関与しているらしいけど何してるのかいまいち分かっていないグリア細胞とか
こっちの方がモデリングをする上で重要だと思うけどね
今のMLでは生物の機能の一部を模擬してるだけに過ぎない
641: (ﾜｯﾁｮｲ 37a5-VkMC) 2018/10/03(水)05:14 ID:qbq9gQbU0(1) AAS
脳の機能（笑）哲学（笑）
642: (ﾜｯﾁｮｲ 971e-ZVm4) 2018/10/03(水)07:10 ID:1cI2REY30(1) AAS
哲学の成功は論理学と実証主義で完成したと思うよ
643(2): (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)12:26 ID:+58IDnbyd(1/8) AAS
脳モデルはあくまでNN、DL起案者が何をモデルとして数学モデル化したかであり、NN、DLは脳モデルそのものではない。
また、そもそも脳モデルが最適なモデルかどうかはまだ証明が存在しない。
たまたまDLがよい結果出たからそう言われてるだけ。
脳モデルが最適かどうかという前提を何も示さずに、研究者のなかに、『脳の伝達には〜があるから○○を追加したらこうなるはず』みたいな議論されているのを見ると、滑稽に思う。
644: (ﾜｯﾁｮｲ 57c3-aemA) 2018/10/03(水)12:28 ID:sAnPmpeI0(1) AAS
なぜ最適を求める？
645: (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)12:30 ID:+58IDnbyd(2/8) AAS
よりよい結果が出たらそっちを採用するだけ。
それが脳モデルになるとは限らない
646(1): (ﾜｯﾁｮｲ 9f23-aemA) 2018/10/03(水)12:31 ID:in1HBOwn0(1/2) AAS
>>643
ほんこれなんだよね
Andrew NgもDLを脳に結びつけて説明するのは、誤解が多いから止めたって言ってたわ
647: (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)12:32 ID:+58IDnbyd(3/8) AAS
世にこれだけディープラーニングが広まったのは、脳モデルの説明による功績が大きいけどな
648: (ｱｳｱｳｳｰ Sadb-VGrh) 2018/10/03(水)12:35 ID:d+kLgL6ia(1) AAS
人間の脳が超省エネで高速に学習して予測結果の出力できているのと比較すると現行モデルは脳と呼ぶにはには程遠いんだけど非理系メディアでは人間の脳を模倣しているなどと喧伝される
649: (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)12:37 ID:+58IDnbyd(4/8) AAS
世に広めるにはイメージが大事です。
ただ研究者はイメージで研究してはダメです。
650(1): (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/03(水)13:20 ID:+7Euz2g60(2/5) AAS
CSなんて結局は計算能力との兼ね合いだからな
仮に完全に脳構造を模倣したモデルを組み上げたとしても
それがクソ重くて現行の計算資源で回らなけりゃクソだとしか評価されん
かといって脳構造の模倣や考察を放棄するのは適切じゃない
世界モデルもこっちよりだし、強化学習をやるためには避けられないだろう
問題はRNN,LSTMでは事象における連続した時間情報をあまり学習できてないってことだな
TransformerとUTは時間間隔をと位置情報を特徴に埋め込む事で
マルチヘッドセルフattentionにそれらを処理させているが
おそらくは完璧を求めると
階層的にAttentionによる時間情報とポジション付与をしつつ、それらを考慮したCNNで畳み込み
なおかつそれらすべての層を参照しながら、動的に再帰的処理する必要性がある
これにGAN的な世界モデルによる強化学習手法を取り入れれば汎用AIができるだろう
計算力はどうせなんとかなるだろうし
誰かが気づけば、あと10数年で汎用AI完成するんじゃね
651: (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/03(水)13:29 ID:+7Euz2g60(3/5) AAS
そもそも脳構造の哲学的推測における模倣はイメージじゃなくて
ただの論理的思考なんだけど
推測の過程において論理が飛躍しすぎてると
大抵の人は妄想だと判断して、考察を放棄する傾向があるからしょうがないわな
それが当たり前だもの
652: (ｱｳｳｨﾌ FFdb-+W5L) 2018/10/03(水)13:44 ID:oOvr2XyQF(1) AAS
>>646 >>643
小脳とかをラッピングする形で大脳とかがあるように
NN を別の何かでラッピングするようなモデルがあっても
まだ全く脳のモデルですらない
653(2): (ﾜｯﾁｮｲ 9f23-aemA) 2018/10/03(水)14:55 ID:in1HBOwn0(2/2) AAS
遺伝的アルゴリズムも名前が強そうだけど、中身はびっくりするレベルでしょぼいよね
654(1): (ｱｳｱｳｳｰ Sadb-VGrh) 2018/10/03(水)15:06 ID:6o3Z2FT6a(1) AAS
ニューラルネットワークなんて回帰を多層にしただけの超単純構造
655: (ﾜｯﾁｮｲ 178a-S4i9) 2018/10/03(水)15:13 ID:sMpk7EKP0(1) AAS
>>653
はったり、生物の進化淘汰なんかどこにもない
656(2): (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)17:49 ID:+58IDnbyd(5/8) AAS
大事なことなので復唱します。
世に広めるにはイメージが大事です。
ただ研究者はイメージで研究してはダメです。
研究者の中には、脳モデルが最適かどうかという前提を何も示さずに、
『脳の伝達には〜があるから○○を追加したらこうなるはず』
みたいな議論されている方々がおりますが、根拠が薄く滑稽に思います。
657: (ﾜｯﾁｮｲ 17d2-ZVm4) 2018/10/03(水)17:57 ID:Oh5w9UQA0(1) AAS
>>653
AI関連の話題は、タイトルは大げさなんだけど内容はショボいよね。
俺は頑張りますよ！
658: (ｱｳｱｳｳｰ Sadb-VGrh) 2018/10/03(水)18:01 ID:3Ieh8Fw3a(1) AAS
最適かどうかは完成物があれば評価できるんだからいいでしょ
そもそも分からないから研究して新しいモデルを作るわけで
最初から何が最適か知っている人がいてそれを論理的に説明できるのならばとっくにそれがスタンダードになっているはずだがそうはなっていないんだから最適など誰も知らないと考えるのが自然
659(1): (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)18:05 ID:+58IDnbyd(6/8) AAS
つまりはまあ、最近の機械学習の論文なんて実績と経験則の積み上げ(帰納)によるものがほとんど。
より良きモデルからスタートしたモデルのアイデア(演繹)を求む
660(1): (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)18:10 ID:+58IDnbyd(7/8) AAS
アイデアと結果はあるのだかどうやって世に広めたらよい？
661: (ﾜｯﾁｮｲ 9fda-aQox) 2018/10/03(水)19:13 ID:+7Euz2g60(4/5) AAS
結果あるなら論文書いてarxivに投稿すりゃいいじゃん
高校生ですらMLの論文書いて投稿してたの昨年話題になったろ
662: (ｽｯｯﾌﾟ Sdbf-EJHQ) 2018/10/03(水)19:49 ID:+58IDnbyd(8/8) AAS
とんくす
663: (ﾜｯﾁｮｲ 778a-S4i9) 2018/10/03(水)20:20 ID:/V77wCG20(1) AAS
くず
上下前次1-新書関写板覧索設栞歴
あと 339 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.335s