深層学習ってどうやってプログラムすんの？ [無断転載禁止]©2ch.net (112ﾚｽ)
上下前次1-新
73: 2021/06/15(火)11:39 ID:94FRBqYd0(1) AAS
神戸大学と企業がいいチップ作ったみたいだ
74: 2021/06/17(木)11:13 ID:TcB8DLjg0(1) AAS
これの人間版の賢いやつ開発しといて
https://youtu.be/YtYdL_IkN8Y
75: 2021/06/26(土)14:18 ID:3md09QUI0(1) AAS
なんでシグモイドだったのかという理由がちゃんとあって本当はステップ関数にしたかったんだけど微分できねーから似たような形のシグモイドにしたっていう
その発想は今にもちゃんと受け継がれててBinary Netみたいな1bit入出力のネットワークとして受け継がれてる
76: 2021/06/30(水)11:58 ID:57PyOXVO0(1) AAS
どうやってプログラムしたんだろ？
https://mobile.twitter.com/RexChapman/status/1409566481206153219
https://twitter.com/5chan_nel (5ch newer account)
77: 2021/10/16(土)22:29 ID:TNVHTVH10(1) AAS
池田らしい
78: 2021/12/29(水)01:44 ID:kWUNm+VV0(1) AAS
生物のように閾値を超えたら発火を簡単に実装できればよかったのにね
79: 2021/12/30(木)14:49 ID:W1ZaApPF0(1) AAS
なるほど
80: 2022/01/01(土)09:25 ID:oXDTLzhT0(1) AAS
>>17
こいつは適当なこと言うから信用しないほうがいい
とってつけた付け焼き刃みたいなことでわかるほど簡単なことじゃない
信頼できるところから自ら学んで判断したほうがいい
81: おおしまくすお れいわ新選組嫌い 2022/01/05(水)16:50 ID:aViRD6Ac0(1) AAS
おまんこ https://www.youtube.com/watch?v=Ay-e3AWkKSs&t=4s
82: 2022/02/08(火)21:06 ID:s3XlsOy00(1) AAS
ね み と@CH4NGE
@nemito_kuki
歌ったりデザイナーしたり。アイコン（
@srgm_cyomo
）様 ヘッダーイラスト（
@imomomo_imo
）様 Y: https://youtube.com/channel/UCercjbfy69IazQ-7Qht06cw ヘッダーロゴは自作。↓ロゴ相談はDM・依頼は下記URLから。
うるさいかも〜soul2011bg.wixsite.com/chosyakamix2021年5月からTwitterを利用しています
78 フォロー中
211 フォロワー
省2
83: 2022/02/16(水)23:23 ID:+yCVrtGV0(1) AAS
これいいね
https://drive.google.com/file/d/1bNN6VjsgdpJAqxvZ4EKAPpMGq9wfjHqf/view
東京大学 今泉允聡
ISM75周年
?講演スライド
オープンハウス2019スライド
深層学習の原理を明らかにするこころみ
https://www.iwanami.co.jp/book/b570597.html
岩波科学ライブラリー
深層学習の原理に迫る
省6
84(2): 2022/02/21(月)17:44 ID:gGhtRv9g0(1) AAS
大学で使う教科書ざっと読んで、
ゼロから作るディープラーニングの１と３をとりあえずやって、
TensorFlowの公式チュートリアルやってなんとなく仕組みは分かったんだけど、
これでインターンとか就活にアピールするのに何つくればいいのか全然わからんわ
85: 2022/02/22(火)11:56 ID:LQIQuupF0(1) AAS
>>84
終活アピールなら、AIの資格をとったらどう？
86: 2022/03/05(土)13:54 ID:hf9QA2VU0(1) AAS
橋下徹「日本の政治家や専門家はまったく信用できない。いざ戦争になったらこりゃダメだな」 [Stargazer★]
//asahi.5ch.net/test/read.cgi/newsplus/1646454503/
1Stargazer ★2022/03/05(土) 13:28:23.37ID:lGKrZ2GV9
302名無しさん＠恐縮です2022/03/04(金) 22:19:19.15ID:mk0tHlNv0
橋下徹氏 ウクライナ情勢に「日本の政治家や専門家はまったく信用できない」
//news.yahoo.co.jp/articles/b8d410561da20086a64fcd2cfdd674de96016837
87: 2022/03/07(月)09:13 ID:6TQf6DWh0(1/6) AAS
- ニューラルネット(1)
人間の神経細胞を模したネットワークモデルで、細胞１個をセルと呼び、これが最小単位となる
１つのセルは複数の入力(xi)を受取り一つの出力(y)を出す
受取った複数の入力の合計値(Σwij*xi)にある適当な非線形関数h()を演算し、これをyとする
各入力にはそれぞれ重みwiを与える
式でまとめると y = h((Σwij*xi)) こんな感じ
h()は活性化関数と呼ばれ、いわゆる学習曲線と考えればよい
88: 2022/03/07(月)09:14 ID:6TQf6DWh0(2/6) AAS
- ニューラルネット(2)
セルを多数連結したものがニューラルネットである（とりあえず電気回路のようなものをイメージすればよい）
実際、プログラミングテクニックとして電気回路のシミュレーションのようなイメージをもっていればよい
グラフを使ったプログラミングテクニックはニューラルネットに限らずいろいろな応用例がある
注意点としては
1) 流れる情報は電流のような連続量ではなく、パルスのような離散量である
2) 工学的テクニックとして、ネットワークを幾つかの階層に分解する
入力層(x) => 中間層1 => 中間層2 => … => 中間層n => 出力層(y)
各層は縦に並べた１次元配列と思えばよい
3) 各層を離散量が順次流れていく間に、上で定義した重み(wij)の値が更新されていくイメージだ
省3
89: 2022/03/07(月)09:20 ID:6TQf6DWh0(3/6) AAS
- ニューラルネット(3)
上記(1)(2)だけではなぜ学習されるのかが説明されていない
実は出力層(y)の結果からニューラルネット全体の各重み情報(wij)を改善する演算が行われる
バックプロパゲーション(逆伝播)といわれるテクニックである
通常の順路は入力=>出力の方向に情報伝搬するが
出力(y)に到達したら、出力=>入力の方向に逆伝播させて、重み情報(wij)を改善するのである
このとき目的関数を最小化するという最適化手法が使われる
イメージとしては出力結果(y)と学習目標(Y)を比較し、最小二乗法で最適な重み分布(wij)を求めるわけ
90: 2022/03/07(月)09:21 ID:6TQf6DWh0(4/6) AAS
- ニューラルネット(4)
基本的には上記演算（入力層から出力層まで流す演算）を１セットと見立て、
膨大な入力データ（と学習目標データ）を準備して流すことで、学習が進んでいくイメージだ
他にも細かいテクニックはいろいろあるが、
ニューラルネット全体を y=f(x) というフィルタに見立て、(x,y)を与えて関数fを求めていく複雑な演算だと思えばよい
fを決めるのは重み情報(wij)ということになる
91: 2022/03/07(月)11:04 ID:6TQf6DWh0(5/6) AAS
- ニューラルネット(5) 順伝搬と逆伝播
順伝搬では各層を通過するごとに入力合計を非線形関数に入れて計算する
変数が膨大である場合、変数全体を連続量として考えればこれは「積分」に相当する
Σの代わりに∫と考えれば、逆伝播は「微分」ということになる
順伝搬では積分の累積が行われ、逆伝播では微分しながら累積をほどいていく
これは「自動微分」と言われるグラフを使って微分/積分を行う手法だ
「自動微分」を知らないとなぜ順伝搬や逆伝播が有効なのかわからない
92: 2022/03/07(月)11:08 ID:6TQf6DWh0(6/6) AAS
- ニューラルネット(6) 「分割して統治せよ」
「確率的勾配降下法」で躓く人もいるかもしれない
なんでミニバッチみたいなのが必要なのか？
それは入力データ（と学習目標データ）が膨大であるからだ
仮に10万個の入力データとn層のネットワークを考えてみる
解である重み情報(wij)は単純に考えても10万×nくらいにはなるはずで、こんな微分方程式を解くのは容易ではない
しかし世の中には頭のいい人がいるもので巨大な方程式を分割して少しずつ解くのである
10万個を100分割すれば変数は100分の１で済む。必要な方程式の数も100分の１で済む
1000変数の方程式を100回行うことで巨大な方程式を解いたことにするのだ
当然求めた解は出鱈目になるが、これを何回も繰り返すことで求める最適解に近づいていくように調整するのだ
省2
上下前次1-新書関写板覧索設栞歴
あと 20 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.655s*