ワイ氏、AIアルゴリズムTransformer理解できない (12ﾚｽ)
ワイ氏、AIアルゴリズムTransformer理解できない http://mevius.5ch.net/test/read.cgi/tech/1723745091/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
1: デフォルトの名無しさん [] 2024/08/16(金) 03:04:51.87 ID:mQScfB5o CNNとかRNNとか理解できて組めるけど、こいつだけ理解できんし組めん http://mevius.5ch.net/test/read.cgi/tech/1723745091/1
2: デフォルトの名無しさん [] 2024/08/16(金) 03:09:06.20 ID:mQScfB5o 他人の組んだやつを少しいじったりはできるけど、パラメータ数とかのいじったりできんわ。誰かに聞きたいんやけどこんなやつ結構多いと思うんよ http://mevius.5ch.net/test/read.cgi/tech/1723745091/2
3: デフォルトの名無しさん [sage] 2024/08/16(金) 03:14:20.62 ID:Rc0NIZPv 何が理解できないの？ http://mevius.5ch.net/test/read.cgi/tech/1723745091/3
4: デフォルトの名無しさん [sage] 2024/08/16(金) 14:23:36.24 ID:ckm1V/4U ところで開発環境はどうしてるの？ でっかいモデル学習させるのに必要なGPUって高いやろ？ ちっこいモデルで我慢するのかな？ http://mevius.5ch.net/test/read.cgi/tech/1723745091/4
5: デフォルトの名無しさん [] 2024/08/16(金) 15:00:20.27 ID:mQScfB5o >>3 いろいろ理解できてないから分からないとすごく言いたい。 前提として今まで趣味でCNNとかをkerasで組んでます。 Transformerはtorchになるからそこで少しつまずいているのもあります。 __init__とforwardとかも__init__が定義でforwardが処理みたいなことぐらいしか理解できない。 self-attentionのqkvとかもよくわかってない。ネットで調べても数式の解説とかが多くて、私には分からんかった。高卒なので線形代数とか分からない。 漢検5級の人が1級の勉強をしている感覚です。ところどころわかるけど、全体通すと分からないです。 http://mevius.5ch.net/test/read.cgi/tech/1723745091/5
6: デフォルトの名無しさん [] 2024/08/16(金) 15:09:07.96 ID:mQScfB5o >>4 Python開発環境は、Python 3.9.0を使用しています。Visual Studio Codeを仮想環境はvenvで管理しています。OSはWindows 10です。 CPUはryzen9 5900x メモリ 96GB グラボ RTX 3090 今は個人向けグラボで学習できる範囲でしています。 1bぐらいのモデル学習させてみたいです http://mevius.5ch.net/test/read.cgi/tech/1723745091/6
7: デフォルトの名無しさん [sage] 2024/08/16(金) 19:58:02.10 ID:ckm1V/4U >>6 ちっこいモデルでだよね さくらのサーバとか契約してる人はいないのかな？ http://mevius.5ch.net/test/read.cgi/tech/1723745091/7
8: デフォルトの名無しさん [] 2024/08/16(金) 22:07:23.46 ID:YMpAdowz >>7 ちっこいモデルを作れないので考えてないです。 さくらインターネット系のレンタルグラボの契約してる人いないです。 http://mevius.5ch.net/test/read.cgi/tech/1723745091/8
9: デフォルトの名無しさん [sage] 2024/08/17(土) 19:18:21.57 ID:jNc9Eb8A >>5 ちょっとその程度だとアドバイスのしようがない 頑張って勉強してくれ http://mevius.5ch.net/test/read.cgi/tech/1723745091/9
10: デフォルトの名無しさん [sage] 2024/08/18(日) 16:04:34.44 ID:PPBUqN/p 興味で数年前に理解したがすぐ忘れてしまったが生活に支障はないよ qkvとか確かにあったね。それが成り立つように学習するってだけでしょ http://mevius.5ch.net/test/read.cgi/tech/1723745091/10
11: デフォルトの名無しさん [sage] 2024/08/18(日) 16:57:32.92 ID:aC53Nw8u >すぐ忘れてしまったが >生活に支障はないよ ほんと最近これ http://mevius.5ch.net/test/read.cgi/tech/1723745091/11
12: デフォルトの名無しさん [sage] 2024/08/26(月) 21:45:56.55 ID:Zj/yRZqN Transformerの資料はNLPを想定して書かれてるから余計に混乱する GPTなら解るが、Transformerは汎用性が高いのに http://mevius.5ch.net/test/read.cgi/tech/1723745091/12
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.002s