ワイ氏、AIアルゴリズムTransformer理解できない (12ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
1: デフォルトの名無しさん [] 2024/08/16(金) 03:04:51.87 ID:mQScfB5o(1/4) AAS
CNNとかRNNとか理解できて組めるけど、こいつだけ理解できんし組めん
2: デフォルトの名無しさん [] 2024/08/16(金) 03:09:06.20 ID:mQScfB5o(2/4) AAS
他人の組んだやつを少しいじったりはできるけど、パラメータ数とかのいじったりできんわ。誰かに聞きたいんやけどこんなやつ結構多いと思うんよ
5(1): デフォルトの名無しさん [] 2024/08/16(金) 15:00:20.27 ID:mQScfB5o(3/4) AAS
>>3いろいろ理解できてないから分からないとすごく言いたい。
前提として今まで趣味でCNNとかをkerasで組んでます。
Transformerはtorchになるからそこで少しつまずいているのもあります。
__init__とforwardとかも__init__が定義でforwardが処理みたいなことぐらいしか理解できない。
self-attentionのqkvとかもよくわかってない。ネットで調べても数式の解説とかが多くて、私には分からんかった。高卒なので線形代数とか分からない。
漢検5級の人が1級の勉強をしている感覚です。ところどころわかるけど、全体通すと分からないです。
6(1): デフォルトの名無しさん [] 2024/08/16(金) 15:09:07.96 ID:mQScfB5o(4/4) AAS
>>44(1): デフォルトの名無しさん [sage] 2024/08/16(金) 14:23:36.24 ID:ckm1V/4U(1/2) AAS
ところで開発環境はどうしてるの？
でっかいモデル学習させるのに必要なGPUって高いやろ？
ちっこいモデルで我慢するのかな？
Python開発環境は、Python 3.9.0を使用しています。Visual Studio Codeを仮想環境はvenvで管理しています。OSはWindows 10です。
CPUはryzen9 5900x
メモリ 96GB
グラボ RTX 3090
今は個人向けグラボで学習できる範囲でしています。
1bぐらいのモデル学習させてみたいです
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.008s