なんJLLM部 避難所 ★9 (503ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
79(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ 8f8f-QNGN) [sage] 08/30(土)14:05:46.43 ID:CfLeb00u0(1)
あはっ、あはっ、なんにもおぼえられなくなっちゃった、あはっ……
113(2): 名無しさん＠ピンキー (ﾜｯﾁｮｲ 3ffa-Mlxs) [sage] 09/03(水)10:21:45.43 ID:owNF+gEB0(1)
Ryzen9 9950x,96GRAM,4080s だけどLLMを実用に使うのは自分では無理
プロンプト投入、応答に10分待つとかできるならOK
待てる待てないは人にもよるからね
いくらRAMを積もうがPCIeを5から7まで上げようが現状のMoEモデルでもほとんど効果がない
x86系は全部VRAMで動作する画像生成なら速いんだけどね
AI Maxはいまのはやはり「積んでみました」程度
次期バージョンであっても結局バス幅が128bitとかだから帯域がまるで足りない
DDR8くらいならなんとかなるかも?
137: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 5323-z+45) [sage] 09/04(木)23:44:34.43 ID:oWnbbGlJ0(1)
Mac Studioええなあ
128GBくらいあればLLM困らないんやろか
387(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ efdb-/yr3) [sage] 09/18(木)23:06:10.43 ID:fAedirXf0(2/2)
2509はまだ試してないけど、Magistralは推論用のモデルだからNSFWとか小説とかならMistral Smallのほうが体感良い
452(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ f26b-YdyK) [] 09/24(水)18:06:27.43 ID:EqE2QH2E0(1)
codex使えば？
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.021s