なんJLLM部 避難所 ★9 (503ﾚｽ)
なんJLLM部 避難所 ★9 http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
ﾘﾛｰﾄﾞ規制
です｡10分ほどで解除するので､
他のﾌﾞﾗｳｻﾞ
へ避難してください｡
270: 名無しさん＠ピンキー (ﾜｯﾁｮｲ bfec-jGdL) [sage] 2025/09/13(土) 07:51:53.74 ID:joLGzCV70 LM Studioでmagnum-v4 9.5GBモデルなんだけどmistralよりちょっと遅いので タスクマネージャーを見ると 4070のVRAMで、オフロード40/40で12GB中 10GBでcudaが35％でcpuが85％ぐらい 1秒で5文字ぐらいでポロポロ出る感じ mistralは高速でcudaが95%、cpuが15%ぐらいとこれはモデルの差？ 完全にGPUのVRAMに入っているとmistralぐらい速度が出るかなと思ったけど cpuにかなり負荷をかけて遅く不思議なのでもし何か改善策があれば教えて欲しいです http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/270
272: 名無しさん＠ピンキー (ﾜｯﾁｮｲ bfec-jGdL) [sage] 2025/09/13(土) 09:17:43.99 ID:joLGzCV70 >>270です、6_Kだとこのような状況になっていましたが 5_K_Mだと症状が無くなりました。 最適化みたいな関係でこうなるのかな？ http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/272
274: 名無しさん＠ピンキー (ﾜｯﾁｮｲ bf32-tupp) [sage] 2025/09/13(土) 10:04:05.97 ID:Sn2ddC2w0 >>270 あと2GB空いてるVRAM使えよと思うだろうけど何かに使ってるんよね 再起動したりで改善するかも http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/274
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.019s