[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

629(2): (ﾜｯﾁｮｲ 2ac7-y9b4) 07/16(水)09:07 ID:BNwIGceC0(1/3) AAS
>>626
RTX5090@1枚で試したら、1.2token/sだった

試したモデルはこれ
magnum-v4-123b IQ4XS(65GB)

---

631(1): (ﾜｯﾁｮｲ 7ed9-MHyn) 07/16(水)09:11 ID:8EvNwDcV0(2/3) AAS
>>629
ありがとう
うーん、かなりきついなー…やっぱりMoEじゃないとめっちゃ遅いか

---

639: (ﾜｯﾁｮｲ 1b32-PdEd) 07/16(水)11:42 ID:YBWw7lXs0(1/2) AAS
>>629
gpuオフにしたら何トークン/s出る？

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

ぬこの手 ぬこTOP 1.163s*