なんJLLM部避難所 ★9

なんJLLM部避難所 ★9 (470ﾚｽ)
上下前次1-新
抽出解除ﾚｽ栞

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

187: (ﾜｯﾁｮｲ b7b5-sTI1) 09/08(月)19:45 ID:mdiKwxMa0(1) AAS
>>186
ローエンドGPUでも動くとか記事にあったけど
32.4GBあるぞ

190(1): (ﾜｯﾁｮｲ 7ea9-sTI1) 09/08(月)21:00 ID:Xy8bHzyF0(2/3) AAS
>>186
2.5bitくらいない？
いやまぁGGUFなんかも数字以上にでかいのばっかだから別にびったし1bitサイズでなくてもいいけどさぁ
これはちょっとでかすぎひん？

193: (ﾜｯﾁｮｲ db32-sTI1) 09/08(月)21:41 ID:RndVeeho0(1) AAS
>>186
とりあえずggufに量子化してほしい

195: (HK 0H62-w2tz) 09/08(月)21:58 ID:LubjsghCH(2/2) AAS
>>186
これ気になるわ