[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
682(2): (ﾜｯﾁｮｲ 3311-Mtf7) 2024/07/27(土)00:14 ID:s9nYYsMX0(1/3) AAS
>>681
量子化のレベルはIQ3_M(モデルサイズ55GB)で、64GBのunified memoryにロードしてる
意外と量子化による影響はあまり感じない(ちゃんと計測したらなんらかの劣化はあるだろうが)
686(1): (ﾜｯﾁｮｲ 3311-Mtf7) 2024/07/27(土)14:30 ID:s9nYYsMX0(2/3) AAS
>>684
外部ﾘﾝｸ:huggingface.co
688: (ﾜｯﾁｮｲ 3311-Mtf7) 2024/07/27(土)18:52 ID:s9nYYsMX0(3/3) AAS
上にあるサイバーエージェントのやつも試してみた
Finetuningでバカになってる感じもあまりないし、いいかもしれない
画像ﾘﾝｸ[png]:i.imgur.com
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.029s