[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
223(1): (ﾜｯﾁｮｲ ffbf-T90d) 2024/06/25(火)09:49:25.14 ID:???0 AAS
>>219
使った事あるけど、プロンプト入力欄とシステムプロンプト入力欄にパラメータの項目があるくらいでしょ？
STでも同じように入力すればいいだけじゃないの‥？
273(2): (ﾜｯﾁｮｲ a36a-58es) 2024/06/29(土)13:42:31.14 ID:???0 AAS
中国から盗みたい研究なんかあんの？🤔
349: (ﾜｯﾁｮｲ 4fa0-5q9u) 2024/07/03(水)15:53:36.14 ID:???0 AAS
NSFWを
416(1): (ﾜｯﾁｮｲ 1f74-sPXK) 2024/07/09(火)13:47:37.14 ID:???0 AAS
Genma2を日本語ファインチューンしてくれる神が出てくれるのをずっと待ってる
公式ウェイトの時点でも日本語普通に話す上に27bだから5bit ggufが普通に24GBに収まって糞速い(20token/s)
あとはいろんな話題に対応してくれればね・・・
426(1): (ﾜｯﾁｮｲ dbc0-X5c7) 2024/07/09(火)22:11:34.14 ID:???0 AAS
>>425
深さとは?🤔
682(2): (ﾜｯﾁｮｲ 3311-Mtf7) 2024/07/27(土)00:14:33.14 ID:s9nYYsMX0(1/3) AAS
>>681
量子化のレベルはIQ3_M(モデルサイズ55GB)で、64GBのunified memoryにロードしてる
意外と量子化による影響はあまり感じない(ちゃんと計測したらなんらかの劣化はあるだろうが)
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.036s