なんJLLM部 避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
202: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7ea9-eoO5) [sage] 09/09(火)10:22 ID:H557KSrB0(1/3)
unslothもbartuwskiも今ん所GGUF化しとらんね
有名モデルだとリリースされてから数時間でGGUF化しとるけどこの人ら
技術的にできないのか、やる必要ないと思ってるのか
206: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7ea9-sTI1) [sage] 09/09(火)13:05 ID:H557KSrB0(2/3)
この量子化を行うためのソフトは公開してくれてないねんなぁ
論文だけ見れば他の人が実装できるようなものなんやろか
このあたりintel(autoround)とかmicrosoft(bitnet)とは姿勢が違うよねぇやっぱ
219: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7ea9-sTI1) [sage] 09/09(火)22:56 ID:H557KSrB0(3/3)
>>215
24GB x 2でも24GB + 16GBでも16GB x 3でもお好きな構成でどうぞ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.023s