なんJLLM部 避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞

---

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

---

46: 名無しさん＠ピンキー (ﾜｯﾁｮｲ fe57-TcND) [] 08/25(月)19:08:19.02 ID:Q9en1aht0(1)
量子化はかなり性能落ちてるから元モデルの性能あまり当てにならないんよな
落ち方も色々だし

---

93: 名無しさん＠ピンキー (ｽｯﾌﾟﾌﾟ Sddf-p01K) [sage] 08/31(日)14:17:11.02 ID:n3mn8kMFd(1)
先週ノートPCのメモリを128GBに増やしたら
Qwen3-235B-A22B-Instruct-2507-Q4_K_M
が動くようになった
eGPUでTITAN RTXを繋いで合計152GB

---

201(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ af10-M23X) [] 09/09(火)10:07:49.02 ID:8F4I4Vc00(2/2)
って思ったら推奨VRAM40GB以上って書いてあんね…🥺

---

225: 名無しさん＠ピンキー (ﾜｯﾁｮｲ beab-7f2d) [sage] 09/10(水)05:17:25.02 ID:MU1LtzH90(2/2)
CPU勢が大喜びしてるな。なるほど

---

255: 名無しさん＠ピンキー (ﾜｯﾁｮｲ f3c0-Qugc) [sage] 09/12(金)15:45:46.02 ID:6uAtkcNW0(1)
Llama.cppが対応しないとgguf作れないんじゃないか

---

316: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 936e-7bF0) [sage] 09/15(月)03:21:36.02 ID:iqXCedpb0(1)
mlx_lmを開発最新版にしないと動かなかった(安定版の0.27.1ではダメだった)
m4 max,Qwen3-Next-80B-A3B-Instruct-8bitは30tk/sくらい

---

336(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ bfde-RQ5/) [sage] 09/16(火)18:16:16.02 ID:kbJ2ubEL0(1/2)
作者としか思えないし5chで敬語のやつガチでキモい

---

397: 名無しさん＠ピンキー (ﾜｯﾁｮｲ bf60-tA9e) [] 09/19(金)13:17:21.02 ID:EgO47bgd0(3/9)
4oの時は平然とデタラメ言ってきて、5になってからはあらかじめ断りを入れてくるようになったけどこんな感じやなあ
https://i.imgur.com/hZlQIZD.jpeg

---

483: 名無しさん＠ピンキー (ﾜｯﾁｮｲ efd8-gFLl) [] 09/26(金)20:43:31.02 ID:3B4su3U20(1)
予測はLLM使わんでも線形回帰でええやん

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

ぬこの手 ぬこTOP 0.031s