なんJLLM部 避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞

---

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

---

50: 名無しさん＠ピンキー (ﾜｯﾁｮｲ e67d-Nkl/) [] 08/25(月)19:57:18.80 ID:eX9rrhFH0(1)
ベンチと実用途はやっぱ違うわ
一般人が求めるようなAIの性能はARC-AGIとかポケモンベンチみたいなもっと複雑な系の話に近いと思うからまだまだそういうとこも発展途上やね

---

62: 名無しさん＠ピンキー (ﾜｯﾁｮｲ fb42-TcND) [] 08/28(木)09:17:13.80 ID:PtV/rBm30(1/2)
RAM128GBに増設しようと思うんやがVRAM16とあわせてGLM4.5の量子化ってどのくらいtok/secでるか分かるニキおる？
MoEといえどパラメータ大きいからどのくらいの速度出るか知りたいんやが試してる人がおらん

---

139: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 8f0a-c25x) [sage] 09/05(金)02:18:25.80 ID:07IlwcOs0(1)
自分のしょぼ環境で動く範囲だと
Gemma3が一番エッチな文章書いてくれるわ
Mistral-Smallと違ってひよこ系で激怒するから回答編集してイエスマンにする必要あるけども…
123Bのモデル触ったら世界変わるんだろか

---

141: 名無しさん＠ピンキー (ｽｯﾌﾟﾌﾟ Sddf-p01K) [sage] 09/05(金)02:43:24.80 ID:wClS/Ku1d(2/4)
>>140
俺自身は貧乏だからMacに全く縁は無いが
mac 128Gに適当なeGPUをつけてメモリを更に盛ったりは出来ないの？

---

309: 名無しさん＠ピンキー (JP 0H37-EpZw) [] 09/14(日)18:41:11.80 ID:Gt1Ia85JH(1)
VPN云々は俺のことを言ってるのかな？
ホームルーターとか使ってる奴はJPになりやすいからVPNと決めつけるのは早計だぞ

---

433: 名無しさん＠ピンキー (ﾜｯﾁｮｲ e6c8-vRSx) [sage] 09/21(日)19:57:54.80 ID:ewooSzNA0(1)
CPUよりメモリ速度が問題なんじゃないの

---

494: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 1fc3-dRFZ) [sage] 09/27(土)02:48:10.80 ID:siCyTYpR0(1)
https://github.com/MoonshotAI/K2-Vendor-Verfier
kimi K2がホスティングサービス毎のツール呼び出し成功率測ってたけどfp8とfp4で30%以上成功率下がるらしい
もしかして世間で言われてる以上に4bit量子化による性能低下って大きいのか?

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

ぬこの手 ぬこTOP 0.015s