[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

29(1): (ﾜｯﾁｮｲ 33b6-Onb0) 05/11(日)04:59:47.92 ID:zvdvg/lI0(3/3) AAS
>>26
古いMacStudioやけど128gbあるからQ8が乗るで
LLM以外やとまじで役に立たんけどな

---

58: (ﾜｯﾁｮｲ 1316-kIO2) 05/11(日)19:01:14.92 ID:UfhF4txJ0(2/2) AAS
今日5090が届いたから4090から換装してみた
最新のgamereadyドライバ入れるだけでkoboldcppは動いたけどSBV2がpytorch未対応で動かず
そんで調べたらつい先日CUDA12.9が公開されてたので入れてみたらそれだけで推論も学習も動くようになったよ
comfyも同様
RTX50XX買った人はとりあえず最新ドライバにしてCUDA12.9入れるといいよ

---

139(1): (ﾜｯﾁｮｲ a0b5-heYV) 05/18(日)01:23:11.92 ID:vEw2uS6g0(1) AAS
>>133
>>134
データセットはHuggingFaceにJSONで公開してるやろ

---

223: (ﾜｯﾁｮｲ ff49-N1DS) 05/29(木)10:39:03.92 ID:DDX3Te/+0(2/3) AAS
蒸留してなくてもKTransformersを使うとそこまで難易度高くない
800GBくらいのDRAMとRTX4090が1つあれば動く

---

252(2): (ﾜｯﾁｮｲ 724a-rQsc) 06/02(月)00:41:51.92 ID:Z/D3ETlA0(1/2) AAS
magnum-v4-123b使うときGPUとRAM何GB消費してる？
RTX3060 12GBと32GBしか積んでなくて、どれくらい増せばよいのか知りたい

---

315(1): (ﾜｯﾁｮｲ eb09-6GmA) 06/11(水)11:20:15.92 ID:qnK6TeFS0(1/2) AAS
Mistral自体のMediumも公開されてないから無さそう

---

712: (ﾜｯﾁｮｲ bf04-VY5O) 07/22(火)17:05:23.92 ID:j/aDPvI50(1) AAS
海外のDiscord見てると新Qwenは結構良さそう？
日本語でどんなもんかは試さないとわからんが

---

989(1): (ﾜｯﾁｮｲ 0fe2-paxx) 08/22(金)11:40:36.92 ID:spFMJXit0(1) AAS
>>976
GLM4.5 Airは？

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

ぬこの手 ぬこTOP 0.030s