[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
54: (ﾜｯﾁｮｲ 737a-KB/z) 05/11(日)16:14:00.76 ID:fsVnkFbE0(2/2) AAS
昔のredditの投稿で、Ryzen AI Max+ 395でdeepseek-r1の70B蒸留モデルのQ8使ったら3token/sって話だったけど、どうなんやろね
外部ﾘﾝｸ:www.reddit.com
>>14の記事だとQ3_K_L?らしいから、これがQ8になった時に本当にどこまで速度が落ちるのかどうか気になる
71(2): (ﾜｯﾁｮｲ a3ae-1dY1) 05/12(月)10:50:57.76 ID:s2GrTugT0(1) AAS
>>68
>>69
画像ﾘﾝｸ[png]:raw.githubusercontent.com
それプラシーボやね
量子化の影響受けやすいperplexityですらこの程度でmmluみたいな実性能測るベンチでは性能低下1%以下が基本
112: (ﾜｯﾁｮｲ cf7a-pbnj) 05/16(金)01:21:23.76 ID:KWeVTs2u0(1/2) AAS
vRAM16GBぐらいでAIのべりすとレベルが動いてくれたらかなり満足する気がする
あいつオーパーツすぎんだろ
203: (ﾜｯﾁｮｲ 5306-zApV) 05/27(火)00:52:23.76 ID:16NlTkql0(2/2) AAS
一応言っとくと温度を推奨よりちょっと上げてそのままだと支離滅裂になるから代わりにmin_pもちょい上げるとマシにはなる
358: (ﾜｯﾁｮｲ ab51-zEtn) 06/15(日)13:58:14.76 ID:FMZ4Nx8L0(1) AAS
なおrtx pro 6000買うだけの金があれば中古3090を10台以上買える模様
高杉
588: (ﾜｯﾁｮｲ ffe3-pJYp) 07/09(水)21:29:17.76 ID:WiLP/QX70(1) AAS
>>587
ありがとう
関係してそう
769: (ﾜｯﾁｮｲ 9732-ZZYE) 07/31(木)15:48:05.76 ID:ke/8qkUs0(4/5) AAS
>>763
LLMだと「おい！お前そんなに谷間を深くするな！人目があるんだぞ！」みたいな使い方をするんよ
おっぱいを寄せている状態をほとんど「谷間が深い」で済ませるからおかしな文章になる
772: (ﾜｯﾁｮｲ fe27-sf7Y) 07/31(木)17:02:03.76 ID:r0SyRMem0(2/2) AAS
英語で思考して日本語に翻訳する過程でニュアンスが失われている感じ
それで一番萎えるのはbackなんだよ
後ろのつもりが翻訳で背中に乳がある事になったりする
880: (ﾜｯﾁｮｲ ffbb-fnwq) 08/09(土)21:01:35.76 ID:sgF+Issu0(1) AAS
>>878
やたらこっちをヨイショしてきたいままでよりはマシだと思う
903: (ﾜｯﾁｮｲ 0a32-fnwq) 08/11(月)20:41:20.76 ID:lyPopjUL0(2/2) AAS
>>900
弊首長さんは「チャットGPTって知ってるか？ 法的根拠も教えてくれるから議会対策もできるしもう弁護士もいらないな！」と息巻いてましたんでマジ怖い
910: (ﾜｯﾁｮｲ deea-u0iI) 08/12(火)04:15:27.76 ID:5uL9D7zF0(1) AAS
メタい話すると、AI技術の論文と特許の数をアメリカと中国で競っている。日本はゴミってのが原因だろ
金と労力を使うべきところを日本の経営者や役人はわからないっていない
949: (ﾜｯﾁｮｲ 1fa4-AVXO) 08/18(月)17:13:27.76 ID:hgFLtyeY0(1) AAS
jailbreakしてから始めるっていうひと手間はあるけど、GLM4.5の日本語力いいね
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.046s