[過去ログ]
なんJLLM部 避難所 ★8 (1002レス)
なんJLLM部 避難所 ★8 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
54: 名無しさん@ピンキー (ワッチョイ 737a-KB/z) [sage] 2025/05/11(日) 16:14:00.76 ID:fsVnkFbE0 昔のredditの投稿で、Ryzen AI Max+ 395でdeepseek-r1の70B蒸留モデルのQ8使ったら3token/sって話だったけど、どうなんやろね https://www.reddit.com/r/LocalLLaMA/comments/1iv45vg/amd_strix_halo_128gb_performance_on_deepseek_r1/ >>14の記事だとQ3_K_L?らしいから、これがQ8になった時に本当にどこまで速度が落ちるのかどうか気になる http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/54
71: 名無しさん@ピンキー (ワッチョイ a3ae-1dY1) [sage] 2025/05/12(月) 10:50:57.76 ID:s2GrTugT0 >>68 >>69 https://raw.githubusercontent.com/turboderp-org/exllamav3/refs/heads/master/doc/llama31_70b_instruct_bpw.png それプラシーボやね 量子化の影響受けやすいperplexityですらこの程度でmmluみたいな実性能測るベンチでは性能低下1%以下が基本 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/71
112: 名無しさん@ピンキー (ワッチョイ cf7a-pbnj) [] 2025/05/16(金) 01:21:23.76 ID:KWeVTs2u0 vRAM16GBぐらいでAIのべりすとレベルが動いてくれたらかなり満足する気がする あいつオーパーツすぎんだろ http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/112
203: 名無しさん@ピンキー (ワッチョイ 5306-zApV) [sage] 2025/05/27(火) 00:52:23.76 ID:16NlTkql0 一応言っとくと温度を推奨よりちょっと上げてそのままだと支離滅裂になるから代わりにmin_pもちょい上げるとマシにはなる http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/203
358: 名無しさん@ピンキー (ワッチョイ ab51-zEtn) [sage] 2025/06/15(日) 13:58:14.76 ID:FMZ4Nx8L0 なおrtx pro 6000買うだけの金があれば中古3090を10台以上買える模様 高杉 http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/358
588: 名無しさん@ピンキー (ワッチョイ ffe3-pJYp) [] 2025/07/09(水) 21:29:17.76 ID:WiLP/QX70 >>587 ありがとう 関係してそう http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/588
769: 名無しさん@ピンキー (ワッチョイ 9732-ZZYE) [sage] 2025/07/31(木) 15:48:05.76 ID:ke/8qkUs0 >>763 LLMだと「おい!お前そんなに谷間を深くするな!人目があるんだぞ!」みたいな使い方をするんよ おっぱいを寄せている状態をほとんど「谷間が深い」で済ませるからおかしな文章になる http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/769
772: 名無しさん@ピンキー (ワッチョイ fe27-sf7Y) [sage] 2025/07/31(木) 17:02:03.76 ID:r0SyRMem0 英語で思考して日本語に翻訳する過程でニュアンスが失われている感じ それで一番萎えるのはbackなんだよ 後ろのつもりが翻訳で背中に乳がある事になったりする http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/772
880: 名無しさん@ピンキー (ワッチョイ ffbb-fnwq) [sage] 2025/08/09(土) 21:01:35.76 ID:sgF+Issu0 >>878 やたらこっちをヨイショしてきたいままでよりはマシだと思う http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/880
903: 名無しさん@ピンキー (ワッチョイ 0a32-fnwq) [sage] 2025/08/11(月) 20:41:20.76 ID:lyPopjUL0 >>900 弊首長さんは「チャットGPTって知ってるか? 法的根拠も教えてくれるから議会対策もできるしもう弁護士もいらないな!」と息巻いてましたんでマジ怖い http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/903
910: 名無しさん@ピンキー (ワッチョイ deea-u0iI) [] 2025/08/12(火) 04:15:27.76 ID:5uL9D7zF0 メタい話すると、AI技術の論文と特許の数をアメリカと中国で競っている。日本はゴミってのが原因だろ 金と労力を使うべきところを日本の経営者や役人はわからないっていない http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/910
949: 名無しさん@ピンキー (ワッチョイ 1fa4-AVXO) [sage] 2025/08/18(月) 17:13:27.76 ID:hgFLtyeY0 jailbreakしてから始めるっていうひと手間はあるけど、GLM4.5の日本語力いいね http://mercury.bbspink.com/test/read.cgi/onatech/1746883112/949
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.214s*