[過去ログ] なんJLLM部 避難所 ★8 (1002レス)
前次1-
抽出解除 レス栞

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
16
(1): (ワッチョイ a34c-Fs2+) 05/10(土)23:53 ID:MSpCSYXy0(1/2) AAS
70Bモデルまで行くと速度的に厳しそう
それでもCPU推論よりはマシか?

Testing the Ryzen M Max+ 395 : r/LocalLLM
外部リンク:www.reddit.com
18: (ワッチョイ a34c-Fs2+) 05/10(土)23:58 ID:MSpCSYXy0(2/2) AAS
>>14
DeepSeek-R1-Distill-Llama-70B Q3_K_Lと
Qwen3-235B-A22Bでかなり違うのな

>>16のDeepSeek R1 70Bでも5〜10tk/s
なんかコード修正したら10tk/s以上出るとかも
言われてるけど

外部リンク:x.com
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.039s