なんJLLM部 避難所 ★9 (500レス)
上下前次1-新
抽出解除 レス栞
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
211: 名無しさん@ピンキー (JP 0H07-PAgB) [sage] 09/09(火)17:11:31.28 ID:ukhsyM9SH(1)
>>208
CXLってのが普通のCPUは対応してなくてダメらしいのでThreadripperで遊べる富豪以外は縁がない
あとPCIeだからメモリ直刺しよりいろいろ劣るはず
220: 名無しさん@ピンキー (ワッチョイ e69a-Nw1s) [] 09/09(火)23:11:28.28 ID:vdAgYGqS0(1)
>>218
Ktransformersとか
314: 名無しさん@ピンキー (ワッチョイ bfce-zocN) [sage] 09/14(日)22:13:13.28 ID:zVgb5w2a0(4/4)
まぁqwen3.5をday0対応してもらうためのnextなんやろね
80BくらいならRAMに乗るし期待してる
355: 名無しさん@ピンキー (ワッチョイ 531c-GUyp) [] 09/17(水)09:26:14.28 ID:FXOfH9Db0(1)
ローカルllm搭載ねえ
そりゃできるでしょうねとしか
どの程度フリートークができるかしらんけど
このスレとは若干ズレるかもね😅
425: 名無しさん@ピンキー (ワッチョイ a36a-3wxO) [] 09/20(土)08:06:01.28 ID:+jVh25Pi0(1)
既に色々されてるが
438: 名無しさん@ピンキー (ワッチョイ b6a9-HCKT) [sage] 09/22(月)00:26:54.28 ID:b0NiJC3J0(1)
epycはxeonのAMXより速いってベンチマーク出してきてるけどほんまなんかな
llmのcpu推論は第三者のベンチマークがほとんどないんよなぁ
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.019s