[過去ログ] なんJLLM部 避難所 ★8 (1002レス)
上下前次1-新
抽出解除 レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
39: (ワッチョイ cf7a-pbnj) 05/11(日)10:30:07.70 ID:JcEjG3AG0(2/2) AAS
win機なら需要の幅広そうだしm4との棲み分けはできそう
260: (ワッチョイ a249-xQVN) 06/02(月)18:00:47.70 ID:nvxNZBIi0(1) AAS
Ryzen AI Maxは128GBメモリを使えるPCでは一番安いのが強みではある
そこに良さを感じないなら微妙かもね
342: (ワッチョイ de63-oaEo) 06/14(土)05:35:23.70 ID:ws+NN3Wn0(1) AAS
そうわよ
361: (ワッチョイ 3ac7-389c) 06/15(日)15:07:17.70 ID:J0lRA3xE0(1) AAS
>>360
用途がAIなら別室におくのがいいね
エアコンは必須だけど
418: (ワッチョイ 27d9-suIQ) 06/19(木)17:17:18.70 ID:OexV2ldX0(1) AAS
コンテキストシフト使いなさいよ
557(1): (ワッチョイ d301-PJwe) 07/06(日)09:42:28.70 ID:AfwWoSHe0(1) AAS
Googleアシスタントに
今の天気は?
今日なんにち?
今何時?
とかで使ってたんだが
geminiに取って変わられてから
ウソ教えてくるようになってそのクソさを思い知らされたよ
630: (ワッチョイ ef0e-Hh/a) 07/16(水)09:09:38.70 ID:haTvW6bf0(1/2) AAS
最低でもレイヤー数半分以上はVRAMに乗らないと数トークン出ないわな
984: (ワッチョイ df3d-fSvz) 08/22(金)09:42:34.70 ID:YC6+2a2u0(1) AAS
redditに出てたけどpro 6000での20b 120bの出力速度はそれぞれ200t/s 140t/sらしい
ちなみにvllmを使うとgpt 20bをバッチ機能を使って計算リソースを飽和させれば4090でも10000t/s出るらしい
複数利用を想定するならMoEは圧倒的に有利
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.045s