Visual Studio Code / VSCode Part16 (815ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
669(1): 2025/07/30(水) 09:01:14.29 ID:i/n+AUQz(2/3)調 AAS
俺は動かす環境なんて持ってないけど、Q5_k_mを動かすならVRAMが700GB以上要るんじゃないの？
670(1): 2025/07/30(水) 09:38:55.87 ID:NbRP2OYy(2/2)調 AAS
>>669
外部ﾘﾝｸ:qiita.com
にvLLMってのを使ってRTX4090搭載のマシンで動かせてるっぽい記述があるんだよね
それで真似してみたけど動かなくてRAMを増やしてオフロードすれば行けるのかなと
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.032s