なんJLLM部 避難所 ★9 (481レス)
なんJLLM部 避難所 ★9 http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
必死チェッカー(本家)
(べ)
自ID
レス栞
あぼーん
リロード規制
です。10分ほどで解除するので、
他のブラウザ
へ避難してください。
457: 名無しさん@ピンキー (ワッチョイ 1f81-gFLl) [sage] 2025/09/24(水) 18:55:55.40 ID:ARkRWnqL0 どうしてもローカルがいいならgpt-oss 20B/120Bかqwen3 coder試してみて、ダメだったらcodexとかclaude codeにいくしかないと思うで 強めのグラボ積んでるならLM StudioでGPU offloadを最大にしてflash attensionを有効にすればワイの環境ならgpt-oss 120Bで140tok/sec出てるで 長めの文章読み込めるようにcontext lengthをそのモデルの最大(gpt-ossなら13万)にするか、遅くならない程度の値にしておくんやで http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/457
459: 名無しさん@ピンキー (ワッチョイ 1f81-gFLl) [sage] 2025/09/24(水) 18:56:50.60 ID:ARkRWnqL0 ↑gpt-oss 20Bで140tok/sec出てるで の間違いや 120Bで140tok/sec出るモンスターPCほしいわ http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/459
465: 名無しさん@ピンキー (ワッチョイ 1f81-gFLl) [sage] 2025/09/24(水) 22:16:39.94 ID:ARkRWnqL0 ChatGPTの契約はもう必須と捉えてるからコストとして考えてないわ http://mercury.bbspink.com/test/read.cgi/onatech/1755924738/465
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.027s