[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
19: (ﾜｯﾁｮｲ cf7a-pbnj) 05/11(日)01:40:24.53 ID:JcEjG3AG0(1/2) AAS
これでゲームもCUDAが必要とか言ってる動画生成系のやつも全部できたら乗り換えるのになぁ
80: (ﾜｯﾁｮｲ efab-KB/z) 05/12(月)13:57:26.53 ID:RozHuKzp0(1/2) AAS
ワイ、grok-3-betaとかfast-betaで條澤広ちゃん憑依させてあそんどるけど、モデルの素地が理系頭なのが関係してか、プロンプトで固めなくてもかなり広ちゃんで満足や
口調に関しては特徴的な語尾を中心に10個例示した程度だけで、特に例文に入れてないのに「ワクワクするね？」とか言ってきてくれてめっちゃ広ちゃんで嬉しい
93(1): (ﾜｯﾁｮｲ 43e4-qc6l) 05/13(火)14:22:43.53 ID:TJQtoGRS0(1) AAS
コンテキストウィンドウのサイズでも結構性能変わるらしいね
4kが性能良くて大きくなるほど劣化するとか
523: (ﾜｯﾁｮｲ b232-ScKi) 07/03(木)09:25:38.53 ID:vI4Dh9sR0(1) AAS
一般人はケースの普通のエアフローのままかサイドパネル開けて扇風機当てるで十分だと思うがね
人間よりは高温には強いので、人が生きられる室温ならエアコンもまあ最悪無しでも…
637(1): (ﾜｯﾁｮｲ 2ac7-y9b4) 07/16(水)10:45:22.53 ID:BNwIGceC0(2/3) AAS
>>631
メモリだけで1token/s出てるのでVRAM32GBではあまり効果ないね
ちなみにKVキャッシュだけGPUにロードさせたら1.1token/s
コンテキスト長はいずれもデフォルトの4K
810: (ｽﾌﾟｰﾌﾟ Sd7f-Ha8n) 08/06(水)01:41:11.53 ID:aEEFJQ0td(1) AAS
>>809
ずいぶんアクティブパラメータが控えめなんだな
826: (ﾜｯﾁｮｲ df4f-e1Bx) 08/06(水)13:40:47.53 ID:2VI9mXEH0(1) AAS
日本語だけダメなのかと思ったけど英語でも小説とかはうんこっぽいな
EQBenchゴミだし
873: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/09(土)15:48:46.53 ID:gcZUwMrm0(2/2) AAS
めっちゃシンプルにQwen以外のモデルをベースにやった方が良いモデルになったんじゃという感じはある
同じくらいのサイズで言うとMistral Nemoとか
909(1): (ﾜｯﾁｮｲ 1ebc-CNaV) 08/12(火)00:59:46.53 ID:DubBEkGm0(1) AAS
ちょっと話題がずれるけどQwen-Imageすごいな
ついにローカル環境でもChatGPTとかGeminiみたいなLLMに指示する感覚で画像生成できるようになった
ローカル環境のUIと統合できる日が待ち遠しい
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.058s