なんJLLM部 避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
71: 名無しさん＠ピンキー (ｼｬﾁｰｸ 0C53-c+Mf) [sage] 08/28(木)14:55:14.97 ID:+W0jXESuC(2/3)
>>70
あ ごめん 複数って書こうとして間違えた
連番全部ね
78: 名無しさん＠ピンキー (ﾜﾝﾐﾝｸﾞｸ MM5f-N4bW) [sage] 08/30(土)01:23:00.97 ID:+aOWuCZhM(1)
silly tavern使っててしばらくチャット進めてると
キャラのセリフがずっと「アハ、アハ」言って笑ってて不気味になる。
コンテキストがいっぱいなんかな
94: 名無しさん＠ピンキー (ﾜﾝﾄﾝｷﾝ MM5f-N4bW) [sage] 08/31(日)15:22:36.97 ID:DQLe/olAM(2/2)
うちのPCは8Bモデル程度が限界だわ
もっと低VRAMで動くようになればなあ
196(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ 7ea9-sTI1) [sage] 09/08(月)23:31:29.97 ID:Xy8bHzyF0(3/3)
重みの場所によって量子化度合い変えてるのは
unslothちゃんがやってるのと同じことか？
それとも全然違うことなんかなぁ
ようわからん
274: 名無しさん＠ピンキー (ﾜｯﾁｮｲ bf32-tupp) [sage] 09/13(土)10:04:05.97 ID:Sn2ddC2w0(1/2)
>>270
あと2GB空いてるVRAM使えよと思うだろうけど何かに使ってるんよね
再起動したりで改善するかも
300: 名無しさん＠ピンキー (ｽｯﾌﾟﾌﾟ Sddf-jiGm) [sage] 09/14(日)13:32:05.97 ID:1zeAijZud(3/5)
ちなみにXでも数日前に同じ機種がステマゴリ押しされて界隈から糞味噌に叩かれている
常に「MacやDGXが欲しいが高すぎる。だから……」から始まるテンプレステマ
同じ奴があちこちで同じステマをゴリ押ししている
325: 名無しさん＠ピンキー (ﾜｯﾁｮｲ cfa9-KAWZ) [sage] 09/16(火)09:54:06.97 ID:lldY/pEL0(1)
まだ公開されて半年だけどgemma3ってもう古く感じるなあ・・・
対応機能とか性能、精度の面でgemma3がスタンダードを確立した感はあるけど
そのスタンダードをみんなすぐに追い抜いていく
423: 名無しさん＠ピンキー (ﾜｯﾁｮｲ f70b-5nxf) [] 09/20(土)01:32:15.97 ID:hrmH+Mjd0(1)
GPT-ossみたいな単一言語ガチガチにしたMoEモデル+翻訳専用SLMで組めるようになるのがローカルの終着点だと思っとるから数百BパラメータのLLM動かせるような環境はやりすぎな気はするわね
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.028s