[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
24: (ﾜｯﾁｮｲ 733d-9L8h) 05/11(日)03:48:39.58 ID:WqNVjOrV0(1/2) AAS
Project Wannabeは最初に提示されたkobld_client.pyを書き換える方法で上手くいきました。
274: (ﾜｯﾁｮｲ a249-FcjO) 06/04(水)13:55:54.58 ID:tZNJnqlN0(2/2) AAS
30Bくらいでもっと賢いモデルあるからな
297: (ﾜｯﾁｮｲ 57d9-3NuF) 06/10(火)01:12:25.58 ID:QqWnFUnK0(1) AAS
NemoAuroraちょっと試したがかなり饒舌な感じで淫語とかも普通に出やすいな
この人のモデルにしては珍しく小説系とかそっち寄りな感じがする
この辺はHimeyuri-12Bとかをマージしてる影響かな？エロ系はかなり自然な感じ
その分何回も会話してるとだんだん応答が長くなって行きがちだから適度に過去会話をカットしてあげると良さそう（SillyTavernとかなら楽）
README読むとコンテキスト長32kで学習されてるみたいだけど実際そこまでいけるならかなり実用性ありそう
362: (ﾜｯﾁｮｲ 4694-DoF/) 06/15(日)15:31:08.58 ID:MF5Sb5IZ0(1) AAS
>>359
その用途だとむしろバカなLLMを使ってる方が危なくないか？
承認者の人間側が十分に賢い前提ならまた違うのかもしれんが
380(2): (ﾜｯﾁｮｲ 8ee7-VzWU) 06/17(火)22:05:52.58 ID:RkXwKRQa0(1) AAS
テンプレ見てgptに聞きながら試したんだけど全然上手くいかないので相談
ゲーミングノートです
AMD Ryzen AI 9HX
RTX5090/24G
メモリ64G
koboldcpp_cu12.exe起動、そのままlaunchボタン押したらモデル読み込みしろって言われるからテンプレのmagnum-v4-12b-Q8_0.gguf読み込む
おっぱい揉む描写してって頼んでも、お断りされる
省1
394: (ﾜｯﾁｮｲ 6363-suIQ) 06/18(水)08:01:19.58 ID:/kyeJNIV0(1) AAS
バックエンド側でコンテキストシフト的な機能を有効化してないとか？
422: (ﾜｯﾁｮｲ 53a8-AolJ) 06/20(金)02:50:43.58 ID:T1KB2T9k0(1/2) AAS
>>421
いや遅いよ
サーバー向けCPUならだいぶマシになるけど
445: (ﾜｯﾁｮｲ dfc7-CUaK) 06/23(月)02:56:30.58 ID:hHrqaf4t0(1) AAS
中古の4090が50万？
新品の5090より高いやん？
663(1): (ﾜｯﾁｮｲ 3a37-rdqe) 07/18(金)16:02:36.58 ID:qjt24V0j0(2/3) AAS
>>662
ありがとうございます。見つけられました！
なるほど、全文ポイッと入れられるものではないですね。
そうです。やりたいのは小説で、自分でも何かコレジャナイなぁ…と思いながら、gptに言われるまま小説家のキャラクターを作って使ってたんですが、やはり本来の使い方では無いんですね…
700: (ﾜｯﾁｮｲ 03be-3dMo) 07/22(火)13:17:09.58 ID:2qHuko2j0(1/2) AAS
今からなら5090一択だろう
定価付近で買えるようになってるし条件次第では4090比で2〜3倍の性能が出る
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.079s