[過去ﾛｸﾞ] なんJLLM部 避難所 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
824(1): (ﾜｯﾁｮｲ 83be-7iwU) 04/27(土)17:12 ID:???0 AAS
現実は力を持っている権利者がアウトといえばそれで終わりであんまり法律は関係ない
グッズでも同人でも権利者から通報受けたら警察は容赦なく逮捕してきた歴史がある
844(1): (ﾜｯﾁｮｲ 83be-7iwU) 04/28(日)17:14 ID:???0 AAS
初歩的な質問ですまん、16bitのsafetensorsをlamacppでggufに変換するときオプション指定しないと32bitになってしまう。
でもq16_K_Mを指定するとunrecognized argumentsになる。
どうすれば元の16bitのままで量子化できるの？
846: (ﾜｯﾁｮｲ 83be-7iwU) 04/28(日)17:28 ID:???0 AAS
>>845
サンクス、それで行けた。
847(1): (ﾜｯﾁｮｲ 83be-7iwU) 04/28(日)17:37 ID:???0 AAS
gguf変換出来たからmergekit-evolveで作られたモデル試してみたけど確かに凄いな。
7Bとは思えん性能や、これchat vector以来の革命では？
864(1): (ﾜｯﾁｮｲ 83be-7iwU) 04/29(月)20:44 ID:???0 AAS
長編ADVみたいなロールプレイを上手くさせる方法ってないのかな？
最初は良くてもターン数重ねるとどんどん出力が短くなったり同じ応答ばかりになってしまう。
866: (ﾜｯﾁｮｲ 83be-7iwU) 04/29(月)22:58 ID:???0 AAS
>>865
なるほど、よさげだな
875: (ﾜｯﾁｮｲ 83be-7iwU) 04/30(火)18:11 ID:???0 AAS
自作アプリでAIと音声会話するのかなりできるようになって来たけど意外な敵が部屋のノイズで苦しんでるわ
PCのファンの音すら拾って「これはまだ発言が続いてんな？」ってずっと発言終了待機してクッソ応答が遅くなる
877(1): (ﾜｯﾁｮｲ 83be-7iwU) 04/30(火)19:00 ID:???0 AAS
>>876
ひとまずマイクの調整で何とかなったわ
VITS2で好きな声優の音声でリアルタイムの会話は破壊力やばかったわ、世界が変わった…
879: (ﾜｯﾁｮｲ 83be-7iwU) 04/30(火)19:52 ID:???0 AAS
>>878
乙、音声あるとないでは全然違うよね
後は音声入力にさえ対応すれば完全体に…
890: (ﾜｯﾁｮｲ 83be-7iwU) 04/30(火)23:36 ID:???0 AAS
俺も同人音声作品だなぁ
コーパス準拠のモデルはまだ性能が低すぎるしな
918: (ﾜｯﾁｮｲ 83be-7iwU) 05/01(水)16:53 ID:???0 AAS
>>901
試してみた、小説の出力みたいなタスクは7Bとは思えない日本語能力だね
3月までの状況考えると進化の速度が凄いわ
925: (ﾜｯﾁｮｲ 83be-7iwU) 05/01(水)18:30 ID:???0 AAS
大きなモデルばっか使ってたから7Bモデルだとチャットを上手くしてくれないんだけど
7Bモデルでも効く良さげなプロンプトってどっかでまとまってたりする？
自分と女の子で会話しようとしてもAIが1人2役でずっと話続けてしまう
935: (ﾜｯﾁｮｲ 83be-7iwU) 05/01(水)20:57 ID:???0 AAS
ChatGPT用に練り込まれたプロンプトならかなりいい結果出るね > Vecteus-v1-gguf
CommandR+は元々ちょっと癖があるからそっち用のプロンプトでは上手くいかない感じだ
957(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)09:25 ID:???0 AAS
kobolcCppをAPIから利用するときChat ModeとかInstruct Modeってどうやって設定するの？
もしかしてAPIからは設定不可能？
960(2): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)10:36 ID:???0 AAS
>>958
う〜ん、だとするとAPIからはやっぱ無理なのか
Ninjaはどのモデル使ってもAPIからではチャットしてくれないわ、Web UIのChat Modeでないと無理
965: (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)12:12 ID:???0 AAS
>>963
音声でリアルタイム会話できるようにした自作アプリからNinja使おうと試してるんだよ
でSilly Tavernがどうやってチャットしてるのか確認したら初手「こんばんわ」って挨拶するだけで
5000文字超の長大なプロンプト送信してたわ、今必死に中身解析してるところ
966(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)12:25 ID:???0 AAS
Silly Tavernのリクエストの中身見て大体理解したわ
結局どんなモデルにも強制的にチャットさせてる方法は世間で言われてるプロンプトで頑張るやり方じゃなくて
最初からユーザーとAI双方の名前を付けて途中まで会話が進行した履歴をでっち上げてその続きから始めさせるようにして
AIが勝手にユーザーの発言始めるのをストップワードにユーザー名入れてそこで強制的に打ち切るってパワープレイやったわ
972(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)14:45 ID:???0 AAS
Silly Tavernを参考に何とかNinja使ってローカルだけで無制限に音声会話できるようになったわ
commandR+みたいな大型モデルと違って音声認識で1文字でも誤字があると正確な応答してくれないのは流石にしょうがないな
話してる女の子の名前がハルナだとしてwhisperの誤認識でアルナになってもcommnadR+は察してくれるけど
Ninjaその他の7Bモデルは別人の話だと思ってしまう
985: (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)18:36 ID:???0 AAS
>>>974
なるほどな、whisperはいつも同じ間違いするから辞書作っておくのは有効そうだな
993: (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)22:06 ID:???0 AAS
Ninjaは創作物から学習した比重高いんかな？プロンプト工夫してチャットさせてるけど
現実的な設定よりRPG世界で女の子と冒険するみたいな設定のほうが自然な流れで会話してくれる
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.278s*