[過去ﾛｸﾞ] なんJLLM部 避難所 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
954: (ﾜｯﾁｮｲ ff1e-1wV0) 05/02(木)02:00 ID:???0 AAS
>>916
koboldでエロプロンプトで試させて貰いました！
金玉を「パンパンに張り詰めた長靴下」と表現したのは茶吹きましたｗ
ところでこれはモデルと関係ないかもですが、koboldで生成してる途中の黄色い文字が、生成結果では最後の方だけ消されて文章が減る現象が結構起こるんですが、これは設定で調整できるんでしょうか？
955: (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)02:45 ID:1tIZbkbs0(1/4) AAS
Settings>Advancedの左下の方のTrim Sentecesのチェック外すと全部表示されるはずやで
文末まで出力できなかった文章を表示するか否かの設定や
956(2): (ﾜｯﾁｮｲ 53e2-7iwU) 05/02(木)08:04 ID:???0 AAS
EasyNovelAssistantへの追加ありがとナス
キャラ設定なげるだけでStable Diffusion用プロンプト生成できるプロンプトも用意したで、NSFWコンテンツも出してくれるのはローカルLLMの特権よ
外部ﾘﾝｸ[txt]:github.com
画像は野郎の手じゃなきゃ10000点やったやつ
外部ﾘﾝｸ:imgur.com
957(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)09:25 ID:???0 AAS
kobolcCppをAPIから利用するときChat ModeとかInstruct Modeってどうやって設定するの？
もしかしてAPIからは設定不可能？
958(1): (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)10:19 ID:1tIZbkbs0(2/4) AAS
>>957
Instructionモードとか、ChatモードってのはあくまでもWebUIの機能で
API経由でKoboldや大葉使う場合は自前で渡すシステムプロンプトでInstruction的な振る舞いを課したり、
Chat的な振る舞いを課すってのがワイの理解や
959: (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)10:32 ID:1tIZbkbs0(3/4) AAS
ところでSillyTavernでCohereのCommand-r-plus使いたいんだが、上手く接続できん
トライアルAPIはValid表示されるが、メッセージのやり取りしようとするとスクショの様なBad Requestエラーがでてしまう
何を見落としてるんやろうか？SillyTavernでCommand-r-plusイケてるニキおったら、教えてくれんか？
外部ﾘﾝｸ:imgur.com
960(2): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)10:36 ID:???0 AAS
>>958
う〜ん、だとするとAPIからはやっぱ無理なのか
Ninjaはどのモデル使ってもAPIからではチャットしてくれないわ、Web UIのChat Modeでないと無理
961(1): (ﾜｯﾁｮｲ a3ff-joKd) 05/02(木)10:39 ID:???0 AAS
自分はどこもいじらずcohere選んでAPIキーをペーストしてconnectしたら繋がったな
スクショ見る限り自分と同じに見える
とはいえそれは数日前の話で今帰省中だから再現を確認できん
とりあえずどこか別の画面で設定が必要とかはなさそうよということで
962: (ﾌﾞｰｲﾓ MM47-uLBv) 05/02(木)10:59 ID:???M AAS
>>960
興味あるんだけど、挨拶送るとどんな出力を返してるのかな
関係なしに小説を書き始めるのかな
963(3): (ﾜｯﾁｮｲ f308-7iwU) 05/02(木)11:01 ID:1tIZbkbs0(4/4) AAS
>>961
サンガツ、と言うことはちょっと根が深そうやな…。
>>960
NinjaはAPIからは無理って意味がちょっとよく分からんのだが？
ワイはKobold.cppをバックエンドにしてSilly TavernでNinja遊んどるけどふつーに遊んどるが
この際Kobold.cppのAPIをSilly Tavernが叩くって構図なのでSilly TavernをInstructにしておけばえーやろの気持ちや
964: (ﾜｯﾁｮｲ a3ff-joKd) 05/02(木)11:26 ID:???0 AAS
>>963
とりあえずCohereのアカウント新規に作ってトライアルAPIも取得し直してみるのはどうかな
RedditのSillyTavernスレでBad requestで検索したらCohere以外でも悩まされてる人結構いるわ
965: (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)12:12 ID:???0 AAS
>>963
音声でリアルタイム会話できるようにした自作アプリからNinja使おうと試してるんだよ
でSilly Tavernがどうやってチャットしてるのか確認したら初手「こんばんわ」って挨拶するだけで
5000文字超の長大なプロンプト送信してたわ、今必死に中身解析してるところ
966(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)12:25 ID:???0 AAS
Silly Tavernのリクエストの中身見て大体理解したわ
結局どんなモデルにも強制的にチャットさせてる方法は世間で言われてるプロンプトで頑張るやり方じゃなくて
最初からユーザーとAI双方の名前を付けて途中まで会話が進行した履歴をでっち上げてその続きから始めさせるようにして
AIが勝手にユーザーの発言始めるのをストップワードにユーザー名入れてそこで強制的に打ち切るってパワープレイやったわ
967: (ﾜｯﾁｮｲ cf13-6o3J) 05/02(木)12:29 ID:???0 AAS
>>956
サンガツやで！
もうちょっと見やすいようにメニューを構成するのとエロに直接リンク貼れない問題への対処を入れ込んどる
画像生成プロンプト生成なんやがNinjaやVecteusでもそこそこの結果が出とるっぽい
使えそうやったら記事でも補足しておいてもらえたらありがたいで
968: (ｱｳｱｳｳｰ Sa47-zsX1) 05/02(木)12:40 ID:???a AAS
提案になるけどChub aiみたいなキャラカード共有するサイトの日本語版みたいなのがあったら需要ある気がする
他人の書いたキャラカを使い回しできたら文才なくても文章書く手間を省けるからな
969: (ﾜｯﾁｮｲ e387-6o3J) 05/02(木)13:21 ID:BxbvsKPT0(1) AAS
Vecteusのf16使ってるけど賢くて楽しいわ
小説向けだからかハルシネーションちょっと強めやけど、要約とか一般タスクもサクサクしてくれるのほんと助かる。あと文脈の拾いかたすごいわ
Ninjaの方はQ8の方使ってるからか案外Vecteusよりも更にハルシネーション強めやけど、ミドルスペックでも40t/s出るのはほんまストレスフリーや。f16も試してみたいわ
970(1): (ﾜｯﾁｮｲ bf77-joKd) 05/02(木)13:29 ID:???0 AAS
>>963
実家に置いてたN100ミニPCにSTインストールしてCohereのトライアルAPI入れたらちゃんと繋がったよ
画像ﾘﾝｸ[jpeg]:i.imgur.com
Seraphinaちゃんとチャットできるのも確認した
やはりST側の設定じゃなくて、そちらの接続がうまくいってないんじゃないかと思う
プロキシが悪さしてたりAPIがいつの間にか失効してたりとか色々なケースがあるみたいだ
971: (ﾜｯﾁｮｲ cf13-6o3J) 05/02(木)14:01 ID:???0 AAS
>>956
EasyNovelAssistantを更新して「特集テーマ」メニューにゴールシーク関連をまとめるようにしといたで
「作例や記事」メニューからもリンク貼っといた
972(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)14:45 ID:???0 AAS
Silly Tavernを参考に何とかNinja使ってローカルだけで無制限に音声会話できるようになったわ
commandR+みたいな大型モデルと違って音声認識で1文字でも誤字があると正確な応答してくれないのは流石にしょうがないな
話してる女の子の名前がハルナだとしてwhisperの誤認識でアルナになってもcommnadR+は察してくれるけど
Ninjaその他の7Bモデルは別人の話だと思ってしまう
973(1): (ﾜｯﾁｮｲ 6f69-7iwU) 05/02(木)16:19 ID:aApmX5gk0(1/3) AAS
>>970
別垢作ってもダメだったんで、Silly Tavernをクリーンインストールしたらすんなりいけたわ！
色々検証してもらったりで助かったで、ありがとうさんや！
上下前次1-新書関写板覧索設栞歴
あと 29 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.011s