なんJLLM部 避難所 (961ﾚｽ)
上下前次1-新
1: 転載ダメ (ﾜｯﾁｮｲ e249-iArR) 2023/12/17(日)21:48 ID:???0 AAS
!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降
本スレ
なんJLLM部 ★6
2chｽﾚ:liveuranus VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
942: (ﾜﾝﾄﾝｷﾝ MM1f-jMJY) 05/01(水)23:01 ID:???M AAS
乙
こうやって見ると、改めてAntler系使ったのばっかだなと思うわ
Antlerの作者さんにはホンマに感謝やで
943: (ﾜｯﾁｮｲ 737a-UB/Y) 05/01(水)23:02 ID:???0 AAS
小サイズでそこそこ動くのが増えると普及も進みそう
944(2): (ﾜﾝﾐﾝｸﾞｸ MM1f-jMJY) 05/01(水)23:14 ID:???M AAS
umiyukiのモデル抜けとったから、いつやったっけってHF見ても無くなってたわ
消したんかな
945: (ﾜｯﾁｮｲ 43c6-LnU8) 05/01(水)23:32 ID:???0 AAS
最近の軽めモデルは文章は良いんだけど入力指示に従ってくれる感じなのは現状LCAが一番強い感じする
百合書いたらいきなり関係ないおっさんが出てくる感じがある
946: (ﾜｯﾁｮｲ cf7a-rdsl) 05/01(水)23:43 ID:???0 AAS
どんぐりで荒らしの影響もだいぶ減ったけどまあここまで定着したら
こっちでいいんじゃね？
947: (ｽｯﾌﾟ Sd9f-zsX1) 05/01(水)23:45 ID:???d AAS
>>944
HuggingFaceに無くなってるなら追加無しで良いか
mergekit-evolveやってみてるが、メモリ64GB+3060-12GBでも一応全部ローカルで動かせるな
ただマージ後モデルが全部収まるVRAM容量無いと回答生成が遅い
948: (ﾜｯﾁｮｲ 73b2-dYyJ) 05/02(木)00:21 ID:???0 AAS
>>944
ライセンス的にグレーかもしれないから非公開にしたようだ
具体的には評価に使うLLMがLlama系とかCommand R系とかだと出力データ自体に制限がかかるので、そこが懸念点らしい
どっちもウェイトを開示してるだけで、ライセンス的にはオープンソースではなかったからね
949: (ﾜｯﾁｮｲ d311-h5/x) 05/02(木)00:26 ID:/tw254900(1) AAS
>>941
Llama-3とかPhy-3はないみたいだけど、NSFWが行けるかを基準にしてる？
950: (ﾜｯﾁｮｲ 7358-5N3P) 05/02(木)00:57 ID:???0 AAS
英語圏ってライセンス全く気にしてない感じだけどアレどうなってるんだろう
当たり前のようにGPTの出力学習に使ってapache2.0とかのモデル作ってるし
そもそもllama系は公式のポリシー遵守するならNSFW用のモデルとか作成しちゃダメだけど腐るほどあるし
951: (ﾜｯﾁｮｲ 53cc-TlR/) 05/02(木)01:06 ID:???0 AAS
そりゃあライセンスを気にしてないんだろうよ
952: (ﾜｯﾁｮｲ 43c6-WRNM) 05/02(木)01:16 ID:???0 AAS
>>922
使ってみたけどこっちはちゃんと指示に従うし描写の種類も豊富でかなり良い
NSFW版でもお断り率が高い感じするけど、ここは書き直せば良いから無問題
個人的にVecteusはアウトプットの方の文脈を優先で指示に従わない感じがあって使いにくかった
めっちゃ良いモデルありがとうやで
953: (ﾜｯﾁｮｲ e384-/xY8) 05/02(木)01:34 ID:???0 AAS
Don't be evil
邪悪になるな(ズルしていいのは俺だけ)
がテック業界の標語なんでェ
954: (ﾜｯﾁｮｲ ff1e-1wV0) 05/02(木)02:00 ID:???0 AAS
>>916
koboldでエロプロンプトで試させて貰いました！
金玉を「パンパンに張り詰めた長靴下」と表現したのは茶吹きましたｗ
ところでこれはモデルと関係ないかもですが、koboldで生成してる途中の黄色い文字が、生成結果では最後の方だけ消されて文章が減る現象が結構起こるんですが、これは設定で調整できるんでしょうか？
955: (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)02:45 ID:1tIZbkbs0(1/3) AAS
Settings>Advancedの左下の方のTrim Sentecesのチェック外すと全部表示されるはずやで
文末まで出力できなかった文章を表示するか否かの設定や
956: (ﾜｯﾁｮｲ 53e2-7iwU) 05/02(木)08:04 ID:???0 AAS
EasyNovelAssistantへの追加ありがとナス
キャラ設定なげるだけでStable Diffusion用プロンプト生成できるプロンプトも用意したで、NSFWコンテンツも出してくれるのはローカルLLMの特権よ
外部ﾘﾝｸ[txt]:github.com
画像は野郎の手じゃなきゃ10000点やったやつ
外部ﾘﾝｸ:imgur.com
957(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)09:25 ID:???0 AAS
kobolcCppをAPIから利用するときChat ModeとかInstruct Modeってどうやって設定するの？
もしかしてAPIからは設定不可能？
958(1): (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)10:19 ID:1tIZbkbs0(2/3) AAS
>>957
Instructionモードとか、ChatモードってのはあくまでもWebUIの機能で
API経由でKoboldや大葉使う場合は自前で渡すシステムプロンプトでInstruction的な振る舞いを課したり、
Chat的な振る舞いを課すってのがワイの理解や
959: (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)10:32 ID:1tIZbkbs0(3/3) AAS
ところでSillyTavernでCohereのCommand-r-plus使いたいんだが、上手く接続できん
トライアルAPIはValid表示されるが、メッセージのやり取りしようとするとスクショの様なBad Requestエラーがでてしまう
何を見落としてるんやろうか？SillyTavernでCommand-r-plusイケてるニキおったら、教えてくれんか？
外部ﾘﾝｸ:imgur.com
960: (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)10:36 ID:???0 AAS
>>958
う〜ん、だとするとAPIからはやっぱ無理なのか
Ninjaはどのモデル使ってもAPIからではチャットしてくれないわ、Web UIのChat Modeでないと無理
961: (ﾜｯﾁｮｲ a3ff-joKd) 05/02(木)10:39 ID:???0 AAS
自分はどこもいじらずcohere選んでAPIキーをペーストしてconnectしたら繋がったな
スクショ見る限り自分と同じに見える
とはいえそれは数日前の話で今帰省中だから再現を確認できん
とりあえずどこか別の画面で設定が必要とかはなさそうよということで
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.706s*