[過去ﾛｸﾞ] なんJLLM部 避難所 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
938: (ﾜﾝﾐﾝｸﾞｸ MM1f-jMJY) 05/01(水)21:53 ID:???M AAS
次スレは変わらずpinkに避難所として立てる？
あっちはまだスクリプト来てるみたいやったけど
939: (ﾜｯﾁｮｲ ffb8-muh7) 05/01(水)21:59 ID:???0 AAS
むしろこっちが本スレになったんだから無いと困る
940: (ｽｯﾌﾟ Sd9f-zsX1) 05/01(水)22:16 ID:???d AAS
>>937
X使いたくないからここで発信してもらえるの助かる
941(1): (ｽｯﾌﾟ Sd9f-zsX1) 05/01(水)22:49 ID:???d AAS
記憶を頼りに最近のモデルを纏めてみた
抜けがあったら補足してくれ
話題になったモデル(時系列順)
Mistral-7B系:
LightChatAssistant
Antler-7B-RP
Japanese-Starling-ChatV
Antler-7B-Novel-Writing
SniffyOtter-7B-Novel-Writing-NSFW
Ninja-v1
省7
942: (ﾜﾝﾄﾝｷﾝ MM1f-jMJY) 05/01(水)23:01 ID:???M AAS
乙
こうやって見ると、改めてAntler系使ったのばっかだなと思うわ
Antlerの作者さんにはホンマに感謝やで
943: (ﾜｯﾁｮｲ 737a-UB/Y) 05/01(水)23:02 ID:???0 AAS
小サイズでそこそこ動くのが増えると普及も進みそう
944(2): (ﾜﾝﾐﾝｸﾞｸ MM1f-jMJY) 05/01(水)23:14 ID:???M AAS
umiyukiのモデル抜けとったから、いつやったっけってHF見ても無くなってたわ
消したんかな
945: (ﾜｯﾁｮｲ 43c6-LnU8) 05/01(水)23:32 ID:???0 AAS
最近の軽めモデルは文章は良いんだけど入力指示に従ってくれる感じなのは現状LCAが一番強い感じする
百合書いたらいきなり関係ないおっさんが出てくる感じがある
946: (ﾜｯﾁｮｲ cf7a-rdsl) 05/01(水)23:43 ID:???0 AAS
どんぐりで荒らしの影響もだいぶ減ったけどまあここまで定着したら
こっちでいいんじゃね？
947: (ｽｯﾌﾟ Sd9f-zsX1) 05/01(水)23:45 ID:???d AAS
>>944
HuggingFaceに無くなってるなら追加無しで良いか
mergekit-evolveやってみてるが、メモリ64GB+3060-12GBでも一応全部ローカルで動かせるな
ただマージ後モデルが全部収まるVRAM容量無いと回答生成が遅い
948: (ﾜｯﾁｮｲ 73b2-dYyJ) 05/02(木)00:21 ID:???0 AAS
>>944
ライセンス的にグレーかもしれないから非公開にしたようだ
具体的には評価に使うLLMがLlama系とかCommand R系とかだと出力データ自体に制限がかかるので、そこが懸念点らしい
どっちもウェイトを開示してるだけで、ライセンス的にはオープンソースではなかったからね
949: (ﾜｯﾁｮｲ d311-h5/x) 05/02(木)00:26 ID:/tw254900(1) AAS
>>941
Llama-3とかPhy-3はないみたいだけど、NSFWが行けるかを基準にしてる？
950: (ﾜｯﾁｮｲ 7358-5N3P) 05/02(木)00:57 ID:???0 AAS
英語圏ってライセンス全く気にしてない感じだけどアレどうなってるんだろう
当たり前のようにGPTの出力学習に使ってapache2.0とかのモデル作ってるし
そもそもllama系は公式のポリシー遵守するならNSFW用のモデルとか作成しちゃダメだけど腐るほどあるし
951: (ﾜｯﾁｮｲ 53cc-TlR/) 05/02(木)01:06 ID:???0 AAS
そりゃあライセンスを気にしてないんだろうよ
952: (ﾜｯﾁｮｲ 43c6-WRNM) 05/02(木)01:16 ID:???0 AAS
>>922
使ってみたけどこっちはちゃんと指示に従うし描写の種類も豊富でかなり良い
NSFW版でもお断り率が高い感じするけど、ここは書き直せば良いから無問題
個人的にVecteusはアウトプットの方の文脈を優先で指示に従わない感じがあって使いにくかった
めっちゃ良いモデルありがとうやで
953: (ﾜｯﾁｮｲ e384-/xY8) 05/02(木)01:34 ID:???0 AAS
Don't be evil
邪悪になるな(ズルしていいのは俺だけ)
がテック業界の標語なんでェ
954: (ﾜｯﾁｮｲ ff1e-1wV0) 05/02(木)02:00 ID:???0 AAS
>>916
koboldでエロプロンプトで試させて貰いました！
金玉を「パンパンに張り詰めた長靴下」と表現したのは茶吹きましたｗ
ところでこれはモデルと関係ないかもですが、koboldで生成してる途中の黄色い文字が、生成結果では最後の方だけ消されて文章が減る現象が結構起こるんですが、これは設定で調整できるんでしょうか？
955: (ﾜｯﾁｮｲ f310-7iwU) 05/02(木)02:45 ID:1tIZbkbs0(1/4) AAS
Settings>Advancedの左下の方のTrim Sentecesのチェック外すと全部表示されるはずやで
文末まで出力できなかった文章を表示するか否かの設定や
956(2): (ﾜｯﾁｮｲ 53e2-7iwU) 05/02(木)08:04 ID:???0 AAS
EasyNovelAssistantへの追加ありがとナス
キャラ設定なげるだけでStable Diffusion用プロンプト生成できるプロンプトも用意したで、NSFWコンテンツも出してくれるのはローカルLLMの特権よ
外部ﾘﾝｸ[txt]:github.com
画像は野郎の手じゃなきゃ10000点やったやつ
外部ﾘﾝｸ:imgur.com
957(1): (ﾜｯﾁｮｲ 83be-7iwU) 05/02(木)09:25 ID:???0 AAS
kobolcCppをAPIから利用するときChat ModeとかInstruct Modeってどうやって設定するの？
もしかしてAPIからは設定不可能？
上下前次1-新書関写板覧索設栞歴
あと 45 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.038s