[過去ログ] なんJLLM部 避難所 (1002レス)
1-

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
922
(2): マジカル (ワッチョイ a3dd-4Xr2) 05/01(水)17:21 ID:gKfC050z0(9/10) AAS
外部リンク:huggingface.co
128k版のGGUFも公開しました。
923: (ワッチョイ f3fc-7iwU) 05/01(水)17:48 ID:7eBcySVV0(1/2) AAS
>>922
Kobold.cpp+SillyTavernでNinja-v1-NSFW_Q_8_0.gguf遊ばせてもらってるが、なかなか素晴らしいな
ワイのロールプレイの進め方も関係してるかと思うが、コンテクストサイズのデカさがキャラクターのはがれにくさにつながる反面、やや意固地に感じる部分もあるな
モデルそのものはエロを許容しつつもわりと倫理観しっかりしているなと感じる
素晴らしいモデルの公開サンガツや
924: (ワンミングク MM1f-jMJY) 05/01(水)18:01 ID:???M AAS
>>919
返答ありがとう!それは楽しみや!
Wizard2かなるほどなあ。そこが他の子と違うとこやね
確かにWizard2は優秀だし、それを活かしたのがこの凄さに繋がってるのか
参考になります

と思ったらまだWizard2の公式取り消されたままだったわ
MSよ、Wizard2の復活はよ!
925: (ワッチョイ 83be-7iwU) 05/01(水)18:30 ID:???0 AAS
大きなモデルばっか使ってたから7Bモデルだとチャットを上手くしてくれないんだけど
7Bモデルでも効く良さげなプロンプトってどっかでまとまってたりする?
自分と女の子で会話しようとしてもAIが1人2役でずっと話続けてしまう
926: (ワッチョイ 53df-5N3P) 05/01(水)18:40 ID:???0 AAS
1人2役で続けるのはストップワードをちゃんと設定すれば大体解決すると思う
927: マジカル (ワッチョイ a3dd-4Xr2) 05/01(水)18:44 ID:gKfC050z0(10/10) AAS
Vicunaプロンプトでやってみてください
928: (ワッチョイ f310-7iwU) 05/01(水)18:51 ID:7eBcySVV0(2/2) AAS
このVicunaプロンプトで、ってのが正直ワイも今一つよー分からん
誰かKobold、大葉、尻タブを対象にしたチュートリアルまとめてくれんか?
929: (ワンミングク MM1f-jMJY) 05/01(水)19:11 ID:???M AAS
>>228
930: (ワッチョイ 0332-rdsl) 05/01(水)19:42 ID:???0 AAS
>>901
お疲れ様です。
NinjaとVecteusで、いくつか小説を書かせてみましたが、表現力はNinjaが高いですが、
話のまとまりやシナリオの辻褄や整合性はVecteusの方が高い気がしました。
いずれにせよ7Bでこれはすごいですね。
もっと高いパラメータになったら、どうなるか期待です
931: (ワッチョイ cf13-6o3J) 05/01(水)20:32 ID:???0 AAS
EasyNovelAssistantでNinja-v1-NSFW-128k-Q_8_0, Ninja-v1-NSFW-Q_8_0, Vecteus-v1-Q4_K, umiyuki-Japanese-Chat-Umievo-itr001-7b-Q4_K_Mをさくっと使えるようにしといたで

外部リンク:github.com
Twitterリンク:Zuntan03
932: マジカル (ワッチョイ 03b2-4Xr2) 05/01(水)20:52 ID:8IDFQiKt0(1/3) AAS
大変嬉しいです!ありがとうございます
933: (ワッチョイ 93c0-Ub2H) 05/01(水)20:53 ID:???0 AAS
Oobaに関して言えばInstruction Templateでそれっぽいのロードして、なおかつchat-instructモードでやればいいんやない?
画像リンク[jpg]:i.imgur.com
いちおうLLM部Wikiあるけど廃墟になってんだよな
934
(2): マジカル (ワッチョイ 03b2-4Xr2) 05/01(水)20:54 ID:8IDFQiKt0(2/3) AAS
NinjaやVecteusを使った感想や問題点をいただけると非常にありがたいです。
935: (ワッチョイ 83be-7iwU) 05/01(水)20:57 ID:???0 AAS
ChatGPT用に練り込まれたプロンプトならかなりいい結果出るね > Vecteus-v1-gguf
CommandR+は元々ちょっと癖があるからそっち用のプロンプトでは上手くいかない感じだ
936
(1): (ワッチョイ cf13-6o3J) 05/01(水)21:04 ID:???0 AAS
>>934
量子化のIQ4_XS版を試してみたいです。

低サイズで高品質な量子化ができれば画像生成やT2Sと組み合わせたりと夢が広がりますし。
Twitterリンク:Zuntan03
937
(1): マジカル (ワッチョイ 03b2-4Xr2) 05/01(水)21:45 ID:8IDFQiKt0(3/3) AAS
宣伝させていただきます。
Twitterリンク:int_float_
ここのアカウントでNinjaなどの情報を発信する予定です。(もちろんここでも発信します)
938: (ワンミングク MM1f-jMJY) 05/01(水)21:53 ID:???M AAS
次スレは変わらずpinkに避難所として立てる?
あっちはまだスクリプト来てるみたいやったけど
939: (ワッチョイ ffb8-muh7) 05/01(水)21:59 ID:???0 AAS
むしろこっちが本スレになったんだから無いと困る
940: (スップ Sd9f-zsX1) 05/01(水)22:16 ID:???d AAS
>>937
X使いたくないからここで発信してもらえるの助かる
941
(1): (スップ Sd9f-zsX1) 05/01(水)22:49 ID:???d AAS
記憶を頼りに最近のモデルを纏めてみた
抜けがあったら補足してくれ

話題になったモデル(時系列順)

Mistral-7B系:
LightChatAssistant
Antler-7B-RP
Japanese-Starling-ChatV
Antler-7B-Novel-Writing
SniffyOtter-7B-Novel-Writing-NSFW
Ninja-v1
省7
1-
あと 61 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.242s*