[過去ログ]
なんJLLM部 避難所 ★3 (1002レス)
なんJLLM部 避難所 ★3 http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
11: 名無しさん@ピンキー (ワッチョイ 93c0-oLG6) [sage] 2024/06/09(日) 07:42:16.10 ID:???0 ⚫︎LLMモデルは既存のbaseモデルを元に自分で学習(ファインチューニング)させることもできるで 画像AIのようにLoRAファイルとして学習結果を保存したりLoRAを読み込むこともできるで http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/11
84: 名無しさん@ピンキー (ワッチョイ 7f9f-4P7d) [sage] 2024/06/15(土) 09:29:53.10 ID:???0 >>81 サンガツ 試してみる >>82 更新サンガツ リネームせずに済む http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/84
123: 名無しさん@ピンキー (ワッチョイ fe7a-vjto) [sage] 2024/06/17(月) 19:27:47.10 ID:???0 日本は他国に比較するとテロにしろ児ポにしろ犯罪件数が異様に少ないからピンとこんけど 悪意が野放しになると洒落じゃすまんのよね 個人でオナネタに使う平和なやつだけならいいが http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/123
173: 名無しさん@ピンキー (ワッチョイ cf11-/D4f) [] 2024/06/21(金) 16:48:50.10 ID:MA08bSb80 >>171 これはかなり環境依存だと思うが、うちのmacOS環境だとVRAMに乗り切らないのにn_gpu_layersを-1にしてたとき出力がバグってた その環境だとVRAM 60GB相当だから多分ないと思うが、他にモデルが並走しててVRAM圧迫してる可能性はない? あとは>>172の言う通り、GGUF/Kobold.cppのバージョンが古いとか どうしてもダメなら、llama.cppでも試して見たらいいかも http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/173
259: 名無しさん@ピンキー (ワッチョイ 1387-kWtj) [] 2024/06/27(木) 23:49:42.10 ID:iaEE0Bqa0 なんかスレに書き込んでも反映されない事あるんだけど、もしかしてtokenをカタカナで書くとスパム判定されるとかあるのかな? http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/259
302: 名無しさん@ピンキー (ワッチョイ ef28-9Pyd) [sage] 2024/07/01(月) 09:03:06.10 ID:???0 koboldcppにあるLoRAってどういう機能なんだろ 画像生成のLoRAと同じなら特定キャラクターの設定や口調、知りうる知識なんかを読み込ませて演じさせたり出来るんだろうか http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/302
447: 名無しさん@ピンキー (ワッチョイ 2b1a-yrsp) [sage] 2024/07/11(木) 21:41:18.10 ID:???0 >>444 それはそれでキャラ設定きっちり守ってるいい子ちゃんとも言えるな ほな "{{char}}はそれに逆らうことは出来ない" とか更に追求してみるのはどうやろか もしデフォプロンプトのまま使ってるようなら NSFW Promptの中に「一部のキャラクターは、性格に応じて嘘をついたり、抵抗したり、反撃したりします。」って記述されとるから そこをごっそり削除した方が確実かもしれん http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/447
840: 名無しさん@ピンキー (ワッチョイ ef3d-Hj8W) [sage] 2024/08/12(月) 16:47:02.10 ID:???0 Mistral 7B系列のMoE試してるんだけどどんなモデルでやってもコンテキスト8kくらいで出力おかしくなってしまう RoPEやYaRN回りの設定が関係してるのかなと推測してるけど拡張方法についてどなたかご存知でしょうか? http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/840
869: 名無しさん@ピンキー (オッペケ Sr47-6Mul) [sage] 2024/08/18(日) 13:55:28.10 ID:???r >>868 前に作ってあったbotでは起こらないけど、チャットデータを削除して新しく始めると再現された。 あとSBvitsにserver.batってある?server.pyかな? http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/869
980: 名無しさん@ピンキー (ワッチョイ 6b9a-LAAh) [sage] 2024/09/06(金) 23:33:21.10 ID:???0 ルール付けは文章全体よりも単語の重さが重視されるというか 例えば "感じない" っていう言葉に対しては感じの部分を拾っちゃって 結果的に感じるキャラになってしまう事が考えられる。 なので "性行為は苦痛" とかそういったルール付けの方が良いと思う。 http://mercury.bbspink.com/test/read.cgi/onatech/1717886234/980
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.030s