[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
169: (ﾜｯﾁｮｲ afd0-3+9I) 2024/06/21(金)00:00:22.76 ID:e9afd9d20(1) AAS
外部ﾘﾝｸ:tech.algomatic.jp
プロンプトハックをLLM自身にやらせる手法、なんだけどこれの例で出てくるプロンプトめっちゃ参考になりそう
286: (ｼｬﾁｰｸ 0C53-t6wP) 2024/06/30(日)09:08:43.76 ID:???C AAS
>>263
沸きやがったぞ
スクリプト
290: (ﾜｯﾁｮｲ 9311-jOK4) 2024/06/30(日)12:50:33.76 ID:NiQ7UBWv0(2/4) AAS
ああ、すまん
mistralベースの日本語7Bモデルの話
KUJIRAにXML出させようとしたんだけど、うまく行かんかった
373: (ﾜｯﾁｮｲ 0b32-9U6/) 2024/07/06(土)05:54:13.76 ID:???0 AAS
Oumuamua-7b-RP_Q8_0.ggufを使ってるんだけど
userを罵りながらのエッチとか女キャラに乱暴なエッチをさせようとすると文章がかなりおかしくなるな
攻めっ気の強い女キャラが上手く表現できないのかな
552: (ﾜｯﾁｮｲ 2be5-3SVq) 2024/07/20(土)22:42:49.76 ID:???0 AAS
542だけどapiの話ね。語弊があったようですみません
ちなみに何か月か前に登録してからまだトライアルのままだな（最初に5ドル分くらいもらえる）
結構、使ったのに。
614: (ﾜｯﾁｮｲ fb32-G/Qc) 2024/07/24(水)12:00:17.76 ID:???0 AAS
エッチなことをするとすぐ頭が真っ白になるのをやめさせたい
もっと他に表現方法ないのかよ！
638: (ﾜｯﾁｮｲ 5f9f-YxOV) 2024/07/25(木)09:14:19.76 ID:???0 AAS
外部ﾘﾝｸ:huggingface.co
>Swallow-8Bは追加の日本語継続事前学習により日本語が大変流暢なLlama-3派生モデルです。
>このBranchとLlama3との差分ベクトルを、アップグレードされた新しいMeta Llama-3.1-8B-Instructに移植しました。
>Meta-Llama-3.1-8B-Instruct + 0.7*(tokyotech-llm/llama-3-Swallow-8b - meta-llama/Meta-Llama-3-8B)
759(1): (ﾜｯﾁｮｲ 6fa0-05lm) 2024/08/01(木)13:52:38.76 ID:???0 AAS
繰り返しを無くす方法
■temperature高くする。
temperatureが低すぎると、モデルが非常に確率の高い次の単語を選択し続けるため、繰り返しが生じやすくなります。
■top_p（トップPサンプリング）高くする。
確率の合計がP以上になるまで単語を選択
Pの値が低いと、選択肢が制限されるため、繰り返しが発生しやすくなります。逆にPの値が高すぎると、ランダム性が増し、
文脈にそぐわない単語が選ばれやすくなるため、適切なバランスを見つけることが大切です。
一般的にはP値を0.9前後から調整を始め、状況に応じて微調整します。
■top_k（トップKサンプリング）高くする。
K個の最も確率の高い単語から選択
省4
809: (ﾜｯﾁｮｲ ff5e-6MSl) 2024/08/08(木)09:14:26.76 ID:???0 AAS
会話するくらいであればwikipediaの情報を満遍なく記憶しておかなくていいし
もっと小さいモデルでも人工無能以上の反応を引き出せるはず
827: (ﾜｯﾁｮｲ e314-kh9I) 2024/08/09(金)21:38:11.76 ID:TS/RW5pn0(1) AAS
喘ぎ声とかエロ用語をちゃんと使ってもらうならまず日本語対応してるAIであること
加えてオープンソースならファインチューニングで喘ぎ声とか大量に覚えさせることで対応できると思う
感じ始めてる時、強く感じてる時，イッてる時とか喘ぎ声ごとのタグ付けも必要かもしれんな
863: (ﾜｯﾁｮｲ efae-oC+7) 2024/08/15(木)16:03:12.76 ID:???0 AAS
具体的な生産量を調べたわけじゃないけどGDDRはニッチだもんな
普通のPCはDDRだしグラフィックで超高帯域が欲しければHBM2使うし
インテルはCPUの処理をGPUに持っていかれるのを極端に嫌ってる気がする
バス幅考えるとGPUにはまるで追いつかないんだからどっさり積んで欲しいよね
897: (ﾜｯﾁｮｲ cf16-tg9L) 2024/08/23(金)21:20:05.76 ID:???0 AAS
EasyNovelAssistantでリストにないモデルを手動で追加する方法が知りたい
898: (ﾜｯﾁｮｲ 7f0b-xZES) 2024/08/23(金)21:24:11.76 ID:PpZA/B870(1) AAS
EasyNovelAssistant\setup\resにあるdefault_llm.jsonを書き換えればいいぞ
あと聞く前に自分でコード探して♡
933: (ｼｬﾁｰｸ 0C7f-Dc8X) 2024/08/31(土)07:52:30.76 ID:???C AAS
>>932
hfで試してたわ
帰ったら公式試す！
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.034s