[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
234(1): (ﾜｯﾁｮｲ 63b9-ucyo) 2024/06/26(水)01:53:42.78 ID:???0 AAS
>>228
カスタムテンプレートで自作する感じだね
ターミナルにどんな入力されてるか出るからそれ見つつ弄ると良い
382(1): マジカル (ﾜｯﾁｮｲ 2b41-hvYX) 2024/07/06(土)23:53:33.78 ID:bF1ixPzl0(2/2) AAS
>>381
どのように使用しているか教えていただけますか？
影武者はインストラクションを用いるなどの用途は想定されておらず、
書き出しを3行くらい書く→AIに続きを200字ほど書かせる→人力で気に入らない部分を変更、話の流れを誘導→続きを書かせる→繰り返し
いわばAIと共同で小説を書くといった使い方を想定しています。
チャットなどできないことはないですが、小難しいタスクはおそらく理解できず、指示を出して小説を書いてもらうといった使い方には向いていません。
その場合はNinja-V3やVecteusの方が適しています。
478: (ﾜｯﾁｮｲ de60-8aOB) 2024/07/15(月)13:41:41.78 ID:???0 AAS
オススメモデル教えて？😭
前はCommand +RをAPIでつこてた！
537: (ﾜｯﾁｮｲ bb5a-XX+G) 2024/07/20(土)11:46:43.78 ID:???0 AAS
AIバブル弾けない限り無理
一応AMDは次世代APUはLPDDRXを内蔵多チャネル接続して広帯域にしたやつを
64だか128ぐらいまでは積むよみたいな事言ってる
849: (ﾜｯﾁｮｲ ef3d-Hj8W) 2024/08/13(火)14:23:30.78 ID:???0 AAS
>>840
自レスだけど"sliding_window"に"max_position_embeddings"と同じ32768を設定して"rope_theta"を100000.0にしたところ拡張できた気がする
gguf化したの上げてみた
外部ﾘﾝｸ:huggingface.co
プロンプト指定無しのgate_mode: randomでやって悪くなさげだから微調整したらもっと良くなりそう
876: (ﾜｯﾁｮｲ cf8e-ugRd) 2024/08/20(火)19:43:07.78 ID:???0 AAS
>>875
iq3_sだけどUbuntu上のllama.cppでは動いた
日本語も表現力かなり高い印象はあるけど、まだいろいろ試せてはいない
VRAMは54GBくらい使ってるな
923: (ﾜｯﾁｮｲ bb65-0vRJ) 2024/08/29(木)11:24:31.78 ID:???0 AAS
>>901
Calm3が元々結構頭良い+ClaudeとかGPTの出力の良さそうなデータ学習に使ってるのが結構効いてるのかな
非商用限定になっちゃうけど個人として利用するならどうでも良いからこっちの方がありがたいわ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.029s