[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
132: (ﾜｯﾁｮｲ 00bc-mR1Y) 05/17(土)15:32:18.86 ID:jvzrCaRm0(2/3) AAS
>>131
ありがてぇ…
156: (ﾜｯﾁｮｲ eaec-iXKU) 05/20(火)02:12:15.86 ID:hbszdRYX0(3/4) AAS
仕様でてた
{
2基のArc Pro B60はそれぞれPCI Express 5.0 x8で接続されるため、利用に際してはマザーボード側がPCI Express 5.0 x16からx8 + x8へのレーン分割をサポートしている必要があります
}
内部ブリッジすら無さそうね 前のSSDが積める4060tiのGPU版か
211(1): (ﾜｯﾁｮｲ 5367-ElKC) 05/27(火)20:44:47.86 ID:Khy5JY5E0(1) AAS
magnum-v4-27bとか色々使ってみたけどエロ会話どころか日本語も安定しないな画像生成AIみたいに日本語強いモデルとエロモデルでマージみたいな事は簡単には出来ん感じ?
253: (ﾜｯﾁｮｲ ef32-kszJ) 06/02(月)01:01:34.86 ID:PL5oy1lz0(1) AAS
>>252
メモリは最低でも64Gないと動かん
64GでもIQ3_Mの量子化が限界
96GあればQ5_K_Mが動くが、メモリで動かすと絶望的に遅いからお勧めしない
ワイは64Gで動かしてるが、プロンプト打ち込んだら、別の事して30〜40分掛かって512トークン終わる感じだわｗ
3080tiの12GのVRAMは一応使ってるが、あっても無くても変わらんレベル
しかもmagnum123Bは日本語トークン対応してないみたいで、１文字２トークン使うから、対応してる70Ｂの体感３倍遅いｗｗｗ
省2
263(1): (ｽﾌﾟｰﾌﾟ Sd32-21AQ) 06/02(月)19:56:09.86 ID:ncNQp2bZd(1/2) AAS
>>262
キャラチャット用のFT手順一式が欲しいわ
今はUnslothとかいうのを使うのか？
270: (ﾜｯﾁｮｲ ef32-kszJ) 06/04(水)11:20:24.86 ID:4a8LWwHM0(1/2) AAS
shisa-ai/shisa-v2-llama3.1-405b-GGUF
だれか試せる人おらんかな？
moeじゃない405Gの日本語finetune
651(1): (ﾜｯﾁｮｲ 13dd-J6yk) 07/17(木)12:17:48.86 ID:syUeGGiH0(1) AAS
>>644
文体とか表現を変えたいならプロンプトとか入れずにbaseモデルにそういった表現がある小説を学習させるだけでいいよ
広範な知識獲得(エロ全般とか)は難しいから元モデルはmistral系とかのエロに明るいの選んだ方がいい
>>646
lora学習はunslothが早くてわかりやすいからオススメ
719: (ﾜｯﾁｮｲ 631f-Kd6O) 07/23(水)07:15:53.86 ID:bfjt8CdB0(1) AAS
cydoniaV4 Q8で試してみた
文脈はかなりいいけど日本語の接続がところどころ怪しいのが見受けられるな
語呂が少ないのか？
756: (ﾜｯﾁｮｲ e227-8zxl) 07/28(月)12:10:32.86 ID:MumGz5TA0(1) AAS
楽観的な結果出して文句言われるのは避けたいだろうしな
762: (ﾜｯﾁｮｲ 9732-ZZYE) 07/31(木)09:37:00.86 ID:ke/8qkUs0(1/5) AAS
賢いモデルでも「胸の谷間が深い」とかいう英語を直訳したような謎の言い回しを多用するよな
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.029s