[過去ﾛｸﾞ] なんJLLM部 避難所 ★3 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
128: (ﾜｯﾁｮｲ ba2f-gpBf) 2024/06/18(火)06:41:06.44 ID:???0 AAS
なりきりチャットボットを作るならどうすればええの？プロンプトだけじゃ無理？
257: (ﾜｯﾁｮｲ bf1b-S5ud) 2024/06/27(木)22:50:33.44 ID:???0 AAS
SBVITS2の音声学習をやってみようと手探りでチュートリアル動画に沿ってやってるんですが
データセット作成の文字起こしのとこでUnicodeDecordエラーが出て作成出来ず、どうしたらいいのか分からんので教えてください
327: (ﾜｯﾁｮｲ 9311-jOK4) 2024/07/02(火)20:36:10.44 ID:pU92odSm0(4/6) AAS
>>324
macの共有メモリなのでロード前後で差をとった概算で、コンテキストは8192 tokensで31GBくらいモデルが占有してる感じ
知識詰め込まれてると量子化の影響大きいかも、と思ってとりあえずQ8にしてるんだが、もうちょい下げても大丈夫かなとは思う
427(1): (ﾜｯﾁｮｲ 9f77-e7sY) 2024/07/10(水)01:42:25.44 ID:???0 AAS
記憶させてるつもりなのに水に散らした絵の具みたいにだんだん薄くなっていく気がする
かと思いきやスリーサイズはいつ聞いても正確だったりもするんだよな
462: (ﾜｯﾁｮｲ dedb-0Wc7) 2024/07/14(日)01:43:01.44 ID:9jh+Xqwi0(2/2) AAS
説明見るとNinjaはいくつかのモデルをマージしているんじゃないの
違いは何をマージしてるかの違いなんじゃないの
500(1): (ﾜｯﾁｮｲ 0786-4dff) 2024/07/17(水)08:25:31.44 ID:???0 AAS
完全にスレチだけど少しでも安くあげるならソフバン系の回線を一ヶ月だけ契約してperplexityの1年無料を貰うのが吉
648: (ﾜｯﾁｮｲ 6f6f-tk+8) 2024/07/25(木)12:44:25.44 ID:???0 AAS
スレ間違えたスマソ
686(1): (ﾜｯﾁｮｲ 3311-Mtf7) 2024/07/27(土)14:30:13.44 ID:s9nYYsMX0(2/3) AAS
>>684
外部ﾘﾝｸ:huggingface.co
747: (ﾜｯﾁｮｲ 9732-RfJN) 2024/07/31(水)15:39:23.44 ID:???0 AAS
>>746
おお！サンクス！脱字無くなったわ！
866: (ﾜｯﾁｮｲ 23b4-TGwR) 2024/08/17(土)06:44:46.44 ID:???0 AAS
大葉をrocmで動かす場合に大葉の独自リポジトリにあるllama.cppのrocm用のバイナリが古すぎて自動イントールに任せると最新のrocm>=6.0だと動かない問題踏んだ
ワークアラウンドとしてはllama-cpp-pythonの公式パッケージをpipで入れてrequirement_amd.txtのllama関係全部コメントアウトしてpip install -r requirement_amd.txt
んでmodules/llama_cpp_python_hijack.pyの29行目をコメントアウトでいけた
Radeonで動かそうとするやつなんか滅多にいないからissue上がってるけど放置されてる模様
935: (ﾜｯﾁｮｲ 3b32-n3tr) 2024/08/31(土)21:33:01.44 ID:???0 AAS
公式も、hf版も試したが、web版では両方とも規制入っているね。
ローカルにiQ4_xs落として試したら、無修正だった。
やっぱ、これをQ6以上の量子化でサクサク遊べるPC欲しいな
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.032s