[過去ﾛｸﾞ] なんJLLM部 避難所 ★8 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
8: (ﾜｯﾁｮｲ f3c0-9L8h) 05/10(土)22:22:06.73 ID:0Ak3eO5y0(8/10) AAS
●その他の最近話題になったモデルも挙げとくで
動きの速い界隈やから日々チェックやで
Mistral-7B系:
LightChatAssistant
Antler-7B-RP
Japanese-Starling-ChatV
Antler-7B-Novel-Writing
省15
10: (ﾜｯﾁｮｲ f3c0-9L8h) 05/10(土)22:24:24.73 ID:0Ak3eO5y0(10/10) AAS
テンプレここまで、しばらく更新されてないから過去ログも参考にしてな
40: (ﾜｯﾁｮｲ a34c-Fs2+) 05/11(日)11:12:14.73 ID:PQJRxjMR0(1) AAS
>>37
2022年のM1 Ultraにも負けてるじゃん？
メモリの帯域幅が足りないからでは？
256GB/sではM1 Ultraの800GB/sには遠く及ばない
151(1): (ﾜｯﾁｮｲ eaec-fjSQ) 05/20(火)00:23:35.73 ID:hbszdRYX0(1/4) AAS
intel arc 48GBがマジで売られそう
48GBで1000＄以下らしい 帯域幅は456GB/sと狭いけどryxan AI maxよりは実用的かも
272: (ﾜｯﾁｮｲ ef32-kszJ) 06/04(水)13:50:12.73 ID:4a8LWwHM0(2/2) AAS
>>271
おおサンキュ！
早速試したが、R１並みにいいかも
webだから規制入ってるけどローカルならどうなんだろ
341(3): (JP 0H47-zi4d) 06/14(土)02:00:38.73 ID:uPbPRNr/H(1) AAS
ローカルでLLMを動かせると、そのローカルLLMのAPIを発行して、ネット上のAPIを入力して動かすツールを、全部無料で動かせるってことだよね？
VSCodeとか
379: (ﾜｯﾁｮｲ 07c6-8g0J) 06/17(火)20:59:57.73 ID:NxenJLEA0(1) AAS
Qwen3ベースのrinnaのbakeneko出してほしい
できれば235BA22B版も
435: (ﾜｯﾁｮｲ dbe7-RXbr) 06/21(土)16:10:00.73 ID:LDsXYAvs0(2/3) AAS
>>433
ありがとう。でもだめでしたー
申し訳ありませんをされるか関係ないストーリーをベラベラ喋るかのどっちか
まぁそもそもエッチなものを学習してないのかも知れんが
535: (ﾜｯﾁｮｲ ff32-DZti) 07/05(土)05:34:36.73 ID:0Kq04l/h0(1) AAS
>>533
そんなデカイので検証はしてないけど、乗るぶんだけでもvramに載せたほうが速いとは思う
でも大半が溢れるならほぼ誤差の速度かな
586(1): (ﾜｯﾁｮｲ 33c6-pJYp) 07/09(水)18:16:08.73 ID:3RWPoGdA0(1) AAS
なんかLM Studio入れたらstable diffusion webui a111が動かなくなっちゃった
webuiは仮想環境で動かしてたはずなんだけど、numpyがありません的な
venv消してもダメだしまいったな
916: (ﾜｯﾁｮｲ ff0f-McTy) 08/12(火)10:04:21.73 ID:1mdWcbDl0(1) AAS
ぶっちゃけ日本にまともな基盤モデル作れるだけのGPU無いし変にお金ばら撒くより高品質な日本語データセットの作成と公開に注力してほしい
事後学習の形式は色々進化してるけど事前学習で大量のテキストが要求されるのは変わらないだろうし国産LLMが作れないなら外国産LLMの日本語性能上げるべきだろ
996: (ﾜｯﾁｮｲ 1fe2-tp/S) 08/22(金)23:02:39.73 ID:sywHngdj0(1) AAS
もうみんなローカルLLMは使ってないの？APIのみ？
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.040s