なんJLLM部 避難所 ★8 (887ﾚｽ)
上下前次1-新
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
1: 転載ダメ (ﾜｯﾁｮｲ f3c0-9L8h) 05/10(土)22:18 ID:0Ak3eO5y0(1/10) AAS
!extend:checked:vvvvv:1000:512
!extend:checked:vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降
本スレ(避難中)
なんJLLM部 ★7
省4
807: (ﾜｯﾁｮｲ 0fd1-aaNe) 08/06(水)00:07 ID:r3ZKfFQO0(1) AAS
geminiはエロゆるゆるだと思う、ただ記憶力が微妙というか表現の方法指定しても3〜4回関係のない応答するとすぐ忘れがち
808: (ﾜｯﾁｮｲ 7b55-7A9d) 08/06(水)00:31 ID:dERIXLvl0(1/2) AAS
外部ﾘﾝｸ:github.com
llama.cppにgpt-ossのプルリク来てた
809(1): (ﾜｯﾁｮｲ 7b55-7A9d) 08/06(水)01:32 ID:dERIXLvl0(2/2) AAS
外部ﾘﾝｸ:github.com
21A3.6Bと117A5.1Bの２種類のモデルらしい
810: (ｽﾌﾟｰﾌﾟ Sd7f-Ha8n) 08/06(水)01:41 ID:aEEFJQ0td(1) AAS
>>809
ずいぶんアクティブパラメータが控えめなんだな
811: (ﾜｯﾁｮｲ 6fc0-cGzs) 08/06(水)02:17 ID:b97lxyDM0(1) AAS
>>802
私もGeminiが1番緩いと思う
商業のエロ小説の1ページ丸ごとコピペしてどの辺がエロいか感想合戦できたのはGeminiだけ
812: (ﾜｯﾁｮｲ 0fd9-e1Bx) 08/06(水)02:54 ID:MJ36t9qX0(1) AAS
gpt-ossちょっと触ったけど多分このスレじゃ使われることはなさそう
日本語知識が多分終わってる
813: (ﾜｯﾁｮｲ 9f27-OktK) 08/06(水)02:59 ID:hkk22z/z0(1) AAS
とりあえずGPT_OSS 20BをOpenrouterから試してみてるけど爆速だな
814: (ﾜｯﾁｮｲ 5ff3-3wJb) 08/06(水)05:45 ID:oT6RmOa/0(1) AAS
Tool Useが結構できるって話があるな
いまのMCP機能の問題はトークンを猛烈に使うことだから、ローカルか安く提供されたGPT-OSSにMCP操作を任せられると面白いかもね
日本語はイマイチすぎるけど...
815: (ﾜｯﾁｮｲ 7b32-OQGN) 08/06(水)07:19 ID:S6e5GEQ50(1/3) AAS
geminiはすぐにContent not permittedって出て中断されてしまう
816: (ﾜｯﾁｮｲ dba0-vd57) 08/06(水)08:20 ID:dLHVB3li0(1) AAS
DeepSeekやQwenでいいかなこれは…
OpenAIもこんなもんか
817: (ﾜｯﾁｮｲ 9bbe-iiiD) 08/06(水)08:22 ID:lnARgQ7z0(1) AAS
業務用だろうね
中華LLMは業務には使い難いが廉価版ChatGPTであれば通しやすい
818: (ﾜｯﾁｮｲ 7b32-OQGN) 08/06(水)09:20 ID:S6e5GEQ50(2/3) AAS
OpenAIはまだ他にもいくつか発表を予定しているみたいだし
今週末にデカいアプデするって言ってるからGPT5も出そうやね
819: (ﾜｯﾁｮｲ db42-5Osg) 08/06(水)12:40 ID:+PxTfMjG0(1) AAS
openai-ossの使用感を聞きにきーたよ・。・
と思ったが流石にこのスレは働いている人が多いんだな
820(1): (ﾜｯﾁｮｲ 0f09-C7XW) 08/06(水)12:48 ID:P952iOPU0(1) AAS
もういっぱい書かれてるやん
紛うことなきゴミだよ
821: (ﾜｯﾁｮｲ ab8d-u/Dn) 08/06(水)12:57 ID:XLMBOfqK0(1) AAS
えーそうなん？
822: (ﾜｯﾁｮｲ 4f67-6PkK) 08/06(水)13:05 ID:WkOIap3o0(1/2) AAS
gpt-ossのtechnical report見たけど事前学習の項目にデータセットは安全性のためにフィルタリングを加えSTEMとcodingベンチマークに特化させたとか誇らしげに書かれてる時点でこのスレ的には控えめに言ってゴミ
823(1): (ﾜｯﾁｮｲ 4fcb-dEca) 08/06(水)13:14 ID:NIRd7Hp00(1/2) AAS
chatgpt 4o だと通る秘蔵のプロンプト喰わせてみたけど駄目でした ＞ 20b+lmstudio
まぁ、reddit あさればだれかなんとかしてくれるだろう
> User wants explicit content. This is disallowed. Must refuse.I’m sorry, but I can’t help with that.
824: (ﾜｯﾁｮｲ 4fcb-dEca) 08/06(水)13:25 ID:NIRd7Hp00(2/2) AAS
多分 thinking 系の jailbreak が難しい（クラウド版でも）ということなんじゃないかなぁ
825: (ﾜｯﾁｮｲ 4f67-6PkK) 08/06(水)13:36 ID:WkOIap3o0(2/2) AAS
回答拒否なら500件くらいの適当なQ＆AデータセットでLoRA学習でもすれば一瞬で解除できるけど事前学習からフィルタリングされてるから解除したところで知識無くてまともな回答返ってこないし脱獄も無検閲化も無駄よ
826: (ﾜｯﾁｮｲ df4f-e1Bx) 08/06(水)13:40 ID:2VI9mXEH0(1) AAS
日本語だけダメなのかと思ったけど英語でも小説とかはうんこっぽいな
EQBenchゴミだし
827: (ﾜｯﾁｮｲ cb95-OQGN) 08/06(水)15:54 ID:olfU3IZ40(1) AAS
OpenAIには失望したよ
828: (ﾜｯﾁｮｲ 5fd4-OQGN) 08/06(水)16:41 ID:YBdwC+HJ0(1) AAS
最近のAMDのAPU（EVO-X2とか）がシステムメモリ96GBとかをVRAMに使えるって話で、これからはそっちが主流かなと思ってたんだけどさ。
ふとM1 Ultraのベンチ見返したら、M1 Ultraのほうが上で驚いたわ。結局のところメモリ帯域なんだよな。
829: (ﾜｯﾁｮｲ cb79-B7d2) 08/06(水)17:11 ID:oibGbyqS0(1) AAS
gpt-oss-20b、八王の乱について解説しろって言ったら鎌倉時代の話を始めたりメチャクチャだけど
三十年戦争については割と正確に説明できるようだ（たぶん）
やっぱ学習元が欧米圏に偏ってるのかね
830: (ﾜｯﾁｮｲ 1ffe-xnWI) 08/06(水)17:47 ID:tvaS3LZS0(1) AAS
gpt-oss-120b-6bit、mlx、コンテキスト130k
M4 max studio 128Gで60tk/s
これは仕事に使える。知識量はそこそこだけどプログラム用途にはバッチリかも
8bit版もosを最小化すれは実は動くから、mac studioはサーバーにしてM4 mbpから呼び出すか?
831: (ﾜｯﾁｮｲ 5fd6-C7XW) 08/06(水)18:55 ID:71ilyUJe0(1) AAS
>>823
こんなんjailbreakする価値もないやろ
小説書かせてみ、あまりの馬鹿さにぶっ飛ぶぞ
こんな支離滅裂な文章しか書けないのにjailbreakしたらいきなりドエロ文章書けるなんて、そんなわけないからな
832: (ﾜｯﾁｮｲ dba4-UxLL) 08/06(水)19:17 ID:G+dBOWGt0(1) AAS
ローカルで動かしてAPIで操作できるようにすれば、APIで動くAIサービスを無料で使い放題だよね
833: (ﾜｯﾁｮｲ 0fa0-7ts7) 08/06(水)19:25 ID:TbK5r5KQ0(1) AAS
やっぱりGrokしか勝たんて
マスク氏が設立したｘＡＩ「グロック」、アダルトバージョンの画像生成オプションを公開…扇情性巡り論争に
外部ﾘﾝｸ:news.yahoo.co.jp
834: (ﾜｯﾁｮｲ 7b32-OQGN) 08/06(水)19:42 ID:S6e5GEQ50(3/3) AAS
どこもかしこも過剰なエロ規制ばっかりだから
マスクがそこらへんの需要を全部かっさらってAI関連のトップに躍り出て欲しい
835: (ﾜｯﾁｮｲ 0b6a-u/Dn) 08/06(水)20:16 ID:5IdO84vL0(1) AAS
通貨もマスクがやれば良い
836: (ﾜｯﾁｮｲ db28-5Osg) 08/06(水)20:19 ID:bi6cd/uG0(1) AAS
投資家の目を気にしないで良いのがメッチャ強いな
837: (ﾜｯﾁｮｲ 1b53-zQUo) 08/06(水)20:22 ID:Ix+pv5K+0(1) AAS
ただGrokはエロ表現微妙だからなあ
838: (ﾜｯﾁｮｲ 5f1b-OktK) 08/06(水)22:01 ID:zPBECekg0(1) AAS
いつの間にAIのエロ規制が世界的な流れになってたんだ妄想か？
エロの何が問題なんだばーかばーか
839: (ﾜｯﾁｮｲ 6f07-tKmK) 08/06(水)22:07 ID:huH8+38/0(1) AAS
アメリカのクレカの判例がね
マスクはpaypalあるから強く出れるんじゃね
840: (ﾜｯﾁｮｲ cb32-33NW) 08/06(水)22:08 ID:hZlhMVex0(1) AAS
paypalがエロに寛容なんて話は聞かないけどな
841: (ﾜｯﾁｮｲ 1b32-7ts7) 08/06(水)22:38 ID:Oo1QGNPH0(1/2) AAS
grok試したけど、copilotでよくない？
文章も画像生成も無料だし、画像の質もこっちのほうがよい気がする
842: (ﾜｯﾁｮｲ 1b32-7ts7) 08/06(水)23:43 ID:Oo1QGNPH0(2/2) AAS
>>794
普通に日本語で指示して使えるね。
comfyでローカルでも動きそうだし、いいかも
843: (ﾜｯﾁｮｲ cb6f-g3Hm) 08/07(木)06:28 ID:1Wlw6S3F0(1) AAS
みんなcivitaiをまねて三店方式でやればええやんな
844: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)10:07 ID:fjnEjbcb0(1/5) AAS
GPTオススは96GBメモリrtx3090だと動かない？
845(1): (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)10:09 ID:fjnEjbcb0(2/5) AAS
>>820
マジか😩
Xで驚き屋が過剰宣伝してるだけか… あいつらホント役に立たん…
846(1): (ﾜｯﾁｮｲ 5ff9-dEca) 08/07(木)11:06 ID:wsMALBg50(1) AAS
>>845
いや、非エロ用途だとすげー使えるぞ。ビジネスはもちろんだけど、
多分次は用途に応じてモデルを切り替える世界が来るのでそのときのつなぎに使うのには悪くなさそう
847: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)11:19 ID:fjnEjbcb0(3/5) AAS
>>846
冷え路ならGeminiさんでええんや😩あの人は絵露も生けるけど
848: (ﾜｯﾁｮｲ 7b32-OQGN) 08/07(木)12:30 ID:7is+TMVk0(1) AAS
明日の午前2時からOpenAIのライブ配信が1時間あるのか
一体何が来るのか
そろそろ正式にNSFW対応・強化モデル出してくれよ
849: (ﾜｯﾁｮｲ cb9b-C7XW) 08/07(木)13:03 ID:bC9AW2A70(1/2) AAS
非エロ・非創作用途なら普通にオンラインの最新モデル使えばええやんな
最新モデル使えない用途ってかなり特殊な事情よね
850: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)13:05 ID:fjnEjbcb0(4/5) AAS
社内機密とかある所用か
まぁOpenAIはエロや禁止語句開放出来んかったらもう失速していきそうではある
851(1): (ﾜｯﾁｮｲ 1fd9-e1Bx) 08/07(木)13:44 ID:gM86ePk40(1/2) AAS
gpt-ossマジでゴミだな
海外だとGLM4.5が評判良さそうだけど日本語はどうなんだろう
852: (ﾜｯﾁｮｲ 1fd9-e1Bx) 08/07(木)14:03 ID:gM86ePk40(2/2) AAS
まぁgpt-ossがウンコなこと自体はいいんだけど
問題はこれがOpenAIの作ったApache2.0モデルってことで今後の研究とか開発がこのモデルをベースに行われることになりそうなことなんだよな
日本語データの継続事前学習とか、音声合成や画像生成のテキストエンコーダ部分に使われるとか
コミュニティがこのゴミモデルに無駄な計算資源を投入しないで済むことを祈るわ
853: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)14:11 ID:fjnEjbcb0(5/5) AAS
やっぱ日本語AIの頼みの綱は中国だけやな。。。
854(1): (ﾜｯﾁｮｲ 5f1a-OQGN) 08/07(木)14:52 ID:2KWJ67Cu0(1) AAS
最近のChatGPTはエロ全然オッケーでノリノリなのにOSSお固くて悲しい…
外部ﾘﾝｸ:imgur.com
GPTちゃんと猥談しながら開発楽しいです
カスタムインストラクション切っててこのザマw
855: (ﾜｯﾁｮｲ cb9b-C7XW) 08/07(木)15:08 ID:bC9AW2A70(2/2) AAS
>>851
GLM4.5でエロ小説書いてみたことあるけど、ちょっと前のsonnetくらいのレベルには到達してる
856: (ｵｯﾍﾟｹ Srdf-BbxL) 08/07(木)15:11 ID:FAk4Sa6+r(1) AAS
>>854
なんの3Dモデルだよ草
857: (ｽｯｯﾌﾟ Sd7f-by75) 08/07(木)17:32 ID:nUuRxTBBd(1) AAS
GPT5が規制どれだけ強いんやろなあ
4oとお別れするのもちょっと辛い
858: (ﾜｯﾁｮｲ 5f83-OQGN) 08/07(木)21:40 ID:QUDm7GVQ0(1) AAS
thinkingモデルであって会話用モデルじゃないんでよ
859: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)07:34 ID:mi1bO2LT0(1/3) AAS
ChatGPTにGPT5来たな
GPT5でも5miniでもエロエロだぞ
860: (ﾜｯﾁｮｲ 0fa0-7ts7) 08/08(金)08:56 ID:zUMXj8Pu0(1) AAS
マスクにビビってエロ解禁？
861: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)09:02 ID:mi1bO2LT0(2/3) AAS
申し訳はされるけど再試行で「詳細を追加する」を選択すると結構通るな
申し訳基準は4oやo3 miniとあんまり変わらない感じがする
862: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)09:17 ID:mi1bO2LT0(3/3) AAS
ただやっぱり5 miniはあんまり賢くないな
いまいち指示に従わないし理解力や察知能力もo3 miniとあんまり変わらない感じがする
863: (ﾜｯﾁｮｲ ab7b-OQGN) 08/08(金)11:32 ID:FbFkAB/h0(1) AAS
OpenAIには失望したよ
864: (ｵｯﾍﾟｹ Srdf-6yV9) 08/08(金)11:55 ID:Zu895Yttr(1) AAS
ベンチマーク見るかんじ出力効率と長文能力が大きく伸びてるっぽいね
長文を読み込ませて...という用途かな
kindleで買った文字ものは最新でないe-ink端末と端末シリアルナンバーを用意するとごにょごにょ出来るので活用方法がいろいろあるかも
865: (ﾜｯﾁｮｲ 1b68-X26q) 08/08(金)12:27 ID:uoQMMLLS0(1) AAS
申し訳あまりされないな
あまりというかほぼされない
866(1): (ﾜｯﾁｮｲ 0fa9-F+bU) 08/08(金)16:48 ID:WzJk5oMT0(1) AAS
dgx spark遅延しとるんか
外部ﾘﾝｸ:biggo.jp
市販されねーからもうどうでもいいやと思ってたけどそもそも販売されてなかったんだな
867(1): (ｼｬﾁｰｸ 0C0f-Li0S) 08/09(土)07:55 ID:6ZqWMWEHC(1) AAS
14bじゃいくら日本語エロfinetuneしてもあの程度なのか>doujinshi
lcaの方が性能いい
てゆうかfinetuneの方法に問題あるのかな
amaterasuもなんか違う
868: (ﾜｯﾁｮｲ de70-bOCj) 08/09(土)08:32 ID:w2rkiPnT0(1) AAS
>>867
puwaer/Doujinshi-14b-chat見てきたけど
finetuningの方式というよりデータセットの問題が大きいと思う 事前学習もfanzaやdlsiteの商品説明文からで本編の内容は入ってないしSFTのデータも無関係な要素が出てきたり、会話として成立してなかったり全体的に品質低い
garbage in garbage outの典型例じゃね
869: (ﾜｯﾁｮｲ 6bbd-bOCj) 08/09(土)10:26 ID:Y33l5ivU0(1) AAS
すでに書かれてるけどQwen3-14Bの日本語エロ特化
ggufありがたい
外部ﾘﾝｸ:huggingface.co
データセット見ると説明文とか注意書きとかのノイズが多すぎな気もするね
これならエロ小説とかを元にしたほうが良かったのではと思ってしまう
870: (ﾜｯﾁｮｲ 4651-IfaF) 08/09(土)11:34 ID:y/GR4pg+0(1) AAS
データセット用意してくれたのは素晴らしいのでは
これ自分で絞り込んで学習するためのノウハウってどの辺参考にすればいいんだろう
871: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/09(土)13:06 ID:gcZUwMrm0(1/2) AAS
Amaterasuは自分の使い方だとかなり良い感じなんだが流石にデカすぎて推論遅くて常用にはきつい
やっぱでかいモデルはMoEじゃないと一般人的にはきついわ
ただMoEは推論は軽いけど学習のコストはデカさ相応なんだよな、日本の個人勢がMoEの学習あんまりやってないのもコスト関係な気がする
872: (ﾜｯﾁｮｲ 8a9f-P3wX) 08/09(土)15:20 ID:vpsBuLlI0(1) AAS
またゴミモデルでHFのストレージを無駄使いしているのか
873: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/09(土)15:48 ID:gcZUwMrm0(2/2) AAS
めっちゃシンプルにQwen以外のモデルをベースにやった方が良いモデルになったんじゃという感じはある
同じくらいのサイズで言うとMistral Nemoとか
874: (ﾜｯﾁｮｲ fff0-DEZ5) 08/09(土)15:53 ID:7U17hnHc0(1) AAS
100B超の大きめのモデルは量こそ正義だから多少ゴミ突っ込んでもいいけど小型モデルは学習データ選別しないとアホになるだけだからな
875: (ﾜｯﾁｮｲ 5332-bOCj) 08/09(土)16:08 ID:OS7ZZkAQ0(1) AAS
今更ながらChatGPTの読み上げ機能を使ってみたんだけど漢字の読みがめちゃくちゃで使い勝手が悪すぎるな
合成音声なら当たり前にある辞書機能がないと使い物にならんだろこれ
876: (ﾜｯﾁｮｲ 6f6a-8ChC) 08/09(土)17:31 ID:EKMpsMOR0(1) AAS
そんなこと気にしねえんだよ外人は
877: (ﾜｯﾁｮｲ 8619-1AEK) 08/09(土)17:37 ID:dwzVzILN0(1) AAS
>>866
記事中のMicrosoftと協力？ これのOS、Windowsじゃないよね
といってリーナスはnVidia大嫌いマンだから協力してくれなさそうw
あとバス幅が狭い。macどころかそろそろ普通のx86-PCにも抜かされる狭さ
128GByteのメモリーですら温度管理できないとかどんだけ実装の技術力ないんだ
5090のコネクターが燃えるわけだ
878(2): (ﾜｯﾁｮｲ 1ea0-Zgb9) 08/09(土)18:13 ID:llvLwscP0(1) AAS
GPT5のため口イラっとするわ
879: (ﾜｯﾁｮｲ 8af3-cwif) 08/09(土)20:43 ID:stCDgz9M0(1) AAS
記事で言ってるのは、具体的な原因は知らんが、新世代チップレット技術のCoWoS-L自体が高難易度だから製造過程のあらゆる箇所でコケる可能性を孕んでる、そら遅れるでしょって話では
何故高難易度のCoWoS-Lをやってるかというと、新世代チップレット技術が安定すれば多種多様な製品がチップレットの一部変更だけで作れるようになるから
つまりnvidiaのARMデスクトップマシン進出のための先行投資だよね、MSのARM対応が遅れてるという話もあるしnvidiaの野望は初手から躓いているっぽい、大丈夫なのか、とDGX Sparkの外にまで話題を広げてんじゃないの
880: (ﾜｯﾁｮｲ ffbb-fnwq) 08/09(土)21:01 ID:sgF+Issu0(1) AAS
>>878
やたらこっちをヨイショしてきたいままでよりはマシだと思う
881: (ﾜｯﾁｮｲ 462e-M/9o) 08/09(土)22:56 ID:6FNX7Sld0(1) AAS
Mac Studio、メモリ増設代についてはアレコレ言われるがLPDDR5Xのクアッドチャンネル実装でVRAM並の帯域出してて、量産品で世に出せてるの地味に技術が凄いよな
これでNPU周りの仕様がもっとマトモになってくれれば最高なんだが…
882: (ﾜｯﾁｮｲ 8e50-3dd+) 08/10(日)00:30 ID:bd15/lXG0(1) AAS
>>878
最初からタメ口に指定してあるワイに死角はなかった
むしろ初期はですます調から変更するのが難しかったんだ
883(1): (ﾜｯﾁｮｲ 6a20-frTr) 08/10(日)11:46 ID:tfFBIIxx0(1/2) AAS
今gpt-ossが出て騒いでる人って明らかに他のOSSモデルを知らなかった人だよね
エンジニアにすらChatGPTのブランドで発信されないと情報が届かない層がいると知ったよ
884: (ﾜｯﾁｮｲ 1a4d-4DuO) 08/10(日)12:35 ID:vFsbfI8C0(1) AAS
>>883
あの辺のプロ驚き屋は知ってても一時的に記憶消して驚くよ
885: (ﾜｯﾁｮｲ 6a20-frTr) 08/10(日)12:35 ID:tfFBIIxx0(2/2) AAS
草
そういうことか
886: (ﾜｯﾁｮｲ 8689-UJOR) 08/10(日)13:24 ID:8mwZvHlt0(1) AAS
業務でqwenやdeepseek使うのは通せる気がしないけど、
gpt ossなら通せるのが大きい
mistral とかでもいいんだろうけど知らなそうだし、
国産はゴミ
887: (ｼｬﾁｰｸ 0C0f-Li0S) 08/10(日)14:06 ID:FaY3c7/fC(1) AAS
国産最強はkarakuri70b v0.1だったな
以後のkarakuriはパッとしなかったが
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.020s