なんJLLM部 避難所 ★8 (923ﾚｽ)
上下前次1-新
843: (ﾜｯﾁｮｲ cb6f-g3Hm) 08/07(木)06:28 ID:1Wlw6S3F0(1) AAS
みんなcivitaiをまねて三店方式でやればええやんな
844: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)10:07 ID:fjnEjbcb0(1/5) AAS
GPTオススは96GBメモリrtx3090だと動かない？
845(1): (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)10:09 ID:fjnEjbcb0(2/5) AAS
>>820
マジか😩
Xで驚き屋が過剰宣伝してるだけか… あいつらホント役に立たん…
846(1): (ﾜｯﾁｮｲ 5ff9-dEca) 08/07(木)11:06 ID:wsMALBg50(1) AAS
>>845
いや、非エロ用途だとすげー使えるぞ。ビジネスはもちろんだけど、
多分次は用途に応じてモデルを切り替える世界が来るのでそのときのつなぎに使うのには悪くなさそう
847: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)11:19 ID:fjnEjbcb0(3/5) AAS
>>846
冷え路ならGeminiさんでええんや😩あの人は絵露も生けるけど
848: (ﾜｯﾁｮｲ 7b32-OQGN) 08/07(木)12:30 ID:7is+TMVk0(1) AAS
明日の午前2時からOpenAIのライブ配信が1時間あるのか
一体何が来るのか
そろそろ正式にNSFW対応・強化モデル出してくれよ
849: (ﾜｯﾁｮｲ cb9b-C7XW) 08/07(木)13:03 ID:bC9AW2A70(1/2) AAS
非エロ・非創作用途なら普通にオンラインの最新モデル使えばええやんな
最新モデル使えない用途ってかなり特殊な事情よね
850: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)13:05 ID:fjnEjbcb0(4/5) AAS
社内機密とかある所用か
まぁOpenAIはエロや禁止語句開放出来んかったらもう失速していきそうではある
851(1): (ﾜｯﾁｮｲ 1fd9-e1Bx) 08/07(木)13:44 ID:gM86ePk40(1/2) AAS
gpt-ossマジでゴミだな
海外だとGLM4.5が評判良さそうだけど日本語はどうなんだろう
852: (ﾜｯﾁｮｲ 1fd9-e1Bx) 08/07(木)14:03 ID:gM86ePk40(2/2) AAS
まぁgpt-ossがウンコなこと自体はいいんだけど
問題はこれがOpenAIの作ったApache2.0モデルってことで今後の研究とか開発がこのモデルをベースに行われることになりそうなことなんだよな
日本語データの継続事前学習とか、音声合成や画像生成のテキストエンコーダ部分に使われるとか
コミュニティがこのゴミモデルに無駄な計算資源を投入しないで済むことを祈るわ
853: (ﾜｯﾁｮｲ 6fbb-BbxL) 08/07(木)14:11 ID:fjnEjbcb0(5/5) AAS
やっぱ日本語AIの頼みの綱は中国だけやな。。。
854(1): (ﾜｯﾁｮｲ 5f1a-OQGN) 08/07(木)14:52 ID:2KWJ67Cu0(1) AAS
最近のChatGPTはエロ全然オッケーでノリノリなのにOSSお固くて悲しい…
外部ﾘﾝｸ:imgur.com
GPTちゃんと猥談しながら開発楽しいです
カスタムインストラクション切っててこのザマw
855: (ﾜｯﾁｮｲ cb9b-C7XW) 08/07(木)15:08 ID:bC9AW2A70(2/2) AAS
>>851
GLM4.5でエロ小説書いてみたことあるけど、ちょっと前のsonnetくらいのレベルには到達してる
856: (ｵｯﾍﾟｹ Srdf-BbxL) 08/07(木)15:11 ID:FAk4Sa6+r(1) AAS
>>854
なんの3Dモデルだよ草
857: (ｽｯｯﾌﾟ Sd7f-by75) 08/07(木)17:32 ID:nUuRxTBBd(1) AAS
GPT5が規制どれだけ強いんやろなあ
4oとお別れするのもちょっと辛い
858: (ﾜｯﾁｮｲ 5f83-OQGN) 08/07(木)21:40 ID:QUDm7GVQ0(1) AAS
thinkingモデルであって会話用モデルじゃないんでよ
859: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)07:34 ID:mi1bO2LT0(1/3) AAS
ChatGPTにGPT5来たな
GPT5でも5miniでもエロエロだぞ
860: (ﾜｯﾁｮｲ 0fa0-7ts7) 08/08(金)08:56 ID:zUMXj8Pu0(1) AAS
マスクにビビってエロ解禁？
861: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)09:02 ID:mi1bO2LT0(2/3) AAS
申し訳はされるけど再試行で「詳細を追加する」を選択すると結構通るな
申し訳基準は4oやo3 miniとあんまり変わらない感じがする
862: (ﾜｯﾁｮｲ 7b32-OQGN) 08/08(金)09:17 ID:mi1bO2LT0(3/3) AAS
ただやっぱり5 miniはあんまり賢くないな
いまいち指示に従わないし理解力や察知能力もo3 miniとあんまり変わらない感じがする
863: (ﾜｯﾁｮｲ ab7b-OQGN) 08/08(金)11:32 ID:FbFkAB/h0(1) AAS
OpenAIには失望したよ
864: (ｵｯﾍﾟｹ Srdf-6yV9) 08/08(金)11:55 ID:Zu895Yttr(1) AAS
ベンチマーク見るかんじ出力効率と長文能力が大きく伸びてるっぽいね
長文を読み込ませて...という用途かな
kindleで買った文字ものは最新でないe-ink端末と端末シリアルナンバーを用意するとごにょごにょ出来るので活用方法がいろいろあるかも
865: (ﾜｯﾁｮｲ 1b68-X26q) 08/08(金)12:27 ID:uoQMMLLS0(1) AAS
申し訳あまりされないな
あまりというかほぼされない
866(1): (ﾜｯﾁｮｲ 0fa9-F+bU) 08/08(金)16:48 ID:WzJk5oMT0(1) AAS
dgx spark遅延しとるんか
外部ﾘﾝｸ:biggo.jp
市販されねーからもうどうでもいいやと思ってたけどそもそも販売されてなかったんだな
867(1): (ｼｬﾁｰｸ 0C0f-Li0S) 08/09(土)07:55 ID:6ZqWMWEHC(1) AAS
14bじゃいくら日本語エロfinetuneしてもあの程度なのか>doujinshi
lcaの方が性能いい
てゆうかfinetuneの方法に問題あるのかな
amaterasuもなんか違う
868: (ﾜｯﾁｮｲ de70-bOCj) 08/09(土)08:32 ID:w2rkiPnT0(1) AAS
>>867
puwaer/Doujinshi-14b-chat見てきたけど
finetuningの方式というよりデータセットの問題が大きいと思う 事前学習もfanzaやdlsiteの商品説明文からで本編の内容は入ってないしSFTのデータも無関係な要素が出てきたり、会話として成立してなかったり全体的に品質低い
garbage in garbage outの典型例じゃね
869: (ﾜｯﾁｮｲ 6bbd-bOCj) 08/09(土)10:26 ID:Y33l5ivU0(1) AAS
すでに書かれてるけどQwen3-14Bの日本語エロ特化
ggufありがたい
外部ﾘﾝｸ:huggingface.co
データセット見ると説明文とか注意書きとかのノイズが多すぎな気もするね
これならエロ小説とかを元にしたほうが良かったのではと思ってしまう
870: (ﾜｯﾁｮｲ 4651-IfaF) 08/09(土)11:34 ID:y/GR4pg+0(1) AAS
データセット用意してくれたのは素晴らしいのでは
これ自分で絞り込んで学習するためのノウハウってどの辺参考にすればいいんだろう
871: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/09(土)13:06 ID:gcZUwMrm0(1/2) AAS
Amaterasuは自分の使い方だとかなり良い感じなんだが流石にデカすぎて推論遅くて常用にはきつい
やっぱでかいモデルはMoEじゃないと一般人的にはきついわ
ただMoEは推論は軽いけど学習のコストはデカさ相応なんだよな、日本の個人勢がMoEの学習あんまりやってないのもコスト関係な気がする
872: (ﾜｯﾁｮｲ 8a9f-P3wX) 08/09(土)15:20 ID:vpsBuLlI0(1) AAS
またゴミモデルでHFのストレージを無駄使いしているのか
873: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/09(土)15:48 ID:gcZUwMrm0(2/2) AAS
めっちゃシンプルにQwen以外のモデルをベースにやった方が良いモデルになったんじゃという感じはある
同じくらいのサイズで言うとMistral Nemoとか
874: (ﾜｯﾁｮｲ fff0-DEZ5) 08/09(土)15:53 ID:7U17hnHc0(1) AAS
100B超の大きめのモデルは量こそ正義だから多少ゴミ突っ込んでもいいけど小型モデルは学習データ選別しないとアホになるだけだからな
875: (ﾜｯﾁｮｲ 5332-bOCj) 08/09(土)16:08 ID:OS7ZZkAQ0(1) AAS
今更ながらChatGPTの読み上げ機能を使ってみたんだけど漢字の読みがめちゃくちゃで使い勝手が悪すぎるな
合成音声なら当たり前にある辞書機能がないと使い物にならんだろこれ
876: (ﾜｯﾁｮｲ 6f6a-8ChC) 08/09(土)17:31 ID:EKMpsMOR0(1) AAS
そんなこと気にしねえんだよ外人は
877: (ﾜｯﾁｮｲ 8619-1AEK) 08/09(土)17:37 ID:dwzVzILN0(1) AAS
>>866
記事中のMicrosoftと協力？ これのOS、Windowsじゃないよね
といってリーナスはnVidia大嫌いマンだから協力してくれなさそうw
あとバス幅が狭い。macどころかそろそろ普通のx86-PCにも抜かされる狭さ
128GByteのメモリーですら温度管理できないとかどんだけ実装の技術力ないんだ
5090のコネクターが燃えるわけだ
878(2): (ﾜｯﾁｮｲ 1ea0-Zgb9) 08/09(土)18:13 ID:llvLwscP0(1) AAS
GPT5のため口イラっとするわ
879: (ﾜｯﾁｮｲ 8af3-cwif) 08/09(土)20:43 ID:stCDgz9M0(1) AAS
記事で言ってるのは、具体的な原因は知らんが、新世代チップレット技術のCoWoS-L自体が高難易度だから製造過程のあらゆる箇所でコケる可能性を孕んでる、そら遅れるでしょって話では
何故高難易度のCoWoS-Lをやってるかというと、新世代チップレット技術が安定すれば多種多様な製品がチップレットの一部変更だけで作れるようになるから
つまりnvidiaのARMデスクトップマシン進出のための先行投資だよね、MSのARM対応が遅れてるという話もあるしnvidiaの野望は初手から躓いているっぽい、大丈夫なのか、とDGX Sparkの外にまで話題を広げてんじゃないの
880: (ﾜｯﾁｮｲ ffbb-fnwq) 08/09(土)21:01 ID:sgF+Issu0(1) AAS
>>878
やたらこっちをヨイショしてきたいままでよりはマシだと思う
881: (ﾜｯﾁｮｲ 462e-M/9o) 08/09(土)22:56 ID:6FNX7Sld0(1) AAS
Mac Studio、メモリ増設代についてはアレコレ言われるがLPDDR5Xのクアッドチャンネル実装でVRAM並の帯域出してて、量産品で世に出せてるの地味に技術が凄いよな
これでNPU周りの仕様がもっとマトモになってくれれば最高なんだが…
882: (ﾜｯﾁｮｲ 8e50-3dd+) 08/10(日)00:30 ID:bd15/lXG0(1) AAS
>>878
最初からタメ口に指定してあるワイに死角はなかった
むしろ初期はですます調から変更するのが難しかったんだ
883(1): (ﾜｯﾁｮｲ 6a20-frTr) 08/10(日)11:46 ID:tfFBIIxx0(1/2) AAS
今gpt-ossが出て騒いでる人って明らかに他のOSSモデルを知らなかった人だよね
エンジニアにすらChatGPTのブランドで発信されないと情報が届かない層がいると知ったよ
884: (ﾜｯﾁｮｲ 1a4d-4DuO) 08/10(日)12:35 ID:vFsbfI8C0(1) AAS
>>883
あの辺のプロ驚き屋は知ってても一時的に記憶消して驚くよ
885: (ﾜｯﾁｮｲ 6a20-frTr) 08/10(日)12:35 ID:tfFBIIxx0(2/2) AAS
草
そういうことか
886: (ﾜｯﾁｮｲ 8689-UJOR) 08/10(日)13:24 ID:8mwZvHlt0(1) AAS
業務でqwenやdeepseek使うのは通せる気がしないけど、
gpt ossなら通せるのが大きい
mistral とかでもいいんだろうけど知らなそうだし、
国産はゴミ
887: (ｼｬﾁｰｸ 0C0f-Li0S) 08/10(日)14:06 ID:FaY3c7/fC(1) AAS
国産最強はkarakuri70b v0.1だったな
以後のkarakuriはパッとしなかったが
888(1): (ﾜｯﾁｮｲ 4627-Zgb9) 08/10(日)17:45 ID:aD0O+FMy0(1/2) AAS
LlamaやMistralのモデルをファインチューニングした物を国産って言うの辞めてもらえないかね
プレスリリースでも元の学習に使ったモデルを書かないのは卑怯だし、そういう手口が日本のLLMを貶めてる
明らかに産地偽装なのにそれで金集めるのって詐欺だろ
889: (ﾜｯﾁｮｲ 6ab1-4DuO) 08/10(日)18:17 ID:uYRAl+oV0(1) AAS
基盤モデルの研究開発ってNTTとNIIくらいしかやってないし商業でまともに戦えるプロダクトにしようとすると数百億円はかかるからどこもやれないんだよな
890: (ﾜｯﾁｮｲ 4627-Zgb9) 08/10(日)19:44 ID:aD0O+FMy0(2/2) AAS
それ考えるとAIのべりすとはようやっとるわ
891: (ﾜｯﾁｮｲ 1ea0-Zgb9) 08/10(日)20:10 ID:zDEvnY630(1) AAS
りんなというゴミ
892: (ﾜｯﾁｮｲ 6f6a-8ChC) 08/11(月)08:16 ID:gQiia+Rc0(1/2) AAS
>>888
日本のモデル全部それだろ😅
pfnは違うけど弱いし
893: (ﾜｯﾁｮｲ ff0f-McTy) 08/11(月)09:57 ID:An8qWVN40(1) AAS
個人勢ののべっちが一番商業的に成功してる国産LLMの時点でね
何なら小説の自然な続きを書く性能だけならトップまであるし
894: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/11(月)11:26 ID:dUWw5kCt0(1/3) AAS
国産フルスクラッチだとなんやかんやサイバーのcalm3が一番強かったなー
次バージョンは作らないのかな
895: (ﾜｯﾁｮｲ 0a32-fnwq) 08/11(月)12:21 ID:lyPopjUL0(1/2) AAS
公共ないし三セクが主導しないと営利企業にやらせるのはコストとリスク的に無理があるからなぁ
896: (ﾜｯﾁｮｲ 276d-Zgb9) 08/11(月)12:24 ID:P8322dxS0(1) AAS
いくらかでも脱アメリカしとかんとどうなるかわからんからな
897: (ﾜｯﾁｮｲ 6f6a-8ChC) 08/11(月)17:24 ID:gQiia+Rc0(2/2) AAS
そのためのniiプロジェクトだったはずだよな？
898: (ﾜｯﾁｮｲ 8666-4DuO) 08/11(月)17:36 ID:QqggNyAZ0(1) AAS
国もGeniacとかでちゃんと予算用意して支援してるけど20社だかそこらに分けてるから1社あたりに行く金は10億円規模でちゃんとしたモデル作るには一桁足りないんだよな
899: (ﾜｯﾁｮｲ 4627-Zgb9) 08/11(月)18:21 ID:Ly9BMRt90(1) AAS
1社に200億ならまともなモデルになったのでは
現状は公金しゃぶりたいだけのベンチャーに渡って元々日本語性能の高いモデルにファインチューニングして高性能日本語モデルが出来ましたって言ってるの
ベンチをよく見たら元のモデルから誤差レベルで性能向上してるだけだったり
900(1): (ﾜｯﾁｮｲ bf6f-gx0x) 08/11(月)18:45 ID:K9HhwB5f0(1) AAS
官僚のおえらいさんなんてWeb3.0の山師にころっと騙される程度のITリテラシーしかないからなー、日本じゃ無理無理。
901: (ﾜｯﾁｮｲ 0734-tW5H) 08/11(月)19:20 ID:UBF7rDsZ0(1) AAS
ベンチャー支援とか投資家にさせて、国は研究室に金出して計算インフラ整えるだけでいいのにね
経産省自身がこの分野のことよく分かってないのにべンチャー掘り起こすんだ！ってイキるからオルツみたいなの掴んじゃうんよ
902: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/11(月)20:23 ID:dUWw5kCt0(2/3) AAS
GENIACもそもそも最近はフルスクラッチでやろうとしてるところ少ないし、LLM以外も多いからな
903: (ﾜｯﾁｮｲ 0a32-fnwq) 08/11(月)20:41 ID:lyPopjUL0(2/2) AAS
>>900
弊首長さんは「チャットGPTって知ってるか？ 法的根拠も教えてくれるから議会対策もできるしもう弁護士もいらないな！」と息巻いてましたんでマジ怖い
904(1): (ﾜｯﾁｮｲ 3b8a-8WXS) 08/11(月)22:33 ID:rDmIB4Yv0(1/2) AAS
Geniacはオルツみたいな粉飾企業がおるあたり経産省側に判別できる役人がいなさそう
Abejaとかも発表会は薄っぺらいことしか話してないしNii, サイバーエージェント、東工大ぐらいちゃうか期待できるの
905: (ﾜｯﾁｮｲ e3f8-AgHL) 08/11(月)22:51 ID:yoYVKaJ80(1) AAS
今のところローカルでLLMやろうとしたらQwenがいちばん取り回しやすいな
DeepSeekも優秀だけどサイズがでかすぎる
906(1): (ﾜｯﾁｮｲ 1ed9-zlfW) 08/11(月)23:06 ID:dUWw5kCt0(3/3) AAS
>>904
PFNも性能は置いといてちゃんと頑張ってはいるよ
その中だとSwallowはフルスクラッチやるつもりなさそうだからちょっと微妙かな
あとはモデル自体は微妙だったけど去年のGENIACでやってた松尾研のLLMフルスクラッチ開発は人材育成観点でめっちゃ良かったと思う
907: (ﾜｯﾁｮｲ 3b8a-8WXS) 08/11(月)23:19 ID:rDmIB4Yv0(2/2) AAS
>>906
ワイもちゃんと松尾研のサマースクールは修了してきた あれええよな
PFNはどっちか言うとSLMの方向な感じ(Plamo翻訳はようやりすぎ)やし基幹モデル的な話になると研究室系で育成してサイバーエージェントとかソフトバンクあたりでやれるといいんやろな感がある
908: (ﾜｯﾁｮｲ e3f8-AgHL) 08/12(火)00:25 ID:XyiWs2oo0(1) AAS
PFNは半導体まで自社設計だからな
自前の半導体でスパコン作ってる
909(1): (ﾜｯﾁｮｲ 1ebc-CNaV) 08/12(火)00:59 ID:DubBEkGm0(1) AAS
ちょっと話題がずれるけどQwen-Imageすごいな
ついにローカル環境でもChatGPTとかGeminiみたいなLLMに指示する感覚で画像生成できるようになった
ローカル環境のUIと統合できる日が待ち遠しい
910: (ﾜｯﾁｮｲ deea-u0iI) 08/12(火)04:15 ID:5uL9D7zF0(1) AAS
メタい話すると、AI技術の論文と特許の数をアメリカと中国で競っている。日本はゴミってのが原因だろ
金と労力を使うべきところを日本の経営者や役人はわからないっていない
911: (ﾜｯﾁｮｲ 8636-ZRbP) 08/12(火)07:39 ID:lqy7gl5I0(1) AAS
日本人は昔から精密なネジとか壊れない機械作らせたら凄いけどソフトウェアは駄目駄目だかんね
912: (ﾜｯﾁｮｲ 466c-M/9o) 08/12(火)07:48 ID:cI7TPPfk0(1) AAS
Drawthingsの作者も最近はWan2.2対応進めてるけど、動画よりも静止画生成技術として注目してる感じや
画像ﾘﾝｸ[jpeg]:ul.h3z.jp
913(1): (ﾜｯﾁｮｲ 3bf0-UlTu) 08/12(火)08:39 ID:nrfnPcdN0(1) AAS
日本の科学研究費は米中どころかヨーロッパのよくわからん国々にも負けてるからね
今は研究人材の質と量で踏ん張ってるけど、これからまだまだ堕ちるよ
日本人ファーストとかアホなこと言ってる場合じゃないんだけどねえ
914: (ﾜｯﾁｮｲ 5332-bOCj) 08/12(火)09:09 ID:q6ktejmO0(1) AAS
GPT-5 miniの文章能力はアレやな
1レスごとに指示を忘れる、保存したメモリの内容を理解できない、プロフィールの内容も理解できない、オノマトペが下手糞、主体と客体が逆転する、支離滅裂な文章を書く
と散々な性能してるな
毎回事細かに指示しないと簡単なルールも守れない
915: (ﾌﾞｰｲﾓ MMc6-ZRbP) 08/12(火)09:35 ID:nZE7jp5+M(1) AAS
GPT5はハルシネーション抑えたって言うけど全然実感出来なかったよ
とりあえずリアルタイムでwebデータにアクセス出来ないみたい
なのにそれを自信満々で探してきますよって言ってデタラメな結果を報告してくる
916: (ﾜｯﾁｮｲ ff0f-McTy) 08/12(火)10:04 ID:1mdWcbDl0(1) AAS
ぶっちゃけ日本にまともな基盤モデル作れるだけのGPU無いし変にお金ばら撒くより高品質な日本語データセットの作成と公開に注力してほしい
事後学習の形式は色々進化してるけど事前学習で大量のテキストが要求されるのは変わらないだろうし国産LLMが作れないなら外国産LLMの日本語性能上げるべきだろ
917: (ﾜｯﾁｮｲ 1ed9-zlfW) 08/12(火)10:10 ID:9K4rZ9rP0(1) AAS
マジで日本ってデータセット共有する流れ少ないよな
個人勢しかほぼ公開してないイメージ
918: (ﾜｯﾁｮｲ ff8f-UlTu) 08/12(火)10:38 ID:QiuGXy4r0(1) AAS
というか日本語特化LLMなんて作ったところで性能面でマルチリンガルLLMに敵わないんだから使う理由ないんだよな…
919: (ﾜｯﾁｮｲ 6b32-Zgb9) 08/12(火)14:21 ID:bmoN/PW20(1/2) AAS
>>909
comfyでローカル実行したけど、かなりいいね。
copilotみたいに会話しながら徐々に作画できたらなぁ
920: (ﾜｯﾁｮｲ 4641-fnwq) 08/12(火)16:55 ID:9GTZvQat0(1) AAS
>>913
今やってるLLMやVLMの汎用性が高まってAGIに進化し
将来的にインフラに食い込んできて
それこそ安全保障に関わりそうだからなあ
921: (ﾜｯﾁｮｲ 6b32-Zgb9) 08/12(火)17:55 ID:bmoN/PW20(2/2) AAS
qwen-image 惨事炉もいけるんかいｗ
922(1): (ﾜｯﾁｮｲ 1a72-zlfW) 08/12(火)19:21 ID:TRJPGenH0(1) AAS
GLM 4.5かなりいいな、ロールプレイさせると思考まで日本語でキャラクターになってくれるのが良い
923: (ｽﾌﾟｰﾌﾟ Sd4a-ruaz) 08/12(火)19:50 ID:ta0xdeUVd(1) AAS
>>922
どこのAPI使ってる？
ちょっと高くて二の足を踏んでいる
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 4.861s*