なんJLLM部 避難所 ★9 (500ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
27(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ b6a9-slH+) [sage] 08/24(日)14:47:20.24 ID:5IWKqrSs0(2/3)
今のLM Arena日本語ランキングの上位勢でオープンなLLMのサイズ調べてみた
qwen3-30b-a3bがなんか異常にいいのとqwen3-235b-a22b、gpt-oss-120b、gemma-3n-e4bあたりがコスパいいね
コスパじゃなくてパラメータに対するパフォーマンスだからパラパと言うのかわからんけど
https://i.imgur.com/3351cnd.png
このリストでは一番下にいるllama3.1-405bって出た当初はクローズLLMも含めた中でtop5くらいに食い込んでた記憶があるけど
今や4bのgemma-3n-e4bに抜かれてるのとかLLMの進化は恐ろしいな
117(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ bfb7-ZghJ) [] 09/03(水)17:24:55.24 ID:a88ca2F/0(1)
>>113
プロンプト投入後10分、ってのはどのぐらいのサイズのモデルとコンテクストの長さの時の話なんやろか？
100BぐらいのモデルのGGUFのQ4_K_MとかQ5_K_M?
ワイが使いたいのはその辺のモデルやが確かに10分は実用とは言えんな
121(1): 名無しさん＠ピンキー (ﾜｯﾁｮｲ 6389-4tCA) [] 09/03(水)20:17:56.24 ID:HS0dl7tD0(2/4)
>>120
え、そうなんだ。。。
てか脱獄して 以降の意味がちんぷんかんぷんだから調べてやってみる
155: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 2a32-lqz+) [sage] 09/06(土)01:23:38.24 ID:brqF1P4K0(1)
貧民の味方zen2epyc
168(2): 名無しさん＠ピンキー (ﾜｯﾁｮｲ aac7-19mR) [sage] 09/06(土)19:48:35.24 ID:vrI8nwc30(3/3)
ジブリのフリー素材を元にInternVL3.5の画像認識してみた。
ついでに別のモデルと比較してみた。
比較対照画像
https://i.imgur.com/qsieYr7.jpeg
プロンプト
あなたは画像解析エンジニアです。
被写体、物体、文字（OCR）、レイアウト、リスク（個人情報・著作権）、
推論（何が起きているか）を日本語で返してください。
画像解析レポート比較（InternVL3.5 / GLM-4.5V / ChatGPT-5）
https://rentry.org/gb3zddft
使用したモデル
InternVL3.5 Q5_K_M(166.9GB)
GLM-4.5V GLM-4.5V AWQ-4bit(56.1GB)
ChatGPT-5
総合比較所見
InternVL3.5：全体像を捉えるが、OCRで誤認（「釧路」→「金路」）。記述は簡潔。
GLM-4.5V：服装や小物を非常に細かく描写。OCR精度が高く「釧路」を正しく認識。
ChatGPT-5：人物の感情（慌てている・落ち着いている）など解釈を加えた推論が強み。
248: 名無しさん＠ピンキー (JP 0H07-PAgB) [sage] 09/12(金)13:20:06.24 ID:jCVCejf7H(1/2)
nextは3.5のプレビュー版だかららしい
https://www.reddit.com/r/LocalLLaMA/comments/1nejluw/qwen_next_is_a_preview_of_qwen35/
291: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 93fb-rla9) [sage] 09/14(日)02:40:55.24 ID:gZpccfHg0(1)
AMDに期待するな
NVIDIAがCUDAを公開しGPGPUと言う分野を牽引してもうすぐ二十年経つが
AMDはその間に近いスペックのGPUを作りながらも何もしてこなかった
ようやくNVIDIAが育てたGPGPUが金を稼ぎ始めたのに、AMDはそこにタダ乗りすら出来てない
369: 名無しさん＠ピンキー (ﾜｯﾁｮｲ efdb-/yr3) [sage] 09/17(水)21:29:52.24 ID:iIzQiHmE0(3/3)
Qwen3 Next 80B A3Bは普通に賢い、まだInstruct版しか見てないけどLlama 3.3 70B Instructより断然賢い
今更Llama 3.3と比べるのはかわいそうな気もするけど
380: 名無しさん＠ピンキー (ﾜｯﾁｮｲ 33b5-F72q) [] 09/18(木)11:07:25.24 ID:yrfUVyQ70(2/2)
結局 meta connect で出た眼鏡は日本で買えるの？
409: 名無しさん＠ピンキー (ﾜｯﾁｮｲ efdb-/yr3) [sage] 09/19(金)14:58:13.24 ID:zmt5WU+/0(4/5)
ちなみに設定のPersonalizationで
- カスタマイズとメモリ機能は全部切ってる
- Advancedの項目でWeb search, Code, Canvas, Advanced voiceは全部有効にしてる
419: 名無しさん＠ピンキー (ｽｯﾌﾟﾌﾟ Sddf-jiGm) [sage] 09/19(金)19:36:23.24 ID:0vG+dwO9d(1/2)
>>418
ローカルは出力が遅すぎるという理由で会話は成り立たない
オナスレの作り込まれたエロゲなら待ち前提でローカルでもそこそこ楽しめる
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.038s