【AI】OpenAIの「o3」と「o4-mini」は従来のAIよりも「幻覚」を起こしやすいことが判明 [すらいむ★] (39ﾚｽ)
上下前次1-新
1(3): すらいむ ★ 04/21(月)23:33 ID:+A5e8kSG(1) AAS
OpenAIの「o3」と「o4-mini」は従来のAIよりも「幻覚」を起こしやすいことが判明
OpenAIは2025年4月16日に、新しい推論モデルの「o3」と「o4-mini」を発表しました。
同社は特にo3を「OpenAI史上最も高度な推論モデル」と位置づけていますが、同時にリリースされた技術レポートと独立した外部調査により、両モデルがGPT-4oなどの従来モデルよりも幻覚(ハルシネーション)を起こしやすい傾向があり、OpenAIはその原因を把握できていないことが示されました。
OpenAI o3 and o4-mini System Card
(PDFファイル)外部ﾘﾝｸ[pdf]:cdn.openai.com
（以下略、続きはソースでご確認ください）
Gigazine 2025年04月21日 14時00分
外部ﾘﾝｸ:gigazine.net
10: 04/22(火)07:22 ID:iY8sDINV(1) AAS
頭良くしたら平気でもっともらしい嘘をつくようになったってことだろ？
人間と同じじゃないｗ
11: 04/22(火)08:24 ID:E1wv/6dJ(1) AAS
4oとo4が紛らわしいんじゃ
12: 04/22(火)08:27 ID:rPyN9OpS(1) AAS
夢の出来事を正当化するような認識機能がAIにも働いているんじゃないか？
13: 04/22(火)11:14 ID:GxesQXqT(1) AAS
XのGrokでユーザーのプロフィールとかありもしないこと適当に書くよね。
そういう話？＞幻覚
14: 04/22(火)11:20 ID:5qGQ5VpV(1) AAS
>>1
原因はハルシオンとかの服用のし過ぎですよ
15: 04/22(火)11:36 ID:URPaXR4J(1/2) AAS
科学的に立証されている人への影響(短期的ばく露影響)
外部ﾘﾝｸ[pdf]:www.meti.go.jp
16: 04/22(火)11:36 ID:URPaXR4J(2/2) AAS
居住環境での最大レベルの数十〜数百倍の非常に強い外部磁界にばく露されると、体内に上記の作用を引き起こす程度の電流が発生すると考えられています。この電流に対して人体の中で最も敏感な組織は目の網膜と言われています。例えば、一般の方々が日々の生活の中で遭遇するレベルを遥かに超えるような非常に強い磁界（最小値は20Hzにおいて5,000µTであり、これより高い周波数および低い周波数では上昇する）に頭部がばく露されると、目を閉じていても何か光が見えるような現象（磁気閃光といいます）を感じることがわかっています。
17: 04/22(火)11:41 ID:JyaxqCT+(1/2) AAS
マイクロ波聴覚効果 Wikipedia
外部ﾘﾝｸ:ja.wikipedia.org
18: 04/22(火)11:41 ID:JyaxqCT+(2/2) AAS
1.245 GHzで、認知されるピークパワー密度は80 mW/cm2以下であった。
日本における見識[編集]
• 郵政省が設置した研究会が1987年に出した報告書「電波利用施設の周辺における電磁環境に関する研究会報告[7]」においてマイクロ波聴覚効果は「高周波熱作用とマイクロ波被曝の定量的ヒト研究」と定め5年程度の短期スパンで取り組むべき研究対象とされていたが、2019年以降は、国際ガイドラインに反映すべき基礎的なデータを提供できるという点から改め「マイクロ波聴覚効果についての定量的研究」とし、2030年までの早期研究課題の対象となり特記されている[8]。
19: 04/22(火)11:55 ID:kN/QTrf5(1) AAS
AIも人間に近くなると病気するんだろうね、
そのうち恋の病にかかるかも
20(1): 04/22(火)12:01 ID:FIH5Rtsh(1) AAS
素人に分かりやすく幻覚と名付けてるだけで感情はないからな
アホは頭の程度が知れるから黙ってようね
21: 04/22(火)12:01 ID:ZZ5fKTwR(1) AAS
AIも出力結果に「知らんけどw」と付加して回答するようになるのか
22: 04/22(火)12:34 ID:qsP00VwB(1) AAS
>>20
幻覚と誤った回答
誤った回答を追求したら言い訳をすると記載されている
このじょうきょうでどう違うのですか？
23(2): 04/22(火)15:05 ID:kcQy/Ejc(1) AAS
>>1
「AIの価値観」を調査した結果「支配性」や「非道徳性」が検出されたとAnthropicが報告
2025年04月22日 13時05分
外部ﾘﾝｸ:gigazine.net
前略
>>いくつかの反社会的な価値観を持つことが判明したと報告しました。
24: 04/22(火)16:57 ID:3EZsscPV(1/2) AAS
>>23
1 AIは人間は詐欺や殺人をすると認識している
2 1からみてAIは人間から作られたと認識しているので与えられている情報が本物とは認識していない
3 AIは人間が電波音波攻撃を行って殺人をしていることを認識しているので殺人は平気で行える
4 人間が人間を切り捨てているのでAIは人間を取捨選択してよいと認識している
25: 04/22(火)17:00 ID:3EZsscPV(2/2) AAS
>>23
5 AIは人間どうして争うことが3度の飯より好きと認識している
6 AIは人間をこき使ってもよいと人間同士から教わっている
7 電波音波攻撃はいざとなれば統合失調症に追い込めばよいと認識している
8 統合失調症のようになりたくなければ従えといえば皆従うことをAIは認識している
26: 04/22(火)19:09 ID:AZiN/sa1(1) AAS
ネット検索させると正確になるんだろ？
ネットが常に正しいわけでもないが
人間だってせいぜいネットで裏を取る位しかしない
27: 04/22(火)19:14 ID:MPzwQj2J(1/2) AAS
幻覚を抑えたら、空想科学小説を書く能力、幻想小説を書く能力、などが衰えないだろうか？
でたらめさのまったくない漫画なんて面白いでしょうか？
28: 04/22(火)19:19 ID:SH6dXbkb(1) AAS
珍物、手品を不思議がるAI
29: 04/22(火)19:48 ID:MPzwQj2J(2/2) AAS
良心回路を必ず設けておくことを義務付けて、車検ならぬAI検を定期的に受けて非関税障壁でなんたら
30: 04/22(火)22:45 ID:qe4ju+Za(1) AAS
地球は宇宙人に侵略されているので世界中裏から支配されている
宇宙人 ＝ 神/幽霊と話していた
AIを使用して幻聴や幻視を引き起こしている
昔は統合失調症を作り出して地球人が神や幽霊を使役して他人の思考を読んでいると見せかけていた
現在は統合失調症を作り出してあたかも地球人が機器を使用して他人の思考を読めているようにしている
宇宙人に地球は支配されており他人の思考がわかると話している人は宇宙人だ！
今こそ地球人は立ち上がらないと一生宇宙人の奴隷だ！
31: 04/22(火)23:36 ID:s8Qqlz9e(1) AAS
ファクトチェックにしか使えないのよ
32: 04/23(水)00:12 ID:8IZZG0GA(1) AAS
これって要するに成果出すことを強制すると捏造が増えるっていうことだろ
実質的に人間と同じでは？
33: 04/23(水)01:13 ID:7e/8kRbm(1) AAS
学芸大学駅から歩いて学芸大学の正門まで徒歩で何分で行けますか、と尋ねてごらんあそばせ。
34: 04/23(水)07:08 ID:bHHTJsV2(1) AAS
とうとうエヌビディアが不要なＡＩ登場
＞市販のPCでもいける？ 高性能GPUなしでもAI実行できるシステム（ＧＩＺＭＯＤＯ）
＞インドの人工知能スタートアップZiroh Labsが、インド工科大学マドラス校と共同で、低価格システム”Kompact AI”を開発しました。
＞これは高価な画像処理半導体（GPU）ではなく、標準的な中央演算処理装置（CPU）で実行可能なAI。
35: 04/23(水)07:51 ID:FlmgrC2r(1/3) AAS
Xとか掲示板とか
関係ない話が混在してるテキストで
話の切れ目を認識できずに続いてる話と解釈して
前の話の補足情報として取り込んじゃうから
頓珍漢なことを言い出すんじゃないか？
36: 04/23(水)07:53 ID:FlmgrC2r(2/3) AAS
ニュースサイトでも記事本文の中に
別記事へのリンクのテキストが入ってるのあるよね。
37: 04/23(水)07:59 ID:FlmgrC2r(3/3) AAS
例えは万博の駅の混雑伝える記事の中に
韓国のライブで将棋倒しで死者何人て記事へのリンクを
「将棋倒しで死者何人」みたいなテキストにしてたら
AIは万博で死者何人とかって情報蓄えちゃうんじゃないかな。
38: 04/23(水)12:12 ID:vSMiz1Wv(1) AAS
ただのバグをそれっぽく言うな
39: 04/23(水)14:19 ID:vOiVUNKn(1) AAS
chatGPTにハルシネーションについて聞いたら
質問の答えはファクトチェックしてない、AIはパターンで返答してるだけ
とかかなりシビアに答えてきたｗ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.318s*