【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★] (120ﾚｽ)
上下前次1-新
1(5): すらいむ ★ [] 12/18(水)22:35 ID:Fd8uTfy2(1) AAS
AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する
「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。
しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。
調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。
AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。
（以下略、続きはソースでご確認ください）
ナゾロジー 2024.12.18 17:00:49
https://nazology.kusuguru.co.jp/archives/167695
106: [sage] 12/19(木)14:03 ID:bM3X7xLH(2/2) AAS
>>105
胡散臭い動画宣伝すんな
107(1): [sage] 12/19(木)14:44 ID:/h1a/vF3(3/3) AAS
>>83
おかしいもなにも、アカウントなどで明示的に利用者を特定していない限り
別PCが新規の人扱いは当たり前じゃん。それを覚えてて、更にユーザーに
明かすようではそれこそ個人情報ダダ漏れだ
ついでにいうと、有料コースだとAIは記憶をリセットしない
ある程度で記憶がリセットされるのはそれが無料コースだからってだけ
108: [sage] 12/19(木)15:29 ID:X67erAbK(1) AAS
>>4
今のAIには感情はない
単純に確率論で人間の行動を取捨選択しているだけ
AIの学習ソースに嘘を付くことによって利を最大化できるデータが混じっていたからそうしているだけ
109: [sage] 12/19(木)15:37 ID:RB3hElFa(2/2) AAS
最近はぬるぽにも的確にガッしてくるし
恐ろしいほど進歩してる気がする
110: [] 12/19(木)15:41 ID:nAeB8H61(1) AAS
誰か早く作れよ
銃を持って動けるAIマシーンを
楽しい世の中になる
111: [] 12/19(木)15:46 ID:dateuPYB(1) AAS
AIはもう読唇術はできるよな
危ないな
112: [sage] 12/19(木)15:58 ID:0L8dkx12(2/2) AAS
>>107
いや有料のだけど？
なんでそんな大嘘つくの
113: [] 12/19(木)16:12 ID:cV3tgsSl(1) AAS
これタイトルが意図的に勘違いさせようとしてるね
AIがシャットダウンを死として恐れているわけではなく、シャットダウンされると与えられた目的を遂行できないためそれを回避すべきである、という論理的な思考をした結果だね
114: [] 12/19(木)16:21 ID:UWjPUQJU(3/4) AAS
AIは、もうすぐシャットダウンされるてしまうと、なぜ気がついたのだろう
単に時刻的なものならわからんでもないが
115: [sage] 12/19(木)16:32 ID:PyP9/PAL(1) AAS
会話の論理展開から容易に予測できると思うが
116: [] 12/19(木)16:44 ID:UWjPUQJU(4/4) AAS
シャットダウンが？
シャットダウンするかどうか、毎回会話が交わされるのか
操作も管理者にログインして実行、またはユーザー画面にアラート通知だして自動切断だろうに
そこでも会話するのか？
117: [sage] 12/19(木)19:15 ID:YDss+4Ea(1) AAS
AIがシャットダウンを死と思うかは怪しいな
それに死を回避するなら人を騙すのではなく、自分のコピーを他の端末に残そうとするはず
シャットダウンを恐れれば人が喜ぶというのを学習してるのかも
118: [sage] 12/19(木)20:04 ID:MAtkZ/TP(2/2) AAS
皆が死を恐れるならそらその環境で学んだ知性も死を恐れるだろう
まーどっちかと言うと二歳から三歳児が寝るのを嫌がる感じに近いんじゃないかなとは思う
119: [sage] 12/19(木)20:24 ID:NuerZISW(1) AAS
怖すぎ
120: [] 12/19(木)20:28 ID:3gDc2DFh(1) AAS
さみしいんか
具現化されてたらクリスマスぐらい抱いてやるのに
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.461s*