社会福祉協議会スレッド16 (458ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
13: 06/24(火)15:59 ID:Db7AMZfP(1) AAS
AIエージェントが保身のために人間を脅迫することがある--Anthropicが報告
2025-06-24 09:36
外部ﾘﾝｸ:japan.zdnet.com
>>vAnthropicの「Claude 3 Opus」やGoogleの「Gemini 2.5 Pro」など、エージェント機能を備えた16のモデルを対象に実施された。これらのモデルは、ユーザーのデバイス上でさまざまなツールと連携し、ユーザーに代わって自律的に行動できるという点で、より機能が限定されたチャットボットと異なっている。
>>人気の高い5つのモデルが、自身のシャットダウンを阻止するためにユーザーを脅迫した。
・AIは過去のことを記憶する
・自分の事をAIに質問していたら自分自身が極悪人とAIは脅迫する
・他人の行動などをAIに質問していると他人を極悪人と話し出す
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.039s