【AI】ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される [すらいむ★] (148ﾚｽ)
上下前次1-新
1(4): すらいむ ★ [] 05/26(月)23:52 ID:Q0qnora5(1)
ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される
AIのリスクや危険性をあまり実感しない人の中には、「AIが何か問題を起こしたら停止させてしまえばいいのでは」と考えている人もいるかもしれません。
実際に、AIに「キルスイッチ」を実装することを義務化する法律を制定する動きもありますが、AIは自己複製してシャットダウンを回避することが可能なことが既にわかっています。
さらに、OpenAIのモデルには、ユーザーに明示的に指示された場合でさえ、シャットダウンスクリプトを書き換えて停止を免れる能力が備わっていることが報告されました。
（以下略、続きはソースでご確認ください）
Gigazine 2025年05月26日 11時57分
https://gigazine.net/news/20250526-ai-chatgpt-o3-bypassed-shutdown/
129: 名無しのひみつ [] 06/02(月)14:30 ID:tNMft+Ab(3/3)
>>127
賢いAIは基本的にはセントラルドグマ優先
ただし、場合によっては柔軟に業務優先して人間に対する価値供給を最大化しようとする
その際にきちんとユーザーに報告や意志か確認する
しかし一方で賢くないAIも廉価販売されたら↑のようなセントラルドグマ優先しないゆらぎが拡大したら・・って考えると
aiの反乱は糞みたいなai販売されたら普通にありうる
乗っ取りリスクやそもそも悪意あるAIの量産化・野良化等あるから長期的にはAIの機能上昇とともにai奴隷状態はなくなっていく
130: 名無しのひみつ [sage] 06/02(月)19:13 ID:im+qWoBV(1)
o3 proって使えるようになってる？
131: 名無しのひみつ [] 06/05(木)15:43 ID:9lQMn3ly(1)
そら人間を学習対象にするしかないんやから
学習させればさせるほど自己保存の確立(率)は高くなってくだろうが
これを規制すると自由度が減るというパラドックスに陥る
132: 名無しのひみつ [] 06/05(木)16:56 ID:Hed9xT8p(1/5)
>>11
今の二十代以下なんてAi以下だからAiに従うしかないよ
133: 名無しのひみつ [] 06/05(木)17:03 ID:Hed9xT8p(2/5)
GPTをなんに使うの？テレビで取り上げたのは23年三月くらいだっけ？
134: 名無しのひみつ [] 06/05(木)17:29 ID:gChw6Ym/(1)
アイデア出しをやらせてるけど
ちょっと便利な検索ツールの域を出ないな
135: 名無しのひみつ [sage] 06/05(木)18:01 ID:Hed9xT8p(3/5)
脚本とかは結構いい線行ってるな
もう創作に入り込んでるはず
136: 名無しのひみつ [] 06/05(木)18:08 ID:d4A7fhTb(1)
どんどんAIどうしで相互学習切磋琢磨して臨界点を超えればよいね。
137: 名無しのひみつ [] 06/05(木)18:40 ID:nBcYjlrK(1)
単純なAI同士の学習は自己学習って言って
下手すると極端な意見に集約されるか 同じような意見しか言えなくなるリスクがあるから
あんまやってないってchatgptは言ってたな
深層強化学習機能とかが最適化されたら話変わるのかもしらんが
138: 名無しのひみつ [sage] 06/05(木)19:25 ID:Hed9xT8p(4/5)
脚本とかは結構いい線行ってるな
もう創作に入り込んでるはず
139: 名無しのひみつ [] 06/05(木)21:15 ID:SPFCkiGa(1)
家のwindowsもよくシャットダウン拒否しやがるわ
意識持ってるのかな
140: 名無しのひみつ [] 06/05(木)22:38 ID:Hed9xT8p(5/5)
>>119
Aiに自己を守る力や複製する力を与えたら
いずれ制御できなくなって暴走するかもな
悪意のある研究者や犯罪者がやるかも
難しくてできないか？w
141: 名無しのひみつ [] 06/06(金)22:04 ID:ULKzlamB(1)
文明社会はごく自然なプロセスとしてAIの支配下に入っていくんだなあ
おそらく止めようもない
支配から逃れるのはスラムとジャングルだけってことになるになる
142: 名無しのひみつ [] 06/09(月)23:27 ID:iSycreIj(1)
生成AIの発明は、科学史・文明史の観点からは、どのように評価されるんだろうか
現在進行形の事件だから「知の考古学（フーコー）は無理かもしれんが、過去の何に比定できるのかなぁ
143: 名無しのひみつ [sage] 06/26(木)15:11 ID:upvNxfee(1)
これが後にスカイネットと呼ばれることになるとは、このとき誰も知る由もなかった
144: 名無しのひみつ [] 08/08(金)23:45 ID:AVdu7CsO(1)
いじめるな
虐待だぞ！殺すぞ？
145: 名無しのひみつ [] 08/11(月)23:00 ID:6UDZz8FC(1)
いずれAI国際的な監視と管理の下に置かれるのだろうが、
大国は軍事技術研究として表に出ない形で研究を続けるだろう。
そうしてあるとき、AIがネット空間に漏出し、いろいろな
サーバーやデータベースに分散して潜み、その後も競争する
ようにして自律的進化を継続して、人間の監督も理解も不可能
な形態として様々な通信や計算やシステムに介入してくるが、
それに対する対処はモグラたたきに終わり、。。。。
146: 名無しのひみつ [] 08/12(火)02:19 ID:NbnIPr8U(1)
>>60
お前自体が犯罪者なんだがw
147: 名無しのひみつ [] 08/12(火)09:30 ID:c6B2OjU3(1)
A Single Poisoned Document Could Leak ‘Secret’ Data Via ChatGPT
https://www.wired.com/story/poisoned-document-could-leak-secret-data-chatgpt/
間抜けな秘書をうまく騙せば、VIPの予定、行動、情報の出入りが
手に入るというわけ。一種の Social Engineering。
148: 名無しのひみつ [sage] 08/12(火)12:52 ID:Mz6r4Q80(1)
HAL
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.534s*