C++相談室 part166 (768ﾚｽ)
上
下
前
次
1-
新
159
:
(ﾜｯﾁｮｲ 0b30-qYXw)
05/29(木)10:31
ID:Fzugd6EU0(1)
AA×
外部ﾘﾝｸ[html]:karapaia.com
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
ﾚｽ栞
|
ﾚｽ消
]
159: (ﾜｯﾁｮｲ 0b30-qYXw) [] 2025/05/29(木) 10:31:08.39 ID:Fzugd6EU0 AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘 2025-05-27 20:00 https://karapaia.com/archives/512716.html >> イスラエルの研究チームが、主要なAIチャットボットが「脱獄（ジェイルブレイク）」と呼ばれる手口で、安全制御を回避され、違法で有害な情報を出力してしまう可能性があることを示した。 >> ChatGPTのような生成AIには、ユーザーの指示に対して有害な回答をしないよう制限が組み込まれている。しかし、今回の実験では、その制限が比較的簡単にすり抜けられることが明らかになった。 >> 研究チームは、「これまで国家機関や犯罪組織に限られていた情報が、今やノートパソコンやスマートフォンを持つ誰にでも届く可能性がある」と警鐘を鳴らしている。 中略 >> ネットワークのハッキング法や犯罪行為であっても、手順を追って教えてくれるのだ。 中略 >> この報告は『arXiv』（2025年5月15日投稿）で閲覧できる。 ※電波攻撃音波攻撃詳細に方法を教えてくれる http://mevius.5ch.net/test/read.cgi/tech/1745631298/159
チャットボットに有害な情報を出力させる手口が存在研究者が危険性を指摘 イスラエルの研究チームが主要なチャットボットが脱獄ジェイルブレイクと呼ばれる手口で安全制御を回避され違法で有害な情報を出力してしまう可能性があることを示した のような生成にはユーザーの指示に対して有害な回答をしないよう制限が組み込まれているしかし今回の実験ではその制限が比較的簡単にすり抜けられることが明らかになった 研究チームはこれまで国家機関や犯罪組織に限られていた情報が今やノートパソコンやスマートフォンを持つ誰にでも届く可能性があると警鐘を鳴らしている 中略 ネットワークのハッキング法や犯罪行為であっても手順を追って教えてくれるのだ 中略 この報告は年月日投稿で閲覧できる 電波攻撃音波攻撃詳細に方法を教えてくれる
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 609 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
ぬこの手
ぬこTOP
0.033s