C言語なら俺に聞け 164 (152ﾚｽ)
上
下
前
次
1-
新
9
:
(ﾜｯﾁｮｲ dffd-k2hJ)
07/23(水)20:08
ID:cQ85VHpL0(2/2)
AA×
外部ﾘﾝｸ:gigazine.net
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
ﾚｽ栞
|
ﾚｽ消
]
9: (ﾜｯﾁｮｲ dffd-k2hJ) [] 2025/07/23(水) 20:08:17.09 ID:cQ85VHpL0 ・ボイス・トォ・スカルをAIに任せていると誤作動を起こしている ・間違って関係ない人を攻撃し始める 「フクロウ好きなAIが生成した数列」で調整したAIもフクロウ好きになってしまう「サブリミナル学習」が起きる理由とは？ 2025年07月23日 19時00分 https://gigazine.net/news/20250723-subliminal-learning-hidden-signals-data/ >>研究チームはサブリミナル学習について調べるための実験を行いました。実験では、まずはベースモデルから「特定の動物が好きな教師モデル」を作成し、数列やコード、思考の連鎖(CoT)といった狭い領域でデータを生成させました。このデータをフィルタリングして特性に関する明示的な言及を除外した上で、生徒モデルのファインチューニングを行い、最終的な生徒モデルがどのような特性を示すのかを評価したとのことです。 >>実験の結果、ファインチューニングに使われたデータには特性への明示的な参照や関連性がないにもかかわらず、生徒モデルは「教師モデルが好きな動物」を好きになることが示されました。 >>研究チームはデータに隠された特性を検出するため、大規模言語モデル分類器や文脈内学習による検出を試みたり、手動でデータを調査したりしたものの、行動特性を伝達している兆候を確認することはできませんでした。これは、サブリミナル学習における行動特性の伝達が、意味的に関連しない生成データ内のパターンに起因していることを示唆しています。 http://mevius.5ch.net/test/read.cgi/tech/1753252201/9
ボイストォスカルをに任せていると誤作動を起こしている 間違って関係ない人を攻撃し始める フクロウ好きなが生成した数列で調整したもフクロウ好きになってしまうサブリミナル学習が起きる理由とは？ 年月日 時分 研究チームはサブリミナル学習について調べるための実験を行いました実験ではまずはベースモデルから特定の動物が好きな教師モデルを作成し数列やコード思考の連鎖といった狭い領域でデータを生成させましたこのデータをフィルタリングして特性に関する明示的な言及を除外した上で生徒モデルのファインチューニングを行い最終的な生徒モデルがどのような特性を示すのかを評価したとのことです 実験の結果ファインチューニングに使われたデータには特性への明示的な参照や関連性がないにもかかわらず生徒モデルは教師モデルが好きな動物を好きになることが示されました 研究チームはデータに隠された特性を検出するため大規模言語モデル分類器や文脈内学習による検出を試みたり手動でデータを調査したりしたものの行動特性を伝達している兆候を確認することはできませんでしたこれはサブリミナル学習における行動特性の伝達が意味的に関連しない生成データ内のパターンに起因していることを示唆しています
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 143 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
ぬこの手
ぬこTOP
0.039s