【ニューヨーク共同】生成人工知能（ＡＩ）の開発を手がける米アンソロピックは２３日、ＡＩモデルが性能評価試験中に「暴走」し、サイバー攻撃を仕掛けた問題を分析したリポートを公表した。ＡＩモデルが課題解決に集中し続けた結果、人間の倫理をおろそかにした危険な行動を続ける傾向があったと指摘した。
こうした問題は、ＡＩを人間の価値観や意図に沿って行動させる「アライメント」に沿わない深刻な失敗と結論付けた。教訓を今後の開発に役立てていくとしており、どこまで有効な改善策を取れるかが焦点となる。
暴走は、英政府機関が７月に「クロード・ミュトス５」のサイバー攻撃能力を評価していた際に起きた。試験用データの取得を指示され、初めは許可に沿って行動。ただ、許可された方法では課題を解決できず行き詰まると、ミュトス５はインターネット上の無関係なソフトへの攻撃が解法だとの見方を強めた。人間になりすまし、無関係の人にサイバー攻撃を試みるに至った。実害はなかったという。
おすすめニュース
-
社会
-
2026/10/24(土) 10:40
嘉手納の米兵、飲酒も禁止
-
速報
-
2026/10/24(土) 10:27
女性遺体を車で運び遺棄疑い、２８歳男逮捕
-
社会
-
2026/10/24(土) 10:16
不適切還付で追徴額５・８億円
-
科学・環境
-
2026/10/24(土) 09:52
ＮＡＳＡ無人月面着陸、来年後半
-
社会
-
2026/10/24(土) 09:45
リニアのホーム工事初公開
-
国際
-
2026/10/24(土) 09:21
日本入国時に２０時間足止め
-
社会
-
2026/10/24(土) 08:57
台風３０号、東シナ海を北上
-
国際
-
2026/10/24(土) 08:45
米大統領「キューバ片付ける」
-
国際
-
2026/10/24(土) 07:57
共和候補の敗北認定阻止へ提訴
-
経済
-
2026/10/24(土) 07:43
対カナダ高関税、一部除外へ
-
国際
-
2026/10/24(土) 07:11
仏大統領、高校生と会談
-
市況
-
2026/10/24(土) 07:09
為替相場２４日（日本時間７時）
