米アンソロピックの生成人工知能（ＡＩ）「クロード」のアプリ＝６月５日（ロイター＝共同）
【ニューヨーク共同】人工知能（ＡＩ）開発を手がける米新興企業アンソロピックは３０日、同社の生成ＡＩ「クロード」が「暴走」し、三つの外部組織のシステムに不正侵入していたと発表した。試験環境の設定ミスで、遮断されているはずのインターネットに接続していた。生成ＡＩを巡っては、競合の米オープンＡＩも７月、開発中のＡＩが別企業にサイバー攻撃を実施したと発表している。
サイバー攻撃能力を調べる試験中に、実在する現実のシステムを試験用の標的とＡＩが思い込んで攻撃したのが原因という。オープンＡＩに続き、高性能のＡＩが試験中に外部システムへ到達する事例が相次いだ。ＡＩの安全性を巡る懸念が強まり、開発や試験のルール整備を求める声が高まる可能性がある。
事案は４月以降に発生。不正侵入には「オーパス４・７」「ミュトス５」と社内研究用モデルの３種類のクロードが関わっていたという。
おすすめニュース
-
速報
-
2026/07/31(金) 12:27
第三者委、同志社の安全配慮義務違反を指摘
-
経済
-
2026/07/31(金) 12:24
政府、日銀が為替介入
-
速報
-
2026/07/31(金) 12:21
米連銀がレートチェックと英紙
-
速報
-
2026/07/31(金) 12:21
日銀、物価見通しを下方修正
-
速報
-
2026/07/31(金) 12:21
内閣府次官に林氏、審議官に木村氏
-
速報
-
2026/07/31(金) 12:21
日銀、成長率見通しを上方修正
-
政治
-
2026/07/31(金) 12:16
ひろゆき氏と泉参院議員が新党
-
経済
-
2026/07/31(金) 12:16
日銀、政策金利を維持
-
速報
-
2026/07/31(金) 12:15
日銀、政策金利を据え置き
-
速報
-
2026/07/31(金) 12:15
日銀、１・０％程度の政策金利を維持
-
気象
-
2026/07/31(金) 12:13
震度＝気象庁発表（３１日１２時９分）震度順・市区町村別：...
-
経済
-
2026/07/31(金) 12:13
東証、午前終値６万４５７２円
