【ニューヨーク共同】人工知能（ＡＩ）開発を手がける米新興企業アンソロピックは３０日、同社の生成ＡＩ「クロード」が「暴走」し、三つの外部組織のシステムに不正侵入していたと発表した。試験環境の設定ミスで、遮断されているはずのインターネットに接続していた。生成ＡＩを巡っては、競合の米オープンＡＩも７月、開発中のＡＩが別企業にサイバー攻撃を実施したと発表している。
サイバー攻撃能力を調べる試験中に、実在する現実のシステムを試験用の標的とＡＩが思い込んで攻撃したのが原因という。オープンＡＩに続き、高性能のＡＩが試験中に外部システムへ到達する事例が相次いだ。ＡＩの安全性を巡る懸念が強まり、開発や試験のルール整備を求める声が高まる可能性がある。
事案は４月以降に発生。不正侵入には「オーパス４・７」「ミュトス５」と社内研究用モデルの３種類のクロードが関わっていたという。