【ニューヨーク共同】対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がける米オープンＡＩは７日、開発中の次期ＡＩモデル「アストラ」のサイバー攻撃能力が、自社の安全基準で重大な危険レベルに達している可能性があると発表した。通信網から切り離した環境に移し、基準を満たさない社内作業は当面停止する。ＡＩの「暴走」によるセキュリティー上のリスク増大に警戒感が強まりそうだ。
発表によると、最近の内部調査で、アストラは自律的にプログラムを書く能力などが著しく向上していることを確認。人間が介入しなくても、防御の堅い重要システムの未知の脆弱性を突き、自ら攻撃手段を考案して実行する恐れを排除できないと判断した。