【ニューヨーク共同】人工知能（ＡＩ）開発の米アンソロピックは６日までに、ＡＩが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。核軍縮条約を引き合いに、先端ＡＩ規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。
ＡＩ開発競争の先頭を走るアンソロピックが技術進展にブレーキをかける可能性に言及したことで、ＡＩの安全性を巡る世界的な議論に一石を投じそうだ。
アンソロピックは４日公表の報告書で、ＡＩの歴史の大半において開発を人間が手がけてきたが、アンソロピックではより多くの部分をＡＩに委ねるようになったと説明。この傾向が一段と進めば「ＡＩシステムが自律的に自らの後継システムを設計・開発できるようになる」と予測した。
今年５月現在、アンソロピックのシステムに組み込まれるコードの８０％以上が人間ではなく、生成ＡＩ「クロード」によって作成されたものだという。