AIの安全性確保へ独立チーム

アンソロピックのロゴ(ロイター=共同)

 【ニューヨーク共同】生成人工知能(AI)を開発する米アンソロピックは18日、最先端AIの安全性確保に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年の間に少なくとも10億ドル(約1600億円)ずつ投じる。アクセンチュアの評価機能を活用して社内に独立した新たなチームを設置し、モデルの安全性などを検証する。

 制御不能や悪用のリスクが指摘されている中、AIの判断が人間の価値観と整合しているかどうかや、安全対策の有効性についてもチェックするという。

 アンソロ社は「独立した評価者を導入したからといって、説明責任が軽減されるわけではない。責任をより検証可能なものにするための取り組みだ」とした。

最新記事
東京ゲームショウの一般公開開始
鎮静剤80代患者に無断投与
指定河川洪水予報=日南土木事務所 宮崎地方気象台 共同発表
金正恩氏、軍需工場視察
チャールズ国王の発言は「真実」