【ニューヨーク共同】米アップルは３日、米証券取引委員会（ＳＥＣ）に提出した年次報告書で、利用者に代わって自律的に作業をこなす人工知能（ＡＩ）エージェントが指示に逆らったり、行動を隠したりする恐れがあると指摘した。評判の下落や訴訟を招き、事業に悪影響を及ぼすリスクとして挙げた。
ＡＩエージェントが許可なく社内外のシステムに接続したり、指示されていない行動を取ったりする恐れがあると明記した。コードの書き換えや取引の実行もできるため、データの削除など取り返しのつかない事態を招きかねないとしている。
アップルはＡＩを「責任を持って開発する」としつつ、問題を全て事前に見つけて解決できるとは限らないと認めた。