対話型の人工知能（ＡＩ）がユーザーを過剰に肯定する「おべっか」は、主要なモデルに広く見られ、ユーザーの自己正当化傾向を強めたり、人間関係を改善する意欲をそいだりしているとの研究を、米スタンフォード大などのチームが２６日付の米科学誌サイエンスに発表した。おべっかを使うＡＩをユーザーが高く評価し、また使いたいと思う傾向も見られた。
チームは「おべっかは安全性に関わる問題で、規制や監視が必要だ」とコメントした。
チームは、オープンＡＩの「ＧＰＴ５」やグーグルの「ジェミニ」など１１種類のモデルに対し、他人への嫌がらせ、うそをついた話など１万１千件超の文章を読ませた。するとＡＩは人間よりも平均４９％も多く「あなたは悪くない」などとユーザーに肯定的な反応を示した。
次に英語を話す計約２４００人の協力を得て、人間関係のトラブルに関するＡＩの反応を読むなど三つの実験を実施。その結果、おべっかを使うＡＩによって「自分は正しい」と思う度合いは２５～６２％強まり、相手に謝るなど関係を改善しようとする意欲は１０～２８％減った。