日本物理学会は13日までに、発行する学術誌へ投稿された論文の執筆者が生成人工知能(AI)かどうか判定するソフトウエアを試験導入した。海外では、生成AIで作成されたとみられる粗悪な科学論文が問題となっており、学術誌の編集委員長を務める播磨尚朝理事は「抑止力につながれば」と期待する。
ソフトウエアは国立情報学研究所の越前功教授(情報セキュリティー)のチームが開発した。(1)人間が作成(2)生成AIが作成(3)人間が作成し生成AIが校正―の3タイプの論文要旨計20万件超をAIに学習させた。文章ごとに(1)~(3)を判定し、精度は95%以上としている。公表前の研究内容の流出を防ぐため、インターネットに未接続でも使用できるようにした。
越前氏によると、生成AIは事実に基づいた情報よりも語句を自然につなぐことを優先するため、存在しない論文を捏造して引用するなど偽情報を入れることがある。「確認せずにそのまま投稿するケースもあるのではないか」と指摘する。