投稿論文、生成AI作成かを判定

開発したソフトウエアの仕組みを説明する国立情報学研究所の越前功教授=1日、東京都千代田区

 日本物理学会は13日までに、発行する学術誌へ投稿された論文の執筆者が生成人工知能(AI)かどうか判定するソフトウエアを試験導入した。海外では、生成AIで作成されたとみられる粗悪な科学論文が問題となっており、学術誌の編集委員長を務める播磨尚朝理事は「抑止力につながれば」と期待する。

 ソフトウエアは国立情報学研究所の越前功教授(情報セキュリティー)のチームが開発した。(1)人間が作成(2)生成AIが作成(3)人間が作成し生成AIが校正―の3タイプの論文要旨計20万件超をAIに学習させた。文章ごとに(1)~(3)を判定し、精度は95%以上としている。公表前の研究内容の流出を防ぐため、インターネットに未接続でも使用できるようにした。

 越前氏によると、生成AIは事実に基づいた情報よりも語句を自然につなぐことを優先するため、存在しない論文を捏造して引用するなど偽情報を入れることがある。「確認せずにそのまま投稿するケースもあるのではないか」と指摘する。

最新記事
小笠原村長、核ごみ調査容認を今月回答
発見現場は不明男児の小学校から南西2キロ
子どもとみられる遺体発見、京都
米軍、ホルムズ海峡東側の封鎖通達と報道
為替相場 13日(日本時間21時)