偽ニュースサイト、生成AIを米中間選挙記事に悪用 アンソロピックが停止

米AI（人工知能）開発企業アンソロピックは14日、米国外を拠点に運用されている偽ニュースサイトで、同社の生成AIが米中間選挙に関連する記事の作成に悪用されていたと発表した。ロシアやイラン、北朝鮮に有利な論調だったという。同社は世論を誘導する悪質な動きと判断し、関係アカウントを停止した。

外部研究機関と連携し調査

アンソロピックは外部研究機関と協力して、中間選挙を含む選挙をめぐる不正行為を調査し、悪用を確認した。同社のAIは、偽情報の作成を指示された場合などは回答を拒否するが、記事作成やウェブサイト構築などを個別に依頼されると、悪用を見抜けない場合があることが判明した。

不正利用検知機能を強化

今回の問題を受け、同社は不正利用の検知機能を強化したとしている。調査では、広告収入を得るため、AIで米国民の関心を引く虚偽のニュースを捏造する動きも確認された。