ネット上の誹謗中傷対策、AI活用の実証実験を開始　政府

政府は6日、インターネット上の誹謗中傷対策として、人工知能（AI）を活用した投稿監視システムの実証実験を開始すると発表した。実験は約半年間実施し、効果を検証する。

AIで誹謗中傷投稿を自動検出

新たなシステムは、AIがSNSや掲示板などの投稿をリアルタイムで解析し、誹謗中傷に該当する可能性の高い投稿を自動的に検出する。検出された投稿は、運営事業者に通知され、削除などの対応が促される。これにより、従来の人手による監視に比べて、迅速かつ網羅的な対策が期待される。

実証実験は、総務省が主導し、複数のSNS事業者や掲示板運営会社と連携して実施される。対象となるプラットフォームは、利用者数が多い主要なSNSや匿名掲示板などが想定されている。実験期間中は、AIの検出精度や誤検出の頻度、対応の迅速性などを評価し、本格導入の可否を判断する。

—

政府は、近年深刻化するネット上の誹謗中傷問題に対し、法的規制の強化と並行して、技術的な対策の重要性を強調している。今回の実証実験は、AI技術を活用した新たなアプローチとして注目される。

実験の結果を踏まえ、政府は2027年度中の本格運用を目指す方針だ。また、AIの学習データとして、過去の誹謗中傷事例を活用し、検出精度の向上を図る。一方で、表現の自由とのバランスやプライバシー保護の観点から、慎重な運用が求められる。

ネット上の誹謗中傷は、被害者の精神的苦痛や社会的な影響が大きく、早期の対策が急務となっている。政府は、今回の実証実験を通じて、効果的な対策の確立を目指す。