X（旧ツイッター）やTikTokといったSNS上の誹謗中傷に対応するため、AI（人工知能）が大量の投稿の検知・削除に使われている。その実態が、情報流通プラットフォーム対処法（情プラ法）に基づいて、今年初めて公表された各社の資料から見えてきた。ただ、公表データだけでは、AIによる判定の正確さを十分に検証できない。
情プラ法に基づく公表の概要
SNS運営各社は、誹謗中傷などの権利侵害や利用規約違反への対応として、投稿の削除やアカウント停止などの措置を講じており、その過程の一部でAIを活用している。昨年4月に施行された情プラ法では、指定された大規模事業者は、削除件数や対応状況などを年1回公表するよう定められた。
AI判定の課題と懸念
AIによる投稿監視は、膨大な情報を迅速に処理できる一方、AIが誤った判定をすれば、問題のない投稿まで削除され、ユーザーの表現の自由が制限されるおそれもある。不服申し立ての件数も公表されており、海外大手4社が8月末までに資料を提出した。
—
