生成AIで不適切コンテンツ検出、新システム導入へ

政府は、生成AIを活用してインターネット上の不適切コンテンツを自動検出する新システムを導入する方針を固めたことが、関係者への取材で分かった。

新システムの概要

このシステムは、従来のキーワードによるフィルタリングでは検出が難しかった、文脈や画像を理解した高度な判定が可能になるという。これにより、誹謗中傷や偽情報などの対策強化が期待される。

導入の背景

近年、SNSの普及に伴い、不適切な投稿が社会問題となっている。政府は、技術の進展を踏まえ、より効果的な対策が必要と判断した。

—

具体的な導入時期や運用方法については、今後詰められる見通し。