安野貴博氏のAI応答システム、都知事選で特定話題を回避設定
チームみらいの安野貴博党首が2024年の東京都知事選挙で活用した人工知能（AI）応答システム「AIあんの」において、特定の話題を質問された際に回答しない「NGワード」が設定されていたことが明らかになった。安野氏は2月27日の定例記者会見でこの設定を認め、AIによる誤情報生成（ハルシネーション）を防ぐためと説明している。
都知事選で7400件の質問に自動応答
「AIあんの」は、安野氏の政策や政治スタンスを代わりに説明するシステムとして、2024年都知事選挙期間中に導入された。ユーチューブのライブ配信で視聴者が質問を投げかけるとAIが自動で応答し、選挙期間中に約7400件の質問に対応した。当時、知名度が低かった安野氏は「デジタル民主主義」を掲げ、全体5位となる15万票超を獲得。その後、昨夏の参院選で安野氏が初当選し、チームみらいは国政政党として、今年の衆院選で11議席を得ている。
この都知事選でのAI運用において、特定のワードを含んだ質問があった場合は「NG」として答えない仕組みが採用されていた。安野氏は記者会見で、「われわれのマニフェスト上にそもそもないものに関してAIが無理やり答えようとする傾向があり、その時にハルシネーションが起きがちだ」と述べ、NGワード設定の理由を説明した。
NGワードには原発や朝鮮人犠牲者など
具体的にどのような質問がNG指定されていたのか。小池百合子都知事が追悼文を不送付とした「関東大震災朝鮮人犠牲者追悼式典」に関する話題、原発問題、発がん性が指摘される有機フッ素化合物（PFAS）問題などが含まれていた。さらに、外国人や若年女性支援団体を巡る話題、「花粉症」「温暖化」「ワクチン」といった特定の言葉、「予算」についてもNGとされていた。
安野氏は「分断をあおらない」と主張してきたが、これらのNGワードには社会的に分断を乗り越えて議論すべきテーマも並んでいる。安野氏は個別のワード選定には関わっておらず、「ボランティアの開発チーム」が最終決定をしたと説明。読み込ませた政策に基づいて答える仕様だったため、政策に盛り込まれていない話題はハルシネーションを引き起こしやすく、「人間」の安野氏自身に直接聞いてもらう対応をとったとした。その後の国政選挙では原発問題には触れる設定にしているという。
専門家や当事者からは賛否両論
このNGワード設定について、北海道大学の川村秀憲教授（AI研究）は「技術的には妥当だ。分かりやすく言えば、教科書の持ち込み可能のテストみたいなもので、持ち込んだ教科書の科目が異なれば点数はとれないのがAIだ」と評価する。
一方、NGワードに設定された分野の当事者たちからは疑問の声が上がっている。在日朝鮮人差別の解消を目指す「トルパプロジェクト」事務局の宋知樺（ソンチファ）さん（31）は「差別や分断が引き起こしたとも言える関東大震災の朝鮮人虐殺の話題を避けるのは、『分断をあおらない』と訴える政治家としては疑問だ」と指摘。住民団体「PFAS汚染を明らかにする立川市民の会」の佐々木憲幸さん（70）も「都水道局の水が汚染されたことの住民不安は大きい。NGとされると『発信できない後ろめたい理由があるのか』と変に疑ってしまう。デリケートな問題でも今後はしっかり向き合ってほしい」と訴えた。
高千穂大学の五野井郁夫教授（政治学）は「NGにした話題でも、正々堂々と自分の考えをAIに読み込ませればよかった。『当時は不勉強な政策分野があった』と認める方が誠実だ。政治課題を技術的に解決しようとするチームみらいに期待をしているからこそ苦言を呈したい。意見が割れる話題に触れないのは、分断の解消ではなく、先送りにすぎない」と批判的な見解を示している。
安野氏のAIを活用した選挙戦略は、デジタル時代の政治活動の一つの形として注目を集めてきた。しかし、NGワード設定の問題は、AI技術の政治的利用における倫理的課題を浮き彫りにしている。技術的な妥当性と政治的責任のバランスが今後の議論の焦点となりそうだ。
