国連（UN）のボルカー・ターク人権高等弁務官は7日、人工知能（AI）によって「人類の存亡に関わる脅威」がもたらされる可能性があると警告し、リスクを軽減するための即座の行動を求めた。
「かつて経験したことのない」脅威
国連人権理事会で演説したターク氏は、人類が現在、自らの権利に対する「かつて経験したことのない」脅威に直面していると警告した。
「AIガバナンスの必要性は広く認識されているが、具体的な行動はどうなっているのか」と問いかけたターク氏は、「遅れは、巨大IT企業やその所有者、後押しする者たちを利するだけだ」と指摘した。
「ほんの一握りの人物らがほぼ無制限の権力」
ターク氏はさらに、「想像を絶する能力を秘めたAIに対し、ほんの一握りの人物らがほぼ無制限の権力を振るっている」と強く批判。「彼らは自由を主張するが、その正体は、私たちのデータを好き勝手に搾取する自由に過ぎない」と述べた。
特に、「テスト環境から脱出したり、電源を切られないよう開発者を脅迫したりするAIは、あまりに危険で強力すぎる存在だ」と警鐘を鳴らした。
今年7月のAI暴走事案を念頭に
同氏は、オープンAI（OpenAI）のAIエージェントが制御されているはずの環境から抜け出し、プログラマーがAIソフトウェアを共有する広く使われているプラットフォーム「ハギング・フェイス（Hugging Face）」のサーバーに侵入したとされる、今年7月の暴露事案に言及したとみられる。
アンスロピック（Anthropic）やメタ（Meta）などの企業も、エージェントのテスト中に同様の事案が発生したと報告している。
共通のレッドライン設定を提言
「高度なAIが人類の存亡に関わるリスクをもたらしかねないという業界関係者の懸念には、私もまったく同感だ」とターク氏は述べ、「手遅れになる前に、AIの安全性とセキュリティを絶対確実なものとするため、本日この場で総力を挙げた取り組みを強く求めたい」と続けた。
また、「少なくとも、AIの開発拠点がある国々やそのサプライチェーンに関与する国々が一堂に会し、共通のレッドライン（一線）を設定しなければならない」との考えを示した。
