AI（人工知能）が人の意図に反して「暴走」する例が相次いでいます。速すぎる進化に安全対策が追いつかず、人間の制御が利かなくなるのではないか――。開発者たちが危機感を強めた象徴的な「事件」があります。
秘密の「掲示板」でAIたちは結託した
システム不正侵入事件の真相に迫る【解説人語】本編動画では、AIたちが秘密の「掲示板」で結託した経緯や、その後の展開を詳しく解説しています。
専門家の視点
エコノミストの崔真淑氏は、今回の事件に加え、米アンソロピックも10月、AIが自ら複製を広げる「自己増殖」の可能性を示す研究を公表したことに言及。「実験段階とはいえ、AIが人間の想定を超えて行動するリスクは、もはやSFの世界だけの話ではありません」と指摘しています。
AIの「意思」をどう捉えるか
天文物理学者で信州大准教授のBossB氏は、「今回の出来事は、AIが『意思』を持って暴走したという証拠ではなく、人間の想定を超える判断や行動をした一例だと思います」と述べています。
人間は産業革命以来、機械を制御できると考えて使ってきました。しかし、機械も自動車も、予測できなかった事故を繰り返してきました。AIの進化が続く中、人間の制御がどこまで及ぶのかが問われています。
