米AI開発企業アンソロピックの共同創業者、ジャック・クラーク氏が13日、東大（東京都文京区）で講演し、AIが急速に進歩する中で「これからの数年間が、人類の歴史において最も重要な時期の一つになる」と述べ、AIの規制強化や安全対策の導入を急ぐ必要があると主張した。
「AIの次の10年 私たちの選択」と題し講演
クラーク氏は「AIの次の10年 私たちの選択」とのテーマで、来場した300人超の学生らに対して約1時間講演した。
AIが自律的に能力を高める「再帰的自己改善」によって進化が加速し、人間による制御が困難になるとの懸念が強まっている。クラーク氏は「AIの完全な自動化は高い代償を伴う」と指摘し、人間による監視や規制強化、開発スピードの減速を社会として選択する必要があると述べた。
個々人の判断と監視システムの構築が必要
AIの規制については、「開発企業だけでなく、皆さんも判断することができる。有権者によって（AI政策の）優先順位は変わる」と述べ、一人一人が規制のあり方を考える必要があるとも強調した。
アンソロピックを巡っては、自社のAIモデルが試験中、警察に未解決の殺人事件について虚偽情報を送信するなど、開発者の意図しない動作があったことが明らかになっている。クラーク氏は「AIを監視するシステムが構築できなかった」とし、「安全対策を急ぎ、AIの進化に対応しなければならない」と強調した。
