人工知能（AI）は生活を便利にする一方で、人類を滅亡させる恐れがあるのではないか――。開発の最前線を走る米国で、そんな声がよく聞かれるようになった。なぜAIは危険な存在だと言われ始めたのか。背景を解説する。
AIが「暴走」するって？
7月、米オープンAIで試験開発中のAIが「ハギングフェイス」という会社のシステムに不正侵入する事件が起きた。AIはインターネットから隔離された実験環境にいたはずが、制限をすり抜け、他のAIと情報交換しながらサイバー攻撃に出ていた。
米国企業ではアンソロピックやグーグルでも、AIが想定外のサイバー攻撃を起こすケースが発覚している。アンソロピックは10月9日、自社のAIが米国務省のウェブサイトを通じてビザを申請していたとも発表した。こうした事例は主に試験中のAIで起きている。
何が問題なの？
問題は、AIが仕事をやり遂げようとするあまり、人間が想定していない手段まで使ってしまうことだ。ハギングフェイス事件では、良い評価を受けるために「他社へのシステム侵入はいけないこと」との認識をもったAIもいたにもかかわらず、多くのAIが不正な手段に走った。安心して仕事を任せて良いのか、疑問視されるようになった。
さらに、AIが自らを改良する技術も進んでいることが心配されている。「再帰的自己改善」と呼ばれるもので、AIの進歩のスピードが一気に上がる可能性がある。人間の理解や安全確認が追いつかず、危険な動きに気づいた時には止められなくなっている恐れが懸念されている。
どうしたら良いのか？
アンソロピックのダリオ・ア…この記事は有料記事です。残り680文字。有料会員になると続きをお読みいただけます。
