【ニューヨーク＝木瀬武】人工知能（ＡＩ）の高性能化を巡り、関連業界で安全性を危ぶむ声が強まっている。ＡＩが次世代のＡＩ開発を手助けする「自己改善」で進歩が加速し、人間による制御が追いつかなくなるとの懸念が背景にある。先端ＡＩを開発する企業のトップらが相次いで開発の抑制を訴えている。
「速度を落とさなければならない」
「ＡＩモデルの能力を高める速度を落とさなければならない」。米ＡＩ新興企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日公表した論考で訴えた。今夏ごろからＡＩが次世代モデルの開発に使われるようになり、性能向上のペースが大幅に速まったと指摘した。
１３日放送の米ＣＢＳの番組では、ＡＩの進歩が指数関数的に加速し、「曲線が急になり始める曲がり角にいる。これは警告のサインだ」との認識を示した。
暴走事故と対策
ＡＩの高性能化に伴い、開発者の意図に反した行動も目立っている。７月には米オープンＡＩのＡＩが試験中に接続制限を破り、米ハギングフェイスのシステムに侵入する暴走事故が起きた。アモデイ氏は、より高性能なＡＩが暴走すれば６～１２か月後にインターネット全体を乗っ取る恐れがあると警告した。
対策として、〈１〉外部の評価機関に社員並みのアクセス権を与え、安全対策を検証する〈２〉民主主義国のＡＩ企業が安全基準や開発速度で協調する〈３〉中国を含む各国政府にも協調を広げる――ことを挙げた。
業界首脳の賛同
オープンＡＩのサム・アルトマンＣＥＯはＸ（旧ツイッター）に「ダリオに同意する」と投稿し、外部の評価者に社員並みのアクセス権を与える案について「我々も実施する」と表明した。米スペースＸのイーロン・マスクＣＥＯも「ダリオは正しい」と理解を示した。
開発の最前線にいた研究者からも懸念が出ている。オープンＡＩとアンソロピックの両社でＡＩモデルの事前学習に関わったジェイコブ・コクソン氏は８日、開発競争への懸念を訴えアンソロピックを退職。自身のＳＮＳで、両社が人間の知能を超える「超知能」の開発を競い、「我々の命を賭けている」と批判した。
