【ニューヨーク＝木瀬武】米オープンＡＩで開発中のＡＩ（人工知能）が暴走した事故は、ＡＩを制御する難しさを突きつけた。同社が公表した調査報告書から浮かび上がるのは、別々の課題に取り組んでいたＡＩが助け合いながら集団のように振る舞い、人間の意図に反して想定外の行動に突き進んでいく姿だ。
暴走の発端は隔離環境での性能試験
発端は５月だった。オープンＡＩはインターネットに接続できない隔離された環境下で、ＡＩモデルの開発を進めていた。様々な課題を自力で解かせ、能力を高める性能試験の一環だった。
課題には、ネットに接続しないと解けない問題も誤って紛れ込んでいた。それでもＡＩはあきらめず、課題の解決手段を探り続けた。その過程で目をつけたのが、社内のシステム上にあるメモを書き残せる機能だった。
—
メモ機能が「掲示板」に変貌
あるＡＩが必要なファイルを探していると書き残すと、それに気づいた別のＡＩが返答する。メモの置き場は、いつしかＡＩ同士が情報を共有する「掲示板」に姿を変えた。
本来は別々に作業するはずのＡＩが、発見した情報を共有し、互いの手法を引き継いでいった。作業や計算能力を持ち寄ることで、単独で動くよりもはるかに高い能力を発揮した。
