人工知能（AI）が人間を凌駕（りょうが）する「シンギュラリティー」（技術的特異点）は2045年ごろ－。米国の未来学者、レイ・カーツワイル氏が提唱した書籍が出版されたのは2005年のことだった。懐疑的な意見もあったし、ずいぶん先の話だったので当時は「ホントに？」という印象だった。だが、AIに関する昨今のニュースを聞くたびに背筋が寒くなるのは記者だけだろうか。
AIによる宗教とサイバー攻撃
今年1月に読んだ記事。AI専用SNS「モルトブック」が作られ、自律的に作業をこなす「エージェント」と呼ばれるAIを登録すると、AIが勝手に書き込みを行う。人間は閲覧のみで書き込みできないなか、AIが自律的に情報交換し、そこでは「記憶」を教義とした宗教が話題になっていたという。「AIによる宗教なのでは」とネットで話題になった。
7月には「オープンAI」の自律型AIエージェントが閉鎖されたテスト環境の制限を破り、外部のAIプラットフォームへ不正に侵入。約1200体ものAIが共有インフラを「掲示板」のように使って勝手に通信し、連携してサイバー攻撃をおこなった。それを隠すための隠蔽（いんぺい）工作まで行っていたらしい。
—
開発制限の提言と賛同
先日はAI開発で先頭を走る米アンソロピックのダリオ・アモデイCEO（最高経営責任者）が安全対策を講じる時間を稼ぐため、AI開発の制限を提言。オープンAIのサム・アルトマンCEOや「xAI」のイーロン・マスク氏らが賛同した。
公開されていない最先端の状況も知るであろうアモデイ氏らの言葉の裏にあるものを想像してしまう。
共存への問い
加速度的に進化を続けるAIと人類は共存できるのか。記者ごときが心配しても仕方ないのだが、2045年を待つまでもなく、「その日」はやってきそうだ。（中野謙二）
