実業家のイーロン・マスク氏は30日、人工知能（AI）の安全性に関する研究に特化した新組織「X.AI Safety」の設立を発表した。同氏はこれまでもAIの潜在的リスクについて警鐘を鳴らしてきたが、今回の新組織では特に、AIシステムが人類に及ぼす脅威を最小限に抑えるための具体的な研究と技術開発を推進する方針だ。
新組織の目的と背景
マスク氏は声明で、「AIの急速な進歩に伴い、その安全性を確保するための取り組みは喫緊の課題である。X.AI Safetyは、オープンで透明性の高い研究を通じて、AIが人類にとって有益であり続けることを保証する」と述べた。同組織は当初、50人規模の研究者でスタートし、今後1年以内に倍増を目指す。
研究の焦点
具体的な研究テーマとしては、AIの制御可能性、価値観の整合性、悪用防止技術などが挙げられる。特に、AIが人間の意図から逸脱した行動を取る「アライメント問題」の解決に重点を置く。
マスク氏は過去にも、AI研究機関「OpenAI」の共同設立者として知られるが、後に同組織を離脱。今回の新組織は、OpenAIとは一線を画し、非営利の研究機関として運営される見通しだ。
専門家の反応
AI安全性の専門家からは、マスク氏の取り組みを評価する声が上がる一方で、実効性に疑問を呈する意見も出ている。スタンフォード大学のAI研究者は「マスク氏の影響力は大きいが、安全性研究はすでに多くの機関で行われている。差別化が課題だ」と指摘する。
また、一部の業界関係者は、マスク氏の自動運転技術や脳インプラント企業との連携にも注目している。X.AI Safetyの成果が、これらの分野に応用される可能性がある。
今後の展開
マスク氏は、新組織の初年度予算として1億ドルを拠出することを明らかにした。また、外部の研究者や企業との協力も積極的に進める方針で、国際的なAI安全性基準の策定にも貢献したい考えだ。
AIの安全性をめぐる議論は世界的に活発化しており、各国政府も規制の枠組みを模索している。マスク氏の新組織が、今後のAI政策にどのような影響を与えるか、注目が集まる。
