Meta、ローカル動作する30BオープンAIモデル「Muse Glimmer」公開
Meta、ローカル動作する30BオープンAIモデル公開

米Metaは8月10日(現地時間)、PCやMac上でローカル動作するAIモデル「Muse Glimmer」を発表し、モデルの重みをApache 2.0ライセンスの下でオープンウェイトとして公開した。

「The Future is for Everyone」で示したAIの将来像

同日、マーク・ザッカーバーグCEOは「The Future is for Everyone」と題した長文の書簡を公開し、Metaが目指すAIの将来像を示した。その中で同氏は、「超知能(superintelligence)」を一部の企業や政府に集中させるのではなく、個人に広く提供するという考えを打ち出した。ローカル環境で動作し、オープンウェイトとして提供されるMuse Glimmerは、こうした「個人にAIの能力を届ける」という構想につながるモデルと位置づけられる。

300億パラメータ、コンシューマー向けGPUで動作するエージェントモデル

Muse Glimmerは、約300億(30B)パラメータのモデルで、より大規模な「Muse Spark」を教師モデルとして蒸留(ディスティレーション)技術を用いて構築された。Muse Sparkの出力を利用した事前学習に続き、長文脈やエージェント関連のデータを用いた中間学習を実施。後段学習では、教師あり微調整、オンポリシー蒸留、強化学習を組み合わせた。

Pickt横長バナー — Telegram用の共同買い物リストアプリ

一般的なチャット用途だけでなく、計画立案、ツール呼び出し、結果検証、失敗時のリカバリーといった一連のエージェント動作に対応する。モデルは100以上の言語で学習されており、テキストと画像を扱うマルチモーダル入力にも対応。推論の強度も設定で調整できる。クラウドへの常時接続を必要とせず、インターネットに接続していない環境でも利用可能である。

30B規模のモデルはフル精度では55GBを超えるメモリーを必要とする。Metaは約4bitへの量子化により、言語モデルの重みを20GB未満に圧縮。KVキャッシュや画像認識用エンコーダー、投機的デコーディング用モデルを含めて、24GBまたは32GBのメモリー環境に収まるよう最適化した。

さらに、「DFlash」を利用した投機的デコーディングによって生成を高速化した。Metaの測定では、RTX 5090で毎秒74.9トークンから233.4トークンへ3.1倍、Apple M5 Maxでは26.6トークンから50.2トークンへ1.8倍に向上したという。

重みはHugging Faceで公開されており、Ollama、LM Studio、Unslothなどでのローカル実行に加え、llama.cpp、ExecuTorch、MLX、vLLM、SGLangなどへの対応も進める。

「The Future is for Everyone」、超知能の広範な分配を提唱

「The Future is for Everyone」でザッカーバーグ氏は、「個人のエンパワーメント」を繁栄の源泉、「発明」を超知能の主要な目的、「力の均衡」を安全性の基盤とする3原則を示した。その中で強調したのが、AIの最大の貢献を既存業務の「自動化」ではなく、人間による「発明」や「能力の拡張」に置く考え方である。

同氏は将来、一人ひとりが自分の目標や関心を理解するAIエージェントを持ち、健康、仕事、資産管理、家庭、趣味などで24時間支援を受ける姿を描く。こうしたAIツールを無料または低価格で広く提供するとともに、より多くの計算資源を必要とする利用者には、需要に応じて価格を決定する動的なオークション方式を導入する構想も示した。

一方、強力なAIを少数の組織に集中させることは、それ自体がリスクになるとして、今後はオープンソースAIの発展を重視していく考えを示した。MetaはMuse Sparkなどでモデルの重みを非公開としていたが、GlimmerではApache 2.0を採用した。さらに一部のAIモデルについても公開を再開する方針を示している。

Pickt記事後バナー — 家族イラスト付きの共同買い物リストアプリ

データセンター開発を巡っては地域社会への還元を強調した。Metaは2030年までに事業地域の流域で使用量を上回る水を還元する「ウォーターポジティブ」を目指すほか、データセンター建設地域で技能職向けの無償研修と高賃金の雇用を提供するとしている。

米国のAI政策について、新型モデルのリリースを、たとえ1ヶ月でも遅らせるような政策は米国のリーダーシップに大きなリスクをもたらすと指摘。米政府が重要システムを強化するための高度な知識とリソースを持ち、先進システムの使用において一定期間の優位性を確保することが重要であるとした。

安全保障面では、サイバー攻撃などへの対策として、フロンティアAI企業が政府による重要インフラの防御に技術的なリソースを提供すべきだと提言した。さらに、新モデルの学習完了を待つのではなく、学習途中のチェックポイントを政府による利用や検証のために共有する案も示した。