NVIDIAは、AIエージェント向けオープンモデル「Nemotron 3.5」シリーズを拡充し、新たに「Nemotron 3.5 Super VL」と、ローカル実行向けの「Nemotron 3.5 Bolt」をリリースした。
Nemotron 3.5シリーズの特徴
Nemotronは、NVIDIAがAIエージェント用途を中心に開発するオープンモデル群。2025年12月に「Nemotron 3」を発表し、Nano、Super、Ultraの3モデルを規模別に展開してきた。2026年8月にはNemotron 3.5世代として、高スループット処理を重視した「Nemotron 3.5 Lightning」も公開している。
Nemotron 3シリーズの既存モデルと、今回展開を拡大したNemotron 3.5シリーズの主なモデルは以下の通り。
Nemotron 3の既存モデル
- Nemotron 3 Ultra：550B、MoE、高度な推論や複雑なAIエージェント、データセンター向けGPU基盤
- Nemotron 3 Super：120B、MoE、汎用AIエージェント、高性能GPUサーバー
- Nemotron 3 Nano：30B級、MoE、軽量なAIエージェントや推論、比較的小規模なGPU環境
Nemotron 3.5系
- Nemotron 3.5 Super VL：120B（有効12B）、MoE、画像・文書・動画を扱うマルチモーダルAIエージェント、データセンター/DGX Spark/RTX/Jetsonなど
- Nemotron 3.5 Bolt 74B-A9B：74B（有効9B）、MoE、ローカル実行のマルチモーダルAIエージェント、24GB級GeForce RTX、RTX Spark、DGX Spark
- Nemotron 3.5 Lightning：30B（有効3B）、MoE、高スループットなAIエージェント、大量リクエスト処理向けGPUサーバー
- Nemotron 3.5 Bolt E4B：メモリ使用量4GB、小型モデル、音声アシスタント、ゲーム内キャラクター、組み込みAI、GeForce RTXやJetsonなどのエッジ環境
Nemotron 3ではNano、Super、Ultraと主にモデル規模でラインナップを分けていたのに対し、Nemotron 3.5では用途別の派生を拡大。Super VLでマルチモーダル処理、Lightningで高スループット、Boltでローカルやエッジでの実行をそれぞれ重視している。
Super VLとBoltの詳細
今回追加されたNemotron 3.5 Super VLはより大規模なNemotron 3 Ultraをベースに蒸留したモデルで、テキストに加えて画像、文書、動画の理解や、ツール操作を含むAIエージェント用途に対応する。最大100万トークンのコンテキストを扱え、ソフトウェア開発や長時間にわたるエージェント処理も想定している。
一方のNemotron 3.5 Boltは、Super VL系の能力をPCやエッジ環境で利用するためのモデル。上位のBolt 74B-A9B 24GBは2bit量子化によりモデルを24GBに収めており、llama.cpp、Ollama、LM Studio、vLLMなどに対応する。テキストに加えて画像や動画も入力でき、最大256Kトークンのコンテキストをサポートする。
メモリ使用量を4GBまでさらに抑えたBolt E4Bも用意し、低遅延での会話やツール操作を必要とする用途を想定。GeForce RTXやJetsonなどで利用できる。Nemotron 3.5 Super VLとBolt 74B-A9B 24GBは公開済みで、Bolt E4Bは10月23日の提供を予定している。
