NVIDIA 黃仁勳 Nemotron AI 人工智慧代理 AI代理 AI Agent

NVIDIA 發表 Nemotron 3 系列開放模型

2025-12-16
NVIDIA推出NVIDIA Nemotron 3系列開放模型、資料與函式庫,驅動各產業透明、高效且專業的代理型人工智慧(AI)開發。

!此為分頁標誌前台不顯示!

相較Nemotron 2 Nano,這項設計可將詞元輸送量提升最高達4倍,並可將推理詞元的生成量降低最高達60%,大幅降低推論成本。憑藉100萬詞元的情境窗口,Nemotron 3 Nano能夠記住更多內容,使其更加精準,並能有效連接長流程、多步驟任務中的資訊。

獨立AI基準測試機構Artificial Analysis將此模型評為同等規模模型中最開放且最高效的模型之一,並具備領先的準確度表現。

Nemotron 3 Super擅長處理需要多個代理協作,且以低延遲完成複雜任務的應用。Nemotron 3 Ultra則是一款高階推理引擎,適用於需要深度研究與策略規劃的AI工作流程。

Nemotron 3 Super與Ultra採用NVIDIA Blackwell架構上的超高效率4位元NVFP4訓練格式,顯著降低記憶體需求並加快訓練速度。這樣的效率使得更大型的模型得以在既有基礎設施上完成訓練,同時在準確度上不遜於更高精度的格式。

透過Nemotron 3系列模型,開發者可依工作負載選擇合適規模的開放模型,從數十個代理擴展到數百個代理,同時受益於更快、更準確的長期推理,從而處理複雜的工作流程。

用於AI代理客製化的全新開放工具與資料

NVIDIA同步釋出訓練資料集與尖端強化學習函式庫,供開發者打造專業AI代理。

其包含3兆詞元的全新Nemotron預訓練、後訓練與強化學習資料集,提供豐富的推理、程式碼與多步驟工作流程範例,可用於建置功能強大、領域專業化的代理。Nemotron Agentic Safety Dataset則提供真實世界遙測資料,協助團隊評估並強化複雜代理系統的安全性。

為加速開發,NVIDIA發布NeMo Gym與NeMo RL開源函式庫,提供Nemotron模型所需的訓練環境與後訓練基礎,並推出用於驗證模型安全與效能的NeMo Evaluator。所有工具與資料集現已於GitHub與Hugging Face上提供。

Nemotron 3已可支援LM Studio、llama.cpp、SGLang與vLLM。此外,Prime Intellect與Unsloth也正將NeMo Gym的即用型訓練環境直接整合至其工作流程,讓團隊能更快、更輕鬆取得強大的強化學習訓練能力。

開始使用NVIDIA開放模型

Nemotron 3 Nano現已在Hugging Face上線,並透過Baseten、Deepinfra、Fireworks、FriendliAI、OpenRouter與Together AI等推論服務供應商提供。

Nemotron可於企業級AI與資料基礎設施平台使用,包括Couchbase、DataRobot、H2O.ai、JFrog、Lambda 與UiPath。針對公有雲客戶,Nemotron 3 Nano將可於AWS的Amazon Bedrock(無伺服器)上取得,並預計很快也將在Google Cloud、Coreweave、Microsoft Foundry、Nebius、Nscale與Yotta上獲得支援。

Nemotron 3 Nano以NVIDIA NIM微服務形式提供,可支援在任何NVIDIA加速基礎設施上進行安全、可擴展的部署,以獲得最大化的隱私與控制能力。

Nemotron 3 Super與Ultra則預計將於2026年上半年開放使用。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!