开源与端侧:英伟达新AI模型的战略逻辑
英伟达发布三款完全开源的Nemotron 3.5系列大模型,涵盖1200亿参数多模态旗舰版及两款轻量级对话模型,全部开放权重、数据集与训练配方,并上线Hugging Face。此举强化其开源生态战略,应对中国低成本高性能开源模型竞争,同时支撑GPU硬件生态与本地智能体部署。

在开放型与封闭型人工智能加速竞逐的背景下,该供应商以更多开源模型推进其开源路线的战略。
英伟达本周早些时候推出了Nemotron 3.5 Super VL,这是一款拥有1200亿参数的模型,该公司称其可提供“快速完成”(fast-track completion)能力,即人工智能模型几乎能即时完成任务,同时具备“始终在线”(always on)智能体的准确性。
除这款旗舰级模型外,英伟达还发布了Nemotron 3.5 Bolt 74B-A9B 24GB和Nemotron 3.5 Bolt E4B 4GB。64B版本针对平衡性与速度进行了优化,而E4B则专为对话式智能体设计。
全部三款模型均为完全开源,英伟达公开了其权重、数据集及训练配方。此次发布紧随英伟达于8月发布另一款完全开源模型Nemotron 3.5 Lightning之后。
这些新模型已在Hugging Face平台上线。它们是英伟达自上月同意收购 该开源人工智能平台以来发布的首批模型。 此次发布凸显了自Meta首次推出其Llama开源权重模型系列以来,开源模型范式在过去几年中的演进。
近年来,开源模型规模显著扩大,其中突出代表是 Meta于2024年推出的4050亿参数Llama模型。
“我们所认为的‘小型模型’已变得相当庞大,”Informa TechTarget旗下Omdia公司分析师亚历山大·哈罗韦尔(Alexander Harrowell)表示。
他补充称,这一变化将惠及企业,因为企业能够更有效地对模型进行微调与定制。此外,企业如今可获取的模型数量更多,市场上开源模型亦日益增多,从而推动更充分的竞争。
英伟达与开源
随着最新Nemotron模型的发布,英伟达持续支持 开源倡议 ,并继续引领美国人工智能市场开发开源模型的运动,以更好应对低成本、高性能的中国开源权重模型的竞争。
近期一个实例发生于本周早些时候,当时英伟达将其GPU编排与AI工作负载平台Run.ai开源。
“他们关注构建开放人工智能生态系统的必要性,”哈罗韦尔表示,并补充称这一动机并非完全纯粹,因为英伟达自身亦存有利益考量。
据哈罗韦尔称,尽管英伟达发布开源模型旨在支持开源社区,但这显然并非唯一原因。
“他们此举是为了支撑围绕其GPU的更广泛生态系统,”他表示。
与此同时,部分英伟达客户亦拥有自主AI芯片。例如,谷歌提供其TPU,亚马逊提供Trainium AI加速器芯片,而OpenAI正研发其自有的 AI芯片Jalapeño。
哈罗韦尔称:“你可以将此视为一种[全行业范围内的]集成趋势”,他指的是随着谷歌、亚马逊和OpenAI开发自有芯片,它们可将这些芯片与其AI模型集成并加以优化。“模型、模型软件与定制芯片的紧密集成。”
他指出,多数开源权重模型被迅速取代,因为公民开发者纷纷从旧版开源模型转向新版模型。
“我眼下甚至能亲眼看到人们正在讨论如何立即用Nemotron Bolt取代 Qwen 3.6 35B ,”哈罗韦尔表示,所指为中国科技巨头阿里巴巴广受欢迎的开源模型。
智能体AI与本地计算机
哈罗韦尔进一步指出,英伟达借由最新Nemotron模型发布聚焦于专用智能体,这对开源社区而言至关重要。
“许多开发者正寻求一款优质开源基础模型作为代码底座,以支持定制化智能体,”他表示。他补充称,Nemotron 3.5 Super VL与Bolt模型的架构支持更优的内存扩展,从而实现更大的上下文窗口,而这在智能体AI中极具价值。
与此同时,业界一大关键问题是:人工智能能否从数据中心迁移至本地PC或共享设备(例如英伟达DGX Spark及苹果Mac Mini)上运行?
哈罗韦尔表示,其中一个瓶颈在于企业需适应“打包软件再次于本地计算机上运行”的理念,而非仅限于云端或作为网络服务运行。
JOTO 企业落地观察
- 企业部署层面:三款模型均支持4GB–24GB显存设备运行,且明确适配DGX Spark与Mac Mini等边缘/本地平台,意味着企业可绕过公有云依赖,在自有硬件上完成微调与推理,降低数据外泄风险并提升响应实时性。
- 智能体工程层面:Nemotron 3.5 Super VL与Bolt架构优化内存扩展能力,支持更大上下文窗口,直接提升智能体在长程任务规划、多步工具调用与状态保持方面的稳定性,为开发者提供更可靠的开源底座。
- FDE落地层面:文章指出企业需适应‘打包软件回归本地PC’的新范式,而英伟达通过开源+端侧适配双路径,实质性降低AI应用集成门槛;但文中未提及其模型是否通过国内主流信创环境认证,FDE规模化落地仍需验证软硬协同兼容性。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


