英伟达扩充Nemotron模型家族,为智能体系统推出高效模型
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-10-16 11:18
浏览: 0
点赞: 0
收藏: 0
英伟达今天宣布推出可定制的Nemotron 3.5 Super VL大语言模型,面向常驻运行的AI智能体;同时推出面向本地系统的边缘版本3.5 Bolt。
该公司表示,这三款新模型将覆盖从大型企业服务器到边缘设备和本地硬件的全部智能体部署形态。
Super VL:能力对标最大推理模型,规模仅五分之一
Nemotron 3.5 Super VL是一个开放的1200亿参数模型,由Nemotron Coalition联合打造——该联盟由一批模型构建者和AI实验室组成,致力于推进开放的前沿级模型。该模型面向高精度的多模态智能体任务设计,具备指令遵循、工具调用、多步骤业务流程和视觉理解能力。英伟达表示,它的能力可与该公司最大的推理模型相当,而规模只有后者的五分之一。
这样的规模加上新的架构,让Super VL的生成速度比其他同类模型快了近五倍。
与闭源前沿模型不同,英伟达公开提供Super VL的权重,这意味着企业可以用自己的数据对它进行后训练,并部署在自己的基础设施上。也就是说,企业可以把它放在防火墙内、留在自己的域中,从而保持主权、隐私和安全。
为了构建Super VL,英伟达使用开放数据和开放方法训练该模型,在预训练和持续预训练中使用了约26万亿个Token。训练还包括380万条后训练样本,以及在100个开放环境中进行强化学习来微调模型。
英伟达还表示,将在Hugging Face上发布开放数据集,涵盖智能体工具使用、金融、指令遵循、长上下文、安全、公平性以及视觉语言理解。
Bolt 74B-A9B:24GB内存本地跑智能体
Bolt 74B-A9B 24GB是一款更小的模型,专为在本地运行智能体任务而设计,基于Super VL。它采用混合专家(MoE)架构,一次激活740亿参数中的90亿,并使用2比特量化以适应24GB内存。这让它可以舒适地运行在企业工作站或PC的GPU上,因此用户可以把日常项目——包括编写和调试代码——交给它处理,而无需把工作负载发送到云端。
Bolt E4B:面向边缘设备的微型模型
本月晚些时候,英伟达还将推出一款更小的模型:Bolt E4B 4GB。这款微型模型专为在GeForce RTX、Jetson和RTX/GTX Spark上进行边缘部署而设计。它将让物理AI和对话式智能体能够在可穿戴设备、家用设备、服务终端、汽车仪表盘、设备助手以及其他嵌入式界面中工作。
英伟达指出,它可用于驱动交互式角色、对话界面,以及可本地化或个性化的智能用户界面。






京公网安备:11010502051901号