英伟达扩充Nemotron模型家族,为智能体系统推出高效模型

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-10-16 11:18

浏览: 0

点赞: 0

收藏: 0

英伟达今天宣布推出可定制的Nemotron 3.5 Super VL大语言模型,面向常驻运行的AI智能体;同时推出面向本地系统的边缘版本3.5 Bolt。

该公司表示,这三款新模型将覆盖从大型企业服务器到边缘设备和本地硬件的全部智能体部署形态。

Super VL:能力对标最大推理模型,规模仅五分之一

Nemotron 3.5 Super VL是一个开放的1200亿参数模型,由Nemotron Coalition联合打造——该联盟由一批模型构建者和AI实验室组成,致力于推进开放的前沿级模型。该模型面向高精度的多模态智能体任务设计,具备指令遵循、工具调用、多步骤业务流程和视觉理解能力。英伟达表示,它的能力可与该公司最大的推理模型相当,而规模只有后者的五分之一。

这样的规模加上新的架构,让Super VL的生成速度比其他同类模型快了近五倍。

与闭源前沿模型不同,英伟达公开提供Super VL的权重,这意味着企业可以用自己的数据对它进行后训练,并部署在自己的基础设施上。也就是说,企业可以把它放在防火墙内、留在自己的域中,从而保持主权、隐私和安全。

为了构建Super VL,英伟达使用开放数据和开放方法训练该模型,在预训练和持续预训练中使用了约26万亿个Token。训练还包括380万条后训练样本,以及在100个开放环境中进行强化学习来微调模型。

英伟达还表示,将在Hugging Face上发布开放数据集,涵盖智能体工具使用、金融、指令遵循、长上下文、安全、公平性以及视觉语言理解。

Bolt 74B-A9B:24GB内存本地跑智能体

Bolt 74B-A9B 24GB是一款更小的模型,专为在本地运行智能体任务而设计,基于Super VL。它采用混合专家(MoE)架构,一次激活740亿参数中的90亿,并使用2比特量化以适应24GB内存。这让它可以舒适地运行在企业工作站或PC的GPU上,因此用户可以把日常项目——包括编写和调试代码——交给它处理,而无需把工作负载发送到云端。

Bolt E4B:面向边缘设备的微型模型

本月晚些时候,英伟达还将推出一款更小的模型:Bolt E4B 4GB。这款微型模型专为在GeForce RTX、Jetson和RTX/GTX Spark上进行边缘部署而设计。它将让物理AI和对话式智能体能够在可穿戴设备、家用设备、服务终端、汽车仪表盘、设备助手以及其他嵌入式界面中工作。

英伟达指出,它可用于驱动交互式角色、对话界面,以及可本地化或个性化的智能用户界面。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255