Google开源DiffusionGemma：文本扩散模型推理速度比传统LLM快4倍
Google开源发布DiffusionGemma文本扩散模型，基于图像扩散原理实现一次并行生成256个token，推理速度比传统LLM快4倍。采用混合专家架构，260亿总参数仅激活38亿，可在RTX 5090消费级GPU上运行，H100上每秒超1000 token。
标签页
<
MoE
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络，版权归原作者所有，我司致力于保护作者版权，如有侵权，请与我司联系删除
京ICP备:2022009079号-2
京公网安备:11010502051901号
ICP证:京B2-20230255
TOB最前沿 公众号
TOB最前沿 抖音号
CBI科技在线 公众号