标签页 < MoE

Google开源DiffusionGemma:文本扩散模型推理速度比传统LLM快4倍

Google开源发布DiffusionGemma文本扩散模型,基于图像扩散原理实现一次并行生成256个token,推理速度比传统LLM快4倍。采用混合专家架构,260亿总参数仅激活38亿,可在RTX 5090消费级GPU上运行,H100上每秒超1000 token。

2026-06-11

昇腾助力中科大团队实现MoE 稀疏大模型并行推理提速超30%

本次项目的成果,为开发者借助昇腾技术优化 MoE 稀疏大模型推理性能提供了可贵借鉴

2025-08-21

解决方案

Solution
·

影石Insta360选择亚马逊云科技Agentic AI 正式发布一站式智能成片应用

·

IBM与红帽扩展Lightwell服务方案,构建适配AI时代开源生态的可信基础设施

·

亚马逊云科技推出全新开源模型上下文协议服务器助力科学家快速获取关键研究数据

·

Cloudera 与 VAST Data 宣布建立战略合作伙伴关系,携手为复杂环境部署AI数据平台

·

是德科技推出全新高性能 4x100GE 网络安全测试平台

·

OpenAI GPT-5.6 Sol、Terra与Luna现已在Amazon Bedrock上正式可用

·

2U服务器如何拥有9.8PB容量?

·

月之暗面Kimi借助亚马逊云科技推进全球业务发展