标签

标签页 < 推理

DeepSeek全面开源推理框架DeepInfer：公开Prefill/Decode分离与KV缓存降本路径

10月20日，深度求索（DeepSeek）宣布将内部推理框架DeepInfer全面开源，并同步开源生产级Token编解码组件deepseek-recipe。

Meta 推出自研 AI 芯片，专攻推理工作负载

Meta对外披露，公司已设计出四款定制芯片，用于为其内部人工智能工作负载提供动力。

破局显存焦虑：新华三推出大模型推理场景加速方案

通过软硬件协同优化提升 GPU 等关键部件的使用效率，成为破解内存供应链短缺焦虑、降低总体拥有成本的核心路径。

昇腾助力中科大团队实现MoE 稀疏大模型并行推理提速超30%

本次项目的成果，为开发者借助昇腾技术优化 MoE 稀疏大模型推理性能提供了可贵借鉴

华为推出AI推理技术UCM，降低HBM依赖，9月开源

助力突破算力卡脖子

斯坦福2025年AI指数报告：中美差距缩小、推理成本降280倍

全球AI发展风向标来了！

SanDisk推出高带宽闪存 (HBF)，挑战HBM市场

在和西数业务解绑之后，SanDisk于近日宣布推出一项名为高带宽闪存 (HBF) 的新技术，旨在为人工智能 (AI) 推理工作负载提供支持。HBF 是一种基于 NAND 闪存的 HBM 替代品，可提供更高的容量和更低的成本。

英伟达季度净利润创新高，但投资者担忧增长持续性

尽管业绩表现强劲，投资者却对公司的快速增长能否持续表示担忧

解决方案

Solution

·

高通与亚马逊云科技合作推出高通AI Hub赋能中国开发者加速端侧AI开发

·

面壁智能发布大监督智能体，用AI重新定义行业

·

是德科技亮相2026年OCP大会，展示其在Scale-Up、Scale-Out、Scale-Across网络到推理环节的AI基础设施验证技术进展

·

从识别到核验：AI智能体如何提升处方处理效率与准确性

·

亚马逊云科技与姚基金共同推出“云上篮图” 体育×科技育人计划

·

红帽被IDC MarketScape评为全球私有云与混合云管理自动化领域的领导者

·

是德科技推出用于高级器件测试的双通道模拟信号发生器

·

制造业AI项目面临数据治理与工作流整合挑战

地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室电话:13391790444或(010)62178877

版权所有:电脑商情信息服务集团北京赢邦策略咨询有限责任公司

声明:本媒体部分图片、文章来源于网络，版权归原作者所有，我司致力于保护作者版权，如有侵权，请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255

TOB最前沿公众号

TOB最前沿抖音号

CBI科技在线公众号