Arm通过AGI CPU和Neoverse CSS N4扩展AI基础设施,迎接智能体时代
智能体 AI 对AI 基础设施的需求。随着 AI 从推理迈向行动阶段,智能体不仅需要进行推理,还要检索数据、调用工具,并与数据库及其他智能体协同交互。这一趋势正在推动数据中心内基于 CPU 的计算需求显著增长。不过,不同工作负载对基础设施的要求并不相同。对于横向扩展(scale-out)和数据面(data plane)等应用场景而言,更倾向于追求最大化吞吐效率;而对于智能体和其他性能关键型应用,则需要具备高响应能力的 CPU 性能。如今,Arm 已在数据中心实现大规模部署。