Trainium3 UltraServers正式发布,助力客户更快更省地训练和部署AI模型
近日,亚马逊云科技在2025 re:Invent全球大会上,宣布Amazon EC2 Trainium3 UltraServers(下称Trn3 UltraServers)现已正式可用,由亚马逊云科技首款3nm AI芯片驱动,为不同规模的企业提供运行高强度AI训练与推理工作负载的能力,帮助客户更快更省地训练和部署AI模型。与Trainium2 UltraServers相比,Trn3 UltraServers在AI场景中提供高性能,实现高达4.4倍的计算性能、4倍的能效提升以及近4倍的内存带宽,使AI开发速度更快、运营成本更低。Trn3 UltraServers可扩展至最多144颗Trainium3芯片,提供高达362 FP8 PFLOPs的性能,延迟降低4倍,可更快速训练更大规模的模型,并支持大规模推理场景。包括Anthropic、Karakuri、Metagenomics、Neto.ai、Ricoh与Splashmusic在内的客户已经通过Trainium将训练与推理成本降低至原来的50%。值得的一提的是,Amazon Bedrock也已在Trainium3上运行生产级工作负载。