芯片初创公司SambaNova今日宣布，已在最新一轮融资中筹集10亿美元，估值达到110亿美元。

本轮F轮融资由General Atlantic领投，英特尔资本、Vista Equity Partners和摩根大通等十余家机构参投。此轮融资紧随今年2月完成的3.5亿美元融资之后。

SN50推理芯片：吞吐量达英伟达B200三倍

SambaNova在今年2月融资同步推出了旗舰产品——SN50推理芯片。该公司声称，该加速器的吞吐量是英伟达B200显卡的三倍以上，最高速度更是快五倍。

AI模型生成回答的过程是一个迭代流程：一组人工神经元分析用户提示词，生成初步响应并存入内存；另一组神经元再取出初步响应进行优化，将结果存回内存。如此反复多次，直到AI得出最终答案。

这种数据在内存之间反复搬运的过程，占用了生成回答的大部分时间。SambaNova表示，SN50的性能优势源于其加速片上数据流的架构设计。

三层存储架构：SRAM+HBM+DRAM

SN50由数十个"瓦片"（tile）模块组成，每个瓦片将处理电路与高速SRAM存储器集成在一起。存储器与处理电路的近距离布局缩短了数据传输时间，从而加速推理过程。当一个瓦片完成分配的计算任务后，会将结果发送给下一个瓦片继续处理。

SN50瓦片中的SRAM只是芯片使用的三种存储器之一。据SambaNova介绍，SN50还包含一个HBM存储池，可存储AI模型的活跃权重和KV缓存——这些是处理提示词的核心组件。此外，SN50还配备了DRAM模块，可存储多个非活跃神经网络。如果应用需要切换处理提示词的AI模型，芯片可以在几毫秒内将神经网络从DRAM加载到HBM。

功耗仅20瓦，标准风冷即可

SambaNova将SN50以16芯片整机柜形式出货，名为SambaRack SN50。系统功耗约20瓦，产生的热量相对有限，因此可以使用标准风冷设备，而无需许多高端显卡服务器所依赖的复杂液冷系统。

作为本轮投资方之一，摩根大通同日宣布计划采用SN50芯片，同时还将使用SambaNova上一代SN40芯片，将其集成到本地推理基础设施中。

SambaNova将利用本轮融资收益加强芯片产品线、机架设计和软件，同时加速市场拓展。