透过DeepSeek,聊聊存储是如何给AI加速的
从AI服务器到AI PC,如何快速的用上DeepSeek成为热门问题。无论DeepSeek Janus-Pro把多模态提升到了一个新层次,还是媲美主流的DeepSeek-V3,或者应用于本地的DeepSeek-V3,对存储都提出了新的需求。以完整未蒸馏的DeepSeek R1模型为例,这是一个拥有6710亿参数的混合专家(MoE)模型,未量化版本的文件体积高达720GB,而动态量化版本也达到150GB到400GB之间。
京ICP备:2022009079号-2
京公网安备:11010502051901号
ICP证:京B2-20230255
TOB最前沿 公众号
TOB最前沿 抖音号
CBI科技在线 公众号