红帽AI推理服务器正式发布,助力混合云中任意模型和任意加速器上的生成式AI
全球领先的开源解决方案提供商红帽公司近日宣布推出红帽AI推理服务器(Red Hat AI Inference Server),这是在混合云中普及生成式AI(gen AI)的重要一步。作为红帽AI中的新产品,该企业级推理服务器源自强大的vLLM社区项目,
京ICP备:2022009079号-2
京公网安备:11010502051901号
ICP证:京B2-20230255
TOB最前沿 公众号
TOB最前沿 抖音号
CBI科技在线 公众号