NVIDIA在今日宣布了全新NVIDIA AI Foundry服务和NVIDIA NIM™推理微服务的推出，同时与刚刚发布的Llama 3.1系列开源模型相结合，为全球企业的生成式AI应用提供强有力的支持。借助NVIDIA AI Foundry，企业和各国现在能够利用Llama 3.1以及NVIDIA的软件、计算和专业知识，为其特定领域的行业用例创建自定义的“超级模型”。这些超级模型可以通过使用企业自有数据以及由Llama 3.1 405B和NVIDIA Nemotron™ Reward模型生成的合成数据进行训练。

NVIDIA AI Foundry由NVIDIA DGX™ Cloud AI平台驱动，该平台由NVIDIA与全球领先的公有云共同设计，旨在为企业提供可随AI需求变化轻松扩展的大量计算资源。

随着企业和制定主权AI战略的国家希望创建具有特定领域知识的自定义大语言模型，以便生成式AI应用能够反映其独特的业务或文化，这些新服务的推出恰逢其时。

NVIDIA创始人兼首席执行官黄仁勋表示：“Meta的Llama 3.1开源模型标志着全球企业采用生成式AI的关键时刻已经到来。Llama 3.1将掀起各个企业与行业创建先进生成式AI应用的浪潮。NVIDIA AI Foundry已经在整个过程中集成了Llama 3.1，并能够帮助企业构建和部署自定义的Llama超级模型。”

Meta创始人兼首席执行官马克·扎克伯格也表示：“全新的Llama 3.1模型是开源AI迈出极其重要的一步。借助NVIDIA AI Foundry，企业可以轻松创建和定制大家想要的最先进的AI服务，并通过NVIDIA NIM进行部署。我很高兴能将它交付到大家手中。”

企业现在可以从ai.nvidia.com了解适用于Llama 3.1模型的NVIDIA NIM推理微服务，以加快将Llama 3.1模型部署到生产级AI的速度。NIM微服务是将Llama 3.1模型部署到生产中的最快途径，其吞吐量最多可比不使用NIM运行推理时高出2.5倍。

此外，全球专业服务公司埃森哲已经率先使用NVIDIA AI Foundry为企业创建自定义的Llama超级模型。埃森哲董事长兼首席执行官Julie Sweet表示：“全球领军企业看到了生成式AI正在如何深入改变各行各业，并且希望部署由自定义模型驱动的应用。借助NVIDIA AI Foundry，我们能够帮助客户快速创建和部署自定义的Llama 3.1模型，为他们的优先业务事项提供变革性的AI应用。”

NVIDIA AI Foundry提供了一种可用于快速构建自定义超级模型的端到端服务，结合NVIDIA的软件、基础设施和专业知识与开放社区模型、技术和来自NVIDIA AI生态系统的支持。借助这一平台，企业能够使用Llama 3.1模型和NVIDIA NeMo平台创建自定义模型，并在生产环境中运行这些模型。

行业领军企业如医疗、能源、金融服务、零售、交通、电信等行业的企业已经在使用适用于Llama的NVIDIA NIM微服务。首批使用面向Llama 3.1全新NIM微服务的公司包括Aramco、AT&T和优步。

全新推出的NeMo Retriever RAG微服务也大幅提高了生成式AI的准确性和性能。通过使用这一微服务，企业可以将自定义的Llama超级模型和Llama NIM微服务部署到生产中，以提高响应准确性。

数百家提供企业、数据和基础设施平台的NVIDIA NIM合作伙伴现在能够将这些新的微服务集成到其AI解决方案中，从而为NVIDIA社区500多万开发者和1.9万家初创公司的生成式AI提供超强助力。