日前,NVIDIA推出了一项AI foundry服务,助力企业和初创公司在Microsoft Azure上开发、调优和部署其自定义生成式AI应用。
这项NVIDIA AI foundry服务整合了NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGX云AI超算服务三大要素,为企业提供创建自定义生成式AI模型的端到端解决方案,并且支持企业使用NVIDIA AI Enterprise软件部署其定制模型,以支持生成式AI应用,包括智能搜索、摘要和内容生成。
SAP、Amdocs、Getty Images率先使用NVIDIA AI Foundation Models 构建自定义LLM
SAP SE、Amdocs和Getty Images率先使用了这项服务来构建自定义模型。
NVIDIA创始人兼首席执行官黄仁勋表示:“企业需要自定义模型来执行基于公司专有DNA (即数据)训练的专业技能。NVIDIA的AI foundry服务整合了我们的生成式AI模型技术、LLM训练的专业知识和超大型AI 工厂。我们在Microsoft Azure中构建这项服务,使全世界的企业都能够将他们的自定义模型与微软全球领先的云服务进行连接。”
微软公司董事长兼首席执行官Satya Nadella表示:“从芯片到软件,我们与NVIDIA的合作涵盖了Copilot堆栈的每一层,双方正在这个AI新时代共同创新。借助NVIDIA在Microsoft Azure上提供的生成式AI foundry服务,我们将为企业和初创公司提供新的功能,方便他们在云上构建和部署AI应用。”
行业领导者构建量身定制且响应及时的LLM
NVIDIA的AI foundry服务可用于为企业软件、电信、媒体等各个行业的生成式AI应用定制模型。在部署就绪后,企业就可以使用一种名为检索增强生成(RAG)的技术将其自定义模型与企业数据连接,从而获得新的洞察。
作为Microsoft Azure上NVIDIA DGX云的首家客户,SAP计划使用该服务和经过优化的RAG工作流,以及在Azure上运行的 NVIDIA DGX云和NVIDIA AI Enterprise软件,以帮助自定义和部署其全新的自然语言生成式AI智能副驾——Joule。
SAP SE首席执行官兼执行董事会成员Christian Klein表示:“Joule秉承了SAP融合业务和技术领域的独有定位,并建立在与之相关、可靠且负责的Business AI基础之上。通过与NVIDIA合作,Joule可以通过自动执行耗时的任务并快速分析数据,来提供更智能和个性化的体验,帮助客户从而挖掘生成式 AI 在其业务中的潜力。”
Amdocs是一家面向电信和媒体公司的领先软件与服务提供商,该公司正在为Amdocs amAIz框架优化模型,以加快全球电信公司采用生成式AI 应用和服务的速度。
Amdocs总裁兼首席执行官Shuky Sheffer表示:“生成式AI技术为服务提供商带来了一次绝佳的机会,可以重塑他们与客户互动的方式。在NVIDIA和微软技术的加持下,Amdocs amAlz框架将更快地为客户带来由生成式AI 驱动的新应用,并提供企业级的安全性、可靠性和性能,使其能够从生成式AI的巨大潜力中获益。”
用于自定义生成式 AI 的精选优化模型
使用NVIDIA Foundry服务的客户可从多个NVIDIA AI Foundation模型中进行选择,包括托管在Azure AI模型目录中的全新系列NVIDIA Nemotron-3 8B模型。开发者还可以访问NVIDIA NGC目录中的Nemotron-3 8B模型,以及专为NVIDIA加速计算优化的各种社区模型(如Meta的Llama 2),这些社区模型也即将被添加到Azure AI模型目录中。
Nemotron-3 8B系列经过80亿个参数优化,其包含针对不同用例进行调整的版本,并具有构建自定义企业生成式AI应用的多语言功能。
NVIDIA DGX 云现已在Microsoft Azure Marketplace上架
NVIDIA DGX云AI超算服务已在Azure Marketplace上架。该服务提供客户可租用的实例,可扩展至数千颗 NVIDIA Tensor Core GPU,并附带包括NeMo在内的NVIDIA AIEnterprise软件以加速LLM的定制化。
Azure Marketplace新上架的DGX云还支持Azure客户使用其现有的Microsoft Azure消费承诺额度,来兑换NVIDIA AI超算服务和软件,以加快其模型开发速度。
NVIDIA AI Enterprise软件现已集成到Azure机器学习中,为其添加了NVIDIA安全、稳定且具支持性的AI和数据科学软件平台。Azure的企业级AI服务也添加了NeMo和NVIDIA Triton推理服务器。
NVIDIA AI Enterprise也已在Azure Marketplace上架,为全球企业提供了广泛的生产就绪型AI开发和自定义生成式AI应用部署的选择。
评论