IBM公司与AMD合作,计划在IBM Cloud上部署AMD Instinct MI300X 加速器服务。这项服务预计将在2025年上半年推出,旨在提高企业客户在生成式 AI模型和高性能计算(HPC)应用中的性能和能效。
通过此次合作,IBM的watsonx AI平台以及Red Hat Enterprise Linux(RHEL发行版)的AI推理支持也整合了MI300X加速器。
IBM Cloud将提供AMD Instinct MI300X加速器以支持企业客户处理计算密集型工作负载。据报道,MI300X加速器配备192GB高带宽内存(HBM3),能够支持大型模型的推理和微调,并帮助客户以更少的GPU运行更大的模型,从而降低推理成本。
此外,双方还计划利用IBM Cloud的安全性和合规性能力来支持各行业的企业客户,特别是那些受到严格监管的企业。
评论