在人工智能市场中,NVIDIA一直占据主导地位,其AI显卡市场份额估计超过90%,AMD难以与之竞争。然而,Intel近期也加入了这个市场,并找到了NVIDIA的一个痛点,即性价比。 NVIDIA目前备受瞩目的AI显卡主要是A100和H100,国内还有特供的阉割版A800和H800。
这些阉割版的性能比原版弱20%左右,但即便如此,市场需求依然旺盛。A800的价格在一周内从9万元涨到11万元以上,H100的价格在25万元以上,H800也要20万出头,而且不同经销商的价格差异很大。
Intel不会放过这个市场,近期在国内举行发布会,推出了AI显卡Habana Gaudi2,这是去年底发布的AI推理加速芯片。Gaudi2从第一代的16nm工艺升级到7nm工艺,Tensor处理器核心数量增至24个,同时集成了多媒体处理引擎,内存升级至96GB HBM2E。国内版的Gaudi2主要阉割了部分网络接口,但也集成了21路100Gbps网络接口,总体来说性能依然很可观。 Intel还公布了Gaudi2与H100的AI性能对比。在面对要求极为苛刻的、1750亿参数的GPT-3模型时,384个Gaudi2加速器上的训练时间仅为311.9分钟,而且从256个加速器到384个加速器,性能扩展幅度达95%。相比之下,NVIDIA在512块H100 GPU上的训练时间则为64分钟,单卡性能是Gaudi2的3.6倍多。 然而,Intel并不打算与H100竞争极限性能,而是强调性价比。Habana Labs首席运营官Eitan Medina表示,性价比是影响H100和Gaudi2相对价值的重要考量因素,Gaudi2服务器的成本要比H100低得多。更重要的是,尽管Gaudi2目前还没有支持AI常用的FP8运算格式,但在性价比上已经胜过了H100。今年第三季度,Gaudi2将升级支持FP8运算,届时其性能将有明显飞跃,性价比将更胜一筹。
评论