根据富国银行的预测,今年AI用电需求将达到8TWh,而到2030年将激增到652TWh,增长幅度将达到8050%。这一增长主要由于AI模型训练所用的电力消耗增加。富国银行预计,在2026年,AI用电将达到40TWh,在2030年将达到402TWh。此外,随着AI推理技术的发展,未来几年里用电量也将快速增长。
如果单纯看数字可能会让人感到有些抽象。举个例子,2023年中国全年用电为9224.1TWh,上海市全年用电为184.9TWh,深圳市全年用电为112.8 TWh。可以看出,在当前阶段下,人工智能领域正面临严重的用电荒挑战。
就GPU而言,在人工智能领域中起着重要作用。以英伟达的H100 AI GPU为例,其单机功耗高达700W;而英伟达下一代B200 AI GPU每片功耗将达到1200W。
AMD方面的情况也类似。上一代Instinct MI250 AI加速器峰值功耗为560瓦,而新推出的MI300X AI加速器峰值功耗则达到了750瓦,比上一代增加了50%。英特尔也不甘落后,其新款Gaudi 2 AI加速器的峰值功耗为600W,新款Gaudi 3 AI加速器的峰值功耗更高达900W(又增加了50%)。英特尔下一代Falcon Shore混合AI处理器的功耗更高,每个芯片的峰值功耗达到了惊人的1500W。
以上只是单独计算了GPU部分,如果再加上CPU以及其他附加组件,则整个系统所需的电力更加惊人。以英伟达GB200为例,它包含了两个B200 GPU和一个Grace CPU,总功耗达到了惊人的2700W。
评论