Arm为无处不在的AI奠定技术基础

作为人工智能(AI)的创新基础，众多企业都在使用通用且应用广泛的Arm计算平台。迄今为止，合作伙伴基于Arm架构的芯片出货量已超过2900亿颗。如今，Arm已为各类技术领域的AI应用提供支持，这也是为何AI的技术先行者们能够基于Arm平台快速创新的关键原因。

无论是现在还是未来，Arm平台都是AI运行的基石。若要满足对AI技术和应用的旺盛需求，则必须在计算领域的方方面面实现无处不在的AI功能。从使用无数处理器训练大语言模型(LLM)的大型数据中心，到全球数字消费者每天接触边缘AI的电子设备，计算领域的方方面面都有AI的身影。

高效的AI计算

若要满足AI对高算力的需求，则少不了对高效计算性能的投入。生成式AI的发展推动了对AI算力和资源的需求空前增长。一名荷兰研究人员指出，如果一年内每次使用Google进行搜索都运用到AI，其所需的电力相当于爱尔兰全国一年的用电量。长远来看，考虑到地球上资源有限，这种方法是难以为继的。

Arm提供了计算性能和能效的卓越组合，推动了智能手机领域的技术革新，而同样的趋势也正发生在AI革新中。

数据中心中的AI

头部超大规模服务运营商正采用定制芯片战略，来进行数据中心转型，以迎接AI时代。

软银公司正在与NVIDIA合作，建设全球首座采用基于Arm架构的Grace Hopper超级芯片的5GAI 数据中心。这一突破性的AI加速CPU专为超大规模AI和高性能计算应用而设计。Grace Hopper 基于72颗Arm Neoverse V2 核心打造，在AI的高负荷任务中实现了10倍的性能飞跃，同时大幅提高了每瓦性能。微软则在此前发布了其首款专为云计算打造的定制芯片Azure Cobalt 100 处理器，该处理器基于Arm Neoverse CSS N2打造。此外，基于Arm Neoverse平台的AWS Graviton3可以使AI推理（使用训练后的模型对新的真实数据进行预测的过程）的成本节约50%。

在数据中心中约有85%的AI工作负载用于运行推理，其驱动了各种用例、行业和设备的AI应用，因此企业有巨大的动力来降低相关的能源消耗和成本。

边缘AI

除了数据中心和云服务，许多AI工作负载还需要在设备上进行处理，以便更有效地分布AI工作负载。

在设备上处理AI工作负载已经成为现实，无论是智能手机、智能家居设备还是智能汽车，这一趋势将继续增长，特别是随着大语言模型(LLM)变得更加高效，并针对特定任务、用例或设备而专门打造。直接在采集数据的设备上处理AI计算，可以带来更快、更安全的用户体验并减少延迟，这对于工业和汽车应用等对安全性要求很高的用例来说至关重要。

开发者正在编写更精简的AI模型，以在小型微处理器甚至更小的微控制器上运行，从而节省能源、时间和成本。例如，Plumerai提供的软件解决方案可在基于Arm Cortex-A和Cortex-M的系统级芯片(SoC)上加速神经网络，并在基于Arm架构的微控制器上运行略高于1MB的AI代码，其可执行面部检测和识别等功能。

基于处理器技术的AI

无论是由CPU处理全部AI工作负载，还是由GPU或NPU等协处理器提供支持，AI处理始于CPU。

过去十年间，Arm的CPU和GPU的AI处理能力每两年就实现翻番，目前70%的第三方应用中的AI都基于Arm CPU 运行，在关键技术市场中推动了边缘AI的显著发展。

基于Armv9 CPU和GPU技术打造的高性能AI手机现已问世，其中包括搭载MediaTek天玑9300的vivo X100和X100 Pro智能手机，以及Google Pixel 8，这是首款专为Google的AI模型Gemini Nano进行工程研发的智能手机，可在边缘执行一系列AI的任务。与此同时，超过200亿个基于Arm架构的SoC能够运行各种物联网设备上广泛的ML工作负载，包括基于Cortex-M处理器、Arm Ethos-U NPU 和Cortex-A CPU打造的设备。而在汽车领域，如今的车用芯片可实现基本的AI功能，如障碍物检测、3D视图和简单的传感器融合，这些功能都在Arm CPU上运行。下一代基于AI的汽车功能，如先进驾驶辅助系统(ADAS)和自动驾驶功能，也基于Arm CPU而构建。

全球最大的开发者社区

Arm持续的软件投入正建立起全球最大的AI开发者社区。

Arm致力于以最常见的方式让开发者能够更简单、更快速、更安全地进行编码，携手实现无处不在的AI。如今，超过一亿用户可以使用Arm NN软件开发工具包，在Arm CPU和GPU上优化ML工作负载。对于全球1500万Arm架构设备开发者来说，这使他们能够运行复杂的AI和ML工作负载，确保将应用更快地推向市场。

Arm在其业界领先的生态系统中开展了一系列合作，以使其对开发者的AI承诺付诸实践。此外，Arm还通过开源框架和库，为基于Arm架构的硬件提供强大的ML功能，为开发者提供全方位支持，包括TensorFlow、PyTorch、Caffe2、OpenVINO和TVM，从而为开源社区打造AI创新基础。

写在最后

AI为下一个技术创新奠定了基础，引领社会进入一个潜力非凡的新时代。而实现这一切的前提正是让AI无处不在。这不仅意味着要在云端、数据中心和超级计算机中实现AI，还要确保复杂的AI工作负载能够在更小、更受限的边缘技术和设备上运行。能效与性能对于推动边缘AI的发展同等重要。

Arm正在促成这一目标。Arm提供了应用广泛的通用计算平台，赋能边缘设备和其他领域的各种可能性。无论是CPU、GPU、ISP还是NPU，Arm在每一代产品中都增加了更多AI性能、效率功能及安全特性，同时还为合作伙伴提供了多样的灵活性，使它们能够集成和开发自己的创新解决方案。而在软件、工具和生态系统方面，IP与开源软件和工具乃至广泛的行业领先生态系统相结合，让全球上千万开发者都可以使用Arm计算平台作为AI创新的基础。从传感器、智能手机，到工业级物联网、汽车和数据中心，基于Arm平台的AI无处不在。