Arm与NVIDIA合作，助力边缘AI发展

当前，人工智能技术和生成式AI，以及LLM已成为人们极为关注的焦点。在智能手机领域，70%的第三方AI应用运行在Arm CPU上，使Arm长期引领边缘AI领域。然而，如何实现可持续的AI并高效传输数据的方式，以及在边缘实现AI和机器学习模型的发展，对开发者来说，由于日益受限的计算资源，成为一项充满挑战的任务。

Arm目前正与NVIDIA展开合作，适配NVIDIA TAO。这一低代码开源AI工具包专为Arm Ethos™-U NPU使用，有助于构建性能优化的视觉AI模型，并将其部署在Ethos-U处理器上。NVIDIA TAO提供了一个易用的界面，基于TensorFlow和PyTorch构建，为开发者提供轻松无缝的模型开发和部署环境，提升边缘设备AI工作负载，提高AI体验。

推动神经网络在各设备和市场中的应用是实现AI可持续增长的重要一步。Arm与Meta携手通过ExecuTorch将PyTorch引入基于Arm架构的边缘移动和嵌入式平台。这一合作将使开发者更容易地在移动和边缘设备上部署AI和ML工作负载所需的先进神经网络，确保AI与ML模型的轻松开发与部署。

Arm对于AI工作负载的支持涉及广泛的数据格式。去年，Arm、英特尔和NVIDIA共同发布了新型8位浮点规范“FP8”，并共同制定了OCP 8位浮点规范。在最新的A-profile架构更新中，Arm添加了OFP8标准，以加速神经网络在行业内的普及，推动AI计算能力的提升。OFP8标准为软件生态系统提供了8位数据格式交换，以提高数十亿设备上的AI计算能力。