从“服务器农场”到“智能家庭助理”，论人工智能IP为何如此重要

人工智能IP在芯片中的应用范围正在逐渐扩大。

 

回顾过去十年，AI为我们的日常生活带来了诸多便利，包括帮助实现安全可靠的自动化交通系统、个性化的家庭服务和沉浸式的娱乐体验。这些具象的场景能够实现都依赖于底层的芯片技术。

现在越来越多的智能应用需要依赖深度学习神经网络，而对深度学习和机器学习的大量需求则需要计算密集型方法学和强大的芯片设计作为支持。底层芯片技术必须能够运行高级别算法，并实时探查物体识别、语音、超分辨率成像、面部识别等应用。

 

最近在神经网络处理和深度学习算法方面的创新推动了AI SoC在处理、存储和连接方面的新硬件需求，并催生了新一轮半导体市场投资。随着企业纷纷进行数字化转型与元宇宙布局，为有效降低集成风险并加快上市时间，市场对经验证的专用人工智能IP的需求将继续增长。

AI 应用三要素：感知、决策与响应

20世纪50年代中期，“AI”一词首次被视为一门学科。2015年，随着处理器技术和 AI算法的进步，AI在某些方面已经能够匹敌甚至超越人类，AI领域的投资也因此出现爆炸式增长，这些投资正在将AI从大型机过渡到嵌入式应用。

 

一般而言，AI分为“弱 AI”（或称狭义AI，即解决特定任务的能力）或“强AI”（或称通用AI，即机器在面对陌生任务时找到解决方案的能力）。现有AI系统主要基于弱AI的概念，强AI系统预计将在未来几年投入使用。

 

感知、决策和响应是大多数AI应用的三个基本构成要素。比如智能音响会感知你的声音，处理云端和本地处理器之间的请求，并用实时音频数据作出响应。而从更广义层面讲，我们可以将AI定义为识别环境并最大限度地实现目标的能力。

 

过去几年AI持续高速发展，机器学习算法已实现更高水平的识别准确性，甚至赶超了人类。NASA曾使用神经网络技术来分析望远镜获得的数据以发现新行星，这一过程大大加快了工程团队分析数据的速度，NASA也通过该项技术成功发现了第八颗行星。

 

虽然AI市场仍处于萌芽阶段，但很多非传统半导体公司已开始大举投入，以期在AI市场分一杯羹。谷歌、脸书、亚马逊和阿里巴巴等系统公司正在开发自己的专用集成电路（ASIC）定制芯片，以支持其AI软件需求和商业模式，这样的发展在10年前是完全难以想象的。

AI 应用增长的细分市场

AI逐渐从学术界转向嵌入式应用中，这一转变得益于工艺技术、微处理器和AI算法的进步。在包括汽车、移动设备、数字家庭、数据中心和物联网（IoT）在内的所有市场中，芯片的功能也逐渐多元化，比如支持人脸识别功能、用于改进人机界面的自然语言理解、情境感知等。

从上图可以看出，云AI加速器（最左侧）的性能最高。云AI加速器的芯片开发者们运用复杂的AI算法和训练方法，通过限制推理的训练时间和能量损耗降低最终成本，将性能最大化以解决大型问题。硬件创新帮助开发者节省了多年开发时间，且能够更快地发现关键解决方案，如疫苗和药物创新。

 

然而并不是所有的问题都能在云端解决，而且许多AI加速器的架构正在被修改以支持边缘计算和端侧AI，我们预计这些领域将是硬件的最大增长点。如今端侧AI应用范围已十分广泛，可用于高级驾驶辅助系统（ADAS）、数字电视、语音和语言识别、AR/VR耳机等各类应用程序。在这一细分市场，移动设备将继续推动创新，尤其是在最新的工艺节点方面。

 

去年，移动处理器的AI处理能力已从每秒1万亿次操作（TOPS）提高了4倍以上，远超过20TOPS，其未来性能和每瓦性能仍有无限改善空间。

AI SoC的核心DNA构成

每个AI细分市场都有着不同的目标和挑战。随着时间的推移，在芯片中添加AI功能突显了用于AI芯片的基本芯片架构弱点。对融入了深度学习功能的芯片架构进行修改不仅会对高度定制化的解决方案产生影响，也会对通用型AI芯片设计造成影响。

 

这意味着选择和集成IP决定了AI芯片的基础效率，构成了AI芯片的核心“DNA”。比如说，引入自定义处理器或处理器阵列可以加速AI应用中所需的大规模矩阵乘法运算。

 

当添加深度学习功能时，芯片开发者在满足特定计算需求时可能会遇到以下不同的挑战：

• 专业处理：需要专业化处理来管理机器学习和深度学习任务带来的不断变化的计算强度。添加神经网络功能的SoC必须同时适应异构和大规模并行矩阵乘法。
• 内存性能：内存性能成为支持新的复杂AI模型的关键设计考量因素。AI模型占用大量内存，因此需要高效的内存访问来处理用于深度学习的特殊系数，例如权重和激活。
• 数据连接：传感器之间的实时数据连接工具，例如将CMOS图像视觉传感器和深度学习加速器连为关键组件。一旦AI模型经过训练和压缩，就可以通过许多不同的接口IP执行方案。这需要可靠且经验证的实时接口，用于芯片到芯片、芯片到云、传感器数据和加速器到主机的连接。

• 安全性：安全性是AI不可或缺的一部分，对保护AI系统，数据及通信相关的用户安全与隐私以及商业投资至关重要。AI在安全漏洞方面提出了新的挑战，更多人开始主动关注如何保护数据免受黑客攻击。

AI IP 助力 AI 未来

突破数万亿字节的数据规模及不断迭代的计算范式给芯片设计设下了巨大挑战。芯片开发者只有获得高质量的IP才能快速推动芯片设计并满足上市时间的要求。对设计的“培育”会影响硬件中基础部件协同工作的方式（硬件中的底层部分如何协同工作），以及如何优化IP以构建更有效的AI SoC架构。 优化、测试和对比SoC性能的设计流程需要先进的仿真、原型设计解决方案和数十年的专业知识来加快AI系统设计。开发团队需要大量配备必要工具的处理器对不同的AI图形进行有效对比，从而加速其芯片上市。此外，在设计过程中通过必要的定制和优化来培育设计对SoC在市场上的成功意义重大。一组有针对性的嵌入式存储器可以帮助开发者通过定制解决方案应对高密度和低泄漏的挑战。 新思科技处于这一技术转型的前沿。新思科技 DesignWare® IP的广泛产品组合可以满足移动设备、物联网、数据中心、汽车、数字家庭和其他市场的AI芯片对专业处理能力、高带宽内存吞吐量和可靠的高性能连接的综合性需求。 除此之外，新思科技在各个细分市场与多家领先的AI SoC供应商均有数十年的合作，沉淀了丰富的知识和经验应用于下一代经验证的IP解决方案的开发，从而为未来的AI需求培育关键差异化。

结语

随着机器学习和深度学习的不断发展，预计AI市场将受到对更快计算及处理、更多边缘智能和更多自动化功能需求的推动。目前领先的半导体供应商和初创公司正将AI功能引入大量新的SoC中，专用IP解决方案将成为推动下一代芯片设计的关键助力，AI也将在未来几年持续提高生产力，改变获取信息的方式并更进一步改变大众的生活方式。