大模型是终极形态么？端侧AI才是下一个未来

1

科技行业投融资交流、加入科技社群，请联系riseen

关于大模型和小模型，我们来看看行业大佬都有什么观点，OpenAI的伯乐比尔盖茨和AI之父杰弗里·辛顿，都相继阐述分析过这个问题。

相比于如火如荼的大模型，终端侧的AI显得要冷静很多，究其原因，可能跟属性有关系，毕竟终端侧AI跟行业属性紧耦合，属于垂域AI范畴，跟通用大模型相比，想象空间略微没那么性感。

但是从行业逻辑和应用场景看，从云端到末梢，几乎是所有AI模型必须要跨过去的槛儿，或者说是需要延伸的方向。背后的逻辑，就跟分布式和集中式之争，中心化和去中心化之争是一样的，最终的局面，是在中心化的管理和终端侧的自主之间达成平衡。

就像ChatGPT，我们目前都需要连接云端高算力服务器，才能实现那个并不怎么流畅的文本交互，言语之间，总要等待鼠标闪烁几秒钟，甚至更长。

如何让终端设备，实现ChatGPT，或者类似ChatGPT一样的功能，可能是未来AI都需要面对的问题。就像AI之父杰弗里·辛顿（Geoffrey Hinton）最近在接收采访时说的，如何让“你的烤面包机，能够跟你像人与人一样对话”。

在采访中，Hinton阐述了云端大算力和终端小算力之间的关系：

为什么不坚持大算力数字计算机？因为电力消耗，需要耗费很多的电力，尽管现在芯片能耗越来越低，但是仍然需要很多的电力做训练推理事情。必须让计算机在高能耗状态下，才能够按照准确的方式运行，然而如果你想在低能耗状态下运行，就像我们大脑一样，因此你需要容忍一定程度上的噪声等，但是我们人脑的特定系统会适应这种类型的噪声，一切都会正常运作，即便你的能量消耗并没有那么高，它仍然会精确地按照你的意图运行。而人类大脑的功率只有30瓦特，一个大型AI系统需要兆瓦级，功耗相差了1000倍左右。因为我认为将会有一个阶段，我们在大算力计算机上进行训练，一旦模型训练好了，可以在低功耗设备上进行运行。如果你希望你的烤面包机，能够跟你像人与人一样对话，你只需要在其中配置一个几美元的芯片，能够支撑像ChatGPT一样的效果，低功耗的小芯片是个最佳选择。

无独有偶，3月21日的时候，比尔盖茨也撰文《The Age of AI has begun —— Artificial intelligence is as revolutionary as mobile phones and the Internet人工智能新纪元已经开启，开启iPhone时刻和互联网时刻》，就AGI（通用人工智能）ChatGPT发表了他的最新观点，其中也涉及到了这个话题：

There will be an explosion of companies working on new uses of AI as well as ways to improve the technology itself. For example, companies are developing new chips that will provide the massive amounts of processing power needed for artificial intelligence. Some use optical switches—lasers, essentially—to reduce their energy consumption and lower the manufacturing cost. Ideally, innovative chips will allow you to run an AI on your own device, rather than in the cloud, as you have to do today.（理想状态下）下一个前沿领域，是创新型芯片将允许您在自己的设备上运行AI，而不是今天一样在云端运行。

On the software side, the algorithms that drive an AI’s learning will get better. There will be certain domains, such as sales, where developers can make AIs extremely accurate by limiting the areas that they work in and giving them a lot of training data that’s specific to those areas. But one big open question is whether we’ll need many of these specialized AIs for different uses—one for education, say, and another for office productivity—or whether it will be possible to develop an artificial general intelligence that can learn any task. There will be immense competition on both approaches.我们面临两种路径选择：是否需要为不同的用途开发许多这些专门的 AI，比如一个用于教育，另一个用于办公室生产力；或者是否可能开发出一种通用人工智能模型，可以学习任何任务。这两种路径都将面临巨大的竞争。

作者简介：步日欣

创道硬科技创始人，北京邮电大学创业导师、经管学院特聘导师、天津市集成电路行业协会顾问。电子工程本科、计算机硕士学位，具有证券从业资格、基金从业资格，先后就职于亚信咨询、中科院赛新资本、东旭金控集团等，拥有IT研发、咨询、投融资十五年以上经验，关注投资领域为半导体、智能制造、新能源等。

——创道硬科技研究院——

创道（北京）咨询顾问有限公司，专注于服务风险投资机构和科技成长型企业，聚焦“硬科技”领域，涵盖半导体、信创、人工智能、物联网、智能制造、云计算、大数据等。打造“创道硬科技研究院”、“创道硬科技生态圈”、“创道硬科技融服务”三大业务板块，科技研究、产业协同、投融资服务一体化平台，涵盖业务包括风险投资、科技深度研究、投融资咨询等。

感谢阅读到最后

少侠留步

点个在看吧