边缘AI加速万物联网 业者布局利基市场

人工智能（AI）近期迎来新一波成长高峰，市场期盼在AI的加持效应下，能加速实现万物联网的智能物联网（AIoT）情境。这也使得AI「边缘化」成为下一阶段物联网业者值得投入的发展方向。

业者认为，以中国台湾的情况来说，较适合针对垂直领域开发专用小型模型，除了有效降低成本，更因为终端应用需求五花八门，也较能透过因地制宜的策略，锁定利基市场。

熟悉AI产业业者指出，考量台湾目前在模型开发、算力资源以及应用时程，发展泛用型的大型模型缓不济急，较理想的模式则是以API串接大型模型发展多元应用较具效益。因此台湾未来在AI的发展重点，应放在垂直领域的专用模型，且是投入参数小、准确性高的模型来发展或优化，像是聚焦于台湾比较专长的垂直领域如制造、医疗照护等。

前Google台湾董事总经理简立峰也有类似看法，其指出，虽然ChatGPT引发外界对于背后的大型语言模型（LLM）的高度关注，但事实上碍于其建置成本与规模，往往仅有少数大企业可开发超大型LLM，而其他则会走向小型LLM，在应用面最终则是走向边缘端。

正因为大模型相对耗费资源，刺激近来企业对边缘AI的需求看涨，同时市场在积极讨论轻量化模型的更多可能性，以盼在许多小型物联网或边缘装置中都能部署AI。尤其当前物联网设备市场规模成指数级成长，各种大量数据被产生出来，可将部分处理和数据储存从云端转移到边缘网络节点，就近提供给终端使用者，边缘运算确实有其发展必要。

至于在应用面，业者则指出，由于台湾IC设计业者过去多以影像或视觉领域的AI芯片为主要发展方向，相对于其他领域，影像或视觉AI应用不论就市场规模或技术成熟度，都具有相当扎实的发展基础，从监控、安防、人流、行为等各种识别等，在终端市场遍地开花，亦有不少AI新创业者以此为利基点，开发许多创新应用。

据AI监控业者表示，像是以智能城市科技执法为例，传统道路测量安装系统，就有分中央式主机、近路侧主机或摄影机边缘端等几种模式，以往中央式主机是采取统一管理、识别与指令下达，但当终端装置较多，延迟时间可能多达600毫秒，无法满足需求。

受惠近年边缘AI兴起，目前在摄影机边缘端可就近同时具备摄影、识别与储存等功能，其延迟时间下降至100毫秒，反应时间大幅缩短。目前像是老牌安控厂利凌，就将AI摄影机平台化，使AI演算法能直接导入摄影机，布建到场域端。

业者也表示，「终端式」的AI系统不需透过大型主机，未来更有助于AI新创业者能够加速商转，而非只是落于无法规模化的概念验证（POC），同时也看好未来将有更多针对不同终端需求而生的边缘AI装置或设备为市场所需。