AIF常务董事詹婷怡：建构可信任的AI 赋能、法制是关键

受益于大数据和运算能力提升，人工智能(AI)快速发展，然而对许多人而言，AI的运作模式如黑箱般难以摸透，无法轻易理解AI如何作成决策，带给人们及社会不安全感，或强化偏见，甚至是网安问题。人工智能科技基金会(AIF)常务董事詹婷怡强调，发展技术的同时建构可信任AI(Trust-worthy AI)，「赋能」与「法制」是关键。

麦肯锡全球研究院(MGI)认为，AI正在促进人类社会发生转变，这种转变「将比工业革命发生的速度快10倍，规模大300倍，影响几乎大3,000倍」。台达研究院院长阙志克指出AI未来五大发展趋势：机器学习超自动化、训练数据最小化技术、可解释的AI技术(XAI)、AI模型安全技术、自然语言处理语言模型GPT-3。

AI技术要落实到更多应用领域的过程中，经常面临机器学习技术产生出数据面及模型面的黑箱问题，尤其是与生活重大议题相关的项目，像是医疗诊断、金融保险、司法侦查等，使人们更迫切需要知道模型到底怎麽得出结论，才能协助判断什麽时候该让机器处理，什麽时候又该介入。「可解释的AI技术」试图消除AI开发者与应用者对分析结果的信任危机，也成为全球急欲解决的难题。

詹婷怡指出，AI发展面临最大的挑战是不信任，除了黑箱问题，外界也担心AI安全技术与数据治理漏洞可能成为操控、攻击的工具，因此强调security思维不能采事后防范，而是应该积极在规范设计时就参与讨论。在数码无所不在、万物联网的时代，建立可信任AI生态系统需要有架构、层级式思维，从最底层的智能5G通讯联网，到物联网、运算能力(云端、边缘)、再到创新应用还有数据及演算法，层层都需要建立起信任机制。

詹婷怡分析欧美、日本等国在AI伦理规范等白皮书内容，以欧盟为例，欧盟在2018年6月成立AI高级专家组(AI HLEG)，并在隔年公布「可信任的AI伦理规范」，提出三大构成要素来明确定位何谓值得信赖的AI：合法(lawful)、合乎伦理(ethical)、强大稳健(robust)。

同时HLEG列出七大具体关键面向描述可信任AI，包括：人类自主性与监督(Human Agency and Oversight)、技术稳健性与安全性(Technical Robustness and Safety)、隐私与数据监理(Privacy and Data Governance)、透明性(Transparency)、多元性、非歧视性与公平性(Diversity, Non-Discrimination and Fairness)、社会与环境福祉(Societal and Environmental Well-Being)、当责性与咎责机制(Accountability)。

日本则是提出Society 5.0，公布「以人为本的AI社会原则」，认定AI技术应用应以联合国永续发展项目SDGs为基础，建构永续社会。

面对物联网繁复且混合的环境，可信任AI的议题讨论百家争鸣，容易陷入失焦困境，詹婷怡呼吁台湾作为科技岛国，应该及早开启各领域的对话讨论，积极往政策规范推动，打造可信任AI使其赋能，也更有助于AI技术发展走得更远更长久。

责任编辑：朱原弘