迎接AI产业化应用提升 网安问题宜提前布局

近年各行各业导入AI来进行创新转型，促使产业AI化的各项应用愈来愈普及，在产业、个人愈来愈倚靠AI的同时，对于AI安全性的议题却相对较少讨论。富士康研究院CEO李维斌出席由DIGITIMES、科技报橘、IC之音、人工智能基金会共同举办的「2022 Taiwan AI EXPO」论坛时提到，在AI架构发展之初，应该就先将网安纳入考量架构中。

随着产业AI化的发展，愈来愈多产业藉由AI导入达成提升效能等目的。像是透过AI协助进行网安攻击的判断等。虽然AI是很好的工具，但是AI在发展上也正面临着当年信息系统及网际网络初期的情况。信息系统、网络等应用发展初期，因为过于强调功能，而忽略网安相关议题，导致现在可能要透过不断的补强，来防堵漏洞、防范外界攻击。

由于AI在形成的过程中，有太多黑盒子存在期间，很难像信息系统一样做到针对漏洞进行亡羊补牢。所以，AI现阶段发展上，除了效能，更应该要提前投入更多网安方面的准备。千万不能还停留在，讲起来重要、做起来次要、忙起来不要的传统窠臼中。

随着AI结合产业并导入各种不同场域与情境中应用，形成更为复杂的情况；一旦出现问题，所要付出的代价也将更大。特别像是节点愈多的应用环境，像是自驾系统这类的应用环境，就会愈容易发生攻击，可能是基于模型本身的缺陷，也可能是受到隐藏在数据中莫名的关连性所引导；但不论形成的原因为，万一受到攻击，造成的影响与代价就愈高。

李维斌强调，AI是一种工具，不过是善、是恶，完全端视使用者的出发点，要利用AI优势的同时，更要避免承受恶意攻击的冲击，这些是需要事前考量的部分。在AI发展的过程中，不要再像过去发展系统般的一股脑往前冲。毕竟AI比过去的系统更难收拾残局。

所以，AI系统除了规格验证、确保功能、安全、强健性与公平性等基本要求外，进一步更应该要重视的是，AI所做的决策要能被信任、由AI赋能的系统要能被信任；同时，要能侦测与减少对抗例的输入。

至于如何发展相关规范，李维斌提到，其实现在国际间，不论是欧盟、美国、甚至国内，对于AI安全均已经展开许多工作，也陆续有一定的标准规范，所以台湾并不需要从无到有的自己建置，而是要善用既有的国际标准，强化自己的实力。

李维斌表示，今后台湾一定是要进入国际市场打国际赛，如果要打国际赛，就一定要依循这些既有的标准，才能具备国际的竞争力。如果不依循相关的标准进行，最终可能导致产品/应用无法跨进海外市场。

特别是目前AI的发展已经迈向落地应用，借镜于过往网安发展的历史，AI安全性势必将成为重要的课题；今后AI攻防技术将如同军备竞赛，需要及早的关注、投入与布局，才能共同迎接AI赋能的新时代。

富士康研究院也特别提出AI的PCR安全模型，希望能从隐私性(Privace)、保密性(Confidentiality)及强健性(Robustness)等方面着手，从系统、数据到模型，建构出完整的安全模型。同时，也希望有更多不同视角与利益相关者能共同参与其中。即便一切都准备妥善，但AI安全在今后仍需要成为一个动态的概念。

李维斌认为，AI好比是厨房，而庞大的数据量则如同每天会产生的厨余，至于各类的攻击，则如同在厨房中无所不在的蟑螂一样。就算今天把蟑螂都消除完了，但是蟑螂还是会随着时间与环境的变化而再次出现；所以，对AI安全不仅要提前布局，更要长期维持，才能确保AI安全。

责任编辑：朱原弘