AI工具无好坏 建立滥用误用预防机制是关键

针对人工智能(AI)应用与隐私隐忧，凌群电脑网安巨资暨智能城市技术研发处总处长张义明表示，工具本身通常没有好坏之分，应用端须设计防止滥用和误用的机制。中研院法律所所长李建良则指出，欧盟规划中的人工智能法(Artificial Intelligence Act)上路后将有广泛影响。

犯罪侦防应用

谈到协助警方犯罪侦防的应用，张义明表示，凌群曾代理过IBM的软件工具，以AI影像识别进行人物追踪，在监视器影像中标示嫌犯，再比对该人像是否出现在其他监视器影像中，找出逃逸轨迹。

该软件可标记嫌犯的全身特征和携带物品，但不会实时识别对象身份；其他类似工具则可识别人物脸部和衣物颜色等特征。除了犯罪侦防，类似物件追踪技术也可用于车牌识别等交通相关领域。

这些应用是否意谓国内的天网监控系统也可能在台湾上演？张义明表示，前述应用是先框定特定嫌犯，再用影像识别技术追查，而国内的天网系统则是整合人脸识别和个资、持续监控公共空间，两者的应用情境有些差别。

他认为，工具本身没有好与坏之分，而是应用端如何设计，防止工具被误用和滥用。以警方办案来说，必须先有犯罪事实才可启动办案、调阅相关数据，相关调查原则上也须留下纪录以供后续稽核。日前有警员不当调阅检举人个资，已遭记过调职处分，显示台湾是有法制可防止警察不当作为。

他补充，凌群接到客户需求时，会先评估其需求的技术可行性及法律遵循性；例如与警方合作的案例显示，警察比他们还怕违法，双方谈到新技术导入时，也会确认适法性、如何留下稽核纪录、设计避免误用的流程。在与其他企业合作时也有类似考量。

欧盟AI法

谈及AI监控的争议与法律规范挑战，李建良表示须考量AI工具的功能面，是只有观察、还是有记录和后续的分析再利用。例如COVID-19(新冠肺炎)期间普遍应用的自动体温仪，是否只识别行人的体温高低，若有记录和利用个资则可能有争议。

欧盟执委会2021年提出人工智能法，英国《卫报》日前报导法案将于2024年下旬上路。李建良认为，法案通过后将会如欧盟一般数据保护规范(General Data Protection Regulation；GDPR)一样，带来广泛影响。

该草案中规定，执法机关在公众出入处所使用生物特征实时识别系统，必须是基于特定公益目标，包括查找遭绑票之失踪儿童、侦测重大犯罪嫌犯、防止恐怖攻击等，并取得主管机关许可方可使用。李建良指出，根据草案内容，如果只是为了侦查窃盗，警方不可使用线上生物识别系统，引发诸多讨论。

他也点出，目前讨论公共空间的AI应用大多限于实体空间，虚拟世界和元宇宙的公共空间该如何定义，则值得另辟讨论。

数码发展部的角色？台湾数码发展部预计于27日挂牌。开放文化基金会、台湾人权促进会等公民团体7月发表联合声明提出6点呼吁：数码发展部应尽速说明其施政规划如何呼应或改革现有的国家数码政策纲领、应重视整体公部门的数码培力、应基于全面性的人权考量规划施政蓝图、应建立公私协力机制、应以促进民主参与为最终目标，以及落实开放原始码和开放数据的数码治理愿景。

针对人权部分，该声明表示，虽然目前台湾个资保护业务由国发会负责而非隶属于数码发展部，但要求成立独立隐私专责机构的民间呼声已十分强烈。数码工具或数码身份的拥有，不应当是使用公共服务或公民参与的必然前提。

他们呼吁，在数码发展部推动公民参与和公共服务的数码化时，应避免加深数码落差、充分尊重民众自主，应提供民众多元的在线／线下管道，并随时检视民众的基本权利是否因为数码技术或设备的限制而受到负面影响。

责任编辑：毛履万亿