欧盟起草AI法案 不让关键报告、黑镜恶梦成真

欧盟起草「人工智能法案」(AI Act)，目标降低AI与演算法可能对人们带来伤害。根据TechCrunch、ZDNet以及MIT Technology Review的报导，如法案顺利通过，有望引领其他国家。外界也多半将「人工智能法案」的立法进程与日后的影响力与隐私权法案GDPR比较。

有趣的是，不少法案中认定的「高风险」AI应用，包含犯罪预测和社会评分，就如同科幻片《关键报告》和《黑镜：急转直下》的场景。

人脸识别、信用评分都不行

「人工智能法案」将检视对人民来说有「高风险」的AI应用，包含考试评分系统、招募系统，甚至司法裁决系统。在初版草案当中即描述，根据个人的「既有信赖度」来对人评分是「不可接受的」。毕竟已有不少报告指出，AI对少数族群、有色人种，或是女性存有歧视。

法案也禁止执法单位在公共场所使用人脸识别，部分成员国主张，执法机构和私人企业都不该使用该技术。但也有成员国基于国家安全考量，盼能够保留人脸识别机制。欧盟横跨27个国家，涵盖近5亿人口，如果该项目通过，则将会是全球对人脸识别最严格的规定。

此外，法案也可能将「预测性执法系统」纳入禁止项目，例如透过AI分析容易犯罪的区域，并部署警力；或是预测个人的犯罪可能。这些预测由于不透明，且往往容易产生种族歧视，而被诟病。

国内已有AI法　美国产官均关注欧盟动态

「人工智能法案」也受到美国政府与企业高度重视。美国拥有Google、Meta等重要企业，这些企业往往以伤害科技创新来做挡箭牌。不过评论认为，过去欧盟推出GDPR时，美国也出现反对声浪，批评GDPR会毁了网络产业。但最后美国还是走向接受甚至效仿。此外，由于美国与国内关系紧张，在科技领域竞争激烈，美国也更愿意与欧盟政策脚步靠拢。

国内政府日前公布「互联网信息服务算法推荐管理规定」，要求规定科技企业不得利用演算法实施垄断和不正当竞争行为，例如叫车App的差别取价。不过国内出台的法律虽强调消费者权利，和科技产业的管理，但由政府主导的人脸识别与社会信用体系，却长期受到欧美国家批评。

路还很长　借镜GDPR

在国内的演算法规定当中，外界质疑解释空间与技术上可行度，如今欧盟「人工智能法案」也面临类似困境。一来难以将AI分门别类，例如定义「高风险」、「可信」；二来法案要求数据库必须「零错误」，且人们能够「完全理解」AI的运作，但AI素有「黑盒子」之称，往往连研究者都未必清楚过程与答案。且AI系统中的所有数据根本难以用人力来逐一确认。

不少外媒都以隐私权法案GDPR的立法过程与后续影响力来观察「人工智能法案」。在时程方面，「人工智能法案」至少要到2023年才会有定案，且应会给予各界缓冲期，最快要到2025年才会上路。

有鉴于GDPR的前路，不仅引领了其他地区的隐私权相关立法。且科技无国界，GDPR的影响力也不只局限于欧盟公民。更由于欧盟态度强硬，的确基曾于GDPR向科技巨头祭出罚单。「人工智能法案」是否能有一样的效果，也值得关注。

责任编辑：陈至娴