AI如何管制？欧盟考虑采三层级

AI发展日新月异，全球各国政府也正思考如何透过管制手段，来因应各种风险。李建梁摄（数据照）

人工智能（AI）的发展日新月异，全球多国政府也正思考如何透过管制手段，因应这项新兴科技所带来的各种风险。

据报欧盟正在考虑，针对各种不同规模的生成式人工智能（Generative AI）模型与系统，采取三层级式的管制措施。

欧盟目前正在推动AI法案（AI Act）立法，有望成为首先对AI进行管制的西方世界政府。

根据彭博（Bloomberg）引述一份提案文件指出，欧盟考虑采取三层级式管制措施，这三个层级的定义，以及预拟的相关规定简述如下：

第一层级：所有的基础模型
开发者必须遵守透明性要求，在模型推出前，将诸如训练过程、内部的红队演练结果等数据纪录下来，也要按照标准化协定进行评估。正式推出后，还须向使用模型的企业提供信息，以利对方进行测试。

第二层级：非常强大的基础模型
模型是否「非常强大」，基本上是按照模型在训练过程当中，所需要的每秒浮点数运算能力来判断，但欧盟也考虑将模型的潜在影响力列入判断标准。此类模型的开发者，须遵守更严格的规定，包括负责执行红队演练的外部专家，须接受欧盟执委会新成立的AI办公室的审查。演练结果也必须缴交给AI办公室。在模型推出以后，欧盟会指派独立的稽核人员与研究人员，来进行合规性控管，包括确认开发者是否遵守透明性要求。

第三层级：大规模通用AI系统
基本上定义为拥有1万个以上的注册企业用户，或是4,500万个以上的注册终端使用者，但欧盟同样也在考虑将影响力列入判断标准。这类系统亦必须由外部专家进行红队演练，以找出弱点，结果须送到AI办公室。
针对后两个层级的模型与系统的进一步规定，仍有待后续讨论。欧盟也可能会向这两种模型与系统收费，以支持AI办公室的运作。AI办公室甚至可能被赋予权力暂停模型的使用，以作为违规惩处的最终手段。

在10月稍早时候召开的会议上，来自欧盟三大机构的代表普遍表达对分层式的管制方式的支持。不过，随着协商陆续开展，未来管制内容仍存在变量。

责任编辑：张兴民