生成式AI产品须适度规范 中、美难得有志一同

针对生成式AI潜在隐私和数据安全疑虑，包括国内和美国均不约而同公开征求意见，为采取进一步管理规范措施开出第一枪。法新社

随着生成式人工智能（AI）产品和服务如雨后春笋般激增，也引发对其安全疑虑和管理规范的讨论，无论国内或是美国政府都将采取移动进行管理、规范，可能让ChatGPT所带动的生成式AI热潮急速冷却。

根据路透（Reuters）、彭博（Bloomberg）等媒体报导，国内国家互联网信息办公室最新起草《生成式AI服务管理办法（征求意见稿）》，就生成式AI产品或服务进行管理，其中包括要求所有企业在推出相关产品或服务前，必须向当局申报安全评估，并履行演算法备案和变更、注销备案手续。违反上述管理办法规定者，将依国内相关法律、行政法规规定予以处罚，或追究刑事责任。

国内国家互联网信息办公室强调，国内政府支持任何AI创新和应用，并鼓励使用安全且可靠的软件、工具和数据资源，但生成式AI产生的内容必须符合国内社会主义的核心价值。

新管理办法时值国内科技巨擘相继推出生成式AI产品，包括百度、商汤科技、阿里巴巴等，均在近期推出最新大型AI模型，以推进从聊天机器人到影像生成等AI应用。

无独有偶，日前美国总统拜登（Joe Biden）公开表示，不确定AI是否有潜在风险，认为企业在发布前应确保其安全性。最新消息是，拜登政府（Biden Administration）已针对是否限制生成式AI正式公开征求意见，谘询期限为60天，意见包括新AI模型在发布前是否应经过认证核准程序等。

据路透、华尔街日报（WSJ）等报导，美国商务部下属国家电信暨信息管理局（National Telecommunications and Information Administration；NTIA）在征求意见公告中指出，因对AI问责机制的监管呼声愈来愈高，因此公开征求公众意见，以厘清是否应采取措施，来保障AI系统或产品是合法、有效、合乎道德、安全的。

NTIA表示，AI系统可创造巨大好处，但前提是必须要先解决其潜在威胁和危害；而为了让这些AI系统发挥全部潜力，必须要取得民众和企业的完全信任。NTIA所收集到的意见将进行初步分析，并提交给相关决策单位做为参考建议。

事实上，除国内和美国对于生成式AI快速兴起存疑外，意大利已于月前首开纪录，以涉嫌侵犯隐私疑虑为由而禁止ChatGPT；另据悉包括德国、法国、爱尔兰等国也有意跟进。

另包括Elon Musk在内的众多科技人士也公开呼吁暂停开发比OpenAI最新模型GPT 4更强大的系统。

责任编辑：张兴民