NVIDIA、IBM向白宫承诺管控AI风险

NVIDIA、IBM和Salesforce加入其他科技巨擘的行列，向白宫承诺发展安全可靠的AI。法新社

NVIDIA、IBM和Salesforce等科技企业向白宫承诺，将开发更安全、可靠的人工智能（AI），与拜登政府（Biden Administration）达成协议。

根据The Verge报导，Adobe、Cohere、Palantir、、Scale AI和Stability AI也都已经对白宫做出相同承诺。

以上企业为第二批与白宫达成共识的企业，第一批则是Meta、Google和OpenAI等企业，在7月时都已签署类似协议。不过协议只能算是自愿性的，如企业未遵守，也不会有罚则。

白宫指出，这些科技企业已经同意，未来在发布新的AI服务之前，将会建立内外部的测试机制，投资模型权重安全措施，并且和政府、公众和学术单位分享风险管理信息。

AI企业也必须让第三方能够提出漏洞、在AI生成内容当中加上浮水印，并且向公众告知AI风险、研究对社会可能带来的风险，以及协助处理对社会带来的挑战。

美国政府表示，这些协议是谘询其他国家领袖之后而诞生。

AI已经成为美国政府相当关注的议题。当前美国政府正面临如何平衡技术安全与创新。至于生成式AI（Generative AI）该如何管理，目前仍在讨论当中，立法速度恐怕很难跟上创新速度。

责任编辑：毛履万亿