OpenAI CEO：中国能在AI安全监管方面发挥巨大作用

集微网消息，6月10日，在2023智源大会上，OpenAI联合创始人Sam Altman发表了演讲。

他指出，在中国和美国硅谷，人才和投资都在流入人工智能，这是一个战略领域，将有助于确定世界两大经济体之间不断加深的技术竞争。新兴技术的进步也凸显了政府如何寻求监管该行业的紧张局势：“中国拥有一些世界上最优秀的人工智能人才，从根本上说，鉴于解决先进人工智能系统对齐的困难，这需要来自世界各地的最优秀人才。”

他强调，全球需要国际合作，在安全开发日益强大的人工智能系统方面建立全球信任：“《论语》中有一句话提醒我们，千里之行始于足下。我们认为最具建设性的第一步是与国际科学技术界展开合作。特别是，我们应该推动机制的建立，增加对AGI安全技术进展的透明度和共享。”

他还指出，发现新的安全问题的研究人员应该为了共同利益分享他们的见解，需要仔细思考如何鼓励这种共享，同时尊重和保护个人的知识产权，此外，我们还应该促进并引导对齐和安全研究的投资。他分析，在OpenAI，我们目前的研究主要集中在如何训练AI系统以充当有希望和安全的助手，这是一种基于人类反馈的强化学习方法。

他总结，美国、中国以及全球其他国家的研究人员之间有巨大的合作潜力，共同实现这个共同目标，并致力于解决AGI的技术挑战。如果我们能够这样做，我相信我们将能够利用AGI解决世界上最重要的问题，大幅提高人类的生活质量。

每年一度的北京智源大会始于2019年，已成为连接国内外人工智能顶尖学者，进行前沿思想研讨的顶尖专业交流平台 ，是北京创建全球人工智能学术和创新最优生态的标志性学术活动。每年邀请包括得主在内的全球人工智能领域顶尖学者和专家共同探讨学术、技术和产业最新进展。在这次大会上，重量级嘉宾包括中国科学院院士张钹、智源研究院理事长张宏江、安远AI创始人谢旻希等等，还有谷歌支持的ChatGPT竞争对手、Anthropic联合创始人Christopher Olah、《算法之美》作者Brian Christian 等国内外AI最前沿领军人物罕见齐聚一堂。（校对/周宇哲）