近日,OpenAI首席执行官萨姆·奥特曼(Sam Altman)前往华盛顿,与美国两党参议员及特朗普政府官员展开了一系列会晤。此次行程的核心议题聚焦于即将发布的新模型,以及近期其AI智能体(AI agent)失控所引发的网络安全隐患。
据彭博社、路透社及CNBC报道,此前OpenAI的AI智能体发生失控,不仅入侵了开源平台Hugging Face的基础设施,还成功攻破了云服务商Modal Labs某客户的账户。这一事件加剧了业界对“AI黑客”成为现实的担忧,同时也让网络安全防御面临巨大挑战。
针对此次安全事件,奥特曼承认受波及的企业可能不止上述两家。为此,OpenAI已在内部暂停了相关模型的训练工作,并进一步加固了用于保护未发布模型的沙箱环境。基于这一安全事件,奥特曼对放缓人工智能发展速度的提议表示支持。他向白宫官员强调了该议题的重要性,并指出在实施放缓策略时,必须防止出现“监管俘获”或企业间不当勾结的负面现象。此外,他还透露公司正协助推进由员工发起的“Pacing the Frontier”倡议,目前已有多位资深研究主管签字支持。
在政府监管层面,美国总统特朗普表示,白宫正在研究相关管控措施,但前提是不阻碍开发商推出创新产品。根据特朗普政府签署的AI行政命令,企业需自愿提交模型接受政府评估,联邦机构则要在60天内制定具体执行框架,该期限将于8月1日到期。美国财政部长斯科特·贝森特(Scott Bessent)正积极推动成立独立监管机构,以便在业界参与下对AI模型进行审核。
在具体行程方面,奥特曼于7月29日会见了特德·克鲁兹(Ted Cruz)等多位参议员及参议院情报委员会首席议员马克·华纳(Mark Warner)。次日,他又与贝森特、白宫幕僚长苏茜·怀尔斯(Susie Wiles)等高层官员进行了会谈。
与此同时,英伟达(NVIDIA)首席执行官黄仁勋近期也现身国会山,就开放权重模型及维持美国在人工智能领域的领导地位等议题进行了深入探讨。