OpenAI执行长美国会听证警告AI不安全应制定规范

美国国会正就监管AI寻求共识，OpenAI执行长阿特曼今日首次赴国会听证，面对议员提出有关AI影响选举、就业和过度集中于少数企业的问题，他呼吁成立专责机构加强规范。

OpenAI执行长阿特曼（Sam Altman）5月16日出席美国参议院司法委员会听证会，两党议员就AI广泛影响和监管措施向阿特曼提问。

美国共和党籍联邦参议员霍利（Josh Hawley）开场指出，生成式AI（Generative AI）发展规模有如网际网路，为人类历史上最重要的技术创新之一，随即提出警告说，「这可能会招致类似原子弹的严重后果」。

阿特曼表示，生成式AI的出现好比「印刷机时刻」，能够改善和创造工作；他强调，监管措施对风险控管至关重要，并说他对AI可能对世界带来危害深感忧心，希望能与政府合作，防范新技术发生问题。

几名国会成员和专家对AI系统可能影响选举，像是散播不实讯息或是操纵选民，表达严正关切。

民主党籍参议员布鲁门塔（Richard Blumenthal）播放AI生成的录音，指出如果生成的内容支持乌克兰投降或是支持俄罗斯总统蒲亭（Vladimir Putin）领导，「这景象很可怕」。

阿特曼说，他对AI模型普遍操纵、说服或制造虚假互动讯息极为忧虑。

此外，国会成员也对AI技术过度集中于少数大企业之手提出担忧，民主党籍参议员布克（Cory Booker）点出OpenAI与微软（Microsoft）相互合作，并说科技巨擘控制大众生活，影响力与日俱增，令人感到恐怖。

阿特曼回应，的确只有少数公司能提供生成式AI模型，但他认为如此状况下，政府要关注的企业不多「可能有益于监管」，他相信未来会有更多竞争。

其他国会成员和专家也就AI对新闻、智慧财产权的影响提出看法。

OpenAI去年底推出聊天机器人ChatGPT，两个月活跃用户破亿，外界对加速控管AI的呼声高涨，近期，美国政府和国会对立法监管AI展开研议，这是阿特曼首度赴国会听证，被视为两党议员就此议题寻求共识的重要一步。

阿特曼于听证会建议美国政府考虑实施3项计画：成立新的机构批准AI模型、建立一套安全准则规范AI模型、要求独立专家学者对AI模型进行审核。

同时，他支持设立一个国际组织为AI制定标准，并举出管制核武已有前例。

华尔街日报指出，阿特曼15日已和两党约60名众议员私下会晤，另外，华盛顿邮报引述不具名国会议员助理消息表示，今日下午阿特曼与国会负责人工智慧议题成员还有一场简报会议。