亚马逊高管出面沟通，美政府下架两款AI模型

据知情人士透露，美国政府于6月12日晚间以国家安全为由，宣布禁止外国用户访问Anthropic公司的Claude Mythos 5与Fable 5两款人工智能模型，目前Anthropic已将上述模型下架。据悉，此项出口管制措施的出台，与亚马逊首席执行官安迪·贾西（Andy Jassy）同美国财政部长斯科特·贝森特（Scott Bessent）等多位高官的交流密切相关。

据《The Information》与《华尔街日报》援引知情人士的说法，亚马逊的研究人员利用特定的提示词，成功诱导Fable 5模型输出了至少四款软件的安全漏洞数据，而这些信息原本处于被封锁状态。安迪·贾西将这一发现上报白宫后，美国国家网络安全主任肖恩·凯恩克罗斯（Sean Cairncross）与商务部长霍华德·卢特尼克（Howard Lutnick）随即组织了高层会议。与会官员一致认为，实施出口管制是应对此类风险最为直接的手段。

针对此事，Anthropic发布声明称，尽管美国政府找到了能够绕过Fable 5安全防护的“越狱”手段，但公司评估认为该方法仅暴露了极少数已知的轻微缺陷，且其他公开模型在不绕过防护的情况下也能被发现，因此对政府要求下架的决定表示不认同。Anthropic还强调，在模型正式发布前，公司已与美国政府及英国人工智能安全研究所（AISI）等多家机构开展了合作测试，当时并未收到任何反对意见。

受该禁令影响，Anthropic内部众多来自海外的研究人员目前已无法继续参与最新模型的开发工作。对于亚马逊是否曾与政府探讨过Anthropic模型的风险问题，亚马逊发言人并未予以证实，仅表示政府通常会就潜在的安全隐患向云服务提供商咨询意见。前白宫人工智能顾问戴维·萨克斯（David Sacks）在社交平台上发文称，美国政府出台此项限制实属无奈之举，一旦Anthropic修复了相关安全问题，管制措施便会被取消。