粤有钱亚马逊贾西在特朗普政府出台限制前，就已对Anthropic大模型安全风险提出警示

Anthropic 首席执行官达里奥・阿莫迪（左）、亚马逊首席执行官安迪・贾西

　　据两名知情人士透露，本周亚马逊首席执行官安迪・贾西与一众科技企业高管一同向特朗普政府高层官员反映，Anthropic 两款顶尖大模型存在国家安全隐患。

　　知情人士称，这位 Anthropic 最大投资方与核心云服务商的负责人，近日与政府官员展开多轮沟通，直接推动特朗普政府于上周五晚间出台针对 Anthropic 克劳德神话 5（Claude Mythos 5）、寓言 5（Fable 5）两大模型的全新出口管制措施，管制理由为国家安全风险。新规禁止外籍人员访问上述两款模型；Anthropic 表示，为遵守监管要求，公司已暂停所有客户对两款模型的访问权限。

　　亚马逊发言人向行业媒体《The Information》回应：“作为服务大量政企客户的头部云服务商，政府时常就潜在安全风险征询我方意见。针对此类沟通细节，我们不予对外披露。”

　　此次出口管制是 Anthropic 与特朗普政府持续博弈中遭遇的又一重挫。近几个月，这家克劳德大模型开发商与美国政府关系持续恶化，导火索是今年 3 月美国国防部将其模型列入供应链风险清单。矛盾根源在于双方存在核心分歧：Anthropic 大模型是否可用于国内大规模监控、自主致命武器等高危场景。

　　一名美国政府高层官员周六透露，白宫暂无计划将针对 Anthropic 高端模型的出口管制扩大至其他 AI 企业。

　　Anthropic 上周五表示，公司已联合美国及多国政府机构排查寓言系列模型的安全漏洞。该企业此前曾预警，旗下 AI 系统能力已高度发达，甚至能比人类更高效挖掘软件程序漏洞。一名接近 Anthropic 的消息人士称，政府此前并未反对寓言 5 模型对外发布。

　　贾西与政府的沟通、以及白宫出台模型访问限制，也反映出科研人员与网络安全专家的普遍担忧：Anthropic 最新两款大模型具备极强能力，可快速挖掘各类新型安全漏洞与系统利用缺陷。本周二，Anthropic 推出克劳德寓言 5 精简版，刻意阉割核心能力，禁止其解答网络安全、前沿 AI 研究相关问题。

　　Anthropic 上周五晚间发布官方博客称，美国政府已掌握一套可绕过寓言 5 内置安全护栏的提示词越狱攻击方法。

　　Anthropic 证实，已有演示案例证明该越狱手段能够挖掘系统漏洞，但强调被挖出的漏洞 “技术门槛较低”，市面上其他公开大模型同样能识别同类漏洞。

　　两名知情人士透露，在听完贾西与其他科技高管的反馈后，美国国家网络总监肖恩・凯恩斯克罗夫特上周五召集白宫高层开会，与会官员认定，实施出口管制是管控 Anthropic 风险最直接有效的手段。

　　美国国家网络总监办公室发言人暂未就此置评。

　　四名熟悉通话流程的人士表示，会议结束后，Anthropic 首席执行官达里奥・阿莫迪于上周五与政府官员进行通话。会谈中，Anthropic 团队解释，此次越狱手段挖出的漏洞难度偏低，其他大模型均可实现同类漏洞挖掘；但美方告知企业，政府已敲定落地出口管制的决定，不会更改。

　　Anthropic 与亚马逊构建了深度多元的合作关系。这家电商巨头今年 4 月披露，自 2023 年起已向 Anthropic 投资 130 亿美元，并计划根据商业化里程碑再追加 200 亿美元投资。亚马逊自研 Trainium 芯片为 Anthropic 大模型提供训练与算力支撑，Anthropic 全部模型均部署在亚马逊云科技（AWS）平台。

　　今年亚马逊同时大手笔布局 Anthropic 竞品 OpenAI，承诺最高投资 500 亿美元，并首次通过 AWS 渠道对外分销 OpenAI 最新大模型。

　　特朗普政府此番出台 AI 出口管制，距离其两周前签署人工智能行政令仅隔数日。该行政令推出一套自愿协作框架，要求 AI 企业在向合作伙伴、公众发布高端模型前，主动将模型交由政府提前评测。

　　《The Information》此前报道，这份行政令诞生于白宫内部激烈博弈：政府内部曾争论，是否要对发布前沿大模型的 AI 企业实施更严苛的许可审批制度。