🔴 突发
下班前五点,一封信把Anthropic整懵了
北京时间6月13日凌晨(美东时间6月12日下午),Anthropic公司突然发文:刚刚上线3天的旗舰模型 Fable 5 和仍在小范围测试的 Mythos 5,被美国政府强制下架了。
Anthropic说,他们是下午5点21分收到商务部来信的——就是快下班的时候。信里以"国家安全"为由,要求立刻暂停所有外籍人士对这两款模型的访问权,不管这个人在美国境内还是境外,甚至包括Anthropic自己雇用的外籍员工。
因为很难区分哪些用户是外籍人士、哪些不是,Anthropic干脆对所有人一刀切——全部断开。也就是说,包括美国本土用户在内,所有人都被挡在门外了。
据目前已知信息,这是美国政府首次对大语言模型发布出口管制指令——AI监管进入全新阶段。
政府说"破解了",Anthropic说"没那么严重"
商务部的信写得模糊,没说具体哪个国家安全漏洞、没说发现了什么问题。Anthropic后来自己摸清了:政府听说有人找到了一种"越狱"Fable 5的办法。
但问题是,Anthropic看过这个演示之后,认为这根本不是什么大威胁:
政府目前只掌握了一种非通用性、范围极窄的越狱方式——大致是让模型读一段特定代码、然后找漏洞。而同样的操作,用 OpenAI 的 GPT-5.5 一样能做到,根本不是 Fable 5 独有的问题。
换句话说,Anthropic的立场是:这个"越狱"既不通用、也不是什么新鲜事,其他公开模型也能做到同样的事。如果以这个标准来召回产品,那整个行业的所有新模型都得下架。
我们不认同,仅仅发现一个窄范围的潜在越狱方式,就应该召回一款面向数亿用户部署的商业产品。如果这一标准在行业内普遍实施,实质上将叫停所有前沿模型提供商的新模型部署。
值得注意的是,商务部给到Anthropic的,目前只有"口头证据",连书面的技术细节都没附上。Anthropic公开表示将在24小时内披露更多技术细节。
Anthropic为Fable 5投入了多少安全工作?
总投入时间
越狱方式的次数
用于监控异常
Fable 5 发布前,Anthropic拉上了美国政府、英国AISI(AI安全研究所)、多个私营第三方机构和内部团队,联合做了大量红队压测。测试结果显示,Fable的安全机制比此前任何已部署模型都要强。
Anthropic的策略叫"深度防御":不追求"绝对安全"(他们认为任何模型都做不到),而是让破解成本极高、破解范围极窄,同时配合30天数据留存来快速发现并处置攻击。
Fable 5 的底层其实是更强大的 Mythos 模型,而 Mythos 因安全顾虑从未公开发布。Anthropic今年4月亮相时就强调过 Mythos 的网络安全能力极为强大——这也是政府格外紧张的根本原因。
这件事的意义,远比"一个模型下架"大得多
先说直接影响:Fable 5 才上线三天,Mythos 5 本来就只有少数合作伙伴能访问,所以对绝大多数普通用户来说,这次下架感知并不强。
但往深了看,这件事的信号意义极强。这是美国政府首次动用出口管制手段干预大语言模型的公开访问,不是针对某家外国公司,而是直接命令一家美国本土的顶尖AI企业。
对于全球依赖美国AI服务的企业和开发者来说,这是一个警示:你的核心工具,可能在任何一个周五下午五点,被一封信突然切断。
如果这种"发现窄范围漏洞即召回"的标准被固化成政策,AI行业的新模型发布节奏将大受冲击。Anthropic直接点了名:这个标准一旦推广,"实质上将叫停所有前沿模型的新部署"。
Anthropic本身的处境也颇为尴尬。他们是AI安全领域最积极的倡导者,曾多次公开呼吁政府建立透明、公正的AI监管框架。结果最先被这套框架"误伤"的,偏偏是他们自己。
不过Anthropic的态度还算克制——一边遵令执行,一边公开质疑这次指令不符合程序正义,同时承诺正在全力恢复访问权限,并认为这只是一场"误会"。
AI监管终于跑步入场,但第一脚踢错了?
AI的监管必要性,没人否认。但好的监管,需要透明的流程、清晰的标准、充分的技术依据。这次命令没有给出具体安全关切,没有书面技术证据,在下班前两小时发出,让被监管方毫无准备——这不是一个成熟监管框架应该有的样子。
Anthropic一直是AI安全合规的旗手,这次反被政府仓促监管,或许会倒逼出一场更实质性的行业与监管层对话——关于什么样的漏洞才算"危险到需要下架",这个标准,现在真的到了必须说清楚的时候了。