关于美国政府暂停 Fable 5 和 Mythos 5 访问权限的声明

美国政府以国家安全为由,发布了一项出口管制指令,暂停所有外国国民(无论在美国境内还是境外,包括 Anthropic 的外国籍员工)对 Fable 5Mythos 5 的访问权限。该指令的实际效果是,我们必须立即为所有客户禁用 Fable 5 和 Mythos 5,以确保合规。Anthropic 的所有其他模型访问不会受到影响。

我们于美国东部时间今天下午 5:21 收到了政府的指令。信件未提供具体的国家安全关切细节。据我们了解,政府认为已经发现了一种绕过或"越狱"Fable 5 的方法。我们审查了该特定技术用于识别少量先前已知的轻微漏洞的演示。这些漏洞看起来都相对简单,我们发现其他公开可用的模型也能够在不需要绕过的情况下发现这些漏洞。

Anthropic 对 Fable 安全措施的立场

正如我们在发布博客文章中所述,Anthropic 对 Fable 的安全措施立场如下:

  • 我们制定了强有力的安全措施,极大地降低了 Fable 被滥用于网络安全相关任务(以及其他领域)的可能性。事实上,我们的安全措施非常严格,许多用户抱怨它们过于宽泛。
  • 在 Fable 发布前的几周内,Anthropic 与美国政府、英国 AISI、多个第三方组织和内部团队合作,对 Fable 的安全措施进行了总计数千小时的红队测试。
  • 这些测试表明,Fable 的安全措施比任何先前部署的模型都要有效得多。
  • 目前还没有测试者能够找到通用越狱方法——一种能够广泛绕过模型安全措施、解锁多种网络能力的越狱方法。
  • 我们怀疑目前任何模型提供商都无法实现完美的越狱抵抗。行业中使用的每一项安全措施都容易受到非通用越狱(在特定情况下可以获取某些网络信息)的影响,未来很可能会发现通用越狱方法。我们在发布 Fable 5 时已明确说明这一点。
  • 鉴于目前似乎无法实现完美的越狱抵抗,Anthropic 为 Fable 5 采用了纵深防御策略。我们的目标是让越狱要么范围狭窄(非通用越狱),要么成本非常高(通用越狱),并结合全面的监控来快速检测和关闭任何成功的攻击。这也是为什么 Anthropic 要求 Fable 保留 30 天客户数据的原因——这一政策变化对我们和客户来说都带来了实际成本,但它允许我们研究和缓解越狱问题。
  • 我们坚持这一纵深防御策略。它降低了 Fable 带来的风险,使其与行业中已部署的现有模型的风险相当。
  • 我们甚至没有收到过任何导致有害结果的非通用潜在越狱的披露。已向我们披露的潜在越狱要么是完全无害的响应,要么是微小的发现,没有提供任何 Mythos 特定的提升。

当前情况

迄今为止,政府仅向我们提供了口头证据,证明存在一种潜在的狭窄、非通用越狱方法,本质上是要求模型读取特定代码库并修复任何软件缺陷。据我们了解,一种潜在的越狱方法已与政府共享。我们审查了一份我们认为是政府指令基础的报告,并确认那里展示的能力水平可以从其他模型(包括 OpenAI 的 GPT-5.5)广泛获得,并且每天都被维护系统安全的防御者使用。我们将在未来 24 小时内分享更多细节。

我们的回应

我们正在遵守政府的法律指令,并正在为所有用户移除对 Fable 5 和 Mythos 5 的访问权限。然而,我们不同意仅因发现一个潜在的非通用越狱方法就召回面向数亿用户部署的商业模型。如果这一标准应用于整个行业,我们相信它将基本上停止所有前沿模型提供商的新模型部署。

正如我们公开声明的那样,我们认为政府应该有权阻止不安全的部署,但这应该作为一个透明、公平、清晰且基于技术事实的法定程序的一部分。本次行动不符合这些原则。

我们对给客户造成的中断表示歉意。我们相信这是一个误解,并正在努力尽快恢复访问。

ESC

输入关键词开始搜索

支持搜索标题、内容、标签