突发！Anthropic新模型被美国政府封禁

Anthropic刚刚建议在全球范围内启动一套AI政策机制，监管的重拳就砸向了自己。

元股证券:ygzq.hk

当地时间6月12日，Anthropic发文称：美国政府以国家安全为由，发布了一项出口管制指令，暂停所有外国国民（无论身处美国境内还是境外）对Fable 5和Mythos 5的访问权限，包括Anthropic公司的外籍员工。

这一命令的直接结果是，Anthropic必须立即停用新系列模型Fable 5和Mythos 5，以确保所有客户都符合要求。访问其他所有Anthropic模型不会受到影响。

Anthropic表示，公司于当日下午5点21分收到政府发出的指令。但该信函并未具体说明国家安全方面的担忧。

据披露，政府方面称已获悉一种绕过或“越狱”Fable 5的方法，但Anthropic审查了该技术的演示过程，发现其被用于识别出少数此前已知的轻微漏洞。这些漏洞看起来都相对简单，且其他公开可用的模型同样能够发现它们，而无需借助绕过手段。

为应对此次监管封禁，Anthropic强调公司已建立强有力的保护措施，大幅降低Fable被用于网络安全等相关任务时被滥用的风险。

另外，在Fable发布前的几周里，Anthropic已与美国政府、英国AISI、多个私营第三方组织以及内部团队合作，共投入数千小时对Fable的安全防护机制进行了红队测试。这些测试表明，Fable的安全措施比任何先前部署的模型都有效得多。

目前尚未有测试人员找到一种通用的越狱方法——即能够广泛绕过该机型安全防护、解除多种网络功能限制的越狱方式。

Anthropic方面表示尚未收到任何有关新模型可能导致危害性后果的、非通用性潜在越狱漏洞的披露。因此，虽然公司正遵照政府的法律指令，对所有用户暂停访问Fable 5和Mythos 5，但Anthropic强调自身并不认同：仅因发现了一种潜在的、范围有限的越狱漏洞，就召回一款已面向数亿用户部署的商业产品。如果这一标准在整个行业得到实施，将实质上叫停所有前沿模型提供商的新模型部署。

配资网站

Anthropic建议政府应在一项透明、公正、明确且以技术事实为依据的法定程序框架内，阻止不安全的部署。而此次行动并未遵循上述原则。Anthropic认为此次监管与模型封禁事件是一次误会，目前正在全力恢复访问权限，争取尽快解决。

举报第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者