Anthropic刚刚建议在全球范围内启动一套AI政策机制,监管的重拳就砸向了自己。
元股证券:ygzq.hk当地时间6月12日,Anthropic发文称:美国政府以国家安全为由,发布了一项出口管制指令,暂停所有外国国民(无论身处美国境内还是境外)对Fable 5和Mythos 5的访问权限,包括Anthropic公司的外籍员工。
这一命令的直接结果是,Anthropic必须立即停用新系列模型Fable 5和Mythos 5,以确保所有客户都符合要求。访问其他所有Anthropic模型不会受到影响。
Anthropic表示,公司于当日下午5点21分收到政府发出的指令。但该信函并未具体说明国家安全方面的担忧。

据披露,政府方面称已获悉一种绕过或“越狱”Fable 5的方法,但Anthropic审查了该技术的演示过程,发现其被用于识别出少数此前已知的轻微漏洞。这些漏洞看起来都相对简单,且其他公开可用的模型同样能够发现它们,而无需借助绕过手段。
为应对此次监管封禁,Anthropic强调公司已建立强有力的保护措施,大幅降低Fable被用于网络安全等相关任务时被滥用的风险。
另外,在Fable发布前的几周里,Anthropic已与美国政府、英国AISI、多个私营第三方组织以及内部团队合作,共投入数千小时对Fable的安全防护机制进行了红队测试。这些测试表明,Fable的安全措施比任何先前部署的模型都有效得多。
目前尚未有测试人员找到一种通用的越狱方法——即能够广泛绕过该机型安全防护、解除多种网络功能限制的越狱方式。
Anthropic方面表示尚未收到任何有关新模型可能导致危害性后果的、非通用性潜在越狱漏洞的披露。因此,虽然公司正遵照政府的法律指令,对所有用户暂停访问Fable 5和Mythos 5,但Anthropic强调自身并不认同:仅因发现了一种潜在的、范围有限的越狱漏洞,就召回一款已面向数亿用户部署的商业产品。如果这一标准在整个行业得到实施,将实质上叫停所有前沿模型提供商的新模型部署。
配资网站Anthropic建议政府应在一项透明、公正、明确且以技术事实为依据的法定程序框架内,阻止不安全的部署。而此次行动并未遵循上述原则。Anthropic认为此次监管与模型封禁事件是一次误会,目前正在全力恢复访问权限,争取尽快解决。
举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部:banquan@yicai.com 文章作者
吕倩
相关阅读
AI周报| Anthropic新模型被美国政府封禁;OpenAI秘密递交IPO申请苹果发布AI版Siri;大厂开始给Token“算账”。
5 7027 昨天 08:29
智源大会热议AI安全,图灵奖得主建议接受概率性风险安全本身并非绝对的确定性事件。
5 4919 06-12 17:46
Anthropic“光与影”双重奏:高喊AI风险的同时推顶尖模型如果2026年保持增速,Anthropic有可能实现盈利。
10468 06-10 18:38
杨燕青:超级IPO和AGI的非理性繁荣丨未来实验室2026年这场AGI资本泡沫,最终将撞上无法突破的物理极限,迎来“自然出清”。
13971 06-09 19:35
AI周报|Anthropic呼吁“放慢AI发展”引发争议;博通AI芯片收入指引不及预期近期全球 AI 行业动态频发,Anthropic 呼吁放慢发展引发争议配资工具平台,英伟达与 Arm 加速布局个人电脑及 CPU 市场,博通财报指引不及预期导致股价下跌。
12204 06-07 11:19 一财最热 点击关闭元股官方-官方演示站提示:本文来自互联网,不代表本网站观点。