爱游戏体育(AYX)官方网站 - 在线网页版登录深耕平台日均处理交易请求超过180万笔,系统可用性达99.99%。领域, - 爱游戏体育(AYX)官方网站 - 在线网页版登录

数万亿token生意不要了,A社连封数万账号,蒸馏数据大砍99%

就在近日,Anthropic公开发布了他们在对抗模型蒸馏方面取得的最新成果。

在其自有平台上,通过蒸馏手段获取的推理数据量减少了大约90%至99%,规模仅剩原先的十分之一到百分之一。

数万个涉及蒸馏行为的账户被注销。有些账户在开始蒸馏操作后不到两小时,就收到了封禁通知。

为了实现这一效果,Anthropic部署了三项关键防护措施:

1. 推理过程可继续使用,但禁止转移

引入“保留思考”(preserved thinking)机制后,新API账户若修改了先前对话的上下文,原有的推理内容将无法正常复用。同时,不同模型也对防护较弱的旧模型读取和跨组织访问设置了限制。试图将一段对话内容复制到另一处进行套取,已不再容易。

2. 提取完整推理前,需通过分类器筛查

Anthropic将“宪法分类器”(Constitutional Classifiers)的防护思路应用于反蒸馏领域:通过一个两阶段的分类系统,识别并拦截那些试图获取Claude完整推理过程的请求。这套方案的稳健性,已接近阻止Claude协助制造生物武器的防护水平。

3. 反复套取信息,账号和预算均需付出代价

反复尝试套取推理内容的账号将被限制流量,持续进行此类操作的关联账户则会被封禁。即使更换账号继续尝试,也面临封号损失。被防护系统拦截在Claude回答之前的蒸馏请求,同样会被计费。

可以说,为了将这些“学生”驱逐出平台,Anthropic甚至放弃了数万亿token的付费流量。

连草稿纸都不让抄了

对于模型蒸馏而言,仅仅获取最终答案远远不够。

更为关键的是拿到Claude在答题前的思维链,了解它如何拆解题目、如何尝试、又如何发现自己出错。

Anthropic自身进行过对照实验,利用Opus 4.8的对话记录训练一个预训练过的Claude模型。

在SWE-bench Verified编程测试中,学习完整推理过程的模型得分80.4%,而仅学习摘要的模型得分仅为71.8%,两者相差8.6个百分点。

因此,Anthropic早早地收起了完整的推理草稿,只对外展示推理摘要。

Claude照常认真解题,但想要抄袭作业的人只能获得删减版内容。

为此,攻击者开始诱导Claude将隐藏的推理过程重新表述出来。

根据官方披露,有实验室尝试了12000条请求,每一条都采用不同的诱导方式。只要找到一种有效的方法,就能批量复制使用。

Anthropic此前记录过,一个代理网络同时管理着超过2万个欺诈账号,背后还有规模更大的账号网络。

表面上看起来是用户在排队提问,实际上是训练数据在批量生产。

大号嘴严,就去套小号的话

然而,隐藏草稿并非万无一失。Claude在执行长任务时,自身也需要持续读取这些内容。

为了让它能继续上一轮的思考,受保护的推理内容会被保存,再交回模型。

用户看到的是加密内容,但负责续写的Claude必须能够理解。

强势模型守口如瓶,攻击者便将其留下的推理内容交给同一家公司防护较弱的模型,诱导后者复述出来。

今年8月发布的一项独立研究展示了这类攻击路径。加密算法并未被破解,但秘密依然泄露,因为能够读取秘密的模型,可以被哄骗着再次讲述。

Anthropic因此不得不对“谁能接着读”也进行管控。

Fable 5.1和Opus 5.5引入了preserved thinking,对8月31日及之后创建的API账户校验历史上下文。

如果前文被修改,原有的受保护推理内容便无法正常复用。弱模型自然无法读取到结果。

到了Sonnet 5.5,推理内容还需识别组织归属,只能由最初发起请求的组织继续使用。

这些检查措施,成功地将接力套话行为拦截在不同环节。囤积大量账号,并不意味着拥有了一堆能够接力抄袭的“同学”。

偷师未遂,学费照扣

不仅如此,在同一个账号内反复套话的成本也越来越高。

Anthropic使用两阶段分类器筛查请求,并将真实提取记录交给内外部红队反复测试。

攻击者找到新的诱导方式,防守方就将其补充进下一轮防护。

根据Anthropic的评估,这套系统的稳健程度已与阻止Claude协助制造生物武器的防护大致相当,误报率低于0.1%。

令人意外的是,为了守护解题草稿,竟然启用了如此高级别的防御!

官方估算,在新防护措施上线后,自有平台上被提取的推理token数量持续下降。

于是,攻击者开始给请求“换装”,让Claude改用另一种语言交代推理过程,或者将内容嵌入特殊标签中,试图绕过检查。

官方已经观察到这些手法,并补上了漏洞。

反复套取推理内容的账号,会被收紧用量;持续尝试的关联账户,会被封禁。仅凭一套能骗过模型的话术还不够,账号和预算也得能承受住。

从9月24日起,生物、蒸馏攻击和前沿大模型开发这几个低误报率类别,恢复对拦截请求进行收费。

请求还未等到Claude回答,就被安全系统拒绝,同样需要付费。

不过,系统一旦误判,正常工作的客户也可能收到这笔账单。

Anthropic承认,分类器仍会误拦正常请求,这些请求如今也可能被收费。

平台看到的是拦截记录,而遭遇此事的开发者面临的情况是:活没干成,钱还扣了。

即使未被误拦,开发者调整系统指令、清理旧工具结果或修改工具列表,也可能导致原先的推理块失效。

在官方一项多轮编程测试中,思考强度开到最高,每个会话丢失一次推理块,输出token会增加20.1%。

防盗措施虽然加强了,但对于开发者而言,就连整理对话记录,都得注意是否会让模型重新开始计算……

理论上,Anthropic仍然愿意让Claude为用户工作。

但一旦你想让它教出能替代自己的模型,这位按token收费的“老师”,已经准备好了封号通知和账单。