Anthropic 强化针对蒸馏攻击的防御,称蒸馏者可获取的数据量减少约 90% 至 99%
Anthropic 强化针对蒸馏攻击(未经授权大规模套取模型输出来训练模仿模型)的防御,称新方法已使蒸馏者获取的数据减少约 90% 至 99%,引入两级分类器后蒸馏者在其平台提取的推理 token 量降至此前约 1/10 到 1/100。
Anthropic 正在把模型推理过程当作受保护资产设防,宁可放弃收入也要抬高蒸馏成本,防能力窃取开始成为行业性安全投入。
- 影响依赖 Claude API 的团队要评估集成改造和被拦截请求计费的实际成本;选用其他厂商模型时,其是否部署同级反蒸馏防护会成为安全评估项。
- 参考可考虑盘点现有 Claude 集成是否受新限制影响并预留改造预算;值得在模型选型评估中加入反蒸馏防护与误报处理条款,并核对被拦截请求账单。