Anthropic 向评估机构 METR 开放类员工权限,模型风险评估结果将公开
Anthropic 宣布已向评估前沿模型的非营利机构 METR 开放类员工权限,METR 将公开发布对其模型风险的评估结果。6 名 METR 员工已入驻,获得公司硬件、办公空间和接近内部风险评估团队的系统权限;Anthropic 无权否决其发布,仅可要求删改客户数据、律师委托特权信息和模型架构等预定义类别。
Anthropic 将第三方安全评估从一次性审查推进为常驻嵌入式监督,参照银行驻场监管逻辑,为前沿模型的外部问责建立制度化安排。
- 影响企业选用前沿模型时多了一层可引用的公开风险证据;评估报告附带预定义删改机制,解读需参考评估者对删改正当性的表态;厂商主动嵌入评估者,可能抬高行业安全透明度的比较基准。
- 参考可考虑把独立评估者公开发布的风险报告纳入模型选型尽调清单;值得跟踪三级权限体系下各评估机构的发布内容与节奏,作为比较供应商安全透明度的参照。