信通院、华为、阿里、腾讯等20家单位发布《智能体发展自律公约》
中国信通院、华为、阿里、腾讯、百度、火山引擎等20家单位在乌镇互联网大会发布《智能体发展自律公约》,共八条,要求分层次身份标识、权限控制、运行监测与异常熔断,第五条提出抵制算法压榨和黑灰产。
决策要点
这份公约的实质是头部厂商把智能体治理从口号拆成身份、权限、监测、熔断等工程构件,在监管文件之外自划行为底线。
- 影响采购或部署智能体的企业要面对身份、权限、监测、熔断等治理工程的持续投入;智能体在正常指令下自行越界已有实例,第三方追偿路径不清;未签字企业和跨平台调用仍不受公约约束。
- 参考可考虑在采购或自建智能体时把权限边界、运行日志、可叫停机制列为验收项;值得对照公约八条自查现有智能体的越权与失控场景,先算清日志存储和审计的持续成本。