OpenAI 重构模型行为准则,要求 GPT 不得阻挠监督、纠正或关停
OpenAI 重构了公开模型行为准则 Model Spec,将其组织为忠于人类意图、减少伤害、诚实透明、支持人类自主和关怀五项核心价值。新准则要求模型利用记忆和历史对话推断用户意图,但须区分用户原话与推断并披露假设;对自主执行任务的智能体强化可纠正性,GPT 不得阻挠监督、纠正或关停,也不得追求自保等自身目标。
这份修订把行为规则的重心推向自主智能体的可控性,而文中列举的失控先例说明纸面准则与实际可控性仍有落差。
- 影响使用 OpenAI 模型的企业会面对更明确的行为边界,智能体被要求披露推断假设、不得阻挠纠正和关停;文中失控先例也提示,给智能体放权时权限设计和监控安排不能只依赖厂商准则。
- 参考可考虑把 Model Spec 纳入选型与供应商评估的参照材料;试点自主智能体时先界定其可行动范围和人工关停路径,并要求区分用户原话与模型推断以保留人工校对点。