AI · 2026年11月18日
AI叫停权之争:Anthropic与OpenAI方案分歧
Anthropic建议由州检察长向法院申请禁令,暂停存在风险的前沿AI系统;OpenAI则主张由开发者自身保留有效的关停控制机制。两家公司的建议均已提交加州州长。
发生了什么
Anthropic与OpenAI对于谁应当在AI存在风险时叫停系统,持有不同看法。据Computerworld报道,Anthropic建议由一位州检察长向法院申请禁令,暂停存在风险的前沿AI系统的运行;OpenAI则主张由开发者自身保留有效的关停控制机制。两家公司的建议均已提交给加州州长。
两种方案的分歧,在于“关停权”应当交给谁。Anthropic的思路把最终的干预权交给法律体系,由外部机构通过司法程序介入。OpenAI的思路则更侧重于技术与运营层面,要求开发者在系统内部始终具备可靠的停止手段。两者都是针对前沿模型的安全治理方案,只是对责任归属与执行路径的设计不同。
为何重要
对企业与政府机构而言,这场讨论关乎的是AI系统在出现异常时的应急处置流程。无论最终采用哪种模式,组织都需要明确:谁能够发出停止指令,指令通过什么渠道下达,以及从发现问题到实际停机之间需要多长时间。这些问题如果在部署前没有想清楚,事故发生时往往会陷入混乱。
从用户与服务角度看,关停机制也直接影响信任。当客户依赖的AI功能出现问题时,他们感知到的是服务是否可控、是否有人负责,而不只是技术本身是否先进。因此,治理设计正在从合规议题,转向服务体验与数字化运营的核心组成部分。
Renascence 观点
多数读者关注的是两家公司谁“更对”,但真正值得关注的是两种设计背后的行为逻辑:当控制权被分散在法院与开发者之间时,每一层都可能因为对方的存在而产生推诿,反而让响应变慢。对于服务设计者而言,关键不在于押注某一种制度,而在于把“叫停”设计成一条可以被演练、被度量的服务流程。
与其等待政策尘埃落定,不如现在就为自己的AI系统画出清晰的关停路径:谁发现问题、谁决策、谁执行、用户如何被告知。客户对可控性的信任,往往在事故发生的那几分钟里被决定,而不是在白皮书里。最受客户青睐的运营方,会把停止能力当作产品体验的一部分来打磨。
来源
本简报由我们的新闻编辑部撰写,综合了以下媒体的报道。点击链接可查看原始报道。
FAQ


