AI · 18 November 2026
AI叫停权之争:Anthropic与OpenAI方案分歧
Anthropic建议由州检察长向法院申请禁令,暂停存在风险的前沿AI系统;OpenAI则主张由开发者自身保留有效的关停控制机制。两家公司的建议均已提交加州州长。
发生了什么
Anthropic与OpenAI对于谁应当在AI存在风险时叫停系统,持有不同看法。据Computerworld报道,Anthropic建议由一位州检察长向法院申请禁令,暂停存在风险的前沿AI系统的运行;OpenAI则主张由开发者自身保留有效的关停控制机制。两家公司的建议均已提交给加州州长。
两种方案的分歧,在于“关停权”应当交给谁。Anthropic的思路把最终的干预权交给法律体系,由外部机构通过司法程序介入。OpenAI的思路则更侧重于技术与运营层面,要求开发者在系统内部始终具备可靠的停止手段。两者都是针对前沿模型的安全治理方案,只是对责任归属与执行路径的设计不同。
为何重要
对企业与政府机构而言,这场讨论关乎的是AI系统在出现异常时的应急处置流程。无论最终采用哪种模式,组织都需要明确:谁能够发出停止指令,指令通过什么渠道下达,以及从发现问题到实际停机之间需要多长时间。这些问题如果在部署前没有想清楚,事故发生时往往会陷入混乱。
从用户与服务角度看,关停机制也直接影响信任。当客户依赖的AI功能出现问题时,他们感知到的是服务是否可控、是否有人负责,而不只是技术本身是否先进。因此,治理设计正在从合规议题,转向服务体验与数字化运营的核心组成部分。
Renascence 观点
多数读者关注的是两家公司谁“更对”,但真正值得关注的是两种设计背后的行为逻辑:当控制权被分散在法院与开发者之间时,每一层都可能因为对方的存在而产生推诿,反而让响应变慢。对于服务设计者而言,关键不在于押注某一种制度,而在于把“叫停”设计成一条可以被演练、被度量的服务流程。
与其等待政策尘埃落定,不如现在就为自己的AI系统画出清晰的关停路径:谁发现问题、谁决策、谁执行、用户如何被告知。客户对可控性的信任,往往在事故发生的那几分钟里被决定,而不是在白皮书里。最受客户青睐的运营方,会把停止能力当作产品体验的一部分来打磨。
Sources
This briefing was written by our Newsdesk, synthesising reporting from the outlets below. Follow the links for the original coverage.
FAQ
Questions we get on this topic
Stay ahead of CX
Get the signal, not the noise.
The stories shaping customer experience — plus the Journal and Experience Loom — in your inbox.


