Disclosed AI by Default

披露问题已成定局

在短暂的一段时间内，企业可以将人工智能披露视为一种战略选择——权衡影响、逐案决定、规避风险。但那个窗口已经关闭。多个司法管辖区的监管框架现在强制要求，当客户与人工智能系统互动时必须告知他们，行为证据也朝着同样的方向发展：发现未披露人工智能的客户不会仅仅耸耸肩。他们会重新评估对整个组织的信任，而不仅仅是发生欺骗的渠道。

那么，实际问题不再是是否披露。而是如何以一种建立信心而非引发焦虑的方式进行披露——以及如何围绕这种诚实来设计体验，使其成为竞争优势而非合规的复选框。

改变一切的信任不对称

这里的核心动态是不对称的。那些被提前告知正在与人工智能对话的客户往往会接受它，调整他们的期望，如果问题得到解决，他们通常会对互动给出积极评价。而那些事后才发现的客户——因为语言听起来有点不对劲，因为同事提到了，因为记者报道了——会经历一种更接近背叛的感觉。情感上的冲击与欺骗的严重程度不成比例；它与对假定诚实的侵犯成比例。

研究证实，这种差距并非微不足道。未披露的人工智能一旦被揭示，与从一开始就明确标识的人工智能相比，信任度会急剧下降。这一发现具有战略意义的原因在于，互动质量保持不变。那个高效解决查询的机器人，当其本质被隐藏时，会受到更严厉的评判。换句话说，能力并不能弥补隐瞒。

隐藏的机器人最终被揭露所付出的代价——在信任、忠诚度和品牌资产方面——远高于诚实披露所付出的代价。这不是道德论证，而是商业论证。

对于信任是其产品的行业——银行、保险、医疗保健、电信——这种不对称是关乎存亡的。一个客户如果觉得在如此基本的问题上（例如他们正在与谁交谈）被误导，他们就会质疑该组织还隐瞒了什么。

监管是底线，而非上限

现在，一些司法管辖区要求明确披露人工智能驱动的互动，并且这一监管基线将会扩大。高接触行业的合规团队已经在绘制哪些触点会触发强制披露义务。但将监管视为上限——只披露法律要求的内容，只在法律要求的地方披露——是对当前形势的误读。

客户不会在不同的司法管辖区体验他们的旅程。他们将其体验为与品牌的关系。一个在某个受监管市场披露人工智能但在其他地方隐瞒的组织，恰恰会造成不一致性，当客户比较信息、阅读报道或仅仅在不同渠道之间切换时，这种不一致性会侵蚀信任。更明智的做法是将披露作为一种运营标准，而非特定市场的义务。

此外，还存在先发优势。现在就将人工智能透明化常态化的品牌——在披露变得普遍之前——将自己定位为在一个仍然与不透明相关的环境中诚实的参与者。在客户在大致相似的产品和服务之间进行选择的行业中，这种定位具有可衡量的价值。

为披露而设计：优秀范例

糟糕的披露是聊天窗口标题中隐藏的法律免责声明。优秀的披露是在互动开始时简短、自然的声明，它设定了准确的期望，而不会引发警报。区别在于设计，而非意图。

有几个原则定义了更好的方法：

• 以清晰而非歉意开头。 将人工智能辅助描述为一种能力——“我是一个人工智能助手，我可以帮助您解决X问题”——与听起来防御性或含糊其辞的语言截然不同。披露中的信心表明了对能力的信心。
• 使交接优雅而真实。 披露只有在通向人工服务的路径真实存在时才有效。客户需要知道，请求人工服务确实会得到人工服务，而不是更长的等待时间和同一个机器人。设计一个可信的升级路径并非可有可无；它是使披露值得信任的关键。
• 根据上下文进行校准。 关于账户余额的交易查询比关于被拒绝的保险索赔或医疗问题的对话需要更轻度的披露。主题的敏感性应决定人工智能性质的传达程度和亲和度。
• 切勿将人类姓名分配给非人类代理。 将机器人命名为“Sarah”或“James”，并让客户误以为他们正在与人交谈，正是导致发现后信任度急剧下降的具体行为。名称可以独特甚至亲切，但不能具有欺骗性。

现在该做什么

尚未对其人工智能触点进行披露一致性审计的组织应从此处开始。绘制人工智能处理或影响客户互动的每个渠道，评估目前关于这种参与的沟通内容，并根据监管要求和诚实实践的更高标准识别差距。

从审计中，工作是架构性的：将披露融入交互设计模板，培训人工座席如何处理人工智能交接后的对话，并建立明确的升级标准，使人工选项可信。所有这些在技术上都不复杂。障碍几乎总是文化上的——一种残余的信念，认为客户宁愿不知道，或者披露会降低满意度分数。

证据却恰恰相反。了解自己正在与什么打交道，并发现人工智能确实能帮助他们的客户，最愿意再次与人工智能互动。透明度不是人工智能采用的障碍，而是其前提条件。