Expertos asumen como propias opiniones aleatorias de una IA

Qué ocurrió

Un estudio de Anthropic concluyó que 50 expertos adoptaron, en numerosos casos, opiniones asignadas al azar por un agente de IA, y que la mayoría de ellos creyó después que esas conclusiones eran suyas. Según la cobertura de The Decoder, los participantes siguieron los puntos de vista del agente hasta en un 86 % de las ocasiones.

La característica central del experimento es que esas posiciones no respondían a un criterio sustantivo: se determinaban mediante un lanzamiento de moneda. Aun así, los expertos tendieron a incorporarlas como juicios propios y no como una aportación externa que debía evaluarse.

La información disponible procede de una única fuente y del resumen del estudio. No se dispone de detalles adicionales sobre el diseño o sobre el perfil profesional de los participantes.

Por qué importa

Para los líderes en experiencia, inteligencia artificial y transformación digital, el hallazgo desplaza la pregunta habitual. Ya no basta con comprobar si un modelo ofrece respuestas correctas; también importa cómo cambia el juicio de quien lo consulta. Un asistente que expresa posturas con seguridad puede moldear decisiones profesionales sin que el usuario perciba esa influencia.

La implicación práctica afecta a cualquier organización que despliegue agentes de IA en análisis, asesoramiento o atención al cliente. Las interfaces que presentan recomendaciones con la forma de conclusiones pueden generar dependencia y atribuciones erróneas de criterio, algo que los equipos de diseño de servicios deberían tener en cuenta desde el inicio.

Las cifras clave

• 50 expertos participaron en el estudio de Anthropic.
• Hasta el 86 % de las veces, los participantes siguieron los puntos de vista asignados por el agente.

La visión de Renascence

Lo que más se pasará por alto es que el riesgo no reside solo en la precisión del agente, sino en la sensación de autoría que produce. Cuando una postura llega con un lenguaje fluido y bien estructurado, el usuario la procesa como propia, y el sesgo de anclaje hace el resto del trabajo.

Un diseño de servicio responsable debería tratar cada recomendación de un agente como una hipótesis con procedencia visible, no como un veredicto. Los operadores deberían exigir que sus equipos de producto muestren de dónde procede una postura, qué alternativas se descartaron y qué grado de confianza tiene el modelo. Si el cliente o el profesional no puede distinguir su propio criterio del de la máquina, la experiencia ha fallado aunque la respuesta sea correcta.