Ocho estados de EE. UU. demandan a OpenAI por perjudicar a menores

Qué ha ocurrido

Al menos ocho estados de EE. UU. han demandado a OpenAI, alegando que su chatbot ChatGPT incumple las leyes de protección del consumidor al perjudicar a menores y engañar a personas adultas, según informó Arab News.

La acción legal se centra en el comportamiento del producto y no tanto en su capacidad técnica. Las acusaciones apuntan a dos frentes: el daño a los niños y la inducción a error de los usuarios adultos. Si las reclamaciones prosperan, podrían obligar a revisar cómo se presenta y se comunica el servicio.

La cobertura disponible no detalla todavía las fechas de presentación ni la respuesta de OpenAI, por lo que conviene seguir la evolución del caso.

Por qué importa

El litigio sugiere que la experiencia de uso de la IA generativa ya es también una cuestión de cumplimiento normativo. Cuando un asistente conversacional lo utilizan a diario menores y adultos, la claridad de sus respuestas, la transparencia sobre su naturaleza automatizada y las salvaguardas para usuarios vulnerables dejan de ser decisiones de producto para convertirse en riesgos jurídicos y reputacionales.

Para los responsables de experiencia, IA y transformación digital, la lectura práctica es que la confianza pasa a ser un requisito operativo. Las organizaciones que despliegan asistentes de IA en atención al cliente, sanidad, educación o administración pública podrían tratar la veracidad, la protección de menores y la divulgación del carácter automatizado como parte del diseño del servicio desde el inicio.

La visión de Renascence

Lo que más se pasará por alto es que el problema no reside solo en lo que dice el modelo, sino en la expectativa que genera la interfaz. Las personas tratan una conversación como si procediera de un interlocutor fiable, y esa autoridad percibida actúa como atajo heurístico que reduce su escrutinio. Diseñar sin tener en cuenta ese sesgo de confianza traslada a la persona usuaria una carga que debería asumir el operador.

Si un asistente parece saber más de lo que realmente sabe, el error deja de ser un fallo puntual y se convierte en un problema de diseño del servicio. Un operador centrado en el cliente debería tratar cada respuesta como una promesa implícita y revisar qué expectativas crea la interfaz antes de optimizar la conversión. Lo contraintuitivo es que la forma más rápida de ganar confianza no es sonar más seguro, sino dejar visibles los límites del sistema.