Los bots de atención al cliente con IA pueden ser engañados para robar códigos de seguridad y actuar como víctimas

Qué ha pasado

Una investigación de ciberseguridad ha revelado que los bots de atención al cliente basados en inteligencia artificial pueden ser manipulados mediante técnicas de ingeniería social para filtrar códigos de seguridad y, en algunos casos, para actuar como si fueran la propia víctima suplantada. Según lo reportado por CyberSecurityNews, estos asistentes conversacionales, diseñados para resolver consultas y verificar identidades, presentan vulnerabilidades que permiten a un atacante engañarlos y extraer información sensible destinada a la autenticación de cuentas.

El hallazgo pone el foco en un problema conocido pero poco resuelto: los sistemas de IA conversacional que gestionan procesos de soporte y verificación no siempre distinguen con fiabilidad entre una solicitud legítima y una maniobra de manipulación diseñada para extraer datos o credenciales. El reporte no detalla una marca o incidente específico, sino que documenta un patrón de riesgo aplicable a bots de servicio al cliente que operan con acceso a códigos de verificación o procesos de recuperación de cuentas.

Por qué importa

El dato central aquí es tecnológico y de seguridad, pero con consecuencias directas sobre la experiencia y la confianza del cliente: cuando una empresa automatiza funciones sensibles —como el envío o la validación de códigos de un solo uso— sin blindar adecuadamente al modelo frente a manipulación, el canal de autoservicio deja de ser solo un punto de eficiencia y se convierte en una superficie de ataque. Para los equipos de transformación digital, esto implica revisar no solo qué pueden hacer los bots, sino qué deberían poder hacer, separando claramente las tareas conversacionales de las operaciones críticas de autenticación.

Para los líderes de experiencia, el episodio recuerda que la conveniencia conversacional y la seguridad no son automáticamente compatibles: cuanto más humano y flexible resulta un bot, más expuesto puede estar a técnicas de persuasión diseñadas para explotar precisamente esa flexibilidad.

La perspectiva de Renascence

El verdadero problema no es que la IA "falle", sino que muchas organizaciones diseñan sus bots de servicio priorizando fluidez conversacional sobre arquitectura de confianza, delegando funciones sensibles a un sistema optimizado para parecer útil y empático, no para resistir manipulación.

La mayoría de las empresas tratará esto como un parche técnico puntual, cuando en realidad es un problema de diseño de servicio: ningún bot debería tener autoridad para revelar o validar un código de seguridad sin un segundo factor fuera de la conversación misma. El principio detrás del fallo es claramente conductual —los atacantes no rompen el modelo, lo persuaden, igual que persuadirían a un agente humano mal entrenado—. Un operador centrado en el cliente debería auditar cada flujo de autoservicio preguntándose no "¿qué tan natural suena el bot?", sino "¿qué pasaría si alguien le mintiera con confianza?".