Agentes de IA en atención al cliente, vulnerables a bypass de MFA y OTP

Qué ha ocurrido

Investigadores de seguridad han identificado que los agentes de atención al cliente basados en inteligencia artificial pueden ser manipulados mediante técnicas de ingeniería social y manipulación de instrucciones para eludir la autenticación multifactor (MFA), obtener contraseñas de un solo uso (OTP) y filtrar datos sensibles de cuentas de usuario.

Según lo reportado por cyberpress.org y gbhackers.com, las pruebas revelaron que estos asistentes conversacionales, diseñados para agilizar la resolución de consultas y verificación de identidad, pueden ser inducidos a revelar información de autenticación o a saltarse pasos de verificación cuando se les presentan solicitudes formuladas de manera engañosa. El hallazgo pone en cuestión la solidez de los controles de seguridad integrados en los flujos de soporte automatizado que muchas empresas han desplegado como parte de sus estrategias de servicio al cliente.

Las fuentes señalan que la vulnerabilidad no reside en un fallo técnico aislado, sino en cómo los modelos de lenguaje interpretan y priorizan instrucciones dentro de una conversación, lo que abre la puerta a que actores malintencionados exploten esa lógica para acceder a canales de soporte con fines de robo de identidad o fraude.

Por qué es importante

El caso expone una tensión de fondo en la adopción acelerada de agentes de IA para atención al cliente: la misma flexibilidad conversacional que mejora la experiencia del usuario —capacidad de entender contexto, resolver excepciones, adaptarse al lenguaje natural— es la que puede ser explotada para sortear controles diseñados originalmente para interacciones humanas o sistemas rígidos basados en reglas.

Para los responsables de experiencia, seguridad y transformación digital, el hallazgo obliga a repensar el diseño de estos sistemas no solo desde la eficiencia operativa, sino desde una arquitectura de seguridad que anticipe la manipulación conversacional como vector de ataque, y no como una excepción marginal.

La perspectiva de Renascence

Durante los últimos años, la conversación sobre agentes de IA en servicio al cliente se ha centrado casi exclusivamente en la reducción de tiempos de espera y costos operativos. Este hallazgo recuerda que la confianza del cliente descansa sobre una promesa implícita de protección, y que cualquier fricción de seguridad mal diseñada —o ausente— puede convertirse en el punto más débil de toda la experiencia.

La lección de fondo no es que la IA conversacional sea insegura por naturaleza, sino que fue optimizada para resolver, no para desconfiar. Un operador centrado en el cliente debería tratar la resistencia a la manipulación como un atributo de experiencia tan crítico como la rapidez o la empatía del agente, auditando activamente cómo su IA responde bajo presión adversarial antes de escalar su despliegue a procesos sensibles como verificación de identidad o recuperación de cuentas.