Riesgos de ciberseguridad en sistemas de IA: el informe de PwC

Qué ha ocurrido

Según un informe de PwC recogido por Finextra, los responsables empresariales se sienten menos preparados para los ataques dirigidos a sistemas de inteligencia artificial que para las amenazas de ciberseguridad tradicionales. El estudio señala que la adopción de la IA avanza más deprisa que la inversión en proteger los modelos y los datos que los alimentan.

La brecha que describe el informe es sobre todo de preparación. Las organizaciones son conscientes de que sus sistemas de IA son un objetivo, pero sus capacidades de defensa específicas para estos sistemas no han seguido el ritmo de su despliegue.

Por qué importa

Los sistemas de IA ya no son experimentos aislados. Se integran en la atención al cliente, en la evaluación de solicitudes, en las operaciones internas y en servicios públicos. Cuando un modelo o sus datos se ven comprometidos, el impacto no se limita a la infraestructura técnica: puede traducirse en respuestas erróneas, exposición de información de clientes o un deterioro de la confianza en el servicio.

Desde la economía del comportamiento, la confianza se pierde de forma asimétrica. Un único incidente visible pesa mucho más en la percepción del usuario que numerosas interacciones correctas. Para los responsables de transformación digital, esto sugiere que la seguridad debería diseñarse junto con el despliegue de la IA, y no incorporarse después como una capa de control.

La visión de Renascence

El dato más revelador no es que los riesgos sean nuevos, sino que la confianza del cliente depende de algo que la mayoría de las organizaciones todavía no mide: la integridad de la respuesta que recibe. Un asistente automatizado comprometido que ofrece información falsa con un tono amable es, desde la perspectiva de la experiencia, un fallo de servicio tan grave como una caída del sistema, aunque rara vez se trate así.

La seguridad de la IA es un problema de experiencia, no solo de TI. Los clientes atribuyen el error de un agente automatizado a la marca, y lo recuerdan mucho más que un incidente técnico que nunca ven. El principio de diseño de servicios que aplica aquí es proteger primero los momentos de verdad, es decir, los puntos donde la IA responde directamente al cliente. Un operador centrado en el cliente debería auditar esas interacciones con la misma regularidad con la que revisa sus tiempos de espera.