Queja de la ACLU en California contra la herramienta Emotify

Qué ha ocurrido

La Unión Estadounidense por las Libertades Civiles (ACLU) ha presentado en California una queja contra Emotify, una herramienta de evaluación de candidatos basada en inteligencia artificial. La organización sostiene que el sistema se asemeja a instrumentos clínicos de diagnóstico del autismo y que, por ello, podría constituir un examen médico ilegal dentro de un proceso de contratación.

La reclamación se centra en si el producto encaja con las normas que regulan las pruebas médicas en el empleo. Por ahora se trata de una acusación formal y no de una resolución sobre el fondo del caso, por lo que las conclusiones jurídicas siguen pendientes.

La noticia ha sido recogida por HR Dive, que cubre la presentación de la queja en su información sobre recursos humanos y tecnología laboral.

Por qué importa

El asunto va más allá de un único proveedor. Las herramientas de evaluación con IA se utilizan cada vez más para filtrar, puntuar o analizar a candidatos a gran escala. Cuando un sistema de este tipo puede interpretarse como una prueba de carácter médico, la línea entre evaluar competencias y valorar rasgos de salud se convierte en un riesgo de cumplimiento normativo y de confianza para quien se presenta al puesto.

Para líderes de experiencia, de inteligencia artificial y de transformación digital, el caso pone de relieve que la experiencia del candidato forma parte del diseño del sistema. Un proceso que la persona percibe como opaco, o como una exploración de su salud, afecta a la reputación de la marca empleadora y a la calidad de los datos que la organización recoge. Documentar con claridad qué se mide y para qué parece una práctica razonable para cualquier organización que use este tipo de herramientas.

La perspectiva de Renascence

La lectura habitual de una queja así se centra en el riesgo legal del proveedor. Nosotros la leemos como una señal de diseño: si una evaluación puede interpretarse como un examen de salud, el problema no es solo de redacción, sino de qué se mide, por qué y cómo lo vive la persona evaluada.

Lo que más se pasará por alto es que el candidato no distingue entre «algoritmo» y «examen médico»: solo percibe si el proceso le pide demostrar capacidad profesional o le pide explicar quién es. Antes de desplegar cualquier herramienta de evaluación, un operador centrado en el cliente debería revisar cada señal que mide frente a la competencia que dice evaluar, y eliminar las que no pueda justificar en términos de trabajo. Tratar la transparencia sobre el propósito de la prueba como parte de la experiencia, y no como un mero trámite legal, es lo que separa un proceso justo de uno que simplemente cumple.