IA y decisiones humanas: Altman y Amodei hablan ante la ONU

Qué ha ocurrido

Los consejeros delegados de OpenAI, Sam Altman, y de Anthropic, Dario Amodei, defendieron ante el Consejo de Seguridad de la ONU, en Nueva York, que las personas deben seguir en el centro de las decisiones sobre inteligencia artificial. Esa idea vertebró las intervenciones de ambos responsables ante el órgano.

Altman matizó su posición en un punto concreto: consideró que no conviene avanzar demasiado deprisa hacia la regulación, aunque se mostró favorable a algunos estándares internacionales. Según la cobertura de The National, el mensaje combina cautela sobre el marco normativo con apoyo a una coordinación entre países que establezca referencias comunes.

El material consultado se limita a este encuentro y a sus mensajes principales. No se describen medidas concretas, calendarios ni compromisos formales derivados de la sesión.

Por qué importa

Que los responsables de dos de los laboratorios de IA más visibles del sector sitúen la supervisión humana en el centro de su argumento indica que la gobernanza de la inteligencia artificial se debate ya en foros multilaterales, y no solo en las empresas tecnológicas. Para los líderes de experiencia, IA y transformación digital, esto apunta a que las decisiones automatizadas en servicios públicos y privados podrían quedar sujetas a expectativas más explícitas de control humano.

La tensión entre regulación y estándares internacionales también afecta a las organizaciones que despliegan IA en atención al cliente, evaluación crediticia o gestión de personal. El diseño de los flujos de decisión, la trazabilidad de los resultados y los puntos de escalado hacia una persona podrían convertirse en requisitos de cumplimiento antes de lo que muchas organizaciones tienen previsto.

La visión de Renascence

La mayoría de los lectores se fijará en quién habla ante la ONU. Lo que suele pasar desapercibido es que «mantener a las personas en el centro» no es solo un principio declarativo, sino un problema de diseño de servicio: exige decidir qué se delega a un sistema, quién puede revisar esa decisión y cuándo el cliente sabe que hay una persona detrás.

El riesgo real no es que la IA tome decisiones, sino que las organizaciones las automaticen sin haber definido antes cuáles son irreversibles. Un operador orientado al cliente debería auditar ya qué decisiones automatizadas afectan al dinero, al acceso a un servicio o a las reclamaciones, y diseñar una ruta de revisión humana visible y fácil de activar. La regulación llegará de forma desigual según el mercado; la confianza del cliente, no puede esperar.