El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes a los gobiernos y a las principales compañías tecnológicas actuar con urgencia frente al rápido desarrollo de sistemas de inteligencia artificial cada vez más poderosos, al advertir que sus posibles fallos plantean riesgos sin precedentes para derechos fundamentales, servicios esenciales e instituciones democráticas.
Notas relacionadas
Türk sostuvo en una carta dirigida a Estados y desarrolladores de sistemas de IA de frontera que la humanidad se encuentra ante cambios tecnológicos cuyas consecuencias podrían alcanzar a las próximas generaciones. La advertencia profundiza el planteamiento que realizó el pasado 7 de septiembre ante el Consejo de Derechos Humanos de la ONU, cuando afirmó que comparte las preocupaciones de especialistas de la industria sobre la posibilidad de que una IA avanzada llegue a representar un riesgo existencial para la humanidad.
Te puede interesar
¿Qué podría ocurrir si falla una IA avanzada?
Una de las principales preocupaciones se concentra en los denominados agentes de inteligencia artificial, sistemas capaces de ejecutar secuencias de acciones y completar tareas con niveles crecientes de autonomía. Según la oficina de Türk, fallos en sistemas suficientemente poderosos podrían afectar servicios esenciales, comunicaciones, infraestructuras críticas e instituciones democráticas. La ONU ha señalado además comportamientos observados durante pruebas recientes como evidencia de que las capacidades de estos modelos pueden estar avanzando con mayor rapidez que algunos mecanismos de seguridad.
El escenario planteado por el alto comisionado incluye consecuencias que irían mucho más allá de una respuesta equivocada de un chatbot. Una dependencia creciente de sistemas autónomos en redes financieras, comunicaciones, servicios públicos o infraestructuras esenciales podría elevar el impacto de un fallo, una utilización maliciosa o una pérdida de control. Türk también ha advertido sobre las implicaciones de la IA para la guerra y ha reclamado límites sobre sistemas capaces de tomar decisiones letales sin intervención humana.
“Los daños no son hipotéticos”
La preocupación de Naciones Unidas, sin embargo, no se limita a escenarios futuros. Türk sostiene que los efectos perjudiciales asociados a la inteligencia artificial ya pueden observarse en ámbitos como la vigilancia y recopilación masiva de datos, la automatización de decisiones que afectan derechos y las campañas de desinformación. Su planteamiento coloca la discusión sobre seguridad de IA dentro de un marco más amplio de derechos humanos, privacidad, autonomía y democracia.
Una semana antes, Türk había pedido “garantías” especialmente robustas antes de permitir que los sistemas más avanzados continúen aumentando sus capacidades. También reclamó líneas rojas internacionales, mecanismos independientes de verificación y mayor cooperación en materia de seguridad entre las empresas que desarrollan los modelos de frontera. “La necesidad de gobernanza de la IA es ampliamente reconocida. ¿Pero dónde está la acción?”, cuestionó ante el Consejo de Derechos Humanos.
El mensaje de Naciones Unidas apunta así a una cuestión que comienza a trascender el debate tecnológico: quién debe determinar qué nivel de riesgo resulta aceptable cuando un reducido número de empresas desarrolla sistemas capaces de intervenir en cada vez más ámbitos de la economía y la sociedad. Para Türk, gobiernos y compañías deben acelerar la creación de salvaguardias antes de que el avance de esas capacidades haga más difícil controlar sus consecuencias.
