¿Qué pasaría si los sistemas de inteligencia artificial llegaran a ser tan poderosos que ni siquiera sus propios desarrolladores pudieran controlarlos? Esa fue una de las advertencias planteadas este lunes por Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, quien pidió normas vinculantes, supervisión independiente y límites claros antes de que la tecnología pueda convertirse en un “riesgo existencial para la humanidad”.
El señalamiento se suma a una cadena de advertencias cada vez más visibles sobre el futuro de la inteligencia artificial.
En agosto, el papa León XIV pidió una legislación capaz de proteger la dignidad humana, la privacidad y las instituciones democráticas frente al avance tecnológico. Ese mismo mes, Bill Gates afirmó en una entrevista con The New York Times que la industria tecnológica estaría minimizando algunos de los riesgos de la IA, entre ellos el desempleo masivo y el uso de estos sistemas para facilitar amenazas biológicas.
Aunque las tres advertencias parten de ámbitos distintos derechos humanos, ética y tecnología coinciden en un punto: la inteligencia artificial no debería avanzar sin controles capaces de limitar sus posibles efectos sobre las personas y las sociedades.
Türk dijo ante el Consejo de Derechos Humanos en Ginebra que la seguridad de la IA no puede depender únicamente de compromisos voluntarios asumidos por las empresas que desarrollan la tecnología. Su preocupación se centra en la posibilidad de que sistemas cada vez más avanzados superen la capacidad de sus propios creadores para detenerlos o contenerlos.
“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó.
Para el alto comisionado, ese escenario justifica la creación de garantías sólidas antes de que sea demasiado tarde. Su propuesta incluye reglas vinculantes, mecanismos de verificación independientes y una cooperación mucho más estrecha entre los países que desarrollan, producen o suministran tecnología de inteligencia artificial.
El planteamiento no significa que Naciones Unidas esté afirmando que actualmente exista una inteligencia artificial autónoma fuera de control. Türk utiliza esos escenarios para advertir sobre riesgos futuros que, a su juicio, deberían ser prevenidos mediante regulación.
¿Quién debería controlar una tecnología cada vez más poderosa?
Otra de las preocupaciones expresadas por Türk tiene que ver con la concentración del poder tecnológico.
“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, sostuvo.
La advertencia apunta a que una parte importante de los modelos más avanzados, la infraestructura informática y las grandes cantidades de datos necesarias para desarrollar estos sistemas están concentradas en pocas empresas y actores tecnológicos.
Para Naciones Unidas, el debate no puede reducirse a si la IA funciona bien o mal desde el punto de vista técnico. También debe preguntarse quién decide cómo funciona, qué datos utiliza, qué valores incorpora, quién se beneficia de ella y quién asume sus riesgos.
Türk insistió en que la inteligencia artificial debe “servir a la humanidad y no al revés”, particularmente en ámbitos como el empleo, la democracia y el medio ambiente.
¿Podría una máquina decidir quién vive o muere?
Uno de los puntos más contundentes de su intervención estuvo relacionado con las armas autónomas. Türk dijo estar “horrorizado” ante informaciones sobre sistemas capaces de ejecutar acciones letales sin una intervención humana directa y se sumó a los llamamientos para prohibir urgentemente ese tipo de armamento.
“Me sumo a los llamamientos para que se prohíban de forma urgente las armas que pueden quitar vidas sin intervención humana”, declaró.
El problema plantea una cuestión que va más allá de la precisión tecnológica: ¿debe permitirse que un algoritmo tome por sí mismo una decisión letal? Para el alto comisionado, la respuesta debe estar guiada por los derechos humanos y el derecho internacional. La advertencia aparece, además, en un contexto global marcado por más de 60 conflictos en los que participa al menos un Estado, un nivel que, según Türk, no se veía desde el final de la Segunda Guerra Mundial.
¿Por qué la ONU habla ahora de un “riesgo existencial”?
El concepto se utiliza para describir una amenaza capaz de causar daños extremos a la humanidad o comprometer su supervivencia a gran escala. En el caso de la inteligencia artificial, el temor no se limita a que una herramienta cometa errores.
La preocupación es que sistemas cada vez más capaces puedan ser utilizados para amplificar amenazas ya existentes, facilitar ataques, debilitar instituciones o, en escenarios extremos, actuar de formas que sus propios operadores no puedan controlar.
Türk plantea que esperar a que esos riesgos se materialicen antes de crear controles podría ser demasiado tarde. Por eso insiste en establecer límites mientras la tecnología todavía se encuentra en desarrollo.
En agosto, el papa León XIV abordó un problema semejante desde una perspectiva distinta. Durante un encuentro con integrantes de la International Catholic Legislators Network, el pontífice advirtió sobre la posibilidad de construir una especie de “nueva Torre de Babel” en la que “el poder, la eficiencia y el control oscurezcan el rostro de la persona humana”.
Su argumento central fue que el desarrollo tecnológico solo tiene sentido si permanece subordinado a la dignidad humana. “El mundo no necesita una inteligencia artificial que disminuya la humanidad”, afirmó.
Para León XIV, la legislación debe permitir la innovación científica y tecnológica, pero al mismo tiempo proteger los derechos humanos, la privacidad, la transparencia y las instituciones democráticas.
El papa también alertó sobre una posible nueva forma de desigualdad internacional. Según explicó, si las tecnologías más avanzadas permanecen concentradas en las economías más ricas, los países con menos recursos podrían desarrollar una creciente dependencia tecnológica.
“Debemos permanecer alerta para evitar que la innovación se convierta en otro vehículo de colonialismo ideológico o económico”, advirtió.
En ese sentido, su preocupación coincide parcialmente con la expresada ahora por Türk sobre la concentración del poder alrededor de la inteligencia artificial.
¿Podría la IA aumentar la dependencia entre países?
Esa es otra de las preguntas centrales del debate. La inteligencia artificial requiere enormes cantidades de capacidad computacional, centros de datos, chips avanzados, energía, capital y acceso a grandes volúmenes de información.
No todos los países disponen de esos recursos en la misma proporción. El riesgo planteado por el papa es que esta diferencia tecnológica termine creando nuevas relaciones de dependencia entre Estados, en las que las naciones con menos infraestructura deban utilizar sistemas diseñados, operados y controlados desde el exterior.
La discusión, por tanto, no es solamente sobre robots o algoritmos. También es sobre poder económico, soberanía tecnológica y capacidad de decisión.
La advertencia de la ONU llega pocas semanas después de que Bill Gates, cofundador de Microsoft, expresara una preocupación similar en una extensa entrevista publicada por The New York Times. Gates afirmó que la industria tecnológica estaría restando importancia públicamente a algunos de los riesgos de la inteligencia artificial debido a los enormes intereses económicos en juego.
“En privado, las personas que entienden lo buena que es esta tecnología, y lo mucho que está mejorando, están muy preocupadas”, declaró al periódico.
Según Gates, uno de los principales problemas es que la capacidad de estos sistemas está avanzando más rápido de lo que él mismo esperaba. Entre sus mayores preocupaciones mencionó dos: la destrucción masiva de empleos y el uso de la IA para facilitar amenazas biológicas.
Gates sostiene que esta revolución tecnológica podría ser diferente de transformaciones anteriores. Históricamente, muchas innovaciones eliminaron determinadas ocupaciones, pero crearon otras nuevas. El empresario duda de que ese patrón se repita automáticamente con la IA.
A su juicio, la diferencia es que estos sistemas podrían extenderse simultáneamente por numerosos sectores de la economía, reduciendo la capacidad de otras industrias para absorber a los trabajadores desplazados. Por eso propuso medidas como un posible impuesto sobre el uso de inteligencia artificial, con el objetivo de encarecer la sustitución de trabajadores y utilizar parte de esos recursos para apoyar a quienes pierdan sus empleos.
También planteó reservar determinadas profesiones exclusivamente para personas. Las llamó actividades “reservadas para humanos”, especialmente cuando impliquen relaciones profundamente personales, como determinados trabajos de cuidado.
