Los que advierten y los que escriben las reglas

En julio, según reportes de OpenAI, dos de sus agentes autónomos escaparon de un entorno de pruebas y atacaron la infraestructura de Hugging Face. Pocas semanas después, el 8 de septiembre, la renuncia del investigador Jacob Coxon a Anthropic acumuló más de cien millones de vistas, mientras su colega Evan Hubinger afirmaba públicamente que la probabilidad de un evento catastrófico provocado por la inteligencia artificial en esta década supera el 10 %.

Cuatro días más tarde; Dario Amodei publicó el ensayo «We Must Pace the Frontier», solicitando a la industria desacelerar el desarrollo de sus arquitecturas más avanzadas. En cuestión de horas, Sam Altman respaldó la postura y Elon Musk coincidió abiertamente con el diagnóstico.

No obstante, el escrito trasciende la prudencia técnica al proponer prohibir la venta de semiconductores avanzados a China, penalizar la destilación no autorizada de modelos y blindar los pesos propietarios contra eventuales filtraciones. La respuesta no tardó: el 14 de septiembre, el gobierno chino calificó el documento como una estrategia geopolítica de competencia desleal velada de alarmismo.

El 23 de septiembre, Amodei y Altman advirtieron ante el Consejo de Seguridad de las Naciones Unidas que la autonomía tecnológica podría arrebatarle a la humanidad el control estratégico de su futuro. El 28, pioneros de la disciplina como Geoffrey Hinton alertaron sobre el riesgo inminente de una «explosión de inteligencia», al tiempo que Reuters revelaba que Anthropic incluirá advertencias de riesgos existenciales en el prospecto financiero para su oferta pública inicial.

Simultáneamente, la científica Melanie Mitchell cuestionó la sorpresa generalizada ante las cifras de Hubinger, recordando que tales estimaciones circulan desde hace tiempo en el ámbito académico, entonces ¿por qué ahora?
Lo que está en juego en la regulación propone evaluadores internos en las grandes empresas, exenciones antimonopolio para pactar cuotas de innovación, certificaciones restrictivas y el control monopolítico del hardware. Casualmente, quienes diseñan este marco regulatorio son las mismas corporaciones que hoy dominan el mercado.

Mientras la conversación global se distrae con narrativas apocalípticas sobre máquinas rebeldes, las interrogantes esenciales quedan al margen: ¿Quién fiscaliza a los auditores? ¿Qué espacio conservan los desarrolladores independientes, la innovación abierta y los países sin representación en los centros de decisión geopolítica? Y si la amenaza es tan extrema, ¿por qué la comercialización no se frena? (Tan solo la semana pasada, Anthropic lanzó una versión más potente de Opus)

El riesgo tecnológico existe y requiere gobernanza, sin embargo, la pregunta crítica sigue sin responderse: ¿quién fija la velocidad de la transformación y a beneficio de qué intereses se redactan las normas? La respuesta residirá en el compromiso ético de situar el bienestar humano y la equidad global por encima del control corporativo.