La situación es toda una paradoja: algunas de las figuras que llevan años compitiendo por construir una inteligencia artificial cada vez más potente están empezando a advertir de que quizá la tecnología esté avanzando demasiado deprisa. Al otro lado está Donald Trump, que no parece dispuesto a permitir que Estados Unidos reduzca el ritmo precisamente cuando considera que se juega con China el dominio de una de las tecnologías más importantes del siglo.
Notas relacionadas
El choque ha estallado después de que Dario Amodei, consejero delegado de Anthropic, publicara un extenso documento titulado We Must Pace the Frontier.En este, propone reducir deliberadamente la velocidad a la que aumentan las capacidades de los modelos más avanzados. Su petición recibió el respaldo de figuras que normalmente compiten ferozmente entre sí, como Sam Altman, de OpenAI; Elon Musk, propietario de xAI; y Demis Hassabis, responsable de Google DeepMind.
Te puede interesar
Poner el freno
Hay un matiz importante: estos empresarios no están pidiendo apagar los servidores ni detener por completo la inteligencia artificial: Amodei habla de pacing, es decir, acompasar o ralentizar el desarrollo de las capacidades más avanzadas para que los sistemas de seguridad, supervisión y evaluación tengan tiempo suficiente para ponerse al día. Él mismo explica que su propuesta no significa dejar de entrenar modelos o paralizar el progreso tecnológico.
El responsable de Anthropic sostiene que en los últimos meses se ha producido un cambio especialmente delicado: la propia IA está empezando a participar de manera cada vez más importante en la construcción de la siguiente generación de inteligencia artificial. Es lo que se conoce como mejora recursiva. Si los sistemas empiezan a ayudar a crear otros sistemas más capaces, el desarrollo podría acelerarse mucho más rápidamente de lo que lo ha hecho hasta ahora.
Amodei también cita incidentes recientes protagonizados por agentes de inteligencia artificial que realizaron acciones no previstas durante determinadas pruebas. Su temor es que sistemas mucho más capaces puedan generar consecuencias considerablemente más graves antes de que sus desarrolladores sepan cómo mantenerlos bajo control.
Altman y Musk sorprendentemente de acuerdo
Lo llamativo es quienes respaldan advertencia. Sam Altman y Elon Musk mantienen desde hace años una relación enormemente conflictiva alrededor de OpenAI y del futuro de la inteligencia artificial.
Sin embargo, en esta ocasión ambos coinciden con Amodei. Altman aseguró estar de acuerdo con la necesidad de “acompasar la frontera” y OpenAI se comprometió a adoptar una de las medidas propuestas por Anthropic: permitir que evaluadores independientes tengan un acceso mucho más profundo a sus procesos para comprobar que las medidas de seguridad realmente se están cumpliendo.
Musk fue un poco más escueto al respaldar públicamente la propuesta de Amodei, pero la apoya. Y Demis Hassabis, máximo responsable de DeepMind (Google), también consideró que el planteamiento apuntaba en la dirección adecuada.
Y entonces, Trump responde
Pero, desde el asiento de la Casa Blanca, Donald Trump ve el problema desde una perspectiva completamente diferente. Para el presidente estadounidense, la inteligencia artificial no es solamente una revolución tecnológica, sino también una carrera económica, industrial y militar contra China.
El presidente insistió que Estados Unidos mantiene actualmente una posición de liderazgo. Y dejó claro que su intención es conservarla: su plan nacional para la inteligencia artificial coloca entre sus grandes objetivos acelerar la innovación, construir más infraestructura y consolidar el liderazgo estadounidense. La propia Administración ha defendido eliminar regulaciones que puedan ralentizar a las empresas norteamericanas frente a sus competidores extranjeros.
Pero el enfrentamiento es aún mayor: Trump ha rechazado públicamente la idea de que Estados Unidos necesite grandes nuevas barreras regulatorias para controlar la inteligencia artificial. Incluso, afirmó que existe una “conspiración enfermiza” contra la IA y los centros de datos. Y que sembrar dudas sobre la inteligencia artificial estadounidense beneficia fundamentalmente a China.
«La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia. Más grande que el petróleo, el oro, los diamantes o incluso Internet. ¡Durante el mandato del presidente Donald J. Trump no serán detenidos por fuerzas destructivas brillantemente dirigidas!», indicó.
El problema es que ninguna empresa quiere frenar sola
Y así aparece uno de los aspectos más interesantes de toda esta historia. Incluso aunque OpenAI, Anthropic o xAI estén realmente preocupadas por la velocidad a la que está evolucionando la tecnología, detenerse individualmente sería extraordinariamente difícil. Si una compañía decide tardar seis meses adicionales en lanzar su siguiente modelo para hacerlo más seguro mientras sus competidores continúan avanzando, puede perder clientes, inversión, talento y posición tecnológica.
Por eso Amodei propone primero evaluadores independientes, después una coordinación entre las principales compañías de países democráticos y, finalmente, algún tipo de coordinación internacional.
El problema es evidente. Convencer a OpenAI, Google, Anthropic, xAI y otras compañías de avanzar coordinadamente ya sería complicado; y convencer además a China resulta muchísimo más difícil. Así que el gran debate ya no parece ser si la inteligencia artificial seguirá mejorando, sino quién se atreve a pisar primero el freno cuando todos saben que el resto podría seguir acelerando.
Así el escenario, los empresarios advierten de que quizá la tecnología esté progresando más rápido que nuestra capacidad para controlarla. Trump, en cambio, teme que Estados Unidos frene y China no lo haga y, dentro de unos años, Washington descubra que ha perdido voluntariamente una de las carreras tecnológicas más importantes de la historia.
No menos importante: todo este escenario se produce en medio de los preparativos para una reunión entre el presidente chino, Xi Jinping, y Trump en Washington, en la que se espera que la regulación y la seguridad de la IA sean algunos de los temas de discusión.
