La ciencia ficción advierte que las máquinas inteligentes podrían volverse contra nosotros o aniquilarnos accidentalmente. Un investigador renunció a Anthropic advirtiendo que la IA podría exterminarnos en esta década, otro estimó esa probabilidad en más del 10 %.
Pero ¿cómo sucedería exactamente? Cuando se piden explicaciones, las respuestas se vuelven vagas. Se mencionan sabotajes eléctricos o de suministro de agua, ataques que hackers llevan años intentando. Existen defensas imperfectas, pero la IA tendría que superar barreras conocidas.
También preocupa la creación de armas biológicas. Investigadores diseñaron miles de genomas virales mediante IA; sintetizaron 300 y obtuvieron 16 virus funcionales capaces de infectar bacterias. Pero los expertos recuerdan que fabricar patógenos peligrosos exige instalaciones, materiales y experiencia práctica, algo aún fuera del alcance de un chatbot.
Un riesgo más inmediato apareció cuando un chatbot identificó erróneamente la carga de un buque chino en un informe militar estadounidense. Pero había aviones desplegados y tropas preparadas antes de descubrirse el error. Una alucinación aceptada por un analista sobrecargado puede desencadenar consecuencias graves, algo que los estrategas nucleares temen desde la Crisis de los Misiles de Cuba.
Anthropic detectó un grupo en Yemen que utilizaba su asistente para desarrollar el guiado de un cohete. El proyectil falló y sus responsables consultaron al chatbot. Otro usuario solicitó ayuda para obtener financiación de investigaciones destinadas a aumentar la transmisibilidad del chikungunya. Ambos casos fueron detectados; ninguno demuestra que exista ya un arma funcional.
Mientras, continúan las guerras y los bombardeos. Resulta extraño presentar el fin de la humanidad como una experiencia inédita; pero quizás algunos especialistas han dedicado menos tiempo a estudiar lo que los humanos ya nos hacemos. Para quienes perdieron familias, hogares o países por guerras, hambre, epidemias y violencia, el mundo terminó de alguna manera, y siguen adelante. Todos los escenarios que describen los alarmistas de la IA ya han ocurrido sin la ayuda de la IA. Sí, los riesgos de la IA deben tomarse en serio, pero también el hecho de que los humanos ya somos bastante buenos para empeorar la vida de los demás. Si trabajamos en eso, probablemente la IA también se convierta en una amenaza menor.
