Esta semana vimos cómo Trump ordenaba dejar de usar la tecnología de Anthropic (Claude), luego que ésta se negara a una colaboración total con el Pentágono, y la catalogó como “riesgo para la cadena de suministro”, una etiqueta reservada casi siempre a empresas chinas sospechosas de espionaje. Sin embargo, las herramientas de Claude seguían operando en el Comando Central cuando Estados Unidos atacó a Irán.
Anthropic asegura que había puesto líneas rojas: nada de armas autónomas ni vigilancia masiva. Su CEO, Dario Amodei, alegó “objeciones éticas” (una trampa marketinera para posicionar a su empresa como la “más ética”. Es de recordar que Anthropic fue proveedor del hoy departamento de Guerra hasta el viernes pasado, con lo cual ese chatbot -Claude- al que están todos suscribiéndose como “gesta épica y ética” se usó en bombardeos anteriores, como Gaza).
En paralelo, mientras Trump “castigaba” a Anthropic, OpenAI (ChatGPT) cerraba un acuerdo para desplegar sus modelos en esos entornos del Pentágono. Según Sam Altman, el contrato incluye las mismas prohibiciones que Anthropic. El Pentágono dijo estar de acuerdo.
¿Por qué una fue castigada y la otra recompensada? OpenAI donó 25 millones de dólares a un super PAC pro-Trump. Anthropic presionó por más regulación y contrató figuras cercanas a la administración Biden.
En Washington, la percepción de obediencia importa tanto como el código. Como lo que todo comandante espera de su soldado.
Pero lo más inquietante no es la rivalidad, es la opacidad. Cuando un “incidente de tiro erróneo” mató este fin de semana más de 150 escolares en Irán, muchos se preguntaron si la IA podría haber contribuido al error. Nadie fuera del Pentágono lo sabe, y el Pentágono no lo dirá.
Los errores militares no son nuevos. Lo nuevo es introducir modelos que aún alucinan datos en el corazón de la cadena de fuego. En Silicon Valley hablan de “alignment”, en el campo de batalla, el desalineamiento se mide en vidas.
La pregunta ya no es quién gana el contrato, es quién asume la responsabilidad cuando el algoritmo se equivoca.
