El Pentágono ha modificado discretamente su doctrina sobre la selección de objetivos militares, abriendo la puerta a que la inteligencia artificial (IA) desempeñe un papel más protagónico en decisiones críticas durante conflictos bélicos. Los cambios, aprobados en abril sin divulgación pública, fueron revisados por Bloomberg News y representan un avance significativo hacia la automatización de decisiones letales.
De la intervención humana a la supervisión humana
La doctrina revisada establece una evolución en el uso de la IA: de sistemas con "intervención humana", donde una persona inicia las acciones, a sistemas con "supervisión humana", en los que la IA puede iniciar acciones mientras un humano supervisa. Este cambio refleja la urgencia del Pentágono por acelerar la adopción de la IA, una tecnología que ya transforma los campos de batalla globales.
"La velocidad de la guerra del futuro, junto con los avances de nuestros adversarios en inteligencia artificial, puede requerir que las fuerzas conjuntas adopten sistemas completamente autónomos", señala el documento, citado por Bloomberg.
Nuevo capítulo sobre el futuro de la selección de objetivos
La publicación incluye un capítulo inédito sobre el futuro de la selección de objetivos, que describe los procedimientos oficiales para determinar qué blancos atacar. También incorpora contenido sobre "mitigación de daños a la población civil", semanas después de que el Pentágono investigara un ataque a una escuela en Minab, Irán, donde murieron aproximadamente 120 niños. No está claro si el documento refleja lecciones de la guerra con Irán.
La actualización anterior databa de septiembre de 2024, antes del regreso de Donald Trump a la presidencia. Un portavoz del Estado Mayor Conjunto calificó las revisiones de "significativas" y destacó el nuevo capítulo sobre IA y el énfasis en la protección de civiles como "actualizaciones clave".
Política oficial: supervisión humana, pero con ambigüedad
Un funcionario del Pentágono declaró: "El Departamento de Guerra garantiza que siempre haya un ser humano involucrado en las decisiones operativas críticas. Las tecnologías de IA del Departamento no seleccionan ni atacan objetivos de forma autónoma; aseguran que los comandantes sigan al mando de cada decisión". Sin embargo, la doctrina revisada plantea escenarios donde la IA inicia acciones, lo que genera dudas sobre el alcance real de la supervisión humana.
El jueves, el Pentágono anunció el despliegue de herramientas avanzadas de IA para transformar la gestión de batallas y la selección de objetivos. Cameron Stanley, director de IA y estrategia digital del Pentágono, afirmó: "Estamos construyendo una red interoperable de agentes de IA que proporciona a los comandantes un acceso más rápido a mejor información, manteniendo al mismo tiempo el juicio humano como eje central de cada decisión de selección de objetivos".
Riesgos y dilemas éticos
La doctrina reconoce los riesgos de depender exclusivamente de la IA: "plantea serios dilemas morales y legales y requiere el establecimiento de directrices éticas inequívocas para mitigar las preocupaciones sobre las decisiones mejoradas por la IA". Sin embargo, no introduce esas directrices. Un nuevo memorando presidencial de seguridad nacional otorgó al Pentágono 90 días para actualizar su política sobre autonomía en sistemas de armas.
Actualmente, la política exige revisiones para garantizar que los sistemas autónomos y semiautónomos permitan "un nivel adecuado de criterio humano sobre el uso de la fuerza". Esto contrasta con las demandas de activistas que buscan un control humano efectivo. El secretario general de la ONU, Antonio Guterres, ha pedido prohibir los sistemas de armas autónomas letales, calificándolos de "políticamente inaceptables" y "moralmente repugnantes".
Desacuerdos con proveedores de IA
Anthropic PBC, que provee herramientas de IA al Pentágono para operaciones en Irán, expresó su desacuerdo con la agencia. Su CEO, Dario Amodei, sostuvo que la tecnología aún no es lo suficientemente fiable para "armas totalmente autónomas" y que los humanos deben tomar la decisión final sobre el uso de la fuerza.
Beneficios potenciales de la IA en la selección de objetivos
La doctrina destaca que la IA puede "comparar rápidamente los datos recopilados de objetivos procedentes de múltiples plataformas para corroborar la veracidad de la información recogida". También puede ayudar a subsanar deficiencias en inteligencia y automatizar flujos de datos. Expertos en selección de objetivos esperan que la interconexión de sistemas digitales y más IA puedan abordar problemas futuros, como la verificación automatizada en sitios públicos (ej. Google Maps) para detectar anomalías que requieran revisión humana.
"Los avances en IA mejorarán el proceso de selección de objetivos y permitirán enfrentamientos de precisión a larga distancia", afirma el documento, que insta a los comandantes a "aprovechar el poder de la IA" para mantener la ventaja de la fuerza conjunta.
Advertencias y límites
El documento agrega una advertencia en un apéndice sobre el desafío histórico de integrar automatización: "La automatización no sustituye el pensamiento humano ni las comunicaciones proactivas". Independientemente de la herramienta, "los comandantes son responsables de las prioridades, los efectos y los plazos" dentro de su área operativa, así como del cumplimiento de la ley de la guerra y las normas de enfrentamiento militares estadounidenses.
