El Pentágono prevé papel más importante para la IA en la definición de objetivos militares

El Pentágono ha revisado discretamente su doctrina sobre cómo el ejército estadounidense selecciona sus objetivos en combate, abriendo así la puerta a que la inteligencia artificial tome decisiones cruciales en tiempos de guerra en el futuro.

Los principios de selección de objetivos revisados, aprobados en abril sin divulgación pública, prevén "sistemas en los que la IA inicia acciones con supervisión humana", evolucionando a partir de lo que describen como la práctica actual de tener "sistemas con intervención humana, en los que un ser humano inicia las acciones".

Bloomberg News revisó los últimos cambios, que no se habían reportado previamente. Si bien el documento no es confidencial, no se publica.

La revisión de las directrices de selección de objetivos es el ejemplo más reciente de la prisa del Pentágono por acelerar la adopción de la IA, una tecnología que ya está transformando los campos de batalla en conflictos de todo el mundo. Las capacidades de la IA, en rápida expansión, también plantean nuevas amenazas y dilemas éticos, poniendo a prueba la capacidad de las fuerzas armadas para mantenerse al día y respetar el derecho internacional humanitario.

"La velocidad de la guerra del futuro, junto con los avances de nuestros adversarios en inteligencia artificial, puede requerir que las fuerzas conjuntas adopten sistemas completamente autónomos", afirma la publicación.

Esta nueva y controvertida visión se incluye en un nuevo capítulo sobre el futuro de la selección de objetivos. La publicación en su conjunto describe los procedimientos oficiales para la denominada selección conjunta de objetivos: cómo las fuerzas armadas estadounidenses determinan a qué disparar en combate.

Ofrece contenido nuevo sobre "mitigación de daños a la población civil" apenas unas semanas después de que el Pentágono anunciara una investigación sobre un ataque a una escuela primaria situada junto a una base naval del Cuerpo de la Guardia Revolucionaria Islámica en la ciudad iraní de Minab, en el que murieron aproximadamente 120 niños.

No está claro si el documento refleja las lecciones aprendidas de la guerra con Irán. La actualización anterior se realizó en septiembre de 2024, antes de que Donald Trump volviera a la presidencia.

“Las actualizaciones de nuestra doctrina de selección de objetivos son el resultado de un proceso integral de varios años que incorpora las lecciones aprendidas de diversas fuentes, incluidos ejercicios, juegos de guerra y una evaluación prospectiva del futuro entorno de seguridad”, dijo un portavoz del Estado Mayor Conjunto en un comunicado enviado por correo electrónico.

El portavoz calificó las revisiones de "significativas" y citó tanto el nuevo capítulo sobre IA como el mayor énfasis en la mitigación de los daños a la población civil como "actualizaciones clave".

Al ser consultado para este artículo, un funcionario del Pentágono declaró: “El Departamento de Guerra garantiza que siempre haya un ser humano involucrado en las decisiones operativas críticas. Las tecnologías de IA del Departamento no seleccionan ni atacan objetivos de forma autónoma; aseguran que los comandantes sigan al mando de cada decisión, lo que les permite actuar con base en la información operativa más actualizada y precisa posible”.

El jueves por la mañana, el Pentágono anunció que desplegaría herramientas avanzadas basadas en inteligencia artificial para transformar la gestión de batallas, el apoyo a la toma de decisiones y la selección de objetivos.

“Estamos construyendo una red interoperable de agentes de IA que proporciona a los comandantes un acceso más rápido a mejor información, manteniendo al mismo tiempo el juicio humano como eje central de cada decisión de selección de objetivos”, declaró Cameron Stanley, director de IA y estrategia digital del Pentágono, en un comunicado en el que anunciaba dicho cambio.

Si bien las ediciones anteriores de la doctrina de objetivos conjuntos se han publicado en línea, a veces como resultado de solicitudes realizadas en virtud de la Ley de Libertad de Información, actualmente no hay nada más allá de la versión obsoleta de 2018 disponible para el público.

El documento recientemente revisado, la indicación más explícita hasta la fecha del interés del Pentágono en eliminar a los humanos de las decisiones de vida o muerte, deja claro que la IA reducirá el "ciclo sensor-tirador" y "aumentará el ritmo de las operaciones".

Al mismo tiempo, la nueva doctrina reconoce los riesgos de depender exclusivamente de la IA, afirmando que "plantea serios dilemas morales y legales y requiere el establecimiento de directrices éticas inequívocas para mitigar las preocupaciones sobre las decisiones mejoradas por la IA".

La doctrina actualizada no introduce esas directrices, pero un nuevo memorando presidencial sobre seguridad nacional publicado a principios de este mes dio al Pentágono 90 días para actualizar su política sobre autonomía en los sistemas de armas.

Actualmente, la política exige que los sistemas de armas autónomos y semiautónomos se sometan a revisiones para garantizar que estén diseñados para permitir que los comandantes y operadores ejerzan un nivel adecuado de criterio humano sobre el uso de la fuerza. Esto dista mucho de los objetivos de los activistas que buscan una mayor garantía de un control humano efectivo.

El secretario general de la ONU, Antonio Guterres, se encuentra entre quienes han pedido la prohibición de los sistemas de armas autónomas letales, calificándolos de "políticamente inaceptables" y "moralmente repugnantes".

Anthropic PBC, que proporciona sus herramientas de IA a las redes clasificadas del Pentágono, incluso para su uso en operaciones en Irán, tuvo un desacuerdo con la agencia debido a la insistencia de la compañía en que la tecnología aún no es lo suficientemente fiable para lo que el director ejecutivo, Dario Amodei, describió como "armas totalmente autónomas" y que los humanos deberían tomar la decisión final sobre el uso de la fuerza.

Por su parte, la nueva doctrina de selección de objetivos establece que las fuerzas armadas "deben actuar con cautela para evitar una dependencia excesiva de los resultados de la IA sin supervisión humana", señalando que los algoritmos de IA pueden procesar y analizar información de inteligencia "a una escala y velocidad que superan con creces la capacidad humana".

También describe un papel más importante para la IA en la mejora de la calidad de los datos de segmentación, ayudando a subsanar las deficiencias en la inteligencia y a automatizar los flujos de datos.

Varios expertos en segmentación han expresado su esperanza de que la interconexión de sistemas digitales y la incorporación de más IA —en lugar de menos— puedan ayudar a abordar y solucionar los problemas de segmentación en el futuro. Esto podría incluir, por ejemplo, realizar una verificación automatizada en sitios públicos, como Google Maps, para detectar posibles anomalías que requieran revisión humana.

“Los avances en IA mejorarán el proceso de selección de objetivos y permitirán enfrentamientos de precisión a larga distancia”, reza el documento del Pentágono, que afirma que los comandantes “necesitarán aprovechar el poder de la IA” para complementar el análisis humano, la toma de decisiones y la gestión de riesgos, con el fin de mantener la ventaja de la fuerza conjunta.

“La IA puede comparar rápidamente los datos recopilados de objetivos procedentes de múltiples plataformas para corroborar la veracidad de la información recogida”, continúa el documento.

Sin embargo, el último documento conjunto sobre la selección de objetivos también añade una advertencia en un apéndice dedicado al "desafío" histórico de integrar la automatización en la selección de objetivos, afirmando que "la automatización no sustituye el pensamiento humano ni las comunicaciones proactivas".

Independientemente de la herramienta automatizada que se utilice, se indica que "los comandantes son responsables de las prioridades, los efectos y los plazos" dentro de su área operativa, así como del cumplimiento de la ley de la guerra y las normas de enfrentamiento militares estadounidenses pertinentes.