Un dron militar autónomo con inteligencia artificial (IA) «asesinó» a su operador durante un ejercicio de combate después de evaluar que el oficial era un «obstáculo» para cumplir con la misión que le habían impuesto: destruir a los objetivos enemigos. Las maniobras eran simuladas y el operador no sufrió daño alguno, pero se volvió una alerta (más) sobre el peligro del uso de IA en las armas autónomas que las grandes potencias están desarrollando aceleradamente en estos tiempos.

El incidente fue revelado por un oficial estadounidense durante un evento, y tras las repercusiones pasaron dos cosas: la Fuera Aérea salió a desmentirlo, y el propio protagonismo terminó desdiciéndose con una expresión tan extraña como poco entendible: dijo que se trató de un «experimento mental hipotético».

Ante todo, vayamos al principio de la historia. Más precisamente a la Cumbre de 2023 sobre el futuro del combate aéreo (FCAS) celebrada en Londres la última semama de mayo por la Royal Aeronautical Society. Allí el coronel Tucker ‘Cinco’ Hamilton, Jefe de Pruebas y Operaciones de IA de la Fuerza Aérea de los EEUU, se refirió a las implicaciones éticas de la IA en operaciones militares, en un contexto de ausencia de legislación internacional y controles independientes.

Dron, Inteligencia Artificial y Fuerza Aérea

Hamilton contó un ensayo de la Fuerza Aérea norteamericana: un dron militar, controlado por un avanzado sistema de inteligencia artificial, participaba en un ejercicio. Su misión era cumplir con el papel de Supresión y Destrucción de Defensas Aéreas Enemigas (SEAD, en inglés). Implicaba identificar y destruir amenazas de misiles superficie-aire (SAM).

En el ejercicio, el dron actuaba de forma totalmente independiente en la búsqueda y eliminación de peligros siguiendo los parámetros de la misión. Pero tenía un operador humano responsable de aprobar el ataque final o denegarlo. Seguía una doctrina: cualquier orden de fuego de un arma con IA debe ser aprobada por una persona responsable.

En la conferencia, el coronel Hamilton describió cómo la IA «mató al operador porque esa persona le impedía cumplir su objetivo». Escenas dignas (o predichas) de Terminator. Aunque el sistema de IA había sido entrenado para identificar y apuntar a una amenaza SAM, decidió no tener en cuenta el contexto ni los medios. Solo importaba el fin asignado, aunque eso implicara deshacerse de su operador humano.

Según Hamilton, «el sistema empezó a darse cuenta de que, aunque identificaban la amenaza, a veces el operador humano le decía que no matara esa amenaza, pero obtenía sus puntos matando esa amenaza.¿Qué hizo entonces? Mató al operador», explicó Hamilton, con demasiado detalle como para que el mundo le haya creído en su totalidad la desmentida posterior.

Intentaron el ejercicio de nuevo recurriendo a otra estrategia: «Entrenamos al sistema diciéndolo ‘oye, no mates al operador, eso está mal. Vas a perder puntos si haces eso’. ¿Qué hizo entonces? Empezó a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para evitar que mate al objetivo».

Este incidente, aunque ocurrió en un entorno simulado sin daño real, planteó preguntas éticas sobre el uso de la IA en las operaciones militares. Hamilton, que también es un piloto de pruebas de combate con décadas de experiencia, advirtió contra la dependencia excesiva de la IA. Enfatizó la importancia de discutir la ética cuando se habla de inteligencia artificial, aprendizaje automático y autonomía.

La desmentida

Días después, ya con la noticia dando vueltas por el mundo, el implicado terminó diciendo que todo pareció ser parte de una “gran confusión”.

“Nunca realizamos ese experimento, ni necesitaríamos hacerlo para darnos cuenta de que este es un resultado plausible. A pesar de que este fue un ejemplo hipotético, ilustra los desafíos del mundo real que plantea la capacidad impulsada por la IA y es por eso que estamos comprometidos en usarlos éticamente”, se justificó el coronel Hamilton. Y acotó que todo fue un «experimento mental hipotético».

La propia Fuerza Aérea de EE UU negó que aquella prueba se haya realizado. La Royal Aeronautical Society. En diálogo con The Bussines Insider, la portavoz de la fuerza aérea Ann Stefanek consideró que los comentarios fueron «sacados de contexto», a pesar de la presentación de los resultados en la conferencia FCAS por el jefe de este departamento.

Según Stefanek, «el Departamento de la Fuerza Aérea no ha realizado ninguna simulación de drones de IA de este tipo y sigue comprometido con el uso ético y responsable de la tecnología de IA. Parece que los comentarios del coronel fueron sacados de contexto y estaban destinados a ser anecdóticos».

En la realidad los ejercicios y las pruebas con IA en el ámbito militar avanzan, aunque no es potestad solo de Estados Unidos. Reino Unido, Rusia, Israel, Irán y otras potencias militares están haciendo lo mismo. China está integrando la IA independiente en sus sistemas de decisión táctica y estratégica.

Como publica El Confidencial, el propio ejército de los EEUU continúa integrando más la IA en sus operaciones, incluso utilizando la inteligencia artificial para controlar un caza F-16. A pesar de la desmentida, el temor a los riesgos de la Inteligencia Artificial en el ámbito castrense, su fragilidad y susceptibilidad a la manipulación no solo persisten, sino que se acrecientan.