Este artículo ha sido publicado inicialmente en la Revista Seguridad y Poder Terrestre
Vol. 1 N.° 2 (2022): Octubre – Diciembre
DOI: https://doi.org/10.56221/spt.v1i2.17

Resumen

El despliegue y el uso de los sistemas de armas autónomas letales (AAL) con autodeterminación en sus funciones críticas pueden impactar en la seguridad internacional, al iniciar una nueva carrera armamentista, promover la escalada de violencia no premeditada y reducir el umbral del uso legítimo de la fuerza para los tomadores de decisiones. En ese sentido, en este artículo se identifican algunas de las aplicaciones militares asignadas o potencialmente asignables a las AAL, y se analizan los desafíos para su empleo en los conflictos del siglo XXI.

Palabras Clave: Armas Autónomas, Medios de Defensa, Medios de Ataque, Inteligencia Artificial.

Introducción

La guerra es una constante en la historia de la evolución humana, siendo considerada como el último recurso para dar fin a una disputa entre dos Estados. Sin embargo, de acuerdo con el marco legal internacional vigente, las partes beligerantes deben restringir el empleo de la fuerza, evitar el uso desproporcionado de la acción militar, y minimizar los daños colaterales. En ese contexto, los Estados han utilizado los progresos tecnológicos para mejorar la precisión y efectividad de las armas, modificar la forma de hacer la guerra, y reescribir sus doctrinas militares. Es, precisamente, debido a esos avances y modificaciones tecnológicas en los medios bélicos disponibles que surgen los sistemas de armas con un cierto grado de autonomía en sus funciones críticas de selección y ataque en contra de objetivos. Esta semiautonomía o autonomía plena de las armas permite reflexionar sobre las potenciales aplicaciones e implicaciones de dichos medios para hacer la guerra, ya que no solamente se utilizan como medios de defensa sino, también y con mayor frecuencia, como armas ofensivas.

Evidentemente, las armas autónomas letales (AAL) son instrumentos bélicos que se han visto beneficiados con el progreso de la tecnología y de la inteligencia artificial. No obstante, han traído consigo nuevos escenarios de conflicto que suponen desafíos importantes para el marco jurídico vigente y para los organismos internacionales, debido a su uso intensivo y a la difuminación de las líneas entre fuerzas militares, actores no estatales y no combatientes. Por ello, la Organización de las Naciones Unidas ha iniciado esfuerzos para regular el uso de las AAL e, incluso su Secretario General, António Guterres, ha expresado que las máquinas con capacidad para decidir sobre la vida o la muerte de una persona son algo “políticamente inaceptable, moralmente repugnante y deben estar prohibidas por el derecho internacional.”^[1]

A fin de exponer las ideas sobre dicha temática, el análisis realizado en este artículo integra tres secciones que muestran el debate existente sobre la definición de las AAL, su clasificación como medios de defensa/ataque, y los desafíos que se enfrentan para su empleo en los conflictos del siglo XXI.

¿Qué son las Armas Autónomas Letales (AAL)?

Actualmente, no existe una sola definición globalmente aceptada para las AAL. Sin embargo, hay cierta convergencia internacional respecto a sus características, usos, capacidades y peligrosidad. Como consecuencia de esta carencia, algunos organismos internacionales se esfuerzan por encontrar un concepto universalmente aceptado y de respuesta a las preocupaciones sobre derechos humanos, seguridad y ética que han surgido con el uso de las AAL como armas de defensa/ataque. Por ejemplo, la Oficina de las Naciones Unidas para los Asuntos de Desarme (UNODA, por sus siglas en inglés) establece que las AAL son sistemas de armas que emplean autonomía relacionada con un ataque, en las “funciones críticas” para la selección y embestida de objetivos. Definición que, si bien menciona que algunas funciones en dichas armas son autónomas, no reconoce que todas las funciones lo sean.

Por su parte, y como un intento por encontrar una definición consensuada, los expertos gubernamentales que participaron en la Convención sobre Ciertas Armas Convencionales (CCW, por sus siglas en inglés) en el año 2016, retomaron la definición propuesta por el Comité Internacional de la Cruz Roja (CICR) que amplía la propuesta de la UNODA y define a las AAL como cualquier sistema de armas “que puede seleccionar y atacar objetivos de manera independiente.”^[2] Asimismo, afirma que las AAL “son sistemas de armas con autonomía en sus ‘funciones críticas’ de adquisición, seguimiento, selección y ataque de los objetivos.”^[3]

Consecuentemente, la UNODA, el Grupo de Expertos Gubernamentales (GEG) y el CICR definen a las AAL basados en sus funciones autónomas de detección, identificación y ataque de los objetivos. De igual forma, dichos organismos mencionan que las funciones críticas incluyen la detección, identificación, seguimiento, selección y uso de la fuerza para neutralizar, dañar o destruir a los objetivos designados; no obstante, recalcan que será bajo el control humano. Para tal efecto, la CCW tiene dos normas consuetudinarias del Derecho Internacional Humanitario (DIH)^[4] y cuatro protocolos que rigen el uso de armas específicas.^[5] Asimismo, el trabajo del GEG ha posibilitado el establecimiento de once principios rectores para el uso defensivo/ofensivo de las AAL.

Por lo tanto, gracias a las consideraciones técnicas, académicas, jurídicas y políticas, existe un debate internacional que busca definir realidades y riesgos, así como actores y visiones contrapuestas sobre las AAL. Evidentemente, las AAL exigen que se busque la mejor alternativa costo-beneficio en donde converjan los intereses de los actores internacionales para avanzar en la construcción de un marco jurídico internacional y de una definición universal. Sin embargo, aunque la participación de la iniciativa privada es importante, son los representantes de los Estados -a través de los organismos internacionales- los responsables de encontrar y generar consensos para regular las AAL a partir del diálogo y la negociación.

Usos ofensivos y defensivos de las AAL

El enfrentamiento armado entre Estados es la última opción para dirimir divergencias. Aun así, la guerra es una constante en la historia del ser humano y una actividad que se ve modificada con la inclusión de las tecnologías emergentes en cada período del desarrollo tecnológico. En ese contexto, las actuales aplicaciones militares que se les dan a las AAL pueden clasificarse en ofensivas y defensivas.

Considerando que el mundo se encuentra experimentado lo que el científico, empresario y escritor taiwanés Kai-Fu Lee denomina la Tercera Revolución de la Guerra^[6] (caracterizada por el uso de armas con inteligencia artificial),^[7] a continuación se describen algunas de las tareas defensivas y ofensivas que pueden realizar las AAL, incluyendo sus diversas capacidades y utilidad en el sector militar como medios para demostrar poder, brindar protección, reducir las bajas, mitigar los costos, alcanzar el éxito, garantizar la seguridad y ganar la voluntad de la sociedad.

Aplicaciones defensivas

Algunas de las visiones estratégicas establecen que la invencibilidad radica en la defensa y en las oportunidades de alcanzar el éxito en el ataque. Esto justifica el uso prioritariamente defensivo de las AAL para vigilar las fronteras, bloquear ataques con misiles, destruir explosivos improvisados, así como para mantener un dispositivo merodeando en el cielo en espera de la mejor oportunidad para inutilizar las defensas aéreas o hacer blanco en objetivos de oportunidad. No obstante, cabe recordar que gran parte de los medios defensivos autónomos pueden ser reconfigurados para actuar como medios de ataque.

Las AAL tienen un largo historial como medios de defensa contra misiles. Actualmente, los únicos sistemas totalmente automatizado para la defensa contra misiles, artillería y morteros son: (1) el programa israelí “Cúpula de Hierro” (Iron Dome), (2) los sistemas antimisiles estadounidenses denominados “Defensa de Área de Gran Altitud Terminal” (utilizados para derribar misiles balísticos​ de corto, mediano e intermedio alcance), y (3) los sistemas de defensa antiaéreos rusos S-400 “Triumph.” Asimismo, en su empleo contra explosivos improvisados, el “Sistema de Acción Directa de Reconocimiento de Observación de Armas Especiales” (SWORDS, por sus siglas en inglés) es un buen ejemplo de AAL. El SWORDS fue el primer vehículo terrestre no tripulado con IA que estaba armado, pero bajo el control remoto del ser humano. Sin embargo, si se incluyera tecnología de última generación, podría convertirse fácilmente en una AAL ofensiva.

Por otra parte, el empleo de las AAL como armas merodeadoras data del año 1980, al formar parte de la Supresión de las Defensas Aéreas Enemigas^[8] (SEAD, por sus siglas en inglés).^[9] Las AAL de esta categoría son armas autónomas del tipo “dispara y olvida” que combinan las capacidades de los drones y los misiles guiados. Algunos de los productores y usuarios de armas merodeadoras son Turquía, Israel,^[10] Taiwán, China, Rusia y Estados Unidos.^[11] Aunque existen muchos más, son una clara muestra de las capacidades que se han ido desarrollando en el sector de AAL a nivel mundial.

Igualmente, el gobierno de Corea del Sur implementó el sistema robot SGR-1 para la protección de su frontera con Corea del Norte, particularmente en la zona desmilitarizada.^[12] El SGR-1 puede detectar objetivos a kilómetros de distancia, información que es recibida en un centro de control para su análisis y posterior toma de decisiones por parte de un humano. Es claro que, en cualquier situación volátil, la orden de disparar no es automática, depende de la decisión racional tomada por un humano. Esta es una pequeña muestra de la utilidad defensiva de las AAL, por lo que –seguidamente- se brindan algunos detalles de su potencial ofensivo.

La mejor defensa es el ataque

Hoy en día se sabe que las AAL pueden ser empleadas como medios para cumplir con las misiones denominadas “aburridas, sucias y peligrosas” (“3 D” por sus siglas en inglés). No obstante, debido a su menor tamaño y a la multiplicidad de funciones que pueden realizar, las tácticas y maniobras se han adaptado a los nuevos escenarios, privilegiándose el ataque en masa. Esto se conoce como ataques en enjambres o jaurías, que conlleva serias inquietudes sobre el control humano de los ataques coordinados por las propias AAL.

De lo anterior se desprende que, con mayor frecuencia, las AAL se empleen para realizar acciones ofensivas a fin de: (1) dirigir municiones contra blancos seleccionados, (2) realizar bombardeos en zonas calientes, (3) eliminar terroristas, (4) acabar con blancos de oportunidad, (5) mantener armas merodeadoras al acecho vigilando un área específica para posteriormente atacar, (6) inhabilitar sistemas de radar, (7) destruir instalaciones estratégicas o artillería antiaérea, (8) vigilar y controlar el espacio aéreo, (9) atacar vehículos blindados, (10) neutralizar enemigos de forma personalizada, (11) realizar misiones en entornos urbanos, (12) desempeñar funciones de acompañamiento e incluso de combate aéreo, y -por supuesto- (13) detectar, identificar, seguir y atacar cualquier tipo de objetivo. Por consiguiente, se vienen generando preocupaciones en la sociedad internacional por los desafíos implícitos en el uso de estas armas.

Desafíos para el empleo de las AAL en los conflictos futuros

En los conflictos del presente siglo, uno de los desafíos clave del uso de AAL se centra en encontrar la forma más eficiente para que el humano preserve -en todo momento- el control sobre las decisiones de vida o muerte. Esta situación viene generando un extenso debate acerca de las cuestiones de autoridad y responsabilidad en los nuevos escenarios de la guerra. Es decir, existe una preocupación internacional por evitar que las AAL sean plenamente autónomas y causen la muerte ilícita de personas inocentes. Consecuentemente, se requiere encontrar un punto medio en el empleo de la inteligencia artificial para el desarrollo de las AAL.

La construcción de nuevas y mejores armas accionadas por inteligencia artificial requiere reflexionar sobre cuestiones éticas, ya que tanto la autoridad como la responsabilidad sobre la vida y la muerte de personas le serán delegadas a una “máquina inteligente.” Incluso, debido a la importancia de este tema, han surgido algunas nuevas disciplinas de estudio como la roboética^[13] y la ética de las máquinas. Bajo estos supuestos, ¿Podrá el ser humano permitir que un autómata con inteligencia artificial decida su destino?

Asimismo, se requiere preservar la seguridad internacional y evitar una nueva carrera armamentista. En ese sentido, se hace necesario que los Estados establezcan algún acuerdo para regular el uso de las armas autónomas como instrumentos de ataque y definir un umbral de respuesta proporcional. De lo contrario, el uso intensivo de las AAL en los conflictos presentes y futuros motivará una carrera armamentista para encontrar medidas y contramedidas efectivas, a fin de contrarrestar las capacidades de los potenciales oponentes para diseñar, construir y poner en acción las AAL en un ciclo de nunca acabar.

Finalmente, salvaguardar la ciberseguridad en las AAL será un tema esencial para el uso seguro y preciso de estas armas, en un escenario en donde el ciberespacio es protagonista. De no ser así, se corre el riesgo de que se generen mayores conflictos debido a la pérdida del mando y control de las AAL, a la militarización del ciberespacio, y al desarrollo de ciberarmas autónomas.

Conclusiones

Como se ha podido mostrar en este artículo, se requiere una definición universalmente aceptada para AAL, que otorgue oportunidad para la medición y evaluación del cumplimiento del DIH. El empleo de las AAL en los conflictos del presente siglo se ve limitado únicamente por el ingenio humano, ya que las posibilidades son numerosas y se alejan del papel tradicional de actuar solamente en aquellas tareas “aburridas, sucias y peligrosas.” En ese sentido, todo parece indicar que las AAL realizarán acciones (defensivas y ofensivas) precisas, limitadas, reguladas y controladas por los designios humanos.

Asimismo, el despliegue y el uso de los sistemas de AAL con autonomía en sus funciones críticas pueden impactar en la seguridad internacional, al iniciar una nueva carrera armamentista, promover la escalada de la violencia no premeditada y reducir el umbral del uso legítimo de la fuerza para los tomadores de decisiones. Evidentemente, las AAL no reproducirán algunos comportamientos erróneos de los seres humanos como atacar por revancha a civiles, violar mujeres indefensas o actuar irracionalmente debido al miedo. Sin embargo, se deben enfrentar dilemas morales relacionados con la toma de decisiones sobre la vida y la muerte, así como cuestionamientos sobre qué tan justa es la guerra a control remoto.

Notas Finales

1. Organización de las Naciones Unidas, “Machines Capable of Taking Lives without Human Involvement Are Unacceptable, Secretary-General Tells Experts on Autonomous Weapons Systems”, un.org (25 de marzo de 2019), https://www.un.org/press/en/2019/sgsm19512.doc.htm (Consultado el 6 de junio de 2022). ↑
2. International Committee of the Red Cross, “Autonomous Weapon Systems: Technical, Military, Legal and Humanitarian Aspects”, icrc.org (Ginebra: noviembre de 2014), 5, https://www.icrc.org/en/document/report-icrc-meeting-autonomous-weapon-systems-26-28-march-2014 ↑
3. Ibíd. ↑
4. Las normas son: (1) la prohibición de emplear armas que tienen efectos indiscriminados y (2) la prohibición de emplear armas que causan daños superfluos. Información extraída de: International Committee of the Red Cross, “Convención de 1980 sobre ciertas armas convencionales”, cicr.org (Ginebra: marzo de 2002), https://www.icrc.org/es/doc/assets/files/other/1980_armas_convencionales.pdf ↑
5. Los protocolos son: Protocolo I (Fragmentos no Localizables), Protocolo II (Minas, armas trampa y otros artefactos), Protocolo III (Armas incendiarias) y Protocolo IV (Armas láser cegadoras), Ibíd. ↑
6. Las dos anteriores revoluciones hicieron uso de la pólvora y las armas nucleares, respectivamente. ↑
7. Kai-Fu Lee, “The Third Revolution of Warfare. First there was gunpowder. Then nuclear weapons. Next: artificially intelligent weapons”, The Atlantic (11 de septiembre de 2021) https://www.theatlantic.com/technology/archive/2021/09/i-weapons-are-third-revolution-warfare/620013/ (Consultado el 1 de junio de 2022). ↑
8. Christopher Bolkcom, “Military suppression of enemy air defenses (SEAD): Assessing future needs”, CRS Report for Congress (11 de mayo de 2005), https://sgp.fas.org/crs/weapons/RS21141.pdf ↑
9. Estas armas también son conocidas como drones kamikaze por obvias razones. ↑
10. Israel es -por mucho- el Estado que cuenta con mayor número de fabricantes de armas merodeadoras. ↑
11. Algunos ejemplos de estas armas merodeadoras son: Turquía (Kargu, Alpagu y Togan), Israel (Harpy y Harop), Taiwan (Chien Hsiang), China (ASN-301), Rusia (Lancet) y Estados Unidos (Switchblade). ↑
12. Para más información consultar: Mark Prigg, “Who goes there? Samsung unveils robot sentry that can kill from two miles away”, dailymail (15 de septiembre 2014), https://www.dailymail.co.uk/sciencetech/article-2756847/Who-goes-Samsung-reveals-robot-sentry-set-eye-North-Korea.html. El gobierno de Corea del Sur contó con la participación de la compañía Samsung Techwin. ↑
13. Podría entenderse como la ética para una inteligencia artificial con principios morales como la justicia, la igualdad y la bondad. ↑