Por Fulvio Queirolo Pellerano 1, 30 de abril 2019

Reflexionar sobre instrumentos bélicos cuya principal característica se manifiesta en el grado de autonomía que regula sus decisiones, fuera del control humano, comenzó a constituir parte de la agenda y de las preocupaciones de la Organización de Naciones Unidas (ONU), a partir del año 2014. De esta manera se resolvió que la “Convención sobre Ciertas Armas Convencionales (CCW)2, con sede en Ginebra, iniciara discusiones sobre la conveniencia de regular y prohibir el empleo de LAWS en operaciones militares, convocando para este efecto a representantes gubernamentales y expertos internacionales, quienes luego de seis citas aún no logran un acuerdo vinculante, tal como se pretende alcanzar.

Las razones para que ello no se haya materializado a la fecha, pese a los buenos augurios iniciales, se basan en las diferentes visiones y opiniones referidas al alcance de la autonomía de ingenios letales, fuera del control humano. De esta forma se presentan cuestionamientos bajo la doctrina del Derecho Internacional Humanitario (DIH)3, norma que prohíbe y restringe el empleo de armas bajo ciertas condiciones, así como controversias éticas y morales circunscritas a la “capacidad” que tendría una máquina para decidir quien vive o muere.

Por otra parte, se presenta la visión opuesta que aboga por los beneficios que aportarían estos ingenios autónomos, en algunos casos letales, en un escenario donde las operaciones militares se ven complejizadas por la participación de un elevado número de actores (civiles y militares), profunda incertidumbre acompañada por la fricción del combate que somete al soldado a una guerra híbrida, en la cual todo Comandante o líder debe tomar decisiones acertadas y rápidas, buscando evitar o al menos minimizar efectos colaterales, tanto en combatientes como en no combatientes (población civil), dimensión en que prevalecerían los medios LAWS.
La definición establecida por el Comité Internacional de la Cruz Roja, facilita la comprensión conceptual y sobre la cual se debe invitar a la reflexión, al señalar lo que se debiese entender por LAWS:

Cualquier sistema de armas con autonomía en sus funciones críticas, es decir, un sistema de armas que puede seleccionar (buscar, detectar, identificar, rastrear o seleccionar) y atacar (usar la fuerza contra, neutralizar, dañar o destruir) objetivos sin intervención humana4.

Bajo esta sólida opinión se ubican varios países, los que, encabezados por EE.UU., China, Israel, Rusia y el Reino Unido, ya se encuentran desarrollando sistemas de armas con una autonomía significativa en las funciones críticas de selección y ataque de objetivos; mientras otros como Australia, Francia, España, Alemania, aunque un paso detrás de los anteriores, abogan por no prohibir este tipo de ingenios, basados en experiencias de uso bajo control humano5 .

Posición contraria es la mostrada por Austria y, hasta cierto punto, Bélgica, Irlanda y Suiza, junto a representantes de Brasil, Chile, Costa Rica, Cuba, Ecuador, México, Panamá y Perú, así como Argelia, Pakistán, Sudáfrica y el Movimiento de Países No Alineados, quienes mantienen sus preocupaciones circunscritas al ámbito moral, ético, político, legal, técnico y operacional, principalmente por el aumento de la autonomía en los sistemas de armas, propiciando una moratoria y prohibición preventiva6.

Argumentos a favor y en contra seguiremos percibiendo mientras se avanza en una definición que satisfaga a todos o a la mayoría de la comunidad internacional, por esta razón los juicios aportados por expertos y representantes en las sesiones de la CCW, “a priori” deberían focalizarse más en comprender el alcance de la IA puesta al servicio de la humanidad y desde esta dimensión concebir o bien sincronizar normas que sean aplicables a los sistemas autónomos para evitar colisionar con el DIH.

Chile, de manera paulatina se ha ido involucrando en la discusión, de hecho, en la Política Exterior 2030, difundida el año 20187, así como en el LDN-2017, respectivamente, se evidencia una posición destinada a “prohibir preventivamente toda manifestación que involucre el desarrollo y eventual uso de estos sistemas de armas”8.

Otorgar valor a esta particular visión nacional sobre LAWS ameritaría, desde la perspectiva de esta columna, un análisis más profundo para determinar los pros y contras que tal sentencia puede acarrear, en consecuencia, es factible presentar algunos antecedentes que permiten contribuir al debate nacional –o al menos sectorial– y luego adoptar una decisión fundada, siempre amparada en el DIH.

En el ámbito estratégico-militar se ha avanzado en el desarrollo de programas de adquisiciones de sistemas de armas “inteligentes”, que incluyen drones que pretenden dotar de ciertas capacidades estratégicas y operativas al componente militar. El objetivo de estos programas es contar con UAS que posean capacidades polivalentes, los que además de transportar armas puedan, entre otras funciones, captar imágenes y así entregar información actualizada y oportuna para la toma de decisiones, principalmente en situaciones de crisis y conflicto. Es así que se incorporaron, desde el año 2015, drones automatizados que cuentan con IA. Si bien no son autónomos, poseen características muy avanzadas. De esta forma, Chile se encuentra en sintonía, civil y militar, con las normas internacionales que rigen para sistemas automatizados controlados a distancia.

Respecto de sistemas autónomos letales, se considera que el país no ha profundizado y menos propiciado una discusión, de alto nivel, que recoja opiniones académicas y técnicas especializadas, que contribuyan con elementos prospectivos, además de los legales, que permitan adoptar una decisión sobre esta materia, la cual aún se encuentra en plena gestación y evolución, considerando que, en el eventual ejercicio soberano de expresar el rechazo al desarrollo y empleo de LAWS, nada asegura que desde el ámbito tecnológico-civil se avance en inteligencia autónoma la que pueda ser utilizada de manera muy diferente a lo establecido por el DIH.
Desde la perspectiva estratégica-operacional, el empleo de IA en sistemas autónomos se encuentra avalado por el grado de exposición a que estaría siendo sometido un combatiente desplegado en escenarios, donde lo complejo, híbrido y difuso son características que distinguen a los conflictos actuales y que ameritan acelerados análisis y rápidas acciones, sometiendo a prueba la decisión del Comandante que buscará, entre otras cosas, minimizar el riesgo de bajas (combatientes y no combatientes). Es esta la dimensión en que los ingenios tecnológicos demuestran ser más eficaces que el humano, presentando elevadas y mejores “prestaciones” (algoritmos de análisis de grandes volúmenes de información o Big Data).

Las consecuencias que se deriven pueden ser múltiples y variadas; desde ya algunas formas de empleo de las fuerzas está cambiando, evidenciando una creciente dependencia del binomio “hombre-máquina”, en consecuencia, se podría sostener que el DIH debiese sincronizarse bajo la lógica de los conflictos del futuro y no viceversa.

Aun cuando se logre un acuerdo vinculante al amparo de la CCW, voces de expertos han alertado sobre las dificultades que imperarían en los organismos estatales responsables de verificar que dicha prohibición se concrete, apuntando a una floreciente e ineficiente burocracia que no sería capaz de identificar ni menos transparentar el grado de incumplimiento de las normas establecidas, principalmente dado el nivel alcanzado por la industria civil en programas de robótica e IA aplicados en sistemas automatizados.

Finalmente, se hace cada vez más necesario lograr respuestas aceptadas por la sociedad, claras y definidas, al amparo de lo que se comprende por “jus in bello” y “jus ad bellum” (derecho en la guerra y empleo de la fuerza)9, de admitir dichas conceptualizaciones filosóficas, se facilita el alcance moral en la utilización de los medios LAWS en el campo de las operaciones militares, siempre con el patrocinio normativo del DIH.

 

1 Profesor de Academia en la asignatura de “Historia y Estrategia Militar”; Magíster en “Ciencia política, seguridad y defensa” de la Academia Nacional de Estudios Políticos y Estratégicos (ANEPE); magíster en “Ciencias Militares con mención en Planificación y Gestión Estratégica” (ACAGUE). En la actualidad dirige la oficina de estudios estratégicos de la ANEPE. En esta Columna de opinión se plasman las principales ideas extraídas de un trabajo de investigación desarrollado por el autor en el Centro de Investigaciones y Estudios Estratégicos (CIEE),y que próximamente será publicado en la Revista Política y Estrategia.
2CCW. “Convention on Certain Conventional Weapons”. Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), 11-15 April, 2016, Geneva. Disponible en: https://www.icrc.org/en/document/views-icrc-autonomous-weapon-system
3DIH. Protocolo I adicional a los Convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales, 1977. Disponible en: https://www.icrc.org/es/document/protocolo-i-adicional-convenios-ginebra-1949-proteccion-victimas-conflictos-armados-internacionales-1977#GUERRA
4Ibíd.
5IEEE.ES. “La inteligencia artificial aplicada a la defensa”. Documento de Trabajo 06/2018. Disponible en: http://www.ieee.es/Galerias/fichero/docs_trabajo/2019/DIEEET0-2018La_inteligencia_artificial.pdf.
6Ibíd.
7MINREL. Política exterior 2030. Primera Edición, enero 2018. Santiago, Chile. Disponible en: https://minrel.gob.cl/minrel/site/artic/20180201/asocfile/20180201161909/2030_politica_exterior_chile.pdf
8LDN-2017
9CICR. “jus in bello” y “jus ad bellum”. Disponible en: https://www.icrc.org/es/doc/war-and-law/ihl-other-legal-regmies/jus-in-bello-jus-ad-bellum/overview-jus-ad-bellum-jus-in-bello.htm