El rápido avance tecnológico en el campo de la Inteligencia Artificial (IA) en los últimos años, ha afectado de forma transversal a todos los sectores productivos. En ese sentido, distintos actores en la industria militar se encuentran en vías de producir Sistemas de Armas Autónomos (SAA),^* a pesar del fuerte lobby que intenta prohibir su producción y desarrollo o al menos restringir su uso. No obstante, el progreso cada vez más acelerado en equipos autónomos basados en una IA cada vez más potente—empujada por sectores como la industria automotriz y la robótica—hacen que el desarrollo de SAA parezca inevitable más que una mera posibilidad.

En el presente artículo, se presenta un breve recuento de los avances tecnológicos que han allanado el camino hacia el desarrollo de SAA y los principales puntos que han abierto el debate en torno a ellos, así como la relevancia de la IA en el ámbito militar.

La evolución en la industria armamentística

A lo largo de la historia, los sistemas de armas han evolucionado junto a los avances en la ciencia y tecnología, alterando no solo el armamento empleado, si no que además el modo de combatir tanto a nivel táctico como operacional. En particular, la irrupción de nuevas tecnologías que han generado impacto con efectos estratégicos es lo que se define como revolución en asuntos militares.^* (Gray, 2012).

Esta tendencia se vio acelerada de forma significativa posterior a la revolución industrial, pero se ha mantenido de manera exponencial con el paso del tiempo: desde la guerra de Crimea a mediados del siglo XIX, considerada por muchos como la primera guerra moderna (Agnew, 1973) debido al empleo de rifles, trenes y el telégrafo (Bektas, 2017); a la mecanización y uso extensivo de artillería pesada, tanques y acorazados durante la Primera Guerra Mundial (Gray, 2012); a la construcción masiva de submarinos y aviones de combate durante la Segunda Guerra Mundial (Salavrakos, 2016); esta revolución en la industria armamentística fue solo el preámbulo de una transformación aún mayor.

La segunda mitad del siglo XX trajo consigo cambios radicales en la tecnología militar. A nivel estratégico, nada fue más significativo que el desarrollo de la bomba atómica, haciendo del potencial nuclear el mayor factor de disuasión entre las principales potencias, como lo fue durante la Guerra Fría bajo el concepto de “destrucción mutua asegurada” (Kissinger, 2014), del mismo modo en que hoy sigue influenciando el balance de poder global, con repercusiones en la estabilidad y seguridad mundial.

Los misiles de crucero Tomahawk han sido empleados en más de 2.300 oportunidades en misiones de combate.

La historia probaría que, tras la caída del muro de Berlín y posterior disolución de la Unión Soviética, la tan ansiada paz mundial continuaría siendo una utopía. Los distintos conflictos armados de la década de los 90 del siglo pasado, señalarían el debut de nuevas armas cuya tecnología permitió mayores alcances con precisión casi milimétrica, como fue el empleo de misiles Tomahawk durante la guerra del Golfo de 1991 y los bombardeos de la OTAN con bombas guiadas por láser durante el conflicto en la ex Yugoslavia. Del mismo modo, el empleo de satélites ampliaría las capacidades de mando y control de forma extraordinaria y la evolución en el desarrollo de microprocesadores y otras áreas de la computación permitió cada vez mayor proceso de datos para beneficio táctico, llegando al masivo empleo de vehículos no tripulados y otros tipos de robots en los conflictos de Afganistán e Iraq durante las últimas décadas.

Como puede observarse, en tan solo un siglo, el modo de hacer la guerra ha experimentado cambios tecnológicos radicales, los cuales han sido impulsados por las principales potencias, en particular EE.UU., pero con creciente competencia por parte de China. Consecuentemente, es de esperar que el interés de los distintos actores en la adquisición y desarrollo de mejores capacidades militares siga creciendo. En ese sentido, la IA juega un rol fundamental.

Siguiendo esa tendencia, nuevos avances en ciencia y tecnología se acercan cada vez más al desarrollo de SAA. A pesar de estar aún en fase de prototipo, esto no ha impedido que se genere un intenso debate en relación a los aspectos éticos y legales asociados a su producción y empleo.

La eventualidad de que su desarrollo se materialice parece ser una cuestión de tiempo, lo que se espera traerá consigo consecuencias revolucionarias en todos los niveles de conducción, incluido no solo el táctico y operacional, si no que también con efectos político-estratégicos (Altmann & Sauer, 2017).

Sistemas de armas autónomos: ¿Ciencia ficción o realidad?

La principal característica que diferencia al armamento actualmente en uso—con distintos grados de automatización—y los SAA es su total automatización, la cual se basa en la delegación de tareas—previamente ejecutadas por un humano—a una máquina (Scharre, 2016, p. 3).

En base a lo anterior, SAA pueden definirse como “cualquier sistema capaz de seleccionar blancos y emplear fuerza potencialmente letal sin supervisión ni participación humana directa en la toma de decisiones”^* (Asaro, 2012, p. 690).

Del mismo modo, el año 2012, el Pentágono definió SAA como sistemas de armas que “una vez activados […] pueden seleccionar y atacar blancos sin intervención adicional por parte de un operador humano” (Altmann & Sauer, 2017, p. 120). Posteriormente, en 2016, el Defense Science Board (DSB) estableció que “para ser autónomo, un sistema debe tener la capacidad de generar y seleccionar de forma independiente entre diferentes cursos de acción para lograr objetivos basado en su conocimiento y comprensión del mundo, de si mismo, y de la situación”^* (DSB, 2016, p. 4).

Si bien el desarrollo de SAA aún no se ha concretado, el campo de la IA ha progresado de forma significativa en los últimos años (e.g. Singer, 2009; Stone et al., 2016) y la creciente demanda hace indicar que los SAA están en el proceso de ser desarrollados en el mediano plazo, algunos incluso llegando a afirmar que se podría materializar para el año 2025 (Hammond, 2015). Lo anterior se debe a que la tecnología asociada a éstos se desarrolla principalmente en el sector civil, por lo que están sujetas a proliferar (Symonds, 2018). Un ejemplo claro es la carrera por el desarrollo de vehículos autónomos por parte de diferentes miembros del rubro automotriz. Por citar un caso, el gigante alemán BMW ha proyectado para el año 2021 tener a la venta su primer modelo comercial de automóvil autónomo, en lo que definen como Nivel 3 de autonomía, es decir, manteniendo la posibilidad de que el conductor humano tome el control del vehículo, pero con la capacidad de realizar la mayor parte de las funciones sin mayor supervisión. No obstante, la compañía ha propuesto alcanzar el quinto nivel—autonomous driving, “sin manubrio ni pedales”—para posterior al año 2025.^* Similar es el caso de empresas como Tesla, Ford y Google que también se encuentran desarrollando sus propios prototipos en asociación con otras empresas.

Los avances tecnológicos han acompañado de similar forma la evolución de los sistemas de armas. Un ejemplo actual de la relación entre el mundo civil y militar en el desarrollo tecnológico es el diseño de vehículos no tripulados multipropósito para el apoyo de tropas desplegadas en zonas de conflicto. El Packbot, uno de los vehículos terrestres no tripulados (UGV) más empleados por el ejército estadounidense actualmente, fue inicialmente desarrollado por iRobot (actualmente, Endeavor Robotics), el mismo creador del popular robot-aspiradora Roomba, hoy presente en miles de hogares.

Igualmente, el uso extensivo de aeronaves no-tripuladas (UAV, drones) y otros vehículos no tripulados durante los conflictos armados recientes se ha visto acrecentado de forma exponencial, reformando el modo de combatir debido a las implicancias táctico-tecnológicas que su empleo representa (Rossiter, 2018).

El mercado de UAV ya se encuentra ampliamente cubierto con un sinnúmero de prototipos. Por citar tan solo algunos de los modelos más empleados, el pequeño y portátil RQ-11 Raven, de AeroVironment, es de acuerdo a sus diseñadores “el sistema de aeronave no-tripulado más empleado en el mundo”^* (AeroVironment, 2019), con más de 19 mil ejemplares vendidos.

De igual forma, las distintas variantes del Predator (General Atomics)—incluído el MQ-9 Reaper—han visto amplia acción en diferentes operaciones militares desde el año 2001, cambiando significativamente la forma de operar de las FF.AA. norteamericanas debido a su extensa autonomía, llegando a permanecer en el aire hasta 24 horas con la posibilidad de efectuar relevos de la dotación que los opera desde tierra. Ya para el año 2008 se empleaban más de 500 unidades (Singer, 2009), tendencia que probablemente seguirá en aumento con el último diseño, el Predator C Avenger.

El Global Hawk, desarrollado por Northrop Grumman, cuenta con más de 10.000 horas de vuelo en operaciones de combate. Su espectacular registro de efectividad en sus misiones—un 95%—otorgan a las FF.AA. norteamericanas una amplia ventaja táctica en toda clase de escenarios (Northrop Grumman Corporation, 2019).

De forma similar, EE.UU. ha utilizado UGV de forma extensiva durante los recientes conflictos armados. Para el 2008, unos 12 mil robots eran empleados en Iraq—modelos como el Packbot (iRobot, ahora Endeavor Robotics), MARCbot (Exponent Inc.) o el TALON (Foster-Miller) siendo solo algunos de los robots militares actualmente en uso—.

Vehículo Terrestre No-tripulado (UGV) “Packbot”.

La versatilidad de los vehículos no tripulados, así como su alta autonomía y capacidad de operar en ambientes complejos sin necesidad de arriesgar la integridad física del personal, han hecho que su uso sea cada vez mayor. La capacidad de pilotear aeronaves desde territorio nacional operando en cualquier parte del mundo es quizás una de sus principales ventajas. Sin embargo, en el caso de la Fuerza Aérea de los EE.UU. (USAF), su producción y uso se ha incrementado de manera tal, que la demanda actual ha sido difícilmente cubierta por el número existente de pilotos de aeronaves de operación remota.^*

Por otro lado, algunos critican que el desarrollo tecnológico avanza de manera demasiado acelerada como para permitir a los soldados desplegados adaptarse al uso de nuevos prototipos, generando dificultades debido al constante reemplazo de modelos anteriores. En ese sentido, el problema no solo se genera en cuanto a la capacidad de adaptación y aprendizaje del personal desde el punto de vista técnico, si no que además debido a la inexistencia de doctrinas que orienten su empleo táctico y que fijen claramente los roles asignados a los nuevos equipos (Singer, 2009).

No obstante, la irrupción de vehículos no tripulados y de la robótica no es algo nuevo. En el año 2009, hace ya 10 años, P. W. Singer (2009)—escritor y ex asesor del Departamento de Defensa (DoD) de los EE.UU.—, en su libro Wired for War, hacía un recuento de la evolución del ámbito de la robótica y su impacto en materias de defensa, prediciendo, con gran acierto, aspectos relacionados a la proliferación en el desarrollo y empleo de vehículos no tripulados y otros robots en los diferentes campos de batalla. Lo anterior permite vislumbrar con mayor certeza la probable proyección respecto al desarrollo de SAA en el mediano plazo.

El debate ético y legal

Como ya se señaló, se ha generado un intenso debate en torno a los aspectos éticos y legales relativos a la producción y uso de SAA (e.g. Krishnan, 2009; Noone & Noone, 2015; Roff, 2015; Altmann & Sauer, 2017; Bode & Huelss, 2018), con argumentos tanto a favor como en contra. Algunos cuestionan el hecho de que el empleo de SAA no sería compatible con el derecho internacional humanitario y la convenciones de Ginebra (e.g. Noone & Noone, 2015). Otros afirman que existe un peligro inherente en la eventualidad de que los seres humanos sean sacados del ciclo de toma de decisiones, en especial en lo que respecta al uso letal de la fuerza (Scharre, 2016; Sharkey, 2016), puesto que la existencia de personas en el proceso actuaría como mecanismo de seguro ante fallas en el sistema (Scharre, 2016; Altmann & Sauer, 2017).

Lo anterior ha dado pie a la formación de un fuerte lobby en apoyo a la regulación—o incluso la total prohibición—de los SAA. Un ejemplo es la campaña Stop Killer Robots,^* la cual cuenta con el soporte de diferentes agrupaciones gubernamentales y ONG, siendo apoyada por figuras de renombre en el mundo de la ciencia y tecnología, tales como Stephen Hawking, Elon Musk y Demis Hassabis (Symonds, 2018, p. 4), campaña a la cual se ha sumado Chile a través de sus representantes diplomáticos. No obstante, tanto los avances técnicos en el área como la determinación de países como EE.UU., China o Rusia en el desarrollo de SAA hacen poco probable alcanzar un convenio global en que se prohíban de forma definitiva.

Por otro lado, muchos son quienes defienden su desarrollo, señalando los beneficios a largo plazo que podrían traer para el Estado, como es la significativa reducción en la planta de las FF.AA., así como también la cada vez mayor precisión y efectividad de los sistemas de armas y la menor necesidad de exponer al personal a peligros directos (Singer, 2009). Lo anterior resulta sumamente relevante, considerando la cada vez menor tolerancia de la población ante bajas de personal durante operaciones militares—más aún en tiempos de paz—así como los efectos que representa el aumento en la esperanza de vida y lo que esto representa para las arcas fiscales en materia de pensiones. De esta forma, el reemplazo del soldado por robots parece una necesidad más que solo una fantasía.

Proyección: Hacia dónde vamos

C. S. Gray (2012, p. 350) define estabilidad como “la ausencia de cambios potencialmente peligrosos.”^* En ese sentido, la carrera por el dominio en el campo de la IA y el desarrollo de SAA se asemeja a períodos anteriores de la historia en los que potencias dominantes se vieron involucradas en pugnas por la superioridad militar y económica, eventualmente desencadenando en conflictos armados internacionales originados por la alteración en la estabilidad regional o global. En relación a lo anterior, algunos expertos señalan que la carrera por el dominio en el campo de la IA puede considerarse como la tercera revolución industrial. (ver Horowitz, Allen, Kania & Scharre, 2018).

Distintos líderes mundiales se han manifestado respecto a la relevancia de la IA, algunos de manera más explícita; el Presidente de Rusia, Vladimir Putin, expresó que “la IA es el futuro, no solo de Rusia, si no que de toda la humanidad […] quienquiera que se transforme en el líder en esta esfera se convertirá en el gobernante del mundo”^* (Allen, 2017). El multimillonario y CEO de empresas tales como Space X y Tesla, Elon Musk, llegó a afirmar que “la competencia por la superioridad en [el campo de la] IA a nivel nacional es la más probable causa para la Tercera Guerra Mundial”^* (Hern, 2017).

Predator C Avenger, de General Atomics Aeronautical, evolución del MQ-9 Reaper.

El desarrollo de SAA podría tener efectos negativos para la paz y estabilidad global, puesto que su eventual diseño y producción podría estar sujeta a proliferación y fomentar carreras armamentísticas, resultando en crecientes crisis e inestabilidad (Roff, 2015; Altmann y Sauer, 2017). Adicionalmente, su eventual desarrollo podría hacer que estas estuvieran disponibles no solo para su adquisición por parte de estados para su empleo mediante FF.AA. regulares, sino que también por parte de actores no gubernamentales (e.g. agencias privadas de seguridad) o peor aún, organizaciones terroristas. Lo anterior no se aleja de la realidad, como lo ha demostrado el empleo de UAVs por parte de ISIS y otros grupos radicales recientemente en Siria, o por parte de Hamas en la franja de Gaza contra Israel. Por lo anterior, una eventual proliferación descontrolada de SAA generaría efectos sin precedentes en la seguridad mundial, dado que la identificación de responsabilidades podría resultar sumamente complejo. No obstante y como ya se señaló, la carrera por el dominio de la IA y de SAA ya se encuentra en curso.

Los países con mayor probabilidad de contribuir de forma substancial en el desarrollo de la IA, son aquellos que ya poseen una ventaja en el campo de la investigación y desarrollo (I+D). De acuerdo al Instituto de Estadísticas de la UNESCO (UIS), solo 10 países en el mundo representan casi el 80% del gasto total. En ese sentido, EE.UU. y China son por lejos los actores principales.

Adicionalmente, los potenciales países que podrían desarrollar SAA son aquellos que poseen un presupuesto amplio en I+D y que son además actores relevantes en la industria armamentística. De este modo, países con un mayor historial en el desarrollo de la industria militar y tecnológica, tales como Alemania, Israel, Corea del Sur y Japón, pueden considerarse como actores influyentes en dicho proceso, sumándose a los ya mencionados EE.UU., Rusia y China. No obstante, en la actualidad, no menos de 40 países ya producen robots con fines militares (Singer, 2009).

Discusión: la realidad nacional

La postura de Chile en materias de SAA es la de prohibición preventiva, como consta en el Libro de la Defensa Nacional, señalando que si bien SAA aún no se han desarrollado, “la ausencia de un marco regulatorio podría derivar en vulneraciones deliberadas del Derecho Internacional Humanitario que pueden conducir a la impunidad de ciertos ataques ante la imposibilidad de atribuir su autoría” (Ministerio de Defensa Nacional, 2017, p. 155).

En ese sentido, si bien Chile ya ha manifestado su actitud frente al desarrollo de SAA, los avances en el campo de la IA y la creciente automatización de los sistemas de armas tendrá cada vez mayores efectos en las capacidades y grado de complejidad técnica de los nuevos equipos. Lo anterior exige que el país se encuentre a la altura de los cambios tecnológicos, no solo a nivel de sus FF.AA. sino que mediante una estrategia transversal de desarrollo tecnológico que incluya a todas las esferas de la sociedad. Esto conlleva incrementar los esfuerzos en contribuir en I+D mediante alianzas estratégicas entre el sector público y privado, así como en la participación conjunta de las instituciones académicas y las FF.AA., lo cual representa un foco importante de oportunidades para el desarrollo tecnológico y capacitación tanto de investigadores como de personal militar.

En ese sentido, la situación actual del país es en cierto sentido, desalentadora. En relación al gasto en I+D, el presupuesto de Chile es de tan solo el 0,4% del PIB, apenas sobre los US$ 1.500 millones. De igual forma, la distribución del aporte privado en el sector es comparativamente bajo en relación a países desarrollados, siendo inferior al 40%—comparado por ejemplo a EE.UU., con sobre un 70% (UIS, 2019)—.

En cuanto a la planificación en el sector defensa, pareciera ser que los avances tecnológicos mencionados no han sido tampoco considerados con la significación necesaria. Una muestra de lo anterior es que en la Estrategia Nacional de Seguridad y Defensa (ENSyD) 2012-2024, presentada para su revisión por el Senado, no se mencionaba ni siquiera un solo artículo relacionado a IA—menos aún sobre SAA—. Por lo anterior, es de esperar que en el futuro—y en caso de prosperar iniciativas similares a la ENSyD anterior—se le otorgue la importancia necesaria al tema en cuestión.

A nivel institucional, resulta relevante considerar en la planificación futura los efectos organizacionales y operativos que los cambios tecnológicos pueden traer, como son la elaboración de doctrinas y la evaluación de los efectos a largo plazo en la carrera militar. Se debe tomar en cuenta los efectos en los planes de estudio y la necesidad de formar especialistas acorde a los requerimientos futuros, considerando que la incorporación de material al inventario institucional puede darse con una rapidez inesperada, mientras que la preparación del personal conlleva por lo general un tiempo mayor, como ya lo ha demostrado la experiencia de las FF.AA. norteamericanas en relación al impacto de la incorporación masiva de vehículos no tripulados y robots de apoyo. Por lo anterior es quizás el paso inicial generar los espacios para la discusión tendientes a generar las modificaciones necesarias, de manera de estar preparados ante los cambios radicales que la actual revolución tecnológica ya nos señala.

Es importante mencionar que la Armada de Chile ya ha dado los primeros pasos en materia de empleo y fabricación de vehículos no tripulados. Prototipos como el MANTA I Mantarraya son sin duda un avance importante, pero es fundamental continuar avanzando con mayor ímpetu en esa línea. El campo de acción es casi infinito, pudiendo realizar proyectos asociados a roles tan amplios como la investigación hidrográfica o a las funciones de vigilancia del territorio marítimo y Zona Económica Exclusiva (ZEE), mediante UAVs o vehículos submarinos no tripulados (UUV), sin necesidad de estar sujetos a las limitaciones de autonomía y disponibilidad de sus operadores.

El avance vertiginoso en el campo de la IA y el debate existente en torno al desarrollo de SAA hace prever que las próximas décadas traerán cambios trascendentales, no solo en el ámbito militar, si no que además en nuestra vida diaria. Por lo anterior, es importante que las instituciones de la defensa nacional sepan adaptarse de forma preventiva a esta revolución tecnológica, de manera de no actuar de forma reactiva, como ya nos enseña la experiencia de las grandes potencias.