Malvinas: Resistían los bombardeos mientras su general se guarecía en el pueblo

IA: Control de armas por inteligencia artificial

Control de Armas por Inteligencia Artificial

Megan Lamberth and Paul Scharre || Texas National Security Review





A medida que la IA continúa avanzando, algunos han expresado su preocupación por los peligros de los sistemas de armas habilitados para la IA. Esto plantea la cuestión de cuán factible será controlar el uso militar de la IA. Megan Lamberth y Paul Scharre analizan una serie de características que hacen que la IA sea difícil de controlar y presentan algunos pasos concretos que podrían tomarse hoy para aumentar la probabilidad de que los futuros regímenes de control de armas de la IA tengan éxito.



Los militares de todo el mundo están trabajando en la mejor manera de desarrollar, integrar y utilizar la IA en sus sistemas de armas. Si bien muchos de estos sistemas aún no se han realizado, los avances en IA podrían tener un impacto significativo en la forma en que operan los militares con el tiempo. La preocupación por los sistemas militares de IA ha llevado a algunos activistas a pedir prohibiciones o regulaciones sobre algunos sistemas de armas habilitados para IA.

Sin embargo, la IA tiene varias características que la hacen difícil de controlar. Como tecnología habilitadora de propósito general, la IA es como la electricidad o el motor de combustión interna y tiene innumerables aplicaciones no militares o de defensa. Se diferencia de algunas tecnologías militares porque se desarrolla predominantemente en el sector civil por ingenieros en la industria privada o en organizaciones de investigación. Si bien la disponibilidad generalizada de la IA hace que sea poco probable una prohibición total de todas las aplicaciones militares de la IA, puede haber una oportunidad para que la comunidad internacional trabaje en conjunto para regular o prohibir ciertos usos de la IA militar.

A lo largo de la historia, los países han buscado restricciones o prohibiciones para ciertas armas o usos de armas. Las motivaciones para el control de armas pueden variar, al igual que su éxito. La evaluación de casos históricos de control de armas muestra que los pasos concretos que se toman hoy podrían aumentar las posibilidades de éxito en el control de armas de la IA en el futuro. Los formuladores de políticas pueden trabajar para dar forma a cómo los militares emplean la tecnología de IA. Las naciones también pueden establecer un diálogo regular con aliados y competidores sobre cómo se puede usar la IA en la guerra y qué medidas se pueden tomar para reducir los riesgos mutuos.

La naturaleza ubicua y democratizada de la IA hace que el control de armas sea difícil pero no imposible en todas las circunstancias. Si bien una prohibición total del uso militar de la IA es inviable, los estados podrían prohibir algunas aplicaciones de la IA, siempre que hubiera claridad sobre qué usos estaban prohibidos y que los estados tuvieran la capacidad de verificar el cumplimiento de otros estados. La verificación, si bien es un desafío para cualquier capacidad militar basada en software, podría lograrse a través de una variedad de métodos posibles: implementar regímenes de inspección intrusivos; regular las características físicas observables externamente de los sistemas habilitados para IA (por ejemplo, tamaño, peso, carga útil) o comportamientos autónomos; o restringir la infraestructura informática (es decir, el hardware). Cualquier control de armas de IA sería un desafío, pero en las condiciones adecuadas, podría ser factible en algunos casos.

Tipos de control de armas

El control de armas abarca una variedad de acciones y puede ocurrir en cualquier etapa del desarrollo o uso de un arma. En este artículo, definimos el control de armas como “acuerdos que los estados hacen para controlar la investigación, el desarrollo, la producción, el despliegue o el empleo de ciertas armas, características de las armas, aplicaciones de armas o sistemas de lanzamiento de armas”. 3

Los tratados de no proliferación, como el Tratado de No Proliferación Nuclear, se enfocan en la fase de desarrollo tecnológico y tienen como objetivo evitar el acceso a la tecnología subyacente detrás de un arma determinada. Otras medidas de control de armas prohíben el desarrollo, la producción y el almacenamiento de un arma, pero permiten el acceso a la tecnología subyacente. Esto incluye la prohibición de las minas terrestres antipersonal y las municiones en racimo. Los tratados de limitación de armas, como el Nuevo Tratado START, permiten la producción de ciertas armas pero intentan limitar las cantidades que los países pueden poseer. Otras medidas regulan el uso de un arma en la guerra o, en algunos casos, prohíben por completo el uso de un arma.

Si bien algunas medidas de control de armas se ejecutan a través de acuerdos legalmente vinculantes, existen numerosos casos a lo largo de la historia de acuerdos exitosos no legalmente vinculantes o incluso de cooperación tácita sin acuerdos formales. Con el tiempo, las prácticas estatales de larga data también pueden evolucionar hacia el derecho internacional consuetudinario, o “práctica general aceptada como ley”. 

El control de armas es la excepción, más que la regla, cuando las naciones compiten para desarrollar y desplegar armas. El control de armas requiere coordinación y confianza entre los estados, una tarea bastante difícil en tiempos de paz y aún más difícil en tiempos de conflicto. Los estados a menudo son reacios a aceptar medidas de monitoreo y verificación que podrían mejorar la transparencia mutua y permitir que los estados verifiquen el cumplimiento de los demás. Como explican Andrew Coe y Jane Vaynman, un “obstáculo importante para el control de armas es la compensación que implica el monitoreo: se requiere transparencia para asegurar que una parte del otro cumpla con los límites de armas, pero la transparencia también podría revelar vulnerabilidades que podrían ser explotadas por el primer bando en una carrera armamentista o una guerra”. 6A pesar de los muchos obstáculos para el control de armas, los estados, en algunas circunstancias, han podido limitar con éxito el desarrollo y uso de armas, incluso en la guerra. Las lecciones de los éxitos y fracasos históricos pasados ​​brindan información valiosa para los intentos de restringir la búsqueda de IA por parte de los militares.

Por qué el control de armas tiene éxito o fracasa

Que el control de armamentos tenga éxito o fracase depende tanto de la conveniencia del control de armamentos como de su viabilidad. La conveniencia del control de armas se basa en el cálculo de un país del valor militar percibido de un arma frente a su horror percibido, como sus efectos inhumanos en los combatientes, su naturaleza indiscriminada o su efecto desestabilizador en el orden internacional o político. La viabilidad del control de armas depende de varios factores: la capacidad de los países para lograr claridad sobre el nivel de moderación deseado; la capacidad de los países tanto para cumplir con un acuerdo como para verificar el cumplimiento de otros estados; y el número de países necesarios para que un acuerdo funcione. La probabilidad de que un esfuerzo de control de armas tenga éxito aumenta a medida que aumentan la conveniencia y la viabilidad.

Sin embargo, incluso los acuerdos de control de armas parcialmente exitosos pueden ser efectivos para mejorar la estabilidad, minimizar el daño civil y reducir el sufrimiento de los combatientes.

El éxito en el control de armas existe en un espectro. Implica limitar el comportamiento del Estado en la investigación, el desarrollo, la producción, el despliegue o el uso de un arma. Las medidas que no logran restringir o regular un comportamiento se consideran infructuosas. La mayoría de los acuerdos se encuentran en algún punto intermedio. Incluso los acuerdos más efectivos, como la Convención sobre Armas Químicas, tienen excepciones e infractores. Otros acuerdos pueden tener éxito durante un período de tiempo, pero la tecnología o las dinámicas políticas cambiantes hacen que se desmoronen. Tomemos, por ejemplo, el Tratado sobre Misiles Antibalísticos y el Tratado sobre Fuerzas Nucleares de Alcance Intermedio. Sin embargo, incluso los acuerdos de control de armas parcialmente exitosos pueden ser efectivos para mejorar la estabilidad, minimizar el daño civil y reducir el sufrimiento de los combatientes.

Deseabilidad del control de armas

Los estados se resistirán a regular un arma con un alto valor militar, una que sea efectiva, otorgue un acceso único o brinde una ventaja decisiva en el campo de batalla, incluso si el arma tiene la capacidad de causar un daño sustancial. Pesado contra el valor militar de un arma está su horror percibido, es decir, si el arma se percibe como inhumana, indiscriminada, desestabilizadora o perturbadora del orden político o social.

En ocasiones, los Estados han tratado de restringir las armas o los sistemas militares que producen sufrimientos innecesarios o daños superfluos. 7 Por ejemplo, las balas que dejan fragmentos de vidrio en el cuerpo tienen un mayor grado de horror (causan lesiones excesivas y los fragmentos de vidrio no son detectables por rayos X) y no brindan un valor único a los militares. La percepción del horror de un arma también puede verse influida por el mecanismo de lesión. Los láseres permanentemente cegadores, por ejemplo, se perciben como causantes de sufrimiento innecesario, lo que aumenta la conveniencia de controlarlos.

Los Estados han tratado de controlar armas o sistemas militares menos discriminatorios, aquellos que no pueden distinguir entre civiles y combatientes. Esto incluye las primeras restricciones al bombardeo aéreo. Estos tipos de regulaciones tienen más éxito cuando el arma o el comportamiento están prohibidos por completo. Los intentos de regular el uso de armas indiscriminadas limitando su uso a objetivos militares y manteniéndolos alejados de áreas civiles no han tenido buenos resultados en la práctica durante la guerra.

Los estados también pueden desear el control de armas para las armas que se perciben como perturbadoras o desestabilizadoras. Los líderes políticos pueden tratar de prohibir un arma que amenace su control del poder, como las prohibiciones papales de la ballesta o las primeras regulaciones sobre armas de fuego. Las armas que se consideran desestabilizadoras, como los sistemas de misiles antibalísticos o las armas nucleares basadas en el espacio, pueden ser más deseables para el control de armamentos porque podrían provocar una carrera armamentista costosa o podrían crear incentivos perversos para un primer ataque.

La mejor ilustración de la dinámica de la conveniencia del control de armamentos es la respuesta de la comunidad internacional a las armas nucleares frente a las armas químicas.

La reciprocidad, el temor de que otro país pueda tomar represalias con un arma o un comportamiento en especie, es un factor esencial en el deseo de un estado y el cumplimiento del control de armas.  Antes de ratificar el Protocolo de Ginebra sobre Gas de 1925, el Reino Unido, Francia y la Unión Soviética declararon que el acuerdo dejaría de ser vinculante si algún país no lo cumplía. En las etapas iniciales de la Segunda Guerra Mundial, Hitler se abstuvo de ordenar el bombardeo de ciudades británicas, no por las prohibiciones legales internacionales vigentes contra hacerlo, sino por temor a que Gran Bretaña tomara represalias del mismo modo. La restricción mutua se logra ya sea por normas internas de adecuación o por temor a cómo un adversario podría tomar represalias. En un estudio exhaustivo de las violaciones del derecho de guerra en 48 guerras interestatales entre 1900 y 1991, James D. Morrow descubrió que la reciprocidad era clave para el cumplimiento. Los tratados fueron a menudo un mecanismo de coordinación útil para que los estados acordaran si restringir sus operaciones militares y cómo hacerlo, pero las violaciones de un lado casi siempre conducían a violaciones recíprocas. En las democracias, las instituciones nacionales pueden crear cierta “pegajosidad” que aumenta la probabilidad de seguir cumpliendo con los tratados incluso cuando un oponente los ha violado. A pesar de estas presiones, Morrow concluyó: “La restricción unilateral es rara”. 

La mejor ilustración de la dinámica de la conveniencia del control de armamentos es la respuesta de la comunidad internacional a las armas nucleares frente a las armas químicas. La horrorosidad de las armas nucleares supera con creces el sufrimiento que causan las armas químicas, pero el desarme nuclear mundial sigue estando fuera de nuestro alcance. Las armas químicas, por otro lado, han sido ampliamente denunciadas por la comunidad internacional. Su uso ocasional ha sido por estados parias. La diferencia clave radica en el valor militar de cada arma: las armas nucleares tienen una eficacia política única. El resultado de esta dinámica es que el control de armas suele tener éxito en el caso de las armas que no son especialmente valiosas.

Viabilidad del Control de Armas

Si bien la conveniencia del control de armas tiene que ver con los factores que motivan o desalientan a los países a buscar el control de armas, la factibilidad implica si se puede lograr la restricción mutua. Que el control de armas sea factible o no depende de varios factores: la claridad de una regulación; la capacidad de los estados para cumplir con los términos de un acuerdo; la capacidad de los estados para verificar el cumplimiento de otros estados; y el número de países necesarios para que un acuerdo tenga éxito.

Para que los estados logren el control de armas, deben acordar qué armas o usos de armas se regulan y cómo se regularán. La simplicidad es una gran ventaja cuando se elaboran regulaciones. Las prohibiciones completas de armas generalmente se han cumplido mejor en tiempos de guerra que las reglas que permiten su uso en algunas circunstancias. La simplicidad ayuda a los adversarios a coordinar la moderación y ayuda en el valor normativo de estigmatizar un arma. Las prohibiciones absolutas, como las de las minas terrestres antipersonal, las municiones en racimo y las armas químicas y biológicas, han tenido éxito, en parte, porque el arma está prohibida en todas las circunstancias, no solo en ciertos casos. Históricamente, las regulaciones que restringen el uso en algunos casos y no en otros, como las armas lanzadas desde el aire y la guerra submarina, han tenido menos probabilidades de éxito.

Y, sin embargo, no siempre se requiere simplicidad. Los Estados Unidos y la Unión Soviética/Rusia se involucraron en múltiples acuerdos bilaterales de control de armas que tenían reglas complicadas para las armas que cada estado podía construir, incluido el Tratado de Fuerzas Nucleares de Alcance Intermedio, el Tratado de Misiles Antibalísticos, SALT I, SALT II , ORDENAR, INICIO y Nuevo INICIO. Sin embargo, estos tratados tenían otras ventajas, como que solo requerían que dos partes llegaran a un acuerdo y solo limitaban el desarrollo y la producción de armas en tiempos de paz, en lugar del uso en tiempos de guerra.

Cuanto más difusa sea un arma, más difícil será controlarla porque se necesitarán más naciones en la mesa de negociaciones.

Otro factor importante que afecta la viabilidad es la capacidad de un país para cumplir realmente con las condiciones de un acuerdo. Los estados tienen un control imperfecto sobre sus fuerzas armadas, y las regulaciones que los estados podrían violar accidentalmente pueden ser más difíciles de cumplir. Alemania y Gran Bretaña entraron en la Segunda Guerra Mundial buscando moderación en el bombardeo aéreo de ciudades, y la moderación mutua se mantuvo durante un tiempo. Al principio, ambos países solo bombardeaban objetivos militares, no áreas pobladas. La moderación se derrumbó después de que los bombarderos alemanes se desviaran accidentalmente del objetivo en agosto de 1940 y bombardearan el centro de Londres por error. Gran Bretaña tomó represalias bombardeando Berlín, y Hitler respondió lanzando el London Blitz, después de lo cual desaparecieron todos los intentos de moderación. Las normas que pueden violarse fácilmente por casualidad son más difíciles de mantener.

La viabilidad del control de armas también se ve afectada por el número de países necesarios para que un acuerdo tenga éxito. Cuantos menos países sean necesarios, mejor. A lo largo de la Guerra Fría, por ejemplo, la estructura bipolar del sistema internacional facilitó el control de armas porque solo dos superpotencias necesitaban ponerse de acuerdo para que el control de armas tuviera éxito. Incluso para los acuerdos multilaterales, Estados Unidos y la Unión Soviética podrían liderar el desarrollo de un acuerdo, facilitando el seguimiento de otros países. Estados Unidos y la Unión Soviética establecieron múltiples acuerdos de control de armas, algunos bilaterales y otros multilaterales. Estos acuerdos incluyeron el Tratado de los Fondos Marinos, el Tratado del Espacio Exterior, el Tratado de Misiles Antibalísticos y otros. Cuanto más difusa sea un arma, más difícil será controlarla porque se necesitarán más naciones en la mesa de negociaciones.

La capacidad de un estado para verificar si otros estados cumplen con un acuerdo es un factor importante para que el control de armas tenga éxito. En algunos casos se han utilizado regímenes formales de verificación, particularmente para armas que pueden desarrollarse en secreto, como las armas nucleares o químicas. La Convención de Armas Químicas y el Tratado de No Proliferación Nuclear incluyen medidas de inspección para verificar el cumplimiento de los signatarios. El Tratado del Espacio Exterior estipula que los estados deben permitir que otros vean los lanzamientos espaciales y visiten cualquier instalación en la luna. Sin embargo, no todos los tratados exitosos tienen regímenes formales de verificación. Las prohibiciones de las municiones en racimo y las minas antipersonal no requieren inspecciones formales, pero obligan a los estados a ser transparentes con respecto a la eliminación de sus existencias. En algunos casos,

El estatus legal de un acuerdo de control de armas parece tener poco impacto en su éxito final. Los países han violado tratados legalmente vinculantes a lo largo de la historia, particularmente en tiempos de guerra. Este fue el caso del uso de gas venenoso en la Primera Guerra Mundial. Los acuerdos informales, no legalmente vinculantes, han tenido éxito en el pasado. Tomemos, por ejemplo, el Régimen de Control de Tecnología de Misiles, que limita la exportación de ciertas clases de misiles. Incluso hay algunos ejemplos de un entendimiento tácito, en el que no existe un acuerdo formal, que restringe el uso de un arma, como la moderación mostrada por Estados Unidos y la Unión Soviética al desplegar armas antisatélite o bombas de neutrones durante la Guerra Fría o la decisión unilateral de Alemania recuerdo de su bayoneta aserrada en la Primera Guerra Mundial. Más que el estado legal de un tratado, la reciprocidad es el factor impulsor que motiva a los estados a cumplir. Cuando los estados restringen el desarrollo, la producción o el uso de un arma, generalmente es por temor a que los competidores respondan a las violaciones de la misma manera. Sin embargo, los acuerdos formales pueden ser útiles para coordinar el comportamiento del estado y aclarar las expectativas.

El control de armas también depende de la ruta: las regulaciones con frecuencia se basan en éxitos anteriores de regulación de tecnologías relacionadas. Las prohibiciones antiguas sobre el veneno, por ejemplo, ayudaron a conducir a las prohibiciones modernas sobre las armas químicas y biológicas. Los acuerdos de control de armas entre Estados Unidos y la Unión Soviética sobre armas estratégicas fomentaron acuerdos adicionales con el tiempo. El éxito de la campaña humanitaria para prohibir las minas terrestres antipersonal probablemente hizo posible una prohibición humanitaria de las municiones en racimo.

Reglamento sobre tecnologías en evolución

Los estados han intentado con frecuencia regular tecnologías nuevas o en rápida evolución, que presentan desafíos únicos que son especialmente relevantes cuando se trata de IA. Los estados pueden no estar seguros de los beneficios y daños militares de las tecnologías emergentes y pueden equivocarse al preservar la opción de usarlas. Cuando los estados desean moderación, es posible que no puedan predecir correctamente el camino de la evolución de una tecnología, cómo se empleará y las contramedidas que se pueden desarrollar, lo que hace que los estados elaboren regulaciones que no son prácticas o que no limitan completamente los usos dañinos.

Las naciones se embarcaron en una serie de acuerdos de control de armas a fines del siglo XIX y principios del XX en un intento por controlar las armas de la era industrial. Las potencias europeas firmaron acuerdos de control de armas en 1868, 1899, 1907, 1922, 1930 y 1936 que regulan las balas explosivas o en expansión, el gas venenoso, las armas lanzadas desde el aire, los submarinos y los barcos de guerra. Ninguno de estos tratados intentó detener la proliferación de la ciencia y la tecnología subyacentes, como la química o el motor de combustión interna. Más bien, restringieron los tipos de armas que los militares podían construir o, en el caso de aviones y submarinos, cómo se podían usar las armas en la guerra. Aunque los líderes europeos anticiparon correctamente que muchas de estas armas, como los aviones o el gas venenoso, podrían causar un gran sufrimiento en la guerra,

El gas venenoso fue prohibido antes de la Primera Guerra Mundial, pero solo cuando se liberaba de proyectiles. El primer uso de cloro a gran escala en Alemania en la Segunda Batalla de Ypres fue técnicamente permisible porque el gas se liberó de los botes. Lograr la moderación con gas se complicó aún más por el hecho de que sus ventajas y desventajas militares relativas no se conocían antes de la Primera Guerra Mundial. Alemania empleó gas por primera vez en busca de un arma ganadora de la guerra que cambiara el rumbo en el frente, quizás motivado, en parte, por experimentos franceses con granadas de gas lacrimógeno a principios de la guerra.

Un factor que pesa a favor de las regulaciones preventivas es que puede ser más fácil, en algunos casos, prohibir las armas que los militares aún no han integrado en sus arsenales y, por lo tanto, de las que no dependen para su defensa.

Los intentos de regular los submarinos y las aeronaves fracasaron de manera similar debido a suposiciones incorrectas sobre cómo evolucionarían estas tecnologías. La Convención de La Haya de 1907 prohibió el bombardeo aéreo contra ciudades “indefensas”, al no prever la debilidad de las defensas aéreas contra los bombardeos.  Por el contrario, la ley marítima requería que los submarinos salieran a la superficie, dieran aviso y llevaran a la tripulación a bordo antes de hundir los barcos mercantes. El cumplimiento de estas reglas, que Alemania intentó hacer inicialmente en la Primera Guerra Mundial, dejó a los submarinos vulnerables incluso a los barcos mercantes con armas ligeras.

En otros casos, algunas armas resultaron no ser tan problemáticas como los estados lo imaginaron originalmente. Las balas expansivas fueron prohibidas en la Convención de La Haya de 1899, pero hoy en día son ampliamente utilizadas por las fuerzas del orden y para la autodefensa civil. (Es menos probable que las balas en expansión atraviesen a una persona y golpeen a los transeúntes).

Más recientemente, en el caso de la prohibición de los láseres cegadores, los estados han tratado de eludir el problema de predecir cómo evolucionará la tecnología mediante la adopción de una prohibición sobre el uso previsto de la tecnología. El Protocolo IV de la Convención sobre Ciertas Armas Convencionales establece: “Está prohibido emplear armas láser específicamente diseñadas, como su única función de combate o como una de sus funciones de combate, para causar ceguera permanente a la visión no mejorada”. La prohibición, en particular, no prohíbe las características técnicas específicas de un láser, como su potencia, sino que se centra en su uso previsto. Hasta la fecha, la prohibición del láser cegador ha tenido éxito.

Si bien la prohibición preventiva de nuevas tecnologías es un desafío en muchos sentidos, los estados han logrado imponer regulaciones preventivas sobre láseres cegadores, armas biológicas, usar el medio ambiente como arma, colocar armas nucleares en el lecho marino o en el espacio y establecer bases militares en la Antártida o en la luna. Un factor que pesa a favor de las regulaciones preventivas es que puede ser más fácil, en algunos casos, prohibir las armas que los militares aún no han integrado en sus arsenales y, por lo tanto, de las que no dependen para su defensa.

Lecciones de Inteligencia Artificial

La IA será difícil de controlar por tres razones clave: es una tecnología de propósito general; es una tecnología emergente; y verificar el cumplimiento de cualquier acuerdo relacionado con la IA planteará desafíos únicos. Sin embargo, esto no significa que la IA sea incontrolable. Si bien los obstáculos son significativos, el control de armas podría ser posible para algunas aplicaciones militares de IA. Incluso cuando los países buscan ventajas en la IA militar, deben buscar formas de mitigar los riesgos de la competencia de la IA militar, incluso a través del control de armas.

Una tecnología de propósito general

Como tecnología habilitadora de uso general, la IA se parece más a la electricidad que a una tecnología discreta como los submarinos o los láseres cegadores, lo que plantea obstáculos para los esfuerzos de control de armas. La IA es una tecnología de doble uso, con aplicaciones tanto civiles como militares, y es probable que esté ampliamente disponible. La naturaleza difusa de la IA hace que un régimen de no proliferación, uno que proponga "embotellar" la IA y reducir su propagación, sea poco probable que tenga éxito. Además, debido a que la IA está tan extendida, numerosos actores tendrían que estar de acuerdo para que cualquier regulación tenga éxito.

La definición a menudo confusa de "IA" también podría complicar el logro de la claridad en cualquier acuerdo. La definición de lo que constituye “IA” es ambigua y abierta a interpretación. Declarar simplemente "sin IA" carece de la claridad de prohibir por completo todos los usos del gas porque puede no estar claro si una tecnología califica como "IA". Además, debido a que el campo de la IA es tan vasto y sus usos son tan amplios, prohibir toda la IA sería similar a los estados del siglo XIX que declararon "No a la industrialización". Los estados intentaron controlar las tecnologías de la era industrial, incluidos los submarinos, los aviones, los globos, el gas venenoso y las balas explosivas o en expansión. Pero que los países hayan acordado no utilizar ninguna tecnología de la era industrial en la guerra no habría sido práctico. Tampoco está claro, dada la naturaleza de doble uso de la infraestructura industrial civil, si se hubieran trazado líneas divisorias entre la industrialización civil y la militar, incluso si los países las hubieran deseado. Qué usos militares de la IA son aceptables o inaceptables podría ser ambiguo, y los países necesitarán claridad y líneas bien definidas para que cualquier esfuerzo de control de armas tenga éxito.

En última instancia, la conveniencia y viabilidad del control de armas para cualquier aplicación militar específica de IA puede depender de cómo se aplique la tecnología.

Los casos históricos de control de armas durante la revolución industrial sirven como una guía útil porque los estados regularon, con diversos grados de éxito, aplicaciones específicas de tecnologías industriales de propósito general, incluyendo el motor de combustión interna (submarinos y aviones) y la química (balas explosivas y gas venenoso). Estos esfuerzos a veces fallaron, pero esto no se debió a que los estados no pudieran definir qué era un submarino o un avión o porque los estados no pudieran limitar su uso civil. Más bien, estas medidas fallaron debido a cómo esas armas se usaron específicamente en la guerra. Si el equilibrio ofensivo-defensivo entre bombarderos y defensas aéreas, o submarinos y barcos mercantes hubiera evolucionado de manera diferente, esas armas podrían haber sido controladas con mayor eficacia.

Si bien es probable que no se pueda lograr una prohibición total de todas las aplicaciones militares de IA, la historia sugiere que los países podrían estar abiertos a algunas limitaciones en aplicaciones específicas. El desafío es determinar para qué aplicaciones específicas de IA es el control de armas más deseable y factible. ¿Hay ciertos usos que se perciben como especialmente peligrosos, desestabilizadores o dañinos? Los académicos ya han comenzado a considerar el impacto de la IA en la estabilidad nuclear, las armas autónomas y la seguridad cibernética, y seguramente habrá otras áreas que merecen una consideración seria. En última instancia, la conveniencia y viabilidad del control de armas para cualquier aplicación militar específica de IA puede depender de cómo se aplique la tecnología. Un acuerdo de control de armas podría diseñarse estrictamente para apuntar a instancias específicas de tecnología de IA que se consideran particularmente problemáticas, similares a las balas restrictivas de los países que están diseñadas para explotar dentro del cuerpo, en lugar de explotar proyectiles por completo. 

Una tecnología emergente

Un desafío al anticipar qué usos específicos de la IA militar pueden merecer una mayor consideración para el control de armas es que no está claro cómo se utilizará finalmente la IA en el campo de batalla. Este es un problema constante para las tecnologías emergentes, desde ejemplos históricos como aviones y tanques hasta ejemplos contemporáneos como herramientas cibernéticas y armas de energía dirigida. A fines del siglo XIX y principios del XX, los países lucharon por controlar las tecnologías de la era industrial, como el gas venenoso y los submarinos, que progresaban rápidamente.

El hecho de que muchos militares perciban que la IA es una tecnología que "cambia las reglas del juego" podría representar un obstáculo para restringir su uso. Los militares de todo el mundo están invirtiendo en IA y pueden ser reacios a restringir ciertas aplicaciones. La retórica que rodea a la IA, gran parte de la cual puede no coincidir con las inversiones reales que los militares están haciendo en IA, podría en sí misma obstaculizar los posibles esfuerzos de control de armas.

Además, las percepciones de que la tecnología de IA puede generar capacidades, precisión, confiabilidad o eficacia sobrehumanas podrían disminuir la creencia de que algunas aplicaciones de IA tienen el potencial de ser desestabilizadoras o peligrosas. Estas percepciones, incluso si son infundadas, podrían afectar la voluntad de un país de perseguir el control de armas de AI. A medida que los países desarrollen y apliquen aplicaciones militares de inteligencia artificial reales, es probable que las percepciones cambien para alinearse más estrechamente con la realidad. Pero las futuras aplicaciones militares de IA pueden ser más difíciles de regular si ya se han integrado en las fuerzas militares de un país o se han utilizado en el campo de batalla. 

Verificación del cumplimiento

La capacidad de verificar el cumplimiento de cualquier acuerdo de control de armas es esencial para su éxito a largo plazo. Un acuerdo con un lenguaje claro y la aceptación de los estados necesarios podría fallar si los estados carecen de los medios para verificar el cumplimiento de los demás. La IA complica la verificación porque, al igual que otras formas de software, los atributos cognitivos de un sistema de IA no son fácilmente observables externamente. Un arma "inteligente" puede parecerse mucho a un arma "tonta" del mismo tipo. Los sensores de un vehículo autónomo, que utiliza para percibir su entorno, pueden ser visibles, pero el algoritmo particular que utiliza podría no serlo. Esto plantea un desafío para cualquier tipo de control de armas para los sistemas militares de inteligencia artificial porque la restricción mutua se basa en la capacidad de un estado para verificar el cumplimiento de un acuerdo por parte de otro estado. Hay formas en que los países podrían responder a este desafío,

Adopte inspecciones intrusivas

Un régimen de inspección intrusiva podría permitir el acceso de observadores externos a las instalaciones de un estado ya ciertos sistemas militares para verificar que el software del estado se ajuste a las estipulaciones de un régimen de control de armas. Sin embargo, cualquier régimen de inspección potencial enfrentaría los mismos obstáculos de transparencia que enfrentan otras armas: las inspecciones corren el riesgo de exponer vulnerabilidades potenciales en el sistema de armas de un estado a una nación competidora. Este desafío posiblemente podría corregirse en el futuro mediante la verificación de software para preservar la privacidad, que podría verificar el comportamiento de una pieza de software sin revelar información privada. Alternativamente, los países podrían decidir que los beneficios de la verificación superan los riesgos de una mayor transparencia. Los Estados han adoptado regímenes de inspección intrusivos en el pasado, como las inspecciones bajo el régimen de no proliferación nuclear para verificar el uso civil nuclear.

Los regímenes de inspección intrusivos seguirán siendo una opción débil para verificar el cumplimiento, a menos que los estados puedan superar con confianza el desafío de las actualizaciones posteriores a la inspección rápidas y escalables de los sistemas de IA.

Otro obstáculo para las inspecciones es que, si la diferencia entre la capacidad permitida y la prohibida radica en el software, un estado podría simplemente actualizar su software después de que se vayan los inspectores. Actualizar el software es mucho más rápido y fácil que construir otro misil o una instalación de enriquecimiento nuclear. En el futuro, los países podrían superar este problema adoptando enfoques técnicos más avanzados. Las opciones potenciales incluyen el monitoreo continuo del software para detectar cambios o incorporar funcionalidad en el hardware, de modo que la capacidad esté limitada por el hardware, no por el software. El monitoreo continuo implicaría la instalación de dispositivos en los sistemas militares que alertarían a los inspectores sobre cualquier cambio en el software. La adopción de este enfoque requiere más avances tecnológicos, así como el compromiso de los estados con el monitoreo intrusivo continuo, en lugar de inspecciones periódicas. También es posible que tal enfoque, si se implementa, podría tener efectos desestabilizadores imprevistos en ciertos escenarios. Por ejemplo, una actualización de software para mejorar la funcionalidad en vísperas de un conflicto podría desencadenar una alerta que llevaría a otros estados a asumir el incumplimiento del control de armas. Alternativamente, el código compatible con el régimen que no debe modificarse podría integrarse en el hardware físico, por ejemplo, a través de una memoria de solo lectura o circuitos integrados específicos de la aplicación.19 Los regímenes de inspección intrusivos seguirán siendo una opción débil para verificar el cumplimiento a menos que los estados puedan superar con confianza el desafío de las actualizaciones posteriores a la inspección rápidas y escalables de los sistemas de IA.

Restringir las características físicas observables externamente de los sistemas habilitados para IA

En lugar de centrarse en las capacidades cognitivas de un sistema de IA, los estados podrían centrarse en las características físicas generales de un sistema que son fácilmente observables y difíciles de cambiar, como el tamaño, el peso, la potencia, la resistencia, la carga útil, la ojiva, etc. Este enfoque permitiría a los estados adoptar cualquier característica cognitiva (sensores, hardware y software) que elijan para un sistema. Las limitaciones de control de armas se aplicarían solo a las características físicas brutas de un vehículo o munición, incluso si la preocupación real estuviera motivada por las capacidades militares que habilita la IA. Por ejemplo, si los países estuvieran preocupados por los enjambres de pequeños drones antipersonal, en lugar de permitir solo pequeños drones "tontos" (lo que sería difícil de verificar), podrían prohibir todos los pequeños drones armados, independientemente de sus capacidades cognitivas. Los países han utilizado enfoques similares en el pasado: optar por regular las características físicas brutas (que eran observables) en lugar de las cargas útiles reales (que eran la preocupación real de los estados, pero más difíciles de verificar). Varios tratados de la era de la Guerra Fría limitaron o prohibieron ciertas clases de misiles, en lugar de solo prohibir armarlos con armas nucleares. Limitar solo los misiles con armas nucleares habría permitido ciertos misiles convencionales, pero habría sido más difícil de verificar.

Regular el comportamiento observable de los sistemas de IA

Otra opción es que los países centren las regulaciones en el comportamiento observable de un sistema de IA, como la forma en que opera bajo ciertas condiciones. Esto sería análogo al concepto de restricciones de bombardeo de "No ciudades", que no prohibía a los bombarderos sino que regulaba cómo se empleaban. Este enfoque podría usarse cuando se trata de manifestaciones físicas de sistemas de IA en los que otros estados pueden observar el comportamiento externo del sistema. Por ejemplo, los países podrían establecer reglas sobre cómo deben comportarse los buques de superficie navales autónomos en la proximidad de otros barcos, e incluso podrían adoptar reglas sobre cómo los sistemas autónomos armados podrían señalar claramente una escalada de fuerza para evitar una escalada inadvertida en tiempos de paz o crisis. El algoritmo particular utilizado para programar el comportamiento sería irrelevante: los estados podrían utilizar diferentes enfoques. De manera similar a las reglas que rigen el comportamiento de los combatientes humanos, la regulación regiría cómo se comporta el sistema de IA, no su lógica interna. Sin embargo, este enfoque no sería efectivo para aplicaciones militares de IA que no son observables. Por ejemplo, las restricciones sobre el papel de la IA en el comando y control nuclear probablemente no serían observables por un adversario. Este enfoque también está limitado porque el comportamiento de un sistema podría modificarse rápidamente a través de una actualización de software, lo que socavaría la confianza y la verificabilidad.

Restringir la infraestructura informática

Los estados podrían enfocar las regulaciones en elementos del hardware de IA que se pueden observar o controlar. Los sistemas de IA se basan en chips para la computación, por lo que los países podrían potencialmente restringir o controlar chips de IA especializados a través de un régimen de no proliferación (particularmente si estos chips fueran esenciales para la capacidad militar prohibida). 22Los países también podrían posiblemente optar por restringir los recursos informáticos a gran escala, también conocidos como "computación", si son observables o se pueden rastrear. Los grandes modelos de IA como GPT-4 se están volviendo cada vez más de uso general y pueden ejecutar una amplia gama de tareas. Estos sistemas de IA de alta capacidad son intrínsecamente de doble uso. Incrustadas en su funcionalidad de uso más general, de manera predeterminada, se encuentran capacidades relevantes para la seguridad, como la capacidad de empoderar a los actores para lanzar ataques cibernéticos, químicos o biológicos. El gobierno de la computación implica controlar el uso de la computación a lo largo del ciclo de vida de producción de un modelo de IA, desde la fabricación del chip hasta el entrenamiento y el uso del modelo. Las tendencias actuales en IA sugieren que restringir el acceso a la computación a gran escala podría ser un enfoque particularmente efectivo para negar el acceso a las capacidades de IA más avanzadas.

Si bien esto plantea problemas para la salud y la diversidad de la comunidad de investigación de IA, las crecientes barreras de entrada presentan una oportunidad para controlar el acceso a estas capacidades de IA.

Los laboratorios de investigación de Frontier AI han invertido mucho en computación a gran escala para el aprendizaje automático en los últimos años. Los principales modelos de investigación de IA se entrenan en miles de chips de IA especializados, como unidades de procesamiento de gráficos o GPU, que se ejecutan durante semanas a la vez. La cantidad de cómputo utilizada en el entrenamiento de modelos de IA de frontera se multiplicó por diez mil millones entre 2010 y 2022, duplicándose cada seis meses (para los modelos más grandes, se duplicó cada 10 meses). Esta tasa de crecimiento es mucho más rápida que el período de duplicación de 24 meses según la Ley de Moore y es más rápida que la tasa actual de mejoras de hardware, que se ha estado duplicando cada dos años y medio. 26Para lograr este crecimiento informático, los costos de las ejecuciones de capacitación a gran escala se están disparando. Las estimaciones independientes ubican los costos de capacitación de los modelos más grandes en al menos millones de dólares, posiblemente en decenas de millones, para la ejecución final de capacitación. El aumento de los costos está consolidando el progreso en la vanguardia de la investigación de IA en un puñado de empresas tecnológicas con mucho dinero, impidiendo que los investigadores académicos entrenen los modelos más intensivos en cómputo. Si bien esto plantea problemas para la salud y la diversidad de la comunidad de investigación de IA, las crecientes barreras de entrada presentan una oportunidad para controlar el acceso a estas capacidades de IA.

Debido a que los chips son un recurso físico controlable, el acceso a las capacidades de IA con uso intensivo de cómputo se puede restringir controlando el acceso a los chips de IA de gama alta. Restringir el acceso a la computación a gran escala es un enfoque particularmente atractivo porque funcionaría incluso para un régimen un tanto "con fugas", ya que los actores prohibidos deben reunir grandes cantidades de computación para ser efectivos. De hecho, el gobierno de los EE. UU. adoptó precisamente este enfoque en octubre de 2022 cuando emitió amplios controles de exportación de chips de IA destinados a China, incluso cuando estos chips se fabricaron fuera de los Estados Unidos. Si tienen éxito, los controles de exportación de EE. UU. en chips de alta gama bloquearán efectivamente a China fuera de las capacidades de inteligencia artificial más avanzadas.

La viabilidad del control de armas destinado al hardware de IA dependerá en gran medida de la medida en que la infraestructura de fabricación de chips esté democratizada a nivel mundial o se concentre en manos de unos pocos actores. Si bien las cadenas de suministro de semiconductores de hoy en día están altamente globalizadas, también contienen cuellos de botella clave. Estos cuellos de botella dan a algunos países la capacidad de controlar el acceso al hardware de IA. Los controles de exportación de EE. UU. sobre chips de IA avanzados a China son posibles debido al dominio de las empresas estadounidenses en los equipos de fabricación de semiconductores. Los controles estadounidenses prohíben el uso de equipos fabricados en EE. UU. para fabricar chips de inteligencia artificial de alta gama destinados a China, incluso cuando esos chips se fabrican fuera de los Estados Unidos. Los países que dominan los futuros cuellos de botella de la cadena de suministro de chips podrían emplear medidas similares para controlar el acceso al hardware de IA.

Sin embargo, el futuro de las cadenas de suministro de semiconductores es muy incierto. Los impactos en la cadena de suministro y la competencia geopolítica han acelerado la intervención estatal en el mercado global de semiconductores y han causado incertidumbres significativas sobre cómo evolucionará el mercado. Los recientes controles de exportación de EE. UU. son solo la última intervención estatal en los mercados mundiales de semiconductores, y los efectos de segundo y tercer orden de estos controles llevará tiempo. Algunas tendencias actuales parecen apuntar hacia una mayor concentración de cadenas de suministro de hardware, mientras que otras tendencias apuntan hacia una mayor democratización. Un factor que contribuye a una mayor concentración en la industria es el alto costo de las plantas de fabricación de semiconductores, o "fabs". Por otro lado, China y Estados Unidos están trabajando arduamente para aumentar la producción de chips autóctonos por razones de seguridad nacional, en ambos casos presionando contra la consolidación del mercado natural a medida que gastan recursos gubernamentales para subsidiar nuevas fábricas. Los propios controles de exportación de EE. UU. tienen el efecto secundario de crear incentivos financieros para que el sector privado eluda los controles de EE. UU. al rediseñar su equipo de fabricación de chips para que no dependa de la tecnología de EE. UU. con el fin de vender en el mercado de China. China importa más de $ 400 mil millones al año en chips. Si bien los controles de exportación de EE. UU. actualmente afectan solo a aproximadamente el 1 por ciento del mercado chino de chips, es probable que el mercado de chips prohibidos crezca si los controles de EE. UU. se mantienen (como han dicho los funcionarios de EE. UU.) fichas heredadas. Poderosas fuerzas del mercado y ajenas al mercado están impactando la industria global de semiconductores, y los efectos a largo plazo de estas fuerzas en las cadenas de suministro aún no están claros.

Las tendencias en la mejora de la eficiencia algorítmica también podrían socavar la eficacia del control de la computación para controlar las capacidades de la IA. Si bien la cantidad de cómputo utilizada para entrenar modelos de investigación de IA de vanguardia ha crecido con el tiempo, una vez que se logra un gran avance, las mejoras algorítmicas reducen la cantidad de cómputo requerida para lograr el mismo nivel de rendimiento. Por ejemplo, la cantidad de cómputo requerida para lograr el mismo nivel de rendimiento de clasificación de imágenes en ImageNet, una base de datos de reconocimiento de imágenes, se redujo a la mitad cada nueve meses desde 2012 hasta 2021.33 Las mejoras en la eficiencia algorítmica pueden democratizar rápidamente la disponibilidad de modelos de IA al reducir la cantidad de hardware informático necesario para entrenar modelos, haciéndolos más accesibles.

Esto significa que el punto más eficaz en el proceso de desarrollo de IA para controlar el acceso a través de la computación se encuentra en la etapa de capacitación.

Un desafío final de usar la computación para controlar el acceso a las capacidades de IA es la asimetría fundamental en los recursos de cómputo necesarios para entrenar modelos de IA en relación con su uso, un proceso conocido como "inferencia". El entrenamiento de un modelo de IA en datos es muy intensivo en computación, lo que requiere cantidades masivas de datos y computación para los modelos más grandes. Sin embargo, una vez que se entrena un modelo, el proceso de usar el modelo entrenado para realizar una tarea, como generar texto, clasificar una imagen o reconocer una cara, generalmente usa mucho menos cómputo. Esto significa que el punto más eficaz en el proceso de desarrollo de IA para controlar el acceso a través de la computación se encuentra en la etapa de capacitación. Limitar qué actores tienen acceso a grandes cantidades de cómputo, y regular el comportamiento de aquellos que lo tienen, podría ser un método efectivo para restringir el acceso a las capacidades de IA. Sin embargo, una vez que se ha entrenado un modelo, la computación se convierte en un punto de control mucho menos efectivo. Los modelos entrenados pueden proliferar rápidamente y tener barreras de entrada mucho más bajas para su uso en términos de requisitos de datos, cómputo y capital humano en relación con el entrenamiento de nuevos modelos.

Los modelos entrenados pueden proliferar si los actores lanzan intencionalmente versiones de código abierto o si los modelos son robados o filtrados. En la actualidad, los modelos de IA innovadores se replican rápidamente con versiones de código abierto. Los equivalentes de código abierto de los modelos de IA generativa GPT-3 y DALL·E se lanzaron después de 14 y 15 meses, respectivamente. Una vez que los modelos están disponibles públicamente, proliferan rápidamente. Otra forma de que proliferen los modelos entrenados es que el modelo se filtre o sea robado. El modelo de lenguaje de IA de Meta LLaMA se filtró en 4chan, eludiendo los intentos de Meta de limitar el acceso a él. Una vez que se ha publicado públicamente un modelo entrenado, la computación puede dejar de ser un punto de control efectivo, ya que los requisitos de computación para la inferencia en modelos entrenados son relativamente bajos. Los modelos entrenados también se pueden ajustar para usos específicos mediante capacitación adicional, pero sin tener que rehacer la costosa capacitación inicial. Es posible que los controles de exportación en chips deban combinarse con controles de exportación en modelos entrenados por encima de un cierto umbral de cómputo, si se quiere que sean efectivos para restringir el acceso a capacidades de inteligencia artificial de alto nivel.

Mirando hacia el futuro

Los desafíos actuales de controlar las capacidades militares habilitadas por IA se asemejan más a la militarización de la tecnología de la era industrial a principios del siglo XX, cuando los países intentaron controlar una variedad de armas nuevas y peligrosas. Las principales potencias militares se reunieron más de 15 veces para discutir una variedad de iniciativas de control de armas desde 1868 hasta 1938. La escala de esta actividad diplomática transmite el nivel de persistencia y paciencia necesarios para lograr incluso resultados modestos en el control de armas. Los legisladores, académicos y defensores de la sociedad civil pueden tomar una serie de pasos hoy para comenzar a sentar las bases para el futuro control de armas de la IA. Estos incluyen un mayor diálogo sobre los riesgos que plantea la IA y las posibles medidas de control de armas que podrían imponerse, la creación de normas para los usos apropiados de la IA militar, abordar la "fruta madura" para construir patrones de cooperación estatal en IA militar y dar forma a el desarrollo de la propia tecnología de IA para hacerla más controlable en el futuro. Si bien ninguno de estos pasos garantiza que los futuros esfuerzos de control de armas de la IA tengan éxito, pueden aumentar la probabilidad de éxito.

Aumento del diálogo

Aumentar el diálogo en todos los niveles para comprender mejor cómo se podría usar la IA en el campo de batalla podría ayudar a iluminar las medidas de control de armas que pueden ser tanto deseables como factibles. Las conferencias académicas, los intercambios de académico a académico de Track II, las reuniones bilaterales y multilaterales y los debates en foros internacionales son valiosos para ayudar a promover el entendimiento mutuo entre las partes internacionales. Estos diálogos también deben incluir a científicos e ingenieros de IA, para garantizar que las conversaciones se basen en realidades técnicas. Debido a que la tecnología de IA está siendo impulsada por el sector comercial, también deberían incluir a las principales empresas tecnológicas y organizaciones que se han involucrado en el desarrollo de normas sobre IA, como Microsoft, Google, OpenAI, Baidu, Tencent y la Academia de Inteligencia Artificial de Beijing. Es importante que estas discusiones no se involucren en un “lavado de ética”, legitimando usos indebidos de la tecnología de IA, como abusos contra los derechos humanos. Es demasiado fácil para las instituciones publicar principios y declaraciones bien intencionados sobre la IA responsable. Estas declaraciones deben combinarse con acciones que demuestren el seguimiento del uso responsable de la IA. Dar forma a las normas para el uso de la IA a medida que se desarrollan estas normas puede ser una herramienta poderosa para guiar el empleo futuro de la tecnología de la IA. Debido a que la IA es tan ubicua, muchas medidas de control de armas deberán generalizarse con el tiempo para ser efectivas, como lo es hoy el control de armas para las armas químicas y biológicas. Los esfuerzos para entablar un diálogo pueden comenzar de a poco. Si Estados Unidos y China, las principales potencias militares y de inteligencia artificial del mundo, tomaran la iniciativa, sería una forma poderosa de moldear las expectativas de otros países sobre la inteligencia artificial militar. 

Formando Normas

Estados Unidos se ha involucrado de manera proactiva en la elaboración de normas sobre el uso de la IA. El gobierno de EE. UU. ha publicado un flujo constante de documentos sobre IA militar en los últimos años, incluidos los principios éticos de IA del Departamento de Defensa, las Directrices de IA responsable de la Unidad de Innovación de Defensa, la estrategia de IA responsable del Departamento de Defensa, una actualización de la política del Departamento de Defensa sobre autonomía en las armas, una declaración sobre el control humano de las armas nucleares en la Revisión de la Postura Nuclear de 2022 y una declaración política del Departamento de Estado sobre el uso militar de la IA. Estas declaraciones de política unilaterales no limitarán la forma en que otros estados desarrollan la IA, pero pueden ayudar a dar forma a las opiniones estatales sobre cómo los militares podrían usar la IA. Como próximo paso, los legisladores estadounidenses deberían trabajar con otros estados para adoptar estos principios para ayudar a dar forma a las normas emergentes sobre el uso de la IA.

Construyendo Cooperación

Al buscar "frutas al alcance de la mano" (control de armas relativamente inobjetable o medidas de fomento de la confianza), los estados podrían ayudar a construir patrones de cooperación para gestionar los riesgos de la IA. Un área que está especialmente madura para la colaboración internacional es un "acuerdo internacional de incidentes autónomos" para embarcaciones autónomas sin tripulación, inspirado en el Acuerdo de Incidentes en el Mar entre Estados Unidos y la Unión Soviética de 1972. Muchos acuerdos internacionales existentes ya regulan el comportamiento de aeronaves y embarcaciones tripuladas, incluida la Convención sobre las normas internacionales para prevenir colisiones en el mar, el Código para encuentros no planificados en el mar y múltiples acuerdos bilaterales entre Estados Unidos y China. La actualización de los acuerdos existentes o la elaboración de un nuevo acuerdo para cubrir los sistemas autónomos y no tripulados podría ser un paso valioso para generar confianza y cooperación entre los estados para ayudar a gestionar los riesgos de la IA.

Dar forma al desarrollo de la IA

El paso más importante que los legisladores estadounidenses y aliados pueden dar hoy para controlar cómo se usa la IA en futuros conflictos es dar forma al desarrollo de la propia tecnología de IA para que sea más controlable. El hardware informático es un punto de control especialmente valioso debido a las tendencias en la IA intensiva en computación y la capacidad de limitar físicamente el acceso a los chips. Las decisiones de política que se toman hoy podrían hacer que la computación sea más o menos gobernable en el futuro. El gobierno de EE. UU. se ha metido en la política industrial de semiconductores a través de subsidios gubernamentales y controles de exportación, pero a menudo sin un sentido claro de cuáles son los objetivos de la política. Los subsidios y los controles de exportación son herramientas importantes para sentar las bases de la gobernanza informática, pero son incompletos e incluso podrían ser perjudiciales si no se ejecutan correctamente. Los Estados Unidos El gobierno necesita una estrategia integral para garantizar el control continuo sobre el acceso a los recursos informáticos a gran escala. Hay una serie de elementos clave necesarios para una estrategia exitosa de gobierno de computación.

Mantener el dominio de las empresas estadounidenses garantizará que el gobierno de los EE. UU. conserve la capacidad de controlar el acceso a la computación en el futuro.

Primero, una estrategia integral debería limitar la producción de semiconductores avanzados de China. Los controles de exportación de EE. UU. de octubre de 2022 sobre el envío de equipos de fabricación de semiconductores a China asestaron un duro golpe a la industria nacional de fabricación de semiconductores de China. Pero solo tendrá éxito si Japón y los Países Bajos se unen a Estados Unidos en este esfuerzo. En conjunto, Japón, los Países Bajos y los Estados Unidos controlan el 90 por ciento del mercado mundial de equipos de fabricación de semiconductores. A principios de 2023, los informes noticiosos indicaron que Japón y los Países Bajos adoptaron controles similares a los de Estados Unidos, aunque mucho dependerá de las tecnologías específicas a las que se dirijan estos controles.

En segundo lugar, la estrategia de EE. UU. debe garantizar que las empresas estadounidenses sigan dominando los cuellos de botella clave en la cadena de suministro global. En su política industrial de semiconductores, el gobierno de EE. UU. debe priorizar la creación de un ecosistema nacional para la fabricación de vanguardia a fin de garantizar que las empresas estadounidenses sigan siendo dominantes en estos importantes cuellos de botella para la tecnología de fabricación de semiconductores de próxima generación. Mantener el dominio de las empresas estadounidenses garantizará que el gobierno de los EE. UU. conserve la capacidad de controlar el acceso a la computación en el futuro.

En tercer lugar, es importante mejorar el seguimiento informático para evitar el desvío de chips controlados a actores prohibidos. Los controles de exportación de EE. UU. sobre chips de IA solo serán tan efectivos como su aplicación. El gobierno de EE. UU. debe mejorar sus herramientas y recursos para rastrear y monitorear chips controlados para evitar que los actores prohibidos acumulen grandes cantidades de cómputo.

En cuarto lugar, la estrategia de EE. UU. debe hacer que las empresas chinas sigan dependiendo de los recursos informáticos que utilizan tecnología estadounidense. El objetivo de los controles estadounidenses no debería ser negar a las empresas chinas el acceso a cualquier tecnología estadounidense, sino mantenerlas dependientes de la tecnología estadounidense para que el gobierno estadounidense pueda controlar su acceso a grandes cantidades de computación. Los formuladores de políticas deben tener en cuenta las posibles desventajas de los controles de exportación, en particular las restricciones sobre los propios chips de IA. Los controles de exportación podrían acelerar el desarrollo de cadenas de suministro que no dependan de la tecnología estadounidense a medida que los estados que están aislados de fuentes externas redoblen sus esfuerzos para aumentar su capacidad nacional. Los formuladores de políticas deben promover políticas que ayuden a mantener el control centralizado sobre los recursos informáticos y, por lo tanto, la capacidad de restringir estos recursos en el futuro y no acelerar su difusión sin darse cuenta.

Quinto, Washington necesita promulgar controles de exportación y requisitos de seguridad cibernética para modelos capacitados. Los controles de exportación en chips de gama alta no serán efectivos para restringir el acceso a capacidades de IA de gama alta si los modelos entrenados se filtran, roban o liberan. Los controles de exportación de chips de gama alta deben complementarse con controles de exportación de ciertos tipos de modelos entrenados para que la gobernanza informática sea eficaz. Los modelos entrenados podrían tener aplicaciones relevantes para la seguridad por diseño o como una propiedad emergente de modelos grandes de doble uso. Es posible que se requieran controles de exportación para modelos entrenados para ciertas aplicaciones, como seguridad cibernética o generación de nuevos compuestos químicos, debido a su potencial de uso indebido, o para cualquier modelo por encima de un cierto umbral de cómputo, debido a su naturaleza de doble uso. 49Del mismo modo, se debe exigir a las empresas estadounidenses que realizan entrenamientos a gran escala que cumplan con rigurosas medidas de seguridad cibernética para garantizar que sus modelos no sean robados por actores malintencionados.

Finalmente, una estrategia integral debe regular el uso de computación a gran escala. Para garantizar que los controles sobre chips de IA avanzados y modelos entrenados sean efectivos, el gobierno de los EE. UU. deberá promulgar un régimen regulatorio nacional para controlar el uso de grandes cantidades de cómputo. De lo contrario, los actores prohibidos simplemente podrían acceder a la computación a gran escala para entrenar modelos a través de proveedores de la nube. Las regulaciones sobre el uso de la computación deben cubrir las carreras de capacitación a gran escala y el uso de centros de computación en la nube de IA. Las regulaciones deberían, como mínimo, exigir informes a los reguladores de EE. UU. sobre carreras de entrenamiento a gran escala y estándares de seguridad cibernética para carreras de entrenamiento por encima de un cierto umbral de cómputo. También deberían exigir a los proveedores de la nube que se aseguren de que sus servicios no sean utilizados por actores prohibidos. 

La tecnología de IA continuará evolucionando rápidamente, y aquellos que trabajan en iniciativas de control de armas deben permanecer ágiles y dispuestos a ajustar su enfoque a diferentes aspectos de la tecnología de IA o diferentes capacidades militares habilitadas por IA si surge la necesidad. Mantener métricas para rastrear el progreso y la proliferación de la IA será útil para evaluar las posibilidades de control de armas, así como los posibles desafíos futuros. 

En la actualidad, no está claro cómo los militares adoptarán la IA, cómo la tecnología podría afectar la guerra y qué formas de control de armas, si las hay, los estados pueden percibir como deseables y factibles. Sin embargo, hay acciones que los formuladores de políticas pueden tomar hoy para sentar las bases para posibles medidas de control de armas en el futuro, lo que incluye no solo dar forma a la evolución de la tecnología sino también al clima político. Las acciones que se tomen hoy, incluso las más pequeñas, podrían generar grandes resultados en el futuro. Los Estados deben aprovechar estas oportunidades, cuando sea posible, para reducir los riesgos del uso militar de la inteligencia artificial.

Rusia: Componentes y capacidades del sistema de control táctico unificado

Componentes y capacidades del sistema de control escalonado táctico unificado

Revista Militar
Ryabov Kirill


 
Principios generales del trabajo ESU TK. Gráficos B


Hasta la fecha, la industria ha desarrollado y llevado a la producción en serie el Sistema de Control Táctico Unificado (ESU TZ). Ahora se está desplegando en unidades y subdivisiones de las fuerzas terrestres, como resultado de lo cual aumentan su rendimiento y reciben capacidades fundamentalmente nuevas. Todas estas ventajas son proporcionadas por una serie de nuevos dispositivos radioelectrónicos y muestras de equipos para diversos fines.

En la etapa de desarrollo

Por diversas razones, el desarrollo de un nuevo sistema de control resultó ser un proceso difícil y que requería mucho tiempo. Entonces, el concepto de un sistema de tipo centrado en redes de este tipo se propuso a principios de los años ochenta, pero durante dos décadas no recibió el desarrollo adecuado. Solo en 2000-2001 se lanzó un proyecto completo de este tipo, que recibió el código "Constellation-M".

El desarrollador principal de ESU TZ es la empresa Sozvezdie, que forma parte del holding Ruselectronics de la corporación estatal Rostec. La preocupación realiza la coordinación general del trabajo, así como diseña y fabrica algunos componentes del sistema. Además, algunas otras empresas de las industrias radioelectrónica y de defensa se dedican al desarrollo y producción de equipos.


 
Terminal de operador de uno de los vehículos de mando y personal de la ESU TZ. Foto del Ministerio de Defensa de la Federación de Rusia.

En la segunda mitad de la década de 2000, se probó la primera versión del futuro ESU TK, según los resultados de los cuales se envió para su revisión. Las siguientes inspecciones a gran escala se llevaron a cabo a mediados de las décimas. Entonces, el primer evento importante que utilizó ESU TK fue el ejercicio Caucasus-2016. Según sus resultados, el sistema se mejoró nuevamente y luego se recomendó su adopción.

A fines de 2018, el Ministerio de Defensa realizó el primer pedido para la producción en serie de componentes ESU TZ. Luego se informó que durante los próximos años, se entregarían a las fuerzas terrestres decenas de equipos y equipos de brigada.

Hasta la fecha, estos planes se han cumplido, al menos en parte. El Ministerio de Defensa y los medios de comunicación informan de un reequipamiento completo de cuatro divisiones. Al mismo tiempo, el suministro de nuevos productos no se detiene y se lleva a cabo en interés de otras conexiones. Según datos conocidos, ya se han probado muestras seriadas de ESU TK durante ejercicios de varias escalas.



Operador en el trabajo. Foto del Ministerio de Defensa de la Federación de Rusia.

Paralelamente a la producción de un ESU TK moderno, se está desarrollando un sistema prometedor con el mismo propósito, al que se hace referencia con el código "Constellation-2015". Aún no se han mencionado detalles técnicos, pero se informa que dicho sistema no será inferior a los mejores análogos del mundo, y en algunos parámetros incluso los superará. Además, se está introduciendo en el mercado una versión de exportación del ESU TZ con el nombre de "Sistema automatizado de mando y control de escalones tácticos".

Pieza de hardware

En su forma actual, ESU TK es un complejo de control de campo de batalla multicomponente con varias funciones diferentes. Como parte del sistema operan simultáneamente 11 subsistemas para diversos fines, los cuales se encargan de intercambiar datos sobre la situación táctica, transmitir órdenes, interactuar con otras tropas, etc.


 
Una de las opciones de dispositivos para la infantería es el complejo UNKV-E. Photo Concern "Constelación"

ESU TK se construye sobre la base de varios tipos de vehículos de comando, personal y comunicaciones con modernos equipos electrónicos e instalaciones informáticas. Para su uso en varios equipos y en subdivisiones, se han desarrollado complejos de software y hardware de la composición requerida. Todos estos componentes permiten reunir todas las unidades de infantería de un escuadrón, vehículos blindados, equipos de reconocimiento, cuartel general, etc. en un único campo de información y control.

Los componentes clave de ESU TK son estaciones de radio de varios tipos, que brindan transmisión de voz y datos, incl. a través de un canal seguro. En particular, las estaciones de la familia R-168 "Acueducto" se utilizan en diferentes diseños. El sistema de control también incluye varios tipos de computadoras para procesar y distribuir datos. Se prevén medidas para proteger los canales de radio de interferencias, intercepciones y "piratería".


 
Complejo de hardware y software para vehículos blindados.

Para las unidades de infantería, independientemente de su especialización, los llamados. Equipo portátil compuesto por una tableta y una estación de radio. Con la ayuda de dicho equipo, integrado con el equipo estándar, el comandante de la unidad puede monitorear la situación táctica e intercambiar datos con el comandante superior. Se utilizan dispositivos similares para cálculos de UAV ligeros, ATGM, artillería remolcada, etc.

Los vehículos blindados de todas las clases principales están equipados con un complejo de software y hardware especial. El comandante del vehículo recibe un terminal para emitir e ingresar datos, asociado con el equipo de cómputo y las instalaciones de comunicación que lo acompañan. En nuevos proyectos de vehículos blindados, dichos dispositivos se proporcionan de inmediato. Según datos conocidos, el tanque T-14, los nuevos modelos de vehículos blindados de infantería, los cañones autopropulsados ​​"Coalition-SV", etc. fueron inicialmente adaptados para el trabajo centrado en la red. Los equipos más antiguos reciben tales dispositivos durante la modernización. Ya se están instalando en los cañones autopropulsados ​​T-90M MBT, Msta-SM2, etc.

Todas las unidades y equipos se ensamblan en una sola red con la ayuda de los equipos adecuados. Entonces, el ESU TZ incluye vehículos unificados de comando y personal R-149MA1, máquinas de comunicación R-142NMR, MP-1IM, etc. En el transcurso del trabajo de combate, todos ellos deben formar un campo de información y control con la capacidad de intercambiar datos rápida y libremente entre casi todos los participantes de acuerdo con sus necesidades.


Emisora ​​de radio transportable R-168-100KAE en versión de exportación. Foto Vitalykuzmin.net

Se prevé integrar ESU TK con los sistemas de control existentes de algunas armas de combate. Para ello, los puestos de mando habituales de este último reciben módulos de software y hardware adicionales. Por ejemplo, el control de defensa aérea se está integrando con ESU TZ usando el sistema Barnaul-T, y los sistemas de artillería antiguos podrán usar el vehículo de comando unificado 1V172-2.

Nuevos principios

El ESU TK utiliza un principio centrado en la red que es nuevo para nuestro ejército. Esto significa que los circuitos de control general incluyen puestos de mando de diferentes niveles, así como unidades individuales, vehículos, etc. Cada elemento de dicho sistema resuelve sus propios problemas e interactúa con otros, en su propio nivel o superior. Al mismo tiempo, no hay centros pronunciados en el sistema que sean críticos para todos los circuitos.

Trabajando como parte del Sistema de Control Unificado, cada vehículo de combate, unidad, vehículo de reconocimiento, etc. Transfiere al campo general datos sobre los objetivos identificados y otra información. Estos datos están disponibles de inmediato para todos los demás participantes en ESU TK en el mismo nivel o en un nivel superior. El comandante de la subunidad / formación puede distribuir objetivos y emitir designaciones de objetivos con una transmisión casi instantánea a la potencia de fuego seleccionada.


 

Vehículo unificado de comando y personal R-149MA1. Foto del Ministerio de Defensa de la Federación de Rusia.

De hecho, con la ayuda de ESU TK, se forma en tiempo real el mapa más detallado del campo de batalla con varios objetos enemigos y objetivos identificados. Gracias a esto, el comando tiene la oportunidad de ver la situación completa en el área de operación y hacer el uso más efectivo de las fuerzas y activos encomendados. Según algunos informes, las instalaciones informáticas basadas en inteligencia artificial pueden introducirse en el Sistema de control unificado. Analizarán la situación y sugerirán las mejores soluciones a los comandantes.

Las pruebas y la operación en las tropas mostraron que el uso de ESU TK en la estructura organizativa y de personal existente puede aumentar significativamente todos los indicadores de unidades y subunidades. En particular, la velocidad de los bucles de control aumenta 3 veces. La actualización de datos sobre el enemigo se acelera de 4 a 5 veces. En consecuencia, es posible realizar ataques más rápidamente contra objetivos recién identificados: no pasan más de unos minutos desde la detección hasta el impacto en un objetivo.

Grandes beneficios

Lamentablemente, el concepto de un sistema de mando y control de tropas centrado en la red no recibió de inmediato la atención y el apoyo necesarios. Fue posible comenzar a trabajar en el proyecto más importante hace solo dos décadas, y sus resultados en forma de nuevos equipos y máquinas aparecieron en las tropas solo ahora.


 
Cañones autopropulsados ​​"Msta-SM2". Debido a la instalación de la terminal ESU TZ, estos vehículos muestran mayores cualidades de combate. Foto del Ministerio de Defensa de la Federación de Rusia.

Sin embargo, a pesar de todas las dificultades del pasado, la tarea de crear una ESU TK se ha resuelto con éxito, y ahora la empresa Sozvezdie, junto con sus subcontratistas, produce los productos necesarios y los transfiere a las tropas. En solo un par de años, logramos obtener algunos de los resultados deseados y, en el futuro previsible, continuará el reequipamiento. Además, a largo plazo, se espera que aparezca una versión mejorada del ESU TK con características mejoradas. No debemos olvidar el proyecto de exportación de ACCS TK, que puede traer mucho dinero a nuestro país.

Llevar ESU TK a las tropas conduce a varios resultados importantes. En primer lugar, este es el surgimiento de lazos de control completamente nuevos con capacidades fundamentalmente nuevas. Además, las fuerzas terrestres reciben modernos vehículos de comando y personal y comunicaciones con un recurso completo, que pueden permanecer en servicio durante mucho tiempo. Lo mismo se aplica a los equipos de infantería y vehículos de combate. Al mismo tiempo, todos los componentes del sistema de control se crean sobre una base de elementos moderna, que también prolonga su vida útil.

Así, tras una larga espera, nuestro ejército recibe nuevos controles que afectarán positivamente a todos sus principales indicadores. El proceso de reequipamiento de piezas y conexiones ha alcanzado el ritmo requerido y da los resultados requeridos. Esto significa que en unos pocos años nuestras fuerzas terrestres cambiarán por completo a ESU TK y se convertirán en una fuerza aún más rápida, flexible y eficaz.