Operar la IA en la zona gris: trazar límites claros antes de que se difuminen
Morgan Plummer || War on the Rocks
Nota del editor: Esta es la tercera entrega de una serie que explora las decisiones clave sobre políticas de IA que enfrentan el Departamento de Defensa y el Congreso. Lea también la primera, " Cuatro decisiones sobre políticas de IA que los legisladores no pueden permitirse equivocar ", y la segunda, " Los combatientes, no los ingenieros, deciden en qué IA se puede confiar ".
Hoy, y no en un futuro lejano, los algoritmos de IA pueden moldear la percepción pública, perturbar los mercados y dirigir misiles. Dada la profundidad y amplitud de sus capacidades, cada vez es más evidente que la verdadera frontera de la inteligencia artificial no es el campo de batalla, sino la zona gris . Mucho antes de que se dispare un solo tiro, las naciones ya están atrapadas en una competencia constante en un espacio impreciso donde las operaciones de influencia , la coerción económica y las campañas cibernéticas difuminan persistentemente las fronteras entre la paz y la guerra. En los últimos 10 años, muchas naciones han puesto a prueba hasta dónde pueden presionar a los estados competidores sin caer en un conflicto abierto, y la IA se está convirtiendo rápidamente en el acelerador de estas acciones.
Los responsables de la formulación de políticas de defensa y el Congreso han pasado la última década preguntándose cómo la IA podría transformar la guerra. Pero esa es la pregunta equivocada, o al menos, incompleta. La pregunta más urgente es cómo la IA transformará el espacio intersticial que sirve de preludio al conflicto real. Este espacio representa la competencia ambigua y persistente que define la rivalidad actual entre las grandes potencias. E incluso mientras los responsables políticos en Washington debaten el uso responsable de la IA en la selección de objetivos o el mando y control para futuros conflictos teóricos, aún no han decidido qué significa "uso responsable" en relación con las campañas de influencia, disrupción y disuasión que ya están en marcha .
Entonces, ¿cómo debería Estados Unidos determinar qué usos de la IA son aceptables en este espacio turbio e intermedio? En este contexto, el teórico político Michael Walzer ofrece una guía útil. En su obra emblemática, Esferas de Justicia , Walzer argumentó que la justicia depende de la separación de distintas "esferas" de la actividad humana (por ejemplo, la política, la economía, la educación) y que cada esfera se rige por su propia lógica moral: un conjunto de principios rectores que deberían configurar la actividad en esa esfera específica. Cuando se confunden los límites entre esas esferas, surge la injusticia.
Aplicada a la política basada en IA, la lógica de Walzer sugiere una idea simple, pero poderosa: no todas las capacidades basadas en IA deberían aplicarse a todos los ámbitos de la competencia estratégica. Una capacidad cuyo uso sea apropiado para el combate puede resultar profundamente corrosiva en operaciones de influencia en tiempos de paz. Los mismos modelos utilizados por los misiles para atacar a destructores enemigos no deberían emplearse también para atacar a votantes , disidentes o mercados. En resumen, el problema que la teoría de Walzer ayuda a destacar no es que la IA sea demasiado potente para su uso en la zona gris, sino que actualmente es demasiado portátil. Esta promiscuidad inherente amenaza con disolver los límites que mantienen tolerable la competencia entre grandes potencias .
Cómo hacer que la lógica de Walzer funcione para Washington
Entonces, ¿qué hacer? Sin dudarlo demasiado, el constructo ético de Walzer se aplica sorprendentemente bien a los instrumentos del poder nacional. Cada ámbito —diplomático, militar, informativo y económico— ya cuenta con sus propias normas aceptadas y principios morales que suelen definir la competencia legítima. Pero la IA, debido a su flexibilidad y a su infinidad de casos de uso, corre el riesgo de borrar esas distinciones a menos que los responsables políticos comiencen a trazar límites claros.
En lo que respecta al instrumento diplomático de poder, la " lógica moral " que rige es persuadir, respetando al mismo tiempo la capacidad de cada parte. La IA, que mejora la conciencia situacional general y proporciona una perspectiva adicional sobre el pensamiento de un gobierno durante las negociaciones, se ajusta a esta ética, al permitir a los diplomáticos interactuar desde una perspectiva basada en hechos, en lugar de bajo presión coercitiva. Pero si se utiliza la IA para simular actores políticos, identificar las vulnerabilidades psicológicas de diplomáticos extranjeros o automatizar la diplomacia coercitiva, se difumina la frontera entre la persuasión y la manipulación. Ya no se puede llamar diplomacia si el objetivo ya no es convencer, sino acorralar.
En la esfera de la información, que incluye tanto las operaciones de inteligencia como las de información, las normas que rigen son la verdad, la rendición de cuentas y la autonomía cognitiva . La IA que acelera el análisis de inteligencia, identifica la interferencia extranjera con las audiencias nacionales o mejora la detección de amenazas refuerza estas normas cuando se combina con la supervisión y la mínima intrusión. Pero las mismas herramientas pueden volverse corrosivas , tanto en el país como en el extranjero, cuando se utilizan para distorsionar la realidad, automatizar operaciones de información encubierta o moldear el comportamiento político de otro país sin su consentimiento . Mientras Estados Unidos recopila y se comunica con sus aliados, socios y posibles adversarios, la prueba es simple: ¿La IA profundiza la comprensión veraz o la erosiona?
En el ámbito militar, la lógica moral relevante, desde tiempos inmemoriales, es la necesidad y la proporcionalidad . La IA militar que mejora la protección de la fuerza, optimiza la precisión de los objetivos para reducir los daños colaterales o refuerza la gestión del campo de batalla para mantener la concentración del combate se ajusta perfectamente a estos principios, siempre que exista una responsabilidad humana significativa . Los sistemas autónomos o basados en IA son apropiados cuando existen reglas de enfrentamiento claramente definidas, pero pierden legitimidad moral cuando se reutilizan para facilitar el control interno o aumentar deliberadamente el alcance de un enfrentamiento militar.
Finalmente, en el ámbito económico, la lógica central del libre mercado es la equidad, el consentimiento y la transparencia. La IA utilizada en este ámbito puede ayudar a aplicar sanciones o a detectar redes financieras ilícitas, lo que respalda la legitimidad del Estado. Sin embargo, si algunos de estos mismos modelos se utilizan para manipular los mercados como forma de coerción, presionar a empresas internacionales para que cumplan con las políticas o ejercer otras formas de coerción algorítmica y opaca, se socavan fundamentalmente las premisas , sujetas a normas, del intercambio económico justo entre Estados.
Cada uno de estos dominios ya opera con cierto grado de expectativa moral . El desafío emergente y urgente para los responsables políticos es garantizar que el diseño y el despliegue de la IA respeten la lógica actual de cada ámbito al que sirve, en lugar de borrar las distinciones entre ellos. Los modelos que son defendibles para su uso en combate son casi con certeza poco éticos para emplearlos en el mercado o como parte de una operación de influencia. La zona gris no es un vacío moral, y si Estados Unidos no define estos límites de forma temprana y clara, es probable que se erosionen, sobre todo si permite que otros estados los definan.
Un nuevo marco para orientar las políticas de IA en zonas grises
Un marco de políticas inspirado en Walzer para la IA en la zona gris ofrece un principio de organización simple que es a la vez fácil de digerir y de aplicar: establecer límites que definan cuándo los sistemas habilitados para IA nunca deben usarse (es decir, lo prohibido), cuándo pueden usarse en condiciones cuidadosamente definidas (es decir, lo restringido) y cuándo se debe alentar su uso con muy pocos límites (es decir, lo permisivo).
Entonces, ¿cuándo deberían prohibirse los sistemas basados en IA en la zona gris? Algunos usos de la IA, incluso si resultan ventajosos táctica o estratégicamente para Estados Unidos, reducen la legitimidad misma que sustenta la influencia estadounidense en todo el mundo. Las campañas de engaño a gran escala, como los deepfakes, la creación de personajes sintéticos y la propaganda amplificada por IA, deberían estar todas en la zona prohibida. Además, la interferencia mediante IA en los procesos democráticos de un Estado o su uso para vigilar a civiles fuera de zonas de conflicto debería prohibirse expresamente. Estos usos erosionan la credibilidad de los valores estadounidenses en el extranjero y, una vez adoptados por Estados Unidos, invitan a campañas recíprocas tanto de adversarios como de aliados que limitarán gravemente las vías de desescalada.
En cuanto a cuándo debería restringirse el uso de la IA en la zona gris, los principios rectores reconocen que algunas aplicaciones respaldarán instrumentos legítimos del arte de gobernar, pero aún deben reconocerse como tecnologías sensibles de doble uso . Por ejemplo, el modelado predictivo de la toma de decisiones del adversario en tiempos de guerra, la aplicación de sanciones mediante IA y la detección automatizada de campañas de desinformación deberían incluirse en la categoría restringida. El uso de estas herramientas está justificado siempre que estén alineadas con los valores estadounidenses, se lleven a cabo con una supervisión transparente y refuercen las normas internacionales de comportamiento legítimo de los Estados. No obstante, el uso de este tipo de sistemas basados en IA debería seguir siendo auditable por los responsables políticos, tener un alcance limitado y estar sujeto a mecanismos claros de atribución para ayudar a prevenir la desviación de la misión o el uso indebido. En la categoría "restringida", el desafío no radica en si se debe usar la IA, sino en cómo gestionarla responsablemente para que no eluda la rendición de cuentas internacional o nacional.
Finalmente, ¿qué capacidades basadas en IA deberían permitirse en la zona gris? Ciertos usos de la IA deberían adoptarse precisamente porque mejoran la resiliencia institucional, las normas y la disuasión sin erosionar la legitimidad de Estados Unidos. Los sistemas de IA que mejoran la alerta temprana de amenazas, protegen infraestructuras críticas de ataques cibernéticos o físicos, o detectan e identifican desinformación extranjera, contribuyen a reforzar las normas y valores democráticos, así como la estabilidad internacional. El uso de estas herramientas permisivas se convierte en el equivalente en la zona gris de las fortificaciones defensivas: son transparentes, estabilizadoras y coherentes con las normas estadounidenses y de sus aliados, que Estados Unidos tiene interés estratégico en promover.
El lector ocasional notará que estas listas no son exhaustivas; no pretenden serlo. Estados Unidos necesita un marco para reflexionar de forma más eficaz sobre el uso de sistemas basados en IA en la zona gris, no una lista interminable de actividades categorizadas. Los buenos marcos de políticas son duraderos, iterativos y flexibles , y la reflexión sobre las operaciones basadas en IA en la zona gris no debería ser la excepción.
Pero los buenos marcos de políticas no son meramente conceptuales, sino que suelen estar codificados en directrices políticas formales o estatutos. De igual manera, la administración Trump debería liderar el debate político sobre el uso de las capacidades basadas en IA en la zona gris y ordenar, mediante una Orden Ejecutiva, que el personal del Consejo de Seguridad Nacional desarrolle dicho marco. Este marco debería ser evaluado por los departamentos y agencias ministeriales pertinentes y codificado mediante nuevas medidas ejecutivas o texto legal en colaboración con el Congreso. Esto no es una simple demostración de virtud , sino una apuesta estratégica a que una moderación creíble en algunas áreas permite una ventaja sostenible en otras.
Pensamiento claro que mejora la posición de Estados Unidos
Muchos estrategas de defensa han opinado que la zona gris es donde se decidirá el futuro de la competencia entre grandes potencias. De ser cierto, la inteligencia artificial bien podría ser el instrumento decisivo. Pero los debates actuales, que a menudo se centran en la ventaja estratégica efectiva más que en la ética, corren el riesgo de repetir los errores iniciales de la política cibernética. Muchos recordarán que la novedad de la tecnología cibernética resultó en un despliegue rápido, con poca teorización sobre cómo limitar sus efectos. La comunidad internacional aún convive con las consecuencias de esas primeras decisiones, y las operaciones cibernéticas, incluso hoy, suelen estar marcadas por el secretismo, la negación y la escalada normalizada. La teoría de Walzer es un buen recordatorio de que la ventaja tecnológica sin barandillas morales suele corroer la legitimidad que ayuda a respaldar tanto el poder duro como el blando de Estados Unidos .
Si Estados Unidos adopta la geografía moral de este marco para el uso de la IA en la zona gris, no se eliminarán por completo las decisiones difíciles. Sin embargo, un marco basado en la teoría de Walzer proporciona un léxico común para guiar las difíciles decisiones que se avecinan sobre cómo Estados Unidos equilibrará continuamente la legitimidad y la influencia. Si los responsables políticos normalizan la IA como una herramienta para la influencia o manipulación ilimitadas, Estados Unidos corre el riesgo de erosionar el orden liderado por Estados Unidos que pretende defender. Si la IA se ve sobrelimitada y el aparato de política exterior de Estados Unidos se ve paralizado, el país podría terminar viendo cómo sus competidores reescriben las reglas sin la influencia de otros estados.
Inspirado por Walzer, el marco aquí expuesto ofrece una solución intermedia. No pretende que la zona gris pueda ser limpia o cómoda; ambos descriptores son fundamentalmente antitéticos a la noción misma de zona gris. Sin embargo, este marco sí ofrece a los responsables políticos una forma fundamentada de distinguir entre la competencia estratégica legítima, la escalada peligrosa y la manipulación descarada. Ayuda a crear hábitos que vale la pena mantener y traza líneas rojas que vale la pena defender. Estados Unidos tiene la oportunidad de definir los límites internacionales para el uso de la IA en la zona gris, antes de que las normas se endurezcan o se formen hábitos operativos. La zona gris siempre será caótica, pero Walzer enseña que la reflexión estadounidense sobre cómo actuar dentro de ella no tiene por qué serlo.
El dron kamikaze Shahed-136 del ejército estadounidense está adquiriendo capacidad de enjambre con inteligencia colectiva
Shield AI está proporcionando el software para desbloquear el potencial de enjambre cooperativo del LUCAS, probado en combate, lo que podría aumentar drásticamente su letalidad.
Thomas Newdick || TMZ