Ganarse un lugar en el equipo: autonomía, confianza y el futuro de la guerra
Heidi Segars y Ericka Rovira | Institute of Modern Warfare
En un campo de batalla cada vez más influenciado por la tecnología, los militares y las máquinas están aprendiendo a luchar codo con codo. Robots semiautónomos como "Spot", un cuadrúpedo actualmente integrado en el entrenamiento militar de la Academia Militar de los Estados Unidos, están preparados para influir drásticamente en el carácter cambiante de la guerra gracias a su capacidad de desplazarse por terrenos accidentados, evitar obstáculos de forma autónoma y realizar tareas cruciales de reconocimiento en escenarios de entrenamiento de combate. Sin embargo, a pesar de la destreza tecnológica de Spot, surge una pregunta clave: ¿Cómo aprenden los militares a confiar y a usar un robot diseñado para ser un compañero de equipo?
El ruido del rotor se intensificó al aterrizar el helicóptero en la zona de aterrizaje. Los cadetes de la Academia Militar de EE. UU. se apiñaron, listos para realizar ejercicios de campo como parte de su Entrenamiento de Desarrollo de Liderazgo para Cadetes de verano. Organizados en su formación táctica, los cadetes levantaron la vista uno a uno y conectaron miradas con su nuevo compañero. "De repente, fue como decir: '¡Oye, tenemos a Spot!'", comentó uno de ellos. "No sé qué hacer con este activo".
Ejercicios como estos son parte integral del entrenamiento militar de cadetes y requieren una gran confianza interpersonal y una fuerte cohesión en el equipo para tener éxito. En general, los 357 cadetes participantes (el 97 % entre diecinueve y veintiún años, y el 73 % hombres) manifestaron niveles extremadamente altos de confianza en sus compañeros y una alta cohesión de equipo.
Pero ¿qué hay de la confianza en un robot? Los cadetes provenían de una amplia gama de trayectorias, intereses y opiniones. La mayoría se especializaban en ingeniería o ciencias sociales, incluyendo ciencias de la información geoespacial y psicología de la ingeniería. Sin embargo, aproximadamente tres de cada cuatro cadetes nunca habían usado un robot en su entrenamiento o ejercicios militares, y menos del 1 % tenía lo que describieron como "mucha" experiencia previa en ejercicios con robótica. Al preguntarles si creían que podrían trabajar con un robot para completar una tarea, la mayoría estuvo de acuerdo. Si bien la confianza inicial de los cadetes en los robots (y en la tecnología en general) fue muy diversa, tendían a verlos más como una herramienta y menos como un compañero de equipo.
El pelotón se apiñó en la zona de aterrizaje, mientras los cadetes ensayaban mentalmente los planes para su misión. En tan solo unos minutos, comenzarían a acercarse a un objetivo, varios edificios y estructuras de madera, y ejecutarían un ataque ofensivo. Mientras tanto, el perro robot amarillo brillante les devolvía la mirada, esperando sus órdenes.
Spot fue recibido con docenas de miradas de disgusto. "¿Qué puede hacer?", preguntó el líder del pelotón con sarcasmo, escéptico sobre la utilidad de Spot. Los cadetes rieron entre sí al mismo tiempo, igualmente pesimistas sobre las habilidades del robot. Para muchos, era inimaginable que esta "cosa amarilla brillante", como la describió un cadete, fuera alguna vez apta para el combate.
Un equipo multidisciplinario de investigadores de factores humanos y psicología organizacional industrial, compuesto por tres profesores superiores con veinte a treinta y cinco años de experiencia en el campo, junto con candidatos doctorales e investigadores universitarios, introdujo el robot en el ejercicio de entrenamiento para examinar sistemáticamente el trabajo en equipo humano-robot durante el entrenamiento militar a gran escala. Los investigadores solo tuvieron un par de minutos para explicar las características del robot, y lo hicieron sin dar demasiadas instrucciones para no influir en la decisión de los cadetes sobre cómo (si es que lo hacían) utilizar Spot durante el ejercicio.
Aunque la autonomía existe en un espectro de capacidades, que abarca desde simples rutinas de navegación hasta la toma de decisiones independiente más compleja, este estudio se centró en cómo los cadetes interactuaban con un robot percibido como un compañero de equipo autónomo. La plataforma robótica utilizada en esta investigación es capaz de realizar navegación basada en puntos de referencia; sin embargo, para el control experimental y la fiabilidad en un entorno de entrenamiento gradual, se simuló la autonomía utilizando el enfoque del Mago de Oz. Spot sería controlado remotamente por un investigador durante la misión, y los cadetes podrían darle instrucciones tácticas directamente con el lenguaje común (p. ej., agáchate detrás de este árbol, muéstranos qué hay al otro lado de ese Humvee). El investigador entonces dirigiría a Spot como si respondiera a los cadetes de forma autónoma. Esto nos permitió examinar las respuestas humanas al comportamiento autónomo sin la variabilidad de la experiencia del usuario ni del rendimiento del sistema.
Listos para la acción, los cadetes recorrieron penosamente el bosque con Spot a su lado. En este carril, se les encomendó realizar una incursión. ¿Dejarían de lado sus dudas y usarían la interfaz de lenguaje natural para controlar a Spot? Algunos pelotones abandonaron a Spot por completo, concluyendo que seguramente estarían mejor sin el robot. Otros usaron a Spot como un simple plan B, llevándolo consigo en caso de una situación desesperada. Pero muchos pelotones en el carril de incursión decidieron darle una oportunidad a Spot. Spot estaba listo cerca del objetivo cuando llegaron los cadetes. Fue allí donde los cadetes comenzaron a dirigir a Spot como si fuera, como comentaron, "casi como otra persona... ocupando un puesto en la formación".
"Dejemos que Spot se acerque sigilosamente", sugirió un cadete, "que nos vigile un poco y nos ayude". Los cadetes observaban con entusiasmo desde la seguridad del punto de concentración objetivo cómo Spot se abría paso a través del claro, sin miedo, enfrentándose al enemigo de frente. Todos coincidieron: Spot parecía estar hecho para el reconocimiento. Equipado con una cámara de visión horizontal de 360 grados, el robot era un experto en explorar objetivos e identificar amenazas potenciales. Con el tiempo, estos cadetes pasaron del escepticismo inicial a la confianza, y finalmente confiaron en Spot para completar incluso algunas de las tareas más cruciales. Es más, la transformación de herramienta a compañero fue lenta pero clara. El robot se estaba ganando su lugar en el equipo.
Más allá del reconocimiento, Spot ayudó a vigilar las líneas del frente a medida que los cadetes se acercaban. Spot abrió el camino, y los cadetes lo siguieron. Su capacidad para subir escaleras sin problemas en el objetivo lo hacía ideal para despejar habitaciones, especialmente las zonas peligrosas de la planta alta, de armas, combatientes y otros peligros. Una y otra vez, Spot detectó y desvió peligros inminentes. De hecho, un cadete relató que «Spot pasó por una zona donde había una mina detonante, lo que evitó lo que de otro modo habría sido una baja».
Tras completar la ruta de asalto, los cadetes se desplomaron en el suelo exhaustos y devoraron sus raciones de comida. A pesar del cansancio, intercambiaron con entusiasmo sus visiones sobre cómo podría desplegarse Spot en una guerra real entre bocados: redes y mapas en guerra subterránea, combate cuerpo a cuerpo, y la lista seguía. Los cadetes también discutieron problemas con el diseño de Spot, tan básico como su apariencia y sonido. Un perro robot amarillo brillante y ruidoso no está precisamente camuflado en el campo de batalla. "¿Cuánto puede cargar?" fue la pregunta más frecuente en la zona de aterrizaje, ya que montar un arma en la espalda de Spot fue lo primero que les vino a la mente. Boston Dynamics, fabricante de Spot, tiene una política estricta contra la militarización de sus productos, por lo que esto no se permitió durante el estudio. Los cadetes pensaron que las capacidades infrarrojas serían invaluables; aunque una capacidad que se ha combinado con Spot, no estaba en el cuadrúpedo utilizado en este estudio. Como explicó un cadete: «Nos movemos de noche. Luchamos de noche. Y tener señales de calor nocturnas hace que el campo de batalla sea completamente diferente. Te da una ventaja total sobre el enemigo».
En definitiva, el valor de Spot iba mucho más allá de la simple percepción de la situación. Durante el entrenamiento, Spot salvó a los cadetes en misión de simular daños físicos y psicológicos, brindando una protección sin precedentes y demostrando su potencial y capacidad para salvar vidas en situaciones reales. Los cadetes apreciaron especialmente la capacidad de Spot de "obtener confirmación visual para enviar a nuestro superior, sabiendo que habíamos cumplido nuestra misión". Gracias a esa tranquilidad y satisfacción compartidas, el pelotón experimentó de primera mano cómo las tecnologías autónomas pueden ampliar el alcance y la seguridad de las misiones como nunca antes. El comentario de un cadete reflejó un sentimiento ampliamente compartido: "¡Gracias a Dios por el perro robot!".
Esa es una narrativa, un ejercicio, un caso práctico. Pero una historia diferente, con un desenlace muy distinto, también se desarrollaba en los densos bosques de West Point. La ruta de asalto descrita anteriormente implicaba un ataque ofensivo rápido contra un objetivo. Sin embargo, a otros cadetes se les asignó una misión alternativa: un ataque. A diferencia de la incursión rápida, el ataque requería una caminata agotadora, abriéndose paso entre la espesura mientras los cadetes avanzaban gradualmente hacia un vehículo enemigo.
Ante la abrumadora tarea que les aguardaba, algunos cadetes en la línea de ataque vieron en Spot una herramienta potencial, quizás incluso una forma de hacer su misión más emocionante. Cautivado por el elegante diseño del robot y su tecnología de vanguardia, un cadete se mostró particularmente optimista: «Es como Terminator».
Pero tan pronto como comenzó el ejercicio, ese entusiasmo empezó a disminuir.
Spot era demasiado ruidoso: "Ahora los malos saben que venimos, así que eso de alguna manera anuló la utilidad de Spot".
Spot no se desenvolvía bien en el terreno: "Es casi como un perro asustadizo. Ojalá fuera más como un rottweiler que simplemente corriera y saltara por encima de las cosas".
Spot era demasiado lento: “Esperaba que pudiéramos seguir al robot, pero en realidad era más lento que nuestro ritmo”.
Al final, Spot simplemente no satisfizo sus necesidades. El robot, desde luego, no funcionaba como un compañero de equipo; ni siquiera era una herramienta. La emoción se convirtió en frustración, la confianza en el robot se desvaneció y los cadetes finalmente lo abandonaron por completo.
Entonces, ¿qué podemos aprender de la experiencia de los cadetes con Spot en estas dos líneas de entrenamiento?
A medida que los robots siguen creciendo en sofisticación y autonomía, transformarán el campo de batalla. Este progreso significa más que un simple aumento de la tecnología en el frente; altera fundamentalmente lo que significa ser parte de un equipo militar. Los robots autónomos pronto podrían resultar esenciales para las operaciones de los equipos militares. A medida que los militares modernizan gradualmente su percepción de los robots, pasando de ser herramientas mecánicas a actuar como agentes autónomos, los líderes militares necesitan comprender mejor el papel de la confianza humana en los equipos hombre-máquina. Asimismo, los investigadores y diseñadores deben investigar cómo se pueden diseñar sistemas autónomos para crear posibilidades de confianza (características y comportamientos perceptibles que indican confiabilidad y transparencia a los usuarios), así como cómo implementar estrategias efectivas para reparar la confianza cuando se rompe entre humanos y robots.
En la zona de asalto, generar confianza fue un desafío. La mayoría de los cadetes no confiaron lo suficiente en Spot como para usarlo hasta casi el final del ejercicio. Estos cadetes tuvieron que superar la barrera inicial de conocer y confiar en un compañero desconocido por primera vez. Otros ni siquiera le dieron una orden a Spot, perdiendo la oportunidad de desarrollar confianza. Para muchos, conocer a Spot fue simplemente una sobrecarga de información, insuperable bajo el estrés del ejercicio. Estas primeras impresiones con el robot son importantes, pero también lo es la forma en que se introduce e integra en el entrenamiento. En este estudio, los cadetes tuvieron la libertad de elegir entre usar Spot o ignorarlo por completo. Otros entrenamientos pueden preparar y preparar deliberadamente a los miembros del servicio para usar el robot, optimizando las condiciones para que desarrollen confianza.
En el frente de ataque, el reto no era generar confianza, sino mantenerla. Unas pocas experiencias negativas con Spot redujeron rápidamente su capacidad percibida y erosionaron la confianza general. Los diseñadores de robots deben escuchar las necesidades de los militares y los usos que imaginan para ellos, y este debe ser un proceso continuo e iterativo de adaptación a las nuevas funciones y a la evolución de las necesidades de los usuarios finales. Uno de los principios del diseño centrado en el ser humano es conocer al usuario y la tarea. En este estudio de campo, hemos comenzado a comprender a los usuarios, a los militares y sus tareas, que están profundamente condicionadas por los entornos en los que operan. Esto fue solo un comienzo, y con solo un pequeño subconjunto de posibles casos de uso para robots con militares desmontados. Cada caso de uso imaginado debe investigarse con el mismo rigor para garantizar que los robots desarrollados para uso militar puedan convertirse en las herramientas y compañeros de equipo de confianza necesarios en el campo.
Entonces, ¿cómo aprenden los militares a confiar y usar a un compañero robot? La pregunta no era un ejercicio teórico para conceptualizar tecnología futurista y remota; los robots ya están aquí. La respuesta que descubrimos iba mucho más allá de la experiencia de estos cadetes con este único robot. No basta con poseer las capacidades necesarias para las tareas de los militares. Los robots necesitan interfaces receptivas y centradas en el usuario que se adapten a los militares donde se encuentren, contribuyendo así a fortalecer la confianza esencial para un uso eficaz. Esto significa que todos, desde diseñadores e ingenieros hasta militares, deben colaborar para crear robots operativos que merezcan la confianza y el uso del ejército. En definitiva, la confiabilidad de un robot refleja los efectos acumulativos de las decisiones de diseño, la fiabilidad del rendimiento y la integración deliberada del sistema en entornos operativos y de entrenamiento realistas.
