Más IA en Battlefield hará que la niebla de la guerra sea más mortífera

May 18, 2023

caballero

El ejército de Estados Unidos ya no es la fuerza incomparable que alguna vez fue, pero Alexandr Wang, director ejecutivo de la startup Scale AI, dijo a un comité del Congreso la semana pasada que podría establecer una nueva ventaja aprovechando la inteligencia artificial.

"Tenemos la flota de equipos militares más grande del mundo", dijo Wang al Subcomité de Servicios Armados de la Cámara de Representantes sobre Cibernética, Tecnología de la Información e Innovación. "Si podemos configurar e instrumentar adecuadamente estos datos que se están generando... entonces podemos crear una ventaja de datos bastante insuperable cuando se trata del uso militar de la inteligencia artificial".

La empresa de Wang tiene un gran interés en esa visión, ya que trabaja regularmente con el Pentágono procesando grandes cantidades de datos de entrenamiento para proyectos de IA. Pero existe la convicción dentro de los círculos militares estadounidenses de que un mayor uso de la IA y el aprendizaje automático es prácticamente inevitable y esencial. Recientemente escribí sobre ese creciente movimiento y cómo una unidad del Pentágono está utilizando robótica y software de inteligencia artificial disponibles en el mercado para vigilar de manera más eficiente grandes franjas del océano en el Medio Oriente.

Además de los incomparables datos militares del país, Wang dijo en la audiencia en el Congreso que Estados Unidos tiene la ventaja de ser el hogar de los fabricantes de chips de IA más avanzados del mundo, como Nvidia, y de la mejor experiencia en IA del mundo. "Estados Unidos es el lugar elegido por los científicos de IA más talentosos del mundo", dijo.

También vale la pena prestar atención al interés de Wang en la IA militar porque Scale AI está a la vanguardia de otra revolución de la IA: el desarrollo de potentes modelos de lenguaje de gran tamaño y chatbots avanzados como ChatGPT.

Nadie está pensando en reclutar ChatGPT para el servicio militar todavía, aunque ha habido algunos experimentos que involucran el uso de modelos de lenguaje grandes en juegos de guerra militares. Pero los observadores ven los recientes avances de las empresas estadounidenses en el desempeño de la IA como otra ventaja clave que el Pentágono podría explotar. Dado lo rápido que se está desarrollando la tecnología (y lo problemática que sigue siendo), esto plantea nuevas preguntas sobre qué salvaguardas podrían ser necesarias en torno a la IA militar.

Este salto en las capacidades de la IA se produce cuando las actitudes de algunas personas hacia el uso militar de la IA están cambiando. En 2017, Google enfrentó una reacción violenta por ayudar a la Fuerza Aérea de EE. UU. a utilizar la IA para interpretar imágenes aéreas a través del Proyecto Maven del Pentágono. Pero la invasión rusa de Ucrania ha suavizado las actitudes públicas y políticas hacia la colaboración del sector privado con las empresas tecnológicas y ha demostrado el potencial de los drones autónomos baratos y de la IA comercial para el análisis de datos. Las fuerzas ucranianas están utilizando algoritmos neuronales de aprendizaje profundo para analizar imágenes y metraje aéreos. La empresa estadounidense Palantir anunció que suministrará software de puntería a Ucrania. Y Rusia se centra cada vez más en la IA para sistemas autónomos.

Gregorio Barbero

adrien so

Julian Chokkattu

Matt Simón

A pesar de los temores generalizados sobre los “robots asesinos”, la tecnología aún no es lo suficientemente confiable como para usarse de esta manera. Y mientras informaba sobre las ambiciones de IA del Pentágono, no me encontré con nadie dentro del Departamento de Defensa, las fuerzas estadounidenses o empresas emergentes centradas en la IA deseosas de liberar armas totalmente autónomas.

Pero un mayor uso de la IA creará un número creciente de encuentros militares en los que los humanos serán eliminados o abstraídos de la ecuación. Y aunque algunas personas han comparado la IA con las armas nucleares, el riesgo más inmediato es menos el poder destructivo de los sistemas militares de IA que su potencial para profundizar la niebla de la guerra y hacer que los errores humanos sean más probables.

Cuando hablé con John Richardson, un almirante retirado de cuatro estrellas que se desempeñó como jefe de operaciones navales de la Marina de los EE. UU. entre 2015 y 2018, estaba convencido de que la IA tendrá un efecto sobre el poder militar similar al de la revolución industrial y la era atómica. Y señaló que el bando que mejor aprovechó esas revoluciones anteriores ganó las dos últimas guerras mundiales.

Pero Richardson también habló sobre el papel de las conexiones humanas en la gestión de interacciones militares impulsadas por tecnología poderosa. Mientras se desempeñaba como jefe de la Marina, hizo todo lo posible para conocer a sus homólogos en las flotas de otras naciones. "Cada vez que nos encontrábamos o hablábamos, nos conocíamos mejor", dice. “Lo que realmente quería hacer era asegurarme de que, en caso de que sucediera algo (algún tipo de error de cálculo o algo así), pudiera llamarlos con relativamente poca antelación. Simplemente no quieres que esa sea tu primera llamada”.

Ahora también sería un buen momento para que los líderes militares del mundo comiencen a hablar entre sí sobre los riesgos y limitaciones de la IA.