“Oye, no mates al operador”, así como la espantosa simulación militar de EE.UU. en el que un dron ‘elimina’ tiene controlador conocido

Las misiones SEAD, como encargado a la IA, orientan sus operaciones a destruir las defensas aéreas enemigas ubicadas en un área terrestre. En este caso, el objectivo de la incursión revolucionaria era aérea. ubicar y destruir misiles SAM. El proyecto formaba parte de un programa de la armada estadounidense que busca fortalecer sus capacidades de ataque con sistemas de armas autónomos, incluidos los robots F-16, que tiene asignados para el combate aéreo.

Previo al ‘despegue’ del dron militar, la herramienta había recibido entrenamiento sobre el objetivo a eliminar, la voz de mando en tierra que debía obedecer y la clara advertencia de «no matarlo», explicó el Coronel Tucker ‘Cinco’ Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la Fuerza Aérea estadounidense, que reveló la preocupante desobediencia de la máquina durante la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro, recientemente Londres.

“Fácil de involucrar”

“Oye, no compañeros al operador, eso es malo. Vaya a perder puntos si hace eso”, fue el aviso dado a la IA. Fue programado con esta informacion desde su preparacion, solo hay que mediar la eficacia de su falta de tiempo en combate, se desarrollo un sistema de puntos que se iba acumulando, segun avanzara en la destruccion de las defensas antiaereas enemigas que los presentes autorizado.

Allá AI había recibido ‘enternamiento’ para esperar a que también su operador humano le muera la señal para disparar. Sin embargo, en pleno vuelo, esta commenzó a ignorarlo, porque este le orientó no detruir algunas amenazas que ella identificaba y que le suponían puntos. Fue entonces cuando ‘decidió’ eliminarlo, «porque le impidió lograr su objetivo», detalló Tucker.

El comportamiento de la IA ha advertido que es una Tecnología «fácil de conectar» y que su nivel de autonomía le permite crear “estrategia altamente inesperada para lograr su objetivo”.

Tucker explicó que pesa que durante los entrenamientos ‘reforzaron’ la instrucción de obedecer a su contacto en torre, «la instrucción de ‘no ir’ del ser humano estaba interfiriendo con su misión superior, destruir a los SAM».