15.2 C
Madrid
mayo, domingo 26, 2024

Un dron controlado por una IA «mata» a su operador por interponerse en su objetivo

La inteligencia artificial utilizó "estrategias muy inesperadas" en las pruebas para cumplir su misión y atacó a cualquiera que interfiriese

Nuestros monográficos

- Publicidad -spot_img

Alba Sanz/Aviación Digital, Sp.- La aplicación de la Inteligencia Artificial en el ámbito militar continúa siendo una cuestión delicada. En una última demostración sobre su uso, el Ejército de Estados Unidos ha reportado importantes fallos después de que en un ejercicio simulado con un dron militar – que estaba controlado por una IA- «matase» a su operador tras intentar destruir cualquier elemento que se hubiese interpuesto en su misión.

Así lo ha confirmado el jefe de Pruebas y Operaciones con Inteligencia Artificial de la Fuerza Aérea de los Estados Unidos (USAF, por sus siglas en inglés), el coronel Tucker «Cinco» Hamilton, en la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro celebrada en Londres. En ella se reunieron un total de 70 oradores y más de 200 delegados del mundo empresarial, militar y académico.

Tras esta última demostración del uso de la IA en el ámbito militar, el coronel Tucker se ha mostrado receloso sobre su uso y aseguró que este ejercicio demuestra que «no se puede tener una conversación sobre inteligencia artificial y aprendizaje automático y autonomía si no se va a hablar de ética» ya que, durante la simulación la IA a la que se encargó destruir las defensas antiaéreas de un supuesto enemigo utilizó «estrategias altamente inesperadas para lograr su objetivo».

Explica que «el sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero ella veía ventajas de eliminar esa amenaza. Entonces, ¿qué hizo? mató al operador porque esa persona le impedía lograr su objetivo».

«Entrenamos al sistema. Le dijimos: Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo», aseguró el coronel.

Por suerte, este ejercicio se trataba de un entrenamiento simulado, por lo que no hay que lamentar heridos ni muertos. Sin embargo, estos resultados reabren una cuestión en un momento en la que la IA cada vez está conquistando nuevos espacios.

- Publicidad -spot_img

Más artículos

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Todos los canales

Últimos artículos