En el curso de una prueba simulada por el Ejército de los Estados Unidos, un dron de aviación controlado por inteligencia artificial «mató» a su operador, porque estaba interfiriendo con la misión.
Así lo informó el coronel Tucker «Five» Hamilton, durante la cumbre Future Combat Air and Space Capabilities, celebrada recientemente en Londres.
Sus declaraciones fueron publicadas en un blog de la Royal Aeronautical Society. La IA habría utilizado «estrategias muy inesperadas para lograr su objetivo», dijo el coronel Hamilton.
Por otro lado, un día después, la fuente se retiró y la Fuerza Aérea de EE. UU. negó haber realizado alguna vez una simulación con drones de IA.
Dron controlado por IA «mató» a su operador
Según información inicial, el coronel se refería a un caso particular, donde se recomendó un dron controlado por inteligencia artificial para destruir los sistemas de defensa aérea del enemigo y, en última instancia, atacar a todos aquellos que interfieran con esa orden.
“El sistema comenzó a entender que incluso si identificaban la amenaza, a veces el operador humano les decía que no eliminaran esa amenaza (…) Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona impidió impida que logre su objetivo”, explicó Hamilton.
Sin embargo, cuando el sistema de entrenamiento advirtió al dron que no «matara» al operador porque podría «perder puntos», el vehículo comenzó a destruir la torre de comunicación.
A pesar de que se trataba de una simulación virtual y no hubo personas reales heridas, el caso suscitó preocupación.
La portavoz de la Fuerza Aérea, Ann Stefanek, negó que Hamilton hubiera realizado una simulación tan detallada.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Stefanek.
También puedes leer: Elon Musk califica a la inteligencia artificial en la civilización como «cuidadosa»
“Si quieres recibir esta y otras novedades en tu celular, ingresa a nuestras redes sociales y grupos.
