Fue una simulación que no terminó como se esperaba. De hecho, habría sido un escándalo de haber ocurrido en la vida real, pues un drone controlado por IA mató a su operador.

El caso se coló a la prensa luego que el coronel Tucker ‘Cinco’ Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la USAF (la Fuerza Aérea de los EE.UU.), durante la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro celebrada hace unos días en Londres. Allí se juntaron 70 oradores y más de 200 delegados del mundo empresarial, militar y académico relacionados con la inteligencia artificial.

La Real Sociedad Aeronáutica británica colgó en su web las conferencias, entre ellas la del coronel Tucker con los detalles de la simulación.

Hamilton indicó que la inteligencia artificial “usó estrategias altamente inesperadas” para sortear la negativa de que no matara a su controlador. “Oye, no mates al operador”, se le indicaba, antes de que decidiera por otra opción igualmente mortal.

Durante el ejercicio simulado, el drone controlado por IA tenía objetivo de destruir las defensas antiaéreas de un supuesto enemigo. Parecía sencillo, pero los resultados fueron inquietantes, pues la IA identificó a su operador como una interferencia para cumplir su tarea y lo eliminó.

La desconfianza tras el caso del drone controlado por IA

Tucker concluyó que “no se puede tener una conversación sobre inteligencia artificial y aprendizaje automático, sin hablar de ética”. Incluso expresó sus recelos a confiar en la IA.

El militar explicó que el sistema se dio cuenta de que, si bien identificaba la amenaza, el operador humano le decía que no la eliminara. “Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, aseguró Tucker, según los resúmenes de esa conferencia.

“Le dijimos: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso’. Entonces, destruyó la torre de comunicación que el operador usa para comunicarse”, relató Trucker.

Siendo un ejercicio simulado, nadie real resultó herido ni, desde luego, muerto.