La comunidad internacional acordó establecer mecanismos de supervisión sobre la inteligencia artificial (IA). En una cumbre global de seguridad sobre IA celebrada en Bletchley Park, Inglaterra, 28 países acordaron la creación de un panel internacional para supervisar los avances en este campo.
Este panel, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), evaluará el estado de los avances en IA. Los principales bloques con influencia en el desarrollo de la IA, Estados Unidos, China y la Unión Europea, se han alineado para su creación.
La cumbre que estableció mecanismos para la supervisión sobre la inteligencia artificial tuvo la participación de líderes mundiales y directivos de las principales empresas del sector, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
Bajo qué mecanismos se hará la supervisión de la inteligencia artificial
Además, se acordaron mecanismos para probar los nuevos modelos de IA antes de que estén disponibles para el público. Este movimiento es un cambio significativo, ya que hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA eran las propias empresas que los desarrollaban.
El plan también permitirá a las autoridades evaluar si los algoritmos de IA pueden ser peligrosos para la “seguridad nacional” o provocar “daños sociales”. Este acuerdo se suma a la declaración conjunta que firmaron los países en la primera jornada del encuentro, que alerta sobre las posibles consecuencias “catastróficas” de la IA.
Tomar ideas que ya existen
La presidenta de la Comisión Europea, Ursula von der Leyen, sugirió que el desarrollo de la energía nuclear en el siglo XX podría servir de inspiración para manejar los riesgos y beneficios asociados a esta nueva tecnología. También abogó por la creación de un sistema de estándares similar al que rige en el sector de la aviación.
El secretario general de la ONU, António Guterres, coincidió en el peligro de que la tecnología avance en “direcciones imprevistas” y en la posibilidad de llegar a “perder el control” de los sistemas.
A medida que la tecnología avanza, es crucial que existan mecanismos para garantizar su uso seguro y ético. La cooperación internacional es la mejor forma de enfrentar los desafíos que presenta la IA.
