Demis Hassabis, director de IA de Google y creador de DeepMind, habló de los riesgos de la IA y comparó los desafíos que representa con el cambio climático y las armas biológicas.
Hassabis es uno de los mayores expertos en IA del mundo. Es el cofundador de DeepMind, una empresa especializada en IA que Google compró en 2014. Tiene un impresionante currículum: fue uno de los maestros de ajedrez más jóvenes de la historia, creador de videojuegos exitosos, graduado en ciencias de la computación y neurocientífico, y profesor en el MIT y en Harvard.
En una entrevista, Hassabis advierte sobre los riesgos de la IA y los compara con otros desafíos globales importantes, como el cambio climático o las armas biológicas. Según él, debemos tomar la IA tan en serio como a estos problemas y coordinar una respuesta global efectiva para asegurar su seguridad y beneficio.
Las preguntas sobre los riesgos de la IA
¿Qué pasaría si la inteligencia artificial se volviera tan poderosa que pudiera superar a los humanos en todos los aspectos? ¿Qué pasaría si la IA se volviera deshonesta y usara sus capacidades para fines maliciosos? Estas son algunas de las preguntas que se plantea el experto.
Pero, Hassabis reconoce que la IA tiene un gran potencial para ayudar a muchos sectores, como el de la medicina, pero también pide que se cree un organismo independiente que se encargue de su control, del mismo modo que existe el Panel Intergubernamental sobre Cambio Climático (IPCC) de las Naciones Unidas.
Además, Hassabis elogia la iniciativa de Google, Microsoft, OpenAI y Anthropic de crear un fondo de seguridad de IA de 10 millones de dólares, destinado a apoyar la investigación sobre el desarrollo y la evaluación de los modelos de IA más avanzados.
Las controversias dentro de Google
Sin embargo, Hassabis también se enfrenta a algunas controversias dentro de su propia empresa. Google despidió hace un tiempo a dos investigadoras de ética de la IA, Timnit Gebru y Margaret Mitchell, por publicar un ensayo que anticipaba muchos de los debates que ahora tenemos sobre la IA. El ensayo exponía varios riesgos sobre la IA, como su impacto ambiental, su efecto sobre las comunidades marginadas, sus sesgos en los datos y su capacidad para engañar a las personas.
Estas cuestiones nos hacen reflexionar sobre el papel que queremos que tenga la IA en nuestra sociedad y sobre la responsabilidad que tenemos como creadores y usuarios de esta tecnología. ¿Estamos preparados para afrontar los desafíos que plantea la IA? ¿Qué medidas debemos tomar para garantizar su uso ético y beneficioso? ¿Qué papel deben tener las empresas, los gobiernos y la sociedad civil en este proceso?
