Mitigar el riesgo de extinción para la humanidad que podría generar la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias o la guerra nuclear.

Esa es la conclusión, y también llamamiento, que comparten más de 35o ingenieros, investigadores, directivos y expertos en inteligencia artificial que han firmado una carta abierta publicada por Center for AI Safety, una organización sin ánimo de lucro ubicada en San Francisco cuya misión se centra en la reducción de los riesgos de la inteligencia artificial. 

La misiva recoge las firmas de algunas personalidades destacadas del ecosistema empresarial internacional y, especialmente, del competitivo terreno de la inteligencia artificial. Así, en la lista de firmantes puede verse, entre otros, a Demis Hassabis, CEO de Google DeepMind; Sam Altman, CEO de OpenAI; Dario Amodei, CEO de Anthropic; o Kevin Scott, CTO de Microsoft. También se encuentra Geoffrey Hinton, considerado “padrino” de la inteligencia artificial y quien ya advirtió de los peligros de esta tecnología tras su salida de Google. 

“Los expertos en IA, los periodistas, los legisladores y el público están discutiendo cada vez más un amplio espectro de riesgos importantes y urgentes de la IA. Aun así, puede ser difícil expresar inquietudes sobre algunos de los riesgos más graves de la IA avanzada”, señala la escueta pero contundente carta, que asegura tener por objetivo “superar este obstáculo y abrir la discusión”, así como "crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada”. 

De esta forma, el llamamiento recoge las preocupaciones de la industria y se alinea con la opiniones expresadas por los expertos en anteriores ocasiones. Hace apenas una semana, en la parada realizada en Madrid como parte de un tour internacional, Sam Altman reclamó una mayor regulación de la inteligencia artificial y, concretamente, que esta se centrara en los desarrolladores de grandes modelos, como precisamente sería OpenAI, porque ahí es donde "la sociedad tiene interés en asegurarse de que los modelos no causen un gran daño”.

Noticias Relacionadas

/imagine prompt: Cómo usar la IA para obtener mejores respuestas creativas

Bill Gates cree que la IA acabará con los motores de búsqueda y sitios como Amazon

Anteriormente, Geoffrey Hinton, considerado uno de los profesionales pioneros de la inteligencia artificial moderna y galardonado en 2018 con el Premio Turing por sus contribuciones al campo del deep learning, alertó de los peligros de esta tecnología en una entrevista. “Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas”, comentó a The New York Times. “Mira cómo era hace cinco años y cómo es ahora. Coge esa diferencia y proyéctala hacia adelante. Eso asusta". 

Por su parte, Bill Gates, Co-Fundador de Microsoft, defendió hace unas semanas que los gobiernos deben trabajar con el sector privado para encontrar formas de limitar los riesgos. Su preocupación se centra, no obstante, en las denominadas inteligencias artificiales fuertes. “Probablemente podrán establecer sus propios objetivos. ¿Cuáles serán esos objetivos? ¿Qué sucede si entran en conflicto con los intereses de la humanidad? ¿Deberíamos tratar de evitar que alguna vez se desarrolle una IA fuerte? Estas preguntas se volverán más apremiantes con el tiempo”, comentó. 

La carta publicada por Center for AI Safety cogería el testigo de la firmada en marzo por más de 1.000 expertos en IA, emprendedores tecnológicos y científicos para solicitar al conjunto de la industria una pausa en el desarrollo y pruebas de herramientas de IA más potentes que el modelo de lenguaje GPT-4 de OpenAI. El objetivo, señalaron, es estudiar adecuadamente los riesgos que puedan plantear.

“Proceso de Hiroshima ” del G7

Las reclamaciones de los expertos han llegado a los oídos de gobiernos y reguladores. Y es que el G7, reunido la tercera semana de mayo en Japón, ha impulsado el denominado “Proceso de Hiroshima”, un marco para desarrollar conversaciones relacionadas con el establecimiento de estándares técnicos para la gobernanza y regulación de la inteligencia artificial.

De momento, el grupo -integrado por Estados Unidos, Japón, Alemania, Gran Bretaña, Francia, Italia, Canadá y la Unión Europea- no ha establecido medidas concretas, pero ha señalado que la definición de estánderes ha de llevarse a cabo atendiendo a valores democráticos conjuntos de transparencia, seguridad y protección contra los abusos. Los ejes del trabajo conjunto serán: el reconocimiento de la importancia de la inteligencia artificial, el equilibrio de sus riesgos y sus beneficios; y la exigencia de medidas de seguridad.