El Papa Francisco a vuelto a advertir a la comunidad católica de los riesgos asociados a las nuevas tecnologías. En anteriores ocasiones ha hecho llamamientos a gobiernos, políticos y corporaciones para no deshumanizar el progreso, y ahora ha puesto el foco en la inteligencia artificial, de la cual ha señalado también las oportunidades que brinda para el desarrollo económico.
Lo ha hecho esta semana con motivo de la celebración de la 58 Jornada Mundial de las Comunicaciones Sociales y con un mensaje que ha titulado “Inteligencia artificial y sabiduría del corazón: para una comunicación plenamente humana”. En él asegura que la evolución de los sistemas IA “está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil”, y que el entusiasmo y la desorientación que estos avances suscitan colocan a las personas ante preguntas fundamentales sobre la naturaleza humana.
“En esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad, nuestra reflexión sólo puede partir del corazón humano. Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo y redescubrir el camino de una comunicación plenamente humana”, sostiene. Y añade que esa sabiduría no se puede esperar de las máquinas.
El Papa Francisco reconoce la capacidad de éstas, mayor que la de los humanos, para almacenar datos y correlacionarlos entre sí, pero considera que sólo corresponde a las personas descifrar su significado. En este sentido, considera las máquinas como una “extensión técnica del hombre” y, por tanto, "puede ser un instrumento de servicio amoroso o de dominación hostil".
A este respecto, asegura que los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes, como por ejemplo, permitir la comunicación entre personas en lenguas que no conocen. No obstante, también advierte de que pueden ser “instrumentos de “contaminación cognitiva””, es decir, pueden llegar a alterar la realidad mediante narrativas parcial o totalmente falsas que se creen y se comparten como si fueran verdaderas.
Advertencia sobre los deepfakes
“Baste pensar en el problema de la desinformación al que nos enfrentamos desde hace años en forma de fake news y que hoy se sirve de deepfakes, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (también yo he sido objeto de ello), o de mensajes de audio que utilizan la voz de una persona para decir cosas que nunca ha dicho”, explica en su mensaje. “La simulación, que está a la base de estos programas, puede ser útil en algunos campos específicos, pero se vuelve perversa cuando distorsiona la relación con los demás y la realidad”.
La simulación de la que fue objeto a la que alude es el deepfake que se creó del Papa luciendo un abrigo de plumas supuestamente diseñado por Balenciaga. La imagen se hizo viral y, más tarde, su autor, un joven dedicado al sector de la construcción en Chicago, compartió que la creó con Midjourney bajo los efectos de unas setas alucinógenas.
A este respecto señala que es necesario actuar preventivamente mediante la proposición de modelos de regulación éticos que puedan poner freno a “las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único”. Así, vuelve a hacer un llamamiento a todas las naciones para crear un “tratado internacional vincunlante” que regule el desarrollo y uso de la IA.
Además, incide en la necesidad de poner de relieve la humanidad ante la tecnología y cuestionar los nuevos instrumentos de comunicación y conocimiento para que no reduzcan a “las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio”, ni acaben con la unicidad de los individuos y sus historias.
La comunicación y la IA
En esta línea, considera que la IA podrá contribuir positivamente a la comunicación, siempre que no anule el periodismo, sino que respalde la profesionalidad de los comunicadores responsabilizándoles y la capacidad crítica de cada sujeto. “Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial”, expone el Papa Francisco, destacando la importancia de los datos, pero también el valor de la experiencia y la relación humana con los hechos.
Ante el avance de la inteligencia artificial se plantea cuestiones acerca de la protección de la dignidad de los trabajadores de la comunicación y la información, así como la de los usuarios; sobre la responsabilidad de las empresas que difunden imágenes alteradas; sobre la transparencia de los algoritmos a la hora de presentar información; sobre la autoría o la detección de la veracidad de imágenes u vídeos; o sobre cómo preservar el pluralismo y cómo hacer la tecnología accesible.
A partir de las respuestas a esas y otras preguntas, dice, se determinará si el resultado de la IA es una nueva esclavitud o, en cambio, una conquista de la libertad. “La respuesta no está escrita, depende de nosotros. Corresponde al hombre decidir si se convierte en alimento de algoritmos o en cambio sí alimenta su corazón con la libertad, ese corazón sin el cual no creceríamos en sabiduría. Ella nos ayudará también a orientar los sistemas de inteligencia artificial a una comunicación plenamente humana”, concluye.
