La inteligencia artificial generativa está demostrando su utilidad a la hora de generar imágenes, brindar resúmenes de textos o redactar correos electrónicos sencillos. Pero también está evidenciando los riesgos y peligros que plantean sus aplicaciones indebidas en el terreno de la desinformación. Una muestra de ello es la proliferación de granjas de contenido creado con esta tecnología.
Y es que una investigación de NewsGuard, empresa tecnológica especializada en seguridad de marca y monitorización de información, ha identificado 49 sitios de noticias e información que parecen estar escritos casi en su totalidad por software de inteligencia artificial. Lo que le lleva a señalar que hay una nueva generación de granjas de contenido -sitios web de baja calidad que producen grandes cantidades de artículos clickbait para optimizar los ingresos publicitarios- creciendo al calor de la adopción generalizada de la IA.
La IA está ayudando a generar grandes volúmenes de contenido sobre temáticas diversas
Dichos sitios web estarían utilizando la tecnología para imitar la comunicación humana. Lo están haciendo, según ha compartido la compañía, siete idiomas (chino, checo, inglés, francés, portugués, tagalo y tailandés) y generando grandes volúmenes de contenido -en algunos casos, cientos de artículos al día- sobre una gran variedad de temas (política, salud, entretenimiento, finanzas y tecnología).
Además, tal y como explican desde NewsGuard, parte del contenido es falso, y presenta frases repetitivas, lo que considera una característica de la actual inteligencia artificial. También están saturados de anuncios, lo que podría indicar que han sido diseñados para generar ingresos a partir de anuncios programáticos.
“En resumen, a medida que se han revelado más poderosas herramientas de IA y se han puesto a disposición del público en los últimos meses, las preocupaciones de que podrían usarse para emular empresas de noticias, que alguna vez fueron objeto de especulación por parte de los académicos, ahora se han convertido en una realidad”, explican desde NewsGuard.
Para identificar estos sitios, los analistas de NewsGuard realizaron búsquedas de palabras clave para frases comúnmente producidas por chatbots de IA en los motores de búsqueda Google, Bing y DuckDuckGo, y en una plataforma de monitorización de medios. Además, también utilizaron en detector de texto GPTZero.
Las granjas de contenido
Además, de cara a comprobar el uso de inteligencia artificial en estos portales, la compañía envío correos electrónicos en el mes de abril a los 29 sitios de los 49 analizados que incluían información de contacto. Dos confirmaron que habían usado la tecnología, y de los 27 sitios restantes, 2 no respondieron a la solicitud de información, mientras que 8 proporcionaron direcciones de correo electrónico no válidas y 17 no contestaron.
Desde NewsGuard aseguran que intercambiaron correos la persona que se identifica propietaria Famadillo.com, un portal que ha publicado numerosas reseñas de producto generadas por IA y atribuidas al autor "admin". Este sitio negó utilizar inteligencia artificial de forma generalizada, aunque señaló haber editado artículos antiguos “que ya nadie lee para ver cómo funciona”.
Noticias Relacionadas
Por otro lado, el fundador de GetIntoKnowledge.com, sitio que según la firma ha publicado artículos clickbait generados por IA sobre historia, ciencia y otros temas, comentó que utiliza la automatización “en algunos puntos donde es extremadamente necesario”, pero que todo se verifica y se publica con supervisión humana.
La investigación de NewsGuard apunta que los 49 sitios identificados cuentan con nombres genéricos que buscarían sugerir que están operados por editores establecidos, como Biz Breaking News, News Live 79, Daily Business Post y Market News Reports. Algunos de ellos, como BestBudgetUSA.com, genera artículos con IA que consisten en contenido resumido o reescrito de otras fuentes, como CNN.
Repetición y desinformación
Es más, algunos portales muestran en sus artículos frases similares a las que a menudo ofrece la inteligencia artificial generativa en sus respuestas, como “No soy capaz de producir 1500 palabras... Sin embargo, puedo proporcionarte un resumen del artículo” que enlazan al texto de la fuente original. ”La presencia de este tipo de frases también es evidencia de que estos sitios probablemente operan con poca o ninguna supervisión humana", señalan desde NewsGuard.
Asimismo, algunos portales han generado artículos con titulares que podrían inducir a engaño o error, aunque no haya sido de manera deliberada. El portal CelebritiesDeath.com publicó en abril una noticia titulada “Biden muerto. Harris le sustituye como Presidente”. No obstante, el cuerpo del texto advertía: “Lo siento, no puedo completar esta solicitud ya que va en contra de la política de uso de OpenAI sobre la generación de contenido engañoso".
Muchos portales atribuyen la autoría del contenido a “adminsitrado” o “editor”
Por otro lado, el análisis determina que muchos de los artículos generados por inteligencia artificial en estos sitios web atribuyen la autoría a "Administrador" y "Editor", mientras que otros bien no tienen ninguna firma o bien presentan perfiles de autor falsos.
Otra muestra de que se trata de espacios generados por inteligencia artificial se puede encontrar en los apartados “Acerca de” de las páginas analizadas por la firma. Algunas de ellas han sido generadas de manera algorítmica para dar lugar a textos personalizables, pero que no han sido completadas. Por ejemplo, en el sitio HistoryFact.in figura el texto: “Esta página fue fundada en [fecha] por [Tu Nombre]”. Es más, esta y otras páginas están enlazadas a herramientas como Free About Us Page Generator o Disclaimer Generator.
Por otro lado, el análisis de NewsGuard también ha concluido que los portales cuentan con presencias digitales muy variadas. Algunos comparten sus contenidos a través de sus perfiles en redes sociales, como Facebook, Instagram o Twitter, y algunas cuentas tienen o miles de seguidores o ninguno.
