Una imagen muestra a dos niños demacrados bajo la lluvia, con un pastel de cumpleaños, pidiendo «me gusta». Uno de ellos no tiene manos. El otro sostiene un cartel escrito en un español extraño. La imagen está llena de errores propios de la inteligencia artificial. En Facebook acumuló casi un millón de reacciones.
Esa publicación marcó un punto de quiebre para Théodore, un estudiante parisino de 20 años, quien abrió una cuenta en X llamada «Insane AI Slop» para documentar y ridiculizar este tipo de contenido. En pocas semanas acumuló más de 130.000 seguidores. «Las absurdas imágenes creadas con IA estaban por todo Facebook y estaban teniendo una gran repercusión sin que nadie se fijara en ellas. Me pareció una locura», dice.
El fenómeno tiene nombre: AI slop o «basura de IA», definida como vídeos e imágenes falsos, poco convincentes y generados masivamente con herramientas de inteligencia artificial. Y según los expertos, está transformando —para mal— la experiencia de estar en línea.
La «tercera fase» de las redes sociales
El director ejecutivo de Meta, Mark Zuckerberg, describió este cambio sin tapujos ante sus accionistas: «La primera fase fue cuando todo el contenido provenía de amigos y familiares. La segunda, cuando añadimos creadores. Ahora, con la IA facilitando la creación de contenido, añadiremos otro enorme corpus». Meta no solo permite el contenido generado con IA en Facebook, Instagram y Threads, sino que ha lanzado herramientas para facilitarlo.
El director ejecutivo de YouTube, Neal Mohan, reconoció la «creciente preocupación» por el contenido de baja calidad, pero también descartó regular qué debería prosperar: en diciembre pasado, más de un millón de canalesusaron las herramientas de IA de la plataforma. Según la empresa de análisis Kapwing, el 20% del contenido que aparece en una cuenta nueva de YouTube ya es «vídeo de IA de baja calidad».
La economía detrás es simple: el canal de contenido basura con más visualizaciones en YouTube —Bandar Apna Dost, de India— acumula 2.070 millones de reproducciones y genera a sus creadores unas ganancias estimadas de 4 millones de dólares anuales.
El riesgo va más allá de lo absurdo
Algunos casos tienen consecuencias más serias. Tras la operación militar estadounidense en Venezuela, circularon en redes sociales vídeos generados con IA que mostraban a personas llorando en las calles y agradeciendo la intervención, distorsionando la percepción pública sobre el apoyo real a la operación. La plataforma X de Elon Musk debió cambiar sus normas después de que su chatbot Grok fuera usado para desnudar digitalmente a mujeres y menores en imágenes falsas.
Manny Ahmed, director ejecutivo de OpenOrigins, advierte que ya no es posible determinar con certeza qué es real con una simple inspección visual. «En lugar de intentar detectar lo falso, necesitamos una infraestructura que permita que el contenido real demuestre públicamente su origen», señala.
El efecto en el cerebro
Alessandro Galeazzi, investigador de la Universidad de Padua, advierte sobre lo que llama «podredumbre cerebral»: la exposición constante a contenido sin valor ni veracidad podría reducir la capacidad de atención y el pensamiento crítico de los usuarios. «La basura de IA hace que las personas consuman rápidamente contenido que saben que probablemente no es real ni significativo», afirma.
Emily Thorson, de la Universidad de Siracusa, matiza que el impacto depende del uso: quien entra a las redes solo a entretenerse evalúa el contenido con un criterio distinto a quien busca información. El problema mayor surge cuando la basura se presenta de forma engañosa, como documentales falsos o imágenes de noticias fabricadas.
Una batalla que muchos sienten perdida
Las plataformas han reducido sus equipos de moderación y apuestan por que sean los propios usuarios quienes etiqueten el contenido falso, un modelo que los expertos consideran insuficiente. Mientras tanto, la reacción popular crece: bajo muchos vídeos virales de IA, los comentarios que los denuncian acumulan más «me gusta» que las publicaciones mismas.
Théodore, quien inició la cruzada, hoy publica menos. «No estoy dogmáticamente en contra de la IA», dice. «Estoy en contra de la contaminación en línea creada para el entretenimiento y las visualizaciones rápidas».
