eldiario - 1 month ago

Según una investigación de la organización AI Forensics, 354 cuentas que operan con Inteligencia Articifial acumularon 4.500 millones de visitas en un mes“Pornografía de la pobreza 2.0”: preocupación por el uso de imágenes creadas con IA para campañas de las ONG Cientos de cuentas de TikTok est n obteniendo miles de millones de visitas gracias a im genes generadas con Inteligencia Artificial (IA), incluido material sexualizado y contra los migrantes, seg n un informe reciente de la ONG AI Forensics. Los investigadores de la organizaci n con sede en Par s dicen haber descubierto 354 cuentas desde las que se subieron 43.000 v deos dise ados con herramientas generativas de IA y que obtuvieron 4.500 millones de visitas en un mes. Seg n AI Forensics, algunas de las cuentas tratan de manipular el algoritmo que decide el contenido que ven los usuarios de TikTok publicando cantidades enormes de v deos con el objetivo de que alguno se vuelva viral. Una de las cuentas publicaba hasta 70 veces cada d a o todos los d as a la misma hora, dos indicadores de que las cuentas estaban automatizadas. En su mayor a, las cuentas fueron creadas a principios de 2025. El pasado noviembre, TikTok revel que al menos 1.300 millones de las publicaciones de la plataforma hab an sido generadas por IA. Una peque a parte del contenido de la red social, si se tiene en cuenta que cada d a se suben m s de 100 millones de v deos. TikTok tambi n ofrece a los usuarios la opci n de reducir la cantidad de material generado por IA que ven en sus pantallas. Las mujeres de IA son siempre atractivas de una manera estereotipada, con escotes o atuendos sexualizados Entre las cuentas que publicaban con mayor asiduidad, la mitad se centraba en contenidos relacionados con el cuerpo femenino. Las mujeres de IA son siempre atractivas de una manera estereotipada, con escotes o atuendos sexualizados , dice el informe de AI Forensics. La organizaci n revela que las cuentas no etiquetaban la mitad del material que sub an y que menos de un 2% llevaba la etiqueta que TikTok asigna al contenido generado por IA, lo que seg n la ONG puede aumentar la posibilidad de enga os. Seg n los investigadores, en algunas ocasiones las cuentas publicaban v deos que violaban las condiciones de servicio de TikTok y pasaban meses sin que fueran eliminados de la red social. De acuerdo con AI Forensics, decenas de las cuentas descubiertas fueron eliminadas tras su informe, lo que hace pensar en la existencia de un equipo de moderadores que las retir . Falsos informativos y cuerpos femeninos sexualizados Algunos v deos sexualizaban los cuerpos femeninos, incluidos los de ni as que parec an menores de edad, o adoptaban la estructura de un programa de noticias con un relato antinmigrantes. Seg n AI Forensics, cinco de las diez cuentas m s activas presentaban el cuerpo femenino de forma sexualizada y, en los v deos de bulos, era posible apreciar logos conocidos de cadenas de televisi n, como Sky News o ABC. TikTok elimin algunos de los v deos despu s de que The Guardian los denunciara ante la plataforma. Seg n TikTok, las acusaciones del informe son infundadas y la ONG ha se alado a esta red social por un problema que afecta a m ltiples plataformas. En agosto, The Guardian public que entre los canales de YouTube con mayor crecimiento a nivel mundial, casi uno de cada diez sub a exclusivamente material generado por IA. La línea difusa que separa en la plataforma el contenido humano genuino del contenido artificial generado por IA marca una nueva tendencia hacia más contenido generado por IA para los usuarios En TikTok, eliminamos los contenidos da inos generados por inteligencia artificial generativa (AIGC), bloqueamos la creaci n de cientos de millones de cuentas de bots, invertimos en tecnolog as l deres en el sector para etiquetar contenidos de IA y damos herramientas y formaci n a las personas para que controlen c mo experimentar con ese tipo de contenidos en nuestra plataforma , ha declarado un portavoz de la red social. En el informe de AI Forensics, las cuentas m s populares por el n mero de visualizaciones hab an publicado slop contenidos creados por IA que no tienen sentido, son extra os y tienen como objetivo llenar las redes sociales . Pueden ser desde animales compitiendo en unas olimpiadas de buceo hasta beb s hablando. Los investigadores reconocieron que parte de ese contenido slop era bonito y entretenido . Las directrices de TikTok establecen que no es posible subir v deos donde la IA haya generado fuentes falsas, usado la imagen de menores de 18 a os o la de adultos, si estos ltimos no son personajes p blicos. El logo de TikTok en la pantalla de un teléfono móvil. Esta investigaci n sobre [las cuentas automatizadas] demuestra de qu manera el contenido generado por IA se ha integrado en las plataformas y en todo el ecosistema viral , dice AI Forensics. La l nea difusa que separa en la plataforma el contenido humano genuino del contenido artificial generado por IA marca una nueva tendencia hacia m s contenido generado por IA para los usuarios , afirman los autores de la investigaci n, centrada en datos obtenidos entre mediados de agosto y mediados de septiembre. Algunos de los v deos trataban de sacarle dinero a los usuarios promocionando suplementos para la salud con influencers falsos, publicitando herramientas que ayudan a crear contenido de IA viral y buscando anunciantes para los v deos, entre otras cosas. Las plataformas deben ir más allá del débil u opcional etiquetado de ‘contenidos generados por IA’ y considerar la posibilidad de separar esos vídeos del material creado por humanos Desde AI Forensics, que tambi n ha alertado de la prevalencia de contenidos generados por IA en Instagram, han dado la bienvenida a la decisi n de TikTok de permitir que los usuarios limiten la cantidad de los contenidos generados por IA que quieren ver, pero han pedido mejoras en su identificaci n y etiquetado. Seguimos esc pticos respecto al xito de esa funci n [limitar los v deos generados por IA] teniendo en cuenta la cantidad estructural y nada desde able de fallos en la identificaci n de dicho contenido . Seg n los investigadores, TikTok deber a considerar la posibilidad de crear una funci n exclusiva para IA en la aplicaci n con el fin de separar el contenido generado por IA de los v deos creados por personas. Las plataformas deben ir m s all del d bil u opcional etiquetado de contenidos generados por IA y considerar la posibilidad de separar esos v deos del material creado por h o encontrar un sistema justo que imponga un etiquetado sistem tico y visible del contenido generado por IA , han concluido. Traducci n de Francisco de Z rate.

Latest News

Hashtags:   

contenido

 | 

antinmigración

 | 

generado

 | 

recibe

 | 

miles

 | 

millones

 | 

visitas

 | 

TikTok

 | 

Sources