Usuarios del foro 4chan trataron de superar las barreras de modelos de IA para generar contenidos explícitos. Otros famosos también fueron víctimas de esta nueva modalidad.
Curiosidades08/02/2024
Studio341News
Taylor Swift no necesita ayuda para ser trending topic, pero hace unos días lo fue por algo en lo que que ella no tuvo absolutamente nada que ver: un aluvión de imágenes explícitas con la nueva reina del pop como protagonista se difundieron en redes sociales. Eran todas deepfakes generados con inteligencia artificial.
Aunque ya se sabía que las imágenes se originaron en 4chan y luego se propagaron en canales privados de Telegram antes de difundirse en Twitter, no se conocían detalles sobre esa explosión de imágenes explícitas generadas por IA y centradas en Taylor Swift.
Ahora, una investigación de la consultora de medios sociales Graphika, citada por la revista Rolling Stones, revela precisamente cómo empezó todo. Y la sorpresa es que todo empezó como un juego.
En uno de los foros de la comunidad 4chan alguien propuso un reto: intentar crear prompts para superar las barreras que los modelos de IA tienen y que normalmente impiden crear imágenes pornográficas de gente famosa. Las imágenes de Taylor Swift se originaron allí, pero hubo más celebridades afectadas.
Cristina López G., analista de Graphika, explicaba que "aunque las imágenes pornográficas virales de Taylor Swift han llamado la atención sobre el problema de las imágenes íntimas no consentidas generadas por la IA, no es ni mucho menos la única víctima".
Otras actrices, cantantes y políticas fueron objeto de este tipo de deepfakes incluso con más frecuencia de Taylor Swift. Entre los ejemplos están Ariana Grande, Billie Eilish o Emma Watson.
Un concurso muy singular
Según The New York Times, los usuarios de 4chan fueron compartiendo trucos y consejos para superar los filtros de plataformas como DALL-E, Microsoft Designer y Bing Image Creator. Las imágenes creadas se iban compartiendo en ese foro y los usuarios votaban a favor o en contra según la calidad o realismo que se conseguía con esos prompts.
Así, ese singular concurso para superar las barreras de estos modelos fue precisamente la motivación de los usuarios para "derrotar" esos mecanismos de protección. Como apuntaba López G., "es importante entender la naturaleza ludificada de sta actividad maliciosa para poder prevenir futuros abusos en el origen [de la generación de imágenes por IA]".
Las primeras imágenes de Swift comenzaron a aparecer en el foro el 6 de enero, pero tardaron algo más de una semana en acabar difundiéndose en Telegram y X (antes Twitter).
La explosión viral de dichas imágenes provocó que 'Taylor Swift' se convirtiera en trending topic en X durante varios días. La red social tuvo que bloquear esas búsquedas para al mismo tiempo ir borrando las imágenes que se detectaban, lo que finalmente mitigó gran parte de los problemas.
Encontraron una ballena, en peligro de extinción, encallada en la Costanera Norte. Es el segundo cetáceo que aparece muerto en el Río de la Plata en una semana.
El microprograma estará dentro de la emisión que conduce la periodista Sofía Caram en Radio 10 y se llamará "Cristina de Radio".
Los cruces se dieron en la cumbre de San Vicente. El exponente de La Cámpora es apadrinado por su mamá y el ministro cuenta con el aval de Kicillof
La feliz pareja pasa sus días en Turquía con publicaciones que, como es de costumbre, dan a entender un nuevo paso en su relación.
El abogado de Tamara Báez denunció a L-Gante por violencia digital. Lo acusa de haber publicado su número de teléfono personal en las redes sociales.
La mediática se expresó en sus redes sociales, pero luego eliminó los tuits.
La pareja disfrutó de una noche de lujos en Estambul.
El operativo fue ordenado por el Juzgado en lo Penal, Contravencional y de Faltas N.° 20.
Un hombre fue víctima este fin de semana de dos mujeres con quien pensaba que iba a pasar unas horas en un hotel alojamiento.
Fue ingresada a la guardia del Hospital José María Cullen de la capital provincial.
En Infama, Gonzalo Sorbo compartió detalles del nuevo romance de la polémica participante.
La nueva película de superhéroes, basada en el icónico personaje de DC Comics, está protagonizada por David Corenswet.
Las implicancias de su avance incontrolable podría desencadenar en interrupciones en la conectividad global y afectará el normal funcionamiento de infraestructuras estratégicas en Argentina.
La exboxeadora de 50 años está en terapia intensiva tras sufrir un ACV. El director del hospital dio los primeros datos sobre la internación.
