Usuarios del foro 4chan trataron de superar las barreras de modelos de IA para generar contenidos explícitos. Otros famosos también fueron víctimas de esta nueva modalidad.
Curiosidades08/02/2024
Studio341News
Taylor Swift no necesita ayuda para ser trending topic, pero hace unos días lo fue por algo en lo que que ella no tuvo absolutamente nada que ver: un aluvión de imágenes explícitas con la nueva reina del pop como protagonista se difundieron en redes sociales. Eran todas deepfakes generados con inteligencia artificial.
Aunque ya se sabía que las imágenes se originaron en 4chan y luego se propagaron en canales privados de Telegram antes de difundirse en Twitter, no se conocían detalles sobre esa explosión de imágenes explícitas generadas por IA y centradas en Taylor Swift.
Ahora, una investigación de la consultora de medios sociales Graphika, citada por la revista Rolling Stones, revela precisamente cómo empezó todo. Y la sorpresa es que todo empezó como un juego.
En uno de los foros de la comunidad 4chan alguien propuso un reto: intentar crear prompts para superar las barreras que los modelos de IA tienen y que normalmente impiden crear imágenes pornográficas de gente famosa. Las imágenes de Taylor Swift se originaron allí, pero hubo más celebridades afectadas.
Cristina López G., analista de Graphika, explicaba que "aunque las imágenes pornográficas virales de Taylor Swift han llamado la atención sobre el problema de las imágenes íntimas no consentidas generadas por la IA, no es ni mucho menos la única víctima".
Otras actrices, cantantes y políticas fueron objeto de este tipo de deepfakes incluso con más frecuencia de Taylor Swift. Entre los ejemplos están Ariana Grande, Billie Eilish o Emma Watson.
Un concurso muy singular
Según The New York Times, los usuarios de 4chan fueron compartiendo trucos y consejos para superar los filtros de plataformas como DALL-E, Microsoft Designer y Bing Image Creator. Las imágenes creadas se iban compartiendo en ese foro y los usuarios votaban a favor o en contra según la calidad o realismo que se conseguía con esos prompts.
Así, ese singular concurso para superar las barreras de estos modelos fue precisamente la motivación de los usuarios para "derrotar" esos mecanismos de protección. Como apuntaba López G., "es importante entender la naturaleza ludificada de sta actividad maliciosa para poder prevenir futuros abusos en el origen [de la generación de imágenes por IA]".
Las primeras imágenes de Swift comenzaron a aparecer en el foro el 6 de enero, pero tardaron algo más de una semana en acabar difundiéndose en Telegram y X (antes Twitter).
La explosión viral de dichas imágenes provocó que 'Taylor Swift' se convirtiera en trending topic en X durante varios días. La red social tuvo que bloquear esas búsquedas para al mismo tiempo ir borrando las imágenes que se detectaban, lo que finalmente mitigó gran parte de los problemas.
El delantero argentino cuestionó a los medios tras el último reporte del Ministerio Público Tutelar que analiza la situación de Francesca e Isabella, y denunció un “silencio mediático” que lo sorprendió.
El presidente de Estados Unidos firmará este viernes una orden ejecutiva para rebautizar al Departamento de Defensa. El giro simbólico, que aún deberá ser convalidado por el Congreso, busca recuperar un “espíritu guerrero” y remite a la denominación que tuvo la cartera hasta 1949.
La administración de Donald Trump suspendió a último momento la firma del acuerdo de exención de visas con la Argentina. La comitiva local, que ya viajaba rumbo a Washington, fue notificada en pleno tránsito y debió regresar sin avances.
El capitán de la Selección asistió junto a su familia a la obra de su amigo Nicolás Vázquez. El público recién descubrió su presencia al final de la función y estalló en aplausos.
El Presidente solo viajará a Los Ángeles para reunirse con empresarios, en medio de la crisis por los audios filtrados de Karina Milei.
La Justicia ordenó retener $850 millones de las cuentas y fondos que el club percibe de la AFA, en el marco de la demanda de los exfutbolistas Patricio Toranzo y Diego Mendoza. El fallo reabre una de las páginas más dolorosas del fútbol argentino.
La Policía Federal inspeccionó la casa de una hija de Friedrich Kadgien en Parque Luro. El retrato del pintor italiano Giuseppe Ghislandi, robado a un coleccionista judío, habría sido detectado en fotos de un aviso inmobiliario.
Los hijos de ambas forjaron una amistad en River y lograron acercarlas. Ahora, compartirán la nueva edición de Masterchef Celebrity.
El capitán jugará este jueves su último partido oficial con la camiseta albiceleste en el país. Será en el Monumental, por la fecha 17 de las Eliminatorias rumbo al Mundial 2026.
El vuelo, previsto para abril de 2026, llevará a cuatro astronautas en un sobrevuelo lunar. La agencia espacial abrió la convocatoria a radioaficionados y expertos en señales para colaborar en el seguimiento de la nave Orión.
El ex entrenador de la Selección elogió al juvenil de River y Real Madrid, citado para la doble fecha de Eliminatorias. También habló del adiós de Messi en Argentina y no esquivó la consulta sobre Boca.
La compañía reveló el top 10 de leyendas históricas que estarán en el próximo videojuego: figuran Zidane, Ronaldo, Cruyff, Ronaldinho y dos mujeres que hicieron historia en el fútbol mundial.
Thriller, venganza y misterio: la nueva producción española se convirtió en lo más visto de la plataforma pocos días después de su estreno.
En la despedida de Argentina como local antes del Mundial 2026, el capitán marcó dos goles en el 3-0. Lautaro Martínez completó la faena y la Albiceleste estira su liderazgo en las Eliminatorias.
