Meta y TikTok corrieron miles de anuncios de apps que utilizan Inteligencia Artificial (IA) para crear videos falsos de personas besándose. Estas aplicaciones permiten a los usuarios subir fotos de dos personas y generar un video de estas características en cuestión de segundos. Las herramientas se promocionan como formas de "besar a quien quieras" de manera instantánea, sin necesidad de consentimiento.
Similares en concepto a las aplicaciones de "nudificación con IA" que producen pornografía deepfake sin consentimiento, estas aplicaciones de besos con IA generan videos creíbles de personas realizando actos que no hicieron. La facilidad con la que lo logran plantea una preocupante normalización de las imágenes manipuladas mediante deepfake.
Si bien los anuncios no son explícitamente sexuales, como la avalancha de contenido pornográfico generado con IA que invadió plataformas como Instagram, Reddit y YouTube, pueden ser igualmente peligrosos, según Haley McNamara, ejecutiva del Centro Nacional para la Explotación Sexual de los Estados Unidos, quien habló con Forbes.
"No tiene que ser explícito para ser explotador", afirmó McNamara. "Si cruzar los límites para hacer algo a alguien sin su consentimiento en la vida offline —como besarlo o desvestirlo— está mal, también lo está hacerlo en línea", enfatiza.
Un análisis de Forbes reveló que Meta mostró más de 2.500 anuncios de aplicaciones de "besos con IA" en Instagram y Facebook. Actualmente, unos 1.000 anuncios están activos. TikTok, por su parte, presentó aproximadamente 1.000 anuncios a millones de usuarios en países europeos, según su biblioteca de anuncios (que no incluye los anuncios dirigidos a usuarios en Estados Unidos).
La mayoría de estos anuncios muestran a celebridades como Scarlett Johansson, Emma Watson y Gal Gadot besándose entre sí. Otros presentan videos de personas al azar besándose, promocionando que la IA podría permitirte "besar a tu ex" o "besar a tu crush". No está claro si las personas en los videos son reales o generadas por IA.
Johansson, Watson y Gadot no respondieron a las solicitudes de comentarios.
Meta también promocionó aplicaciones de "abrazos con IA". En este caso, los anuncios mostraron videos generados con IA de chicos abrazando a personajes de dibujos animados como Dora la Exploradora, Mickey Mouse y Tom y Jerry. Algunos anuncios, como un video de una nena abrazando a un hombre mayor, prometieron a los padres que estas aplicaciones con IA podrían permitir que sus hijos "abracen a abuelos que nunca conocieron". Según una búsqueda realizada por Forbes, la gigante de las redes sociales publicó unos 1.200 anuncios de aplicaciones de abrazos con IA, de los cuales más de 300 siguen activos.
"Esta tendencia está normalizando las falsificaciones explotadoras y tomando la participación no consentida en imágenes íntimas o sexualizadas como una broma".
Haley McNamara, ejecutiva del Centro Nacional sobre Explotación Sexual.
Los videos generados por IA de personas besándose y abrazándose ya circulan en las redes sociales. Un video que muestra a Taylor Swift abrazando a Kim Jong Un alcanzó unos 30 millones de visualizaciones en Instagram. A fines de diciembre, un video deepfake de Elon Musk besándose con la primera ministra italiana Giorgia Meloni se viralizó en X.
El vocero de Meta, Daniel Roberts, declaró a Forbes que estos anuncios de "besos con IA" no violan las políticas de la compañía. Aunque la desnudez, el contenido sexualmente explícito y el contenido sugestivo están prohibidos por los estándares publicitarios de Meta, y la empresa no permite anuncios que "muestren, promuevan o coordinen actos sexuales con partes no consentidas", los videos de besos y abrazos están permitidos.
Después de ser contactada por Forbes, TikTok eliminó los anuncios por violar sus políticas. La plataforma de videos requiere que los anunciantes obtengan el consentimiento de las figuras públicas o privadas representadas en sus anuncios, incluso si estos se generan mediante IA, explicó Ariane de Selliers, vocera de TikTok.
Las empresas detrás de estos generadores de video parecen tener su sede fuera de los Estados Unidos, en países como los Emiratos Árabes Unidos, Italia y China, según los sitios web de dichas compañías. Las aplicaciones están disponibles de forma gratuita en la App Store de Apple y en la Play Store de Google, y ya cuentan con millones de descargas. La función de "besos con IA" forma parte de un conjunto más amplio de capacidades de edición de fotos basadas en IA dentro de estas aplicaciones, como retocar fotos antiguas, convertir imágenes fijas en videos y predecir cómo serían los futuros hijos de dos personas. Apple y Google no respondieron a las solicitudes de comentarios.
"Fue increíblemente perturbador encontrarme con esto"
Alice Siregar, analista de IA y usuaria de redes sociales.
La expansión de las aplicaciones de besos con IA, impulsada por la viralidad de las redes sociales, ilustra una preocupante normalización de los deepfakes en la era de la IA generativa. El uso de estas aplicaciones aparentemente inofensivas podría abrir la puerta a herramientas capaces de crear imágenes más gráficas, como pornografía deepfake y otros tipos de abuso sexual basado en imágenes, advirtió McNamara. "Es simplemente una caja de Pandora absoluta", expresó.
"Esta tendencia está normalizando los deepfakes explotadores y trivializando la participación no consensuada en imágenes íntimas o sexualizadas como si fuera un chiste", añadió. "Es algo fácil de minimizar cuando se piensa en otras personas, pero, de nuevo, si uno piensa en alguien cercano creando imágenes de este tipo sobre uno mismo, alguien a quien no querrías otorgarle ese poder, todos pueden reconocer que esto es una violación", completó.
Esto resulta especialmente preocupante cuando el material de abuso sexual infantil (CSAM, por sus siglas en inglés) generado por IA está aumentando de manera alarmante. En los últimos dos años, el Centro Nacional para Chicos Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) de los Estados Unidos recibió más de 7.000 informes relacionados con material de explotación infantil generado por IA.
En un caso, un pedófilo presuntamente filmó chicos en Disneyland y utilizó una herramienta popular de IA llamada Stable Diffusion para producir miles de imágenes ilegales de ellos. Además, con acceso irrestricto a generadores de imágenes por IA, estudiantes adolescentes en múltiples casos crearon imágenes deepfake de desnudos de compañeros de clase menores de edad, lo que en algunos casos resultó en cargos criminales. Meta también enfrentó dificultades para controlar los anuncios de sitios de "nudificación" con IA, uno de los cuales registró el 90 % de su tráfico a través de Instagram y Facebook, según informó el boletín Faked Up.
Las personas que se toparon con los anuncios de besos con IA mientras navegaban por las redes sociales afirman que los encuentran perturbadores. En diciembre, Alice Siregar comenzó a notar un aumento en los anuncios de estas aplicaciones en TikTok. Analista de IA en una firma de consultoría tecnológica, se sintió consternada al ver cómo esta tecnología se utilizaba de una manera "profundamente poco ética". "Fue increíblemente perturbador encontrarme con esto", dijo.
