Pornografía de IA generativa

La pornografía de IA generativa, o simplemente pornografía de IA, es la pornografía creada digitalmente a través de tecnologías de inteligencia artificial (IA) generativa.^[1]​ A diferencia de la pornografía tradicional, que involucra actores y cámaras reales, este contenido se sintetiza completamente mediante algoritmos de IA.^[2]​ Estos algoritmos, que incluyen a las redes generativas adversativas (RGA) y los modelos de texto a imagen, pueden generar imágenes, videos o animaciones realistas a partir de descripciones textuales o conjuntos de datos.

El uso de IA generativa en la industria para adultos comenzó a fines de la década de 2010, centrándose inicialmente en música, contenido visual y arte generados por IA.^[3]​ Esta tendencia se aceleró en 2022 con el lanzamiento de Stable Diffusion (SD) de Stability AI, un modelo de texto a imagen de código abierto que permite a los usuarios generar imágenes, incluido contenido NSFW, a partir de indicaciones de texto utilizando el subconjunto LAION-Aesthetics de datos LAION-5B.^[4]​^[5]​^[6]​ A pesar de las advertencias de Stability AI contra las imágenes sexuales, el lanzamiento público de SD llevó a comunidades dedicadas a explorar tanto el contenido artístico como el explícito, lo que provocó debates éticos sobre la IA de acceso abierto y su uso en medios para adultos.^[7]​^[8]​^[9]​ Para 2020, las herramientas de IA habían avanzado para generar contenido para adultos altamente realista, lo que incrementó las solicitudes de regulación.^[10]​^[11]​

Una aplicación de la tecnología de IA generativa es la creación de influencers generados por IA en plataformas como OnlyFans e Instagram.^[12]​^[13]​^[14]​ Estos personajes de IA interactúan con los usuarios de maneras que pueden imitar la interacción humana real, ofreciendo una experiencia completamente sintética pero convincente.^[15]​ Si bien, son populares entre audiencias de nicho, estos influencers virtuales han impulsado debates sobre la autenticidad, el consentimiento y la línea difusa entre el contenido humano y el generado por IA, especialmente en el entretenimiento para adultos.^[16]​

Para 2023, los sitios web dedicados a contenido para adultos generado por IA habían ganado terreno, atendiendo a audiencias que buscaban experiencias personalizables.^[17]​^[18]​ Estas plataformas permiten a los usuarios crear o ver pornografía generada por IA adaptada a sus preferencias^[19]​^[20]​ a través de indicaciones y etiquetas, personalizando el tipo de cuerpo, los rasgos faciales y los estilos artísticos.^[21]​^[22]​ Las etiquetas refinan aún más el resultado, creando contenido de nicho y diverso. Muchos sitios cuentan con extensas bibliotecas de imágenes y feeds de contenido continuo, combinando la personalización con el descubrimiento y mejorando la participación del usuario. Los sitios de pornografía con IA, por lo tanto, atraen a quienes buscan experiencias únicas o de nicho, lo que genera debates sobre la creatividad y los límites éticos de la IA en los medios para adultos.^[23]​^[24]​

Sitios populares como Civitai permiten a los usuarios crear, cargar y descargar versiones optimizadas de modelos de código abierto de SDXL, Flux y que están diseñados específicamente para generar diversas escenas o efectos pornográficos.

El crecimiento de la pornografía de IA generativa también ha generado críticas.^[24]​^[25]​^[26]​ La tecnología de IA puede explotarse para crear material pornográfico no consensuado, lo que plantea riesgos similares a los observados con la pornografía de venganza deepfake.^[27]​ Un análisis de 2023 descubrió que el 98 % de los videos deepfake en línea son pornográficos, y el 99 % de las víctimas son mujeres.^[28]​ Algunas celebridades víctimas del deepfake incluyen a Scarlett Johansson, Taylor Swift y Maisie Williams.^[29]​

OpenAI está investigando si los contenidos eróticos o NSFW pueden generarse de forma responsable en contextos adecuados para la edad, manteniendo al mismo tiempo la prohibición de los deepfakes.^[30]​ Esta propuesta ha generado críticas de activistas en defensa de la seguridad infantil, quienes argumentan que socava la misión de OpenAI de desarrollar una IA "segura y beneficiosa".^[31]​ Además, la Internet Watch Foundation ha expresado su preocupación por el uso de la IA para generar contenido de abuso sexual infantil.^[32]​

Varios estados de Estados Unidos están tomando medidas contra el uso de aplicaciones deepfake y su difusión en internet.^[33]​^[34]​ En 2024, San Francisco presentó una demanda histórica para cerrar las aplicaciones de "desnudez" que permiten a los usuarios generar imágenes de desnudos no consensuadas con IA, alegando violaciones de las leyes estatales.^[35]​ El caso coincide con la reciente legislación de California, impulsada por los senadores Aisha Wahab y Josh Becker y firmada por el gobernador Gavin Newsom. Estos proyectos de ley buscan proteger a las personas de las imágenes explícitas generadas por IA al penalizar la distribución no consensuada, exigir la divulgación de información y empoderar a las víctimas para denunciar y eliminar contenido dañino de las plataformas.^[34]​^[36]​

Si bien tanto la pornografía generativa con IA como la pornografía deepfake se basan en medios sintéticos, difieren en sus métodos y consideraciones éticas.^[37]​ La pornografía deepfake generalmente implica la alteración de imágenes existentes de personas reales, a menudo sin su consentimiento, utilizando IA para superponer rostros o modificar escenas.^[38]​^[39]​ En cambio, la pornografía generativa con IA se crea mediante algoritmos, lo que produce contenido hiperrealista sin necesidad de subir imágenes reales de personas.^[40]​^[41]​ Hany Farid, experto en análisis de imágenes digitales, también describió la diferencia entre "pornografía con IA" y "pornografía deepfake".

La legalidad de la pornografía generativa con IA varía considerablemente según la jurisdicción y sigue siendo un tema en evolución. En algunos países, las leyes que abordan la suplantación digital, la obscenidad o las tecnologías deepfake pueden aplicarse indirectamente, especialmente cuando el contenido generado por IA implica la imagen de personas reales sin consentimiento. La ausencia de un artista intérprete o ejecutante físico complica aún más los marcos regulatorios tradicionales, que a menudo se basan en leyes de protección y distribución de artistas intérpretes o ejecutantes.^[42]​

En Estados Unidos, las respuestas legales se han centrado principalmente en los deepfakes no consensuados y la suplantación de identidad.^[43]​ Algunos estados, como Virginia, California y Texas, han promulgado leyes que penalizan la creación o distribución de contenido deepfake explícito no consensuado. Sin embargo, no existe una ley federal integral que aborde la pornografía completamente sintética generada por IA, lo que genera una disparidad de interpretaciones legales y normas de aplicación en diferentes jurisdicciones.^[44]​

Según un informe de 2023, Corea del Sur representa aproximadamente el 53 % de la producción mundial de pornografía deepfake.^[45]​ En septiembre de 2024, la Asamblea Nacional de Corea del Sur modificó la Ley de Casos Especiales Relativos al Castigo de Delitos Sexuales, introduciendo dos reformas significativas relacionadas con el contenido deepfake.^[46]​ La primera penaliza la posesión, visualización, compra y almacenamiento de material deepfake no consentido, con penas de hasta tres años de prisión o multas de hasta 30 millones de wones (aproximadamente USD 20.000). La segunda reforma aborda específicamente la explotación de menores, estableciendo que quienes utilicen deepfakes para amenazar o chantajear a menores se enfrentan a un mínimo de tres años de prisión, y al menos cinco años si coaccionan a menores para que realicen actos no deseados.^[47]​

• Esta obra contiene una traducción derivada de «Generative AI pornography» de Wikipedia en inglés, concretamente de esta versión del 28 de agosto de 2025, publicada por sus editores bajo la Licencia de documentación libre de GNU y la Licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional.