Deepnudes: el arte de desnudar a alguien sin su consentimiento
Las inteligencias artificiales avanzadas son capaces de crear imágenes realistas que desnudan a personas sin su consentimiento. Esto ha dado lugar al surgimiento de una industria en línea altamente preocupante desde una perspectiva ética.
Una industria en línea que florece
Un informe reciente de Graphika, A Revealing Picture, destaca el auge alarmante de una industria en línea que aprovecha los avances de la inteligencia artificial para producir y monetizar imágenes íntimas no consensuales de forma masiva.
Según el informe, «la creación y difusión de imágenes íntimas no consensuales (NCII) sintéticas ha pasado de ser un servicio personalizado disponible en foros a convertirse en una actividad masiva que utiliza una amplia variedad de recursos para monetizar y comercializar dichos servicios». Estas imágenes, también conocidas como «undressing», «deepnudes» o «imágenes desnudas», se generan manipulando fotos y videos reales existentes de personas para hacer que parezcan desnudas, sin su consentimiento.
El informe indica que «un grupo de 34 proveedores de NCII sintéticas recibió más de 24 millones de visitas únicas en sus sitios web en septiembre de 2023». Esta violación flagrante de los derechos de imagen, la privacidad y la dignidad de los individuos es posible gracias a la mejora constante de los modelos de generación de imágenes de inteligencia artificial, que permiten a más actores crear fácilmente y de forma rentable «nudes» fotorrealistas a gran escala.
Los proveedores de NCII sintéticas han desarrollado un verdadero modelo de negocio rentable, empleando estrategias de marketing agresivas como la publicidad en redes sociales, el marketing de influencia y el uso de tecnologías de pago en línea. Esta industria próspera aprovecha y monetiza la violación del consentimiento y la privacidad de los individuos. Los expertos advierten que «la importancia creciente y la accesibilidad de estos servicios probablemente dará lugar a otros casos de daños en línea, como la creación y difusión de NCII sintéticas para el chantaje, el acoso o la explotación financiera». Las consecuencias psicológicas para las víctimas pueden ser devastadoras.
Una necesidad urgente de un marco jurídico y ético
A pesar de los impresionantes avances tecnológicos, la explotación comercial de la inteligencia artificial para generar NCII sin consentimiento plantea cuestiones fundamentales desde el punto de vista ético y jurídico. Es imperativo establecer medidas sólidas para prevenir el abuso y proteger los derechos individuales a la privacidad y la dignidad.
En la actualidad, algunas plataformas bloquean palabras clave y aplicaciones que permiten crear estas imágenes, pero estos esfuerzos son insuficientes para frenar este fenómeno. Es necesaria una regulación estricta, junto con sanciones severas para los infractores, para regular esta industria. Además, se necesita un debate profundo a nivel social sobre el desarrollo y el uso responsable de dichas tecnologías de inteligencia artificial para garantizar el respeto de los valores éticos y las libertades individuales.
Así que, chicos y chicas, si alguno de ustedes piensa que puede usar la IA para desnudar a alguien sin su consentimiento, solo puedo decir: ¡DETÉNGANSE YA O SERÁN DETENIDOS!