Índice de contenidos
La amenaza de la inteligencia artificial y el peligro de las imágenes falsificadas
La época actual es testigo de una de las innovaciones tecnológicas más impactantes: la inteligencia artificial. Esta poderosa herramienta, sin embargo, también puede convertirse en un arma peligrosa en manos equivocadas. Sitios como Stable Difussion o Midjourney son claros ejemplos de ello. Desde deepfakes hasta imágenes falsas de contenido íntimo, estas prácticas delictivas están en aumento y aún no existen leyes estrictas para castigarlas.
La era del «revenge porn» y la manipulación de imágenes
El «revenge porn», o pornografía de venganza, es un acto despreciable en el cual se difunden imágenes o videos sexualmente explícitos de una persona sin su consentimiento. Esta práctica tiene como objetivo causar daño, vergüenza y humillación a la víctima, especialmente después de una relación íntima terminada. Lo alarmante es que, gracias a la inteligencia artificial, esta cruel práctica ya no depende de un vínculo emocional, ya que incluso celebridades y personas con perfiles públicos en redes sociales han sido víctimas de imágenes falsificadas.
StopNCII: la respuesta para combatir el intercambio no consensuado de contenido íntimo
Con el objetivo de combatir este problema, Meta y otras 50 organizaciones sin ánimo de lucro se unieron para crear StopNCII. Esta iniciativa, lanzada en 2021, se concentra en la lucha contra el intercambio no consensuado de contenido íntimo. Desde entonces, se han implementado mejoras significativas. Ahora, los usuarios ya no tienen que subir ni compartir fotografías o videos íntimos. Mediante el uso de inteligencia artificial, StopNCII genera un «hash» único que se almacena en la plataforma, creando así una huella digital segura para cada imagen.
Cuando un usuario intenta cargar contenido a plataformas como Facebook o Instagram, el sistema de StopNCII bloquea automáticamente el archivo si coincide con un «hash» registrado. Este bloqueo se informa a StopNCII y se notifica al usuario que una de las empresas participantes ha logrado bloquear el archivo. Esta herramienta está dirigida a adultos mayores de 18 años, pero se ofrece un proceso diferente para los menores de edad, explicando en detalle la explotación infantil.
StopNCII ha logrado una tasa de eliminación del 90% y ha eliminado exitosamente más de 200,000 imágenes íntimas compartidas sin consentimiento en Internet. Además de Facebook, Instagram, TikTok, Bumble, Reddit, OnlyFans y Threads, otras plataformas podrían unirse a esta iniciativa independiente de Meta en el futuro.
La preocupante brecha de género en los «deepfakes» no consentidos
Un informe de AFP revela que el 96% de los videos falsos o «deepfakes» no consentidos en línea involucran a mujeres. Esta cifra alarmante resalta la urgencia de abordar este problema y proteger la dignidad y privacidad de las mujeres en la era digital.
Apoyo y recursos para las víctimas
En México, organizaciones como Cultivando Género, Defensoras Digitales Baja California, Consejo Ciudadano y la Red Interamericana de Refugios se han sumado a esta iniciativa y ofrecen apoyo y acompañamiento a las víctimas. Además, se brindan recursos psicológicos y emocionales a quienes lo necesiten.
En conclusión, el avance de la inteligencia artificial ha llevado a nuevos retos y peligros en el ámbito de la privacidad y la seguridad en línea. StopNCII es un esfuerzo importante para combatir el intercambio no consensuado de contenido íntimo y proteger a las personas de las consecuencias devastadoras del «revenge porn» y las imágenes falsificadas. Sin embargo, aún se necesitan leyes más estrictas y un cambio cultural profundo para erradicar por completo estas prácticas dañinas.
