Marta Rut Legarreta, a cargo del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, dictó una cautelar en defensa de adolescentes cuyos rostros fueron utilizados sin consentimiento en imágenes íntimas creadas con IA. La medida busca frenar la circulación del contenido y prevenir nuevas violencias digitales.
La jueza Marta Rut Legarreta, a cargo del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, dictó una medida cautelar para proteger los derechos de adolescentes que fueron víctimas de violencia digital, con la creación y difusión de imágenes íntimas falsas, generadas mediante inteligencia artificial sin su consentimiento. La resolución ordena el bloqueo inmediato de una aplicación que permite simular desnudos utilizando fotos reales de personas, y se mantendrá vigente hasta que se acredite el cese del riesgo de daño.
La causa se inició a partir de la denuncia de un padre, quien identificó la aplicación utilizada para manipular imágenes de adolescentes, generando contenido sexual falso.
Según el informe del Área de Seguridad Informática del Poder Judicial, la herramienta digital emplea modelos avanzados de IA para eliminar digitalmente ropa en fotografías y generar simulaciones íntimas, vulnerando la privacidad, dignidad e identidad de las víctimas.
La resolución judicial ordena al ENACOM el bloqueo inmediato del acceso al sitio web y a los servidores DNS de la aplicación desde el territorio argentino. Además, se notificó a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI) para que intervenga en la investigación y promueva medidas que permitan identificar a los responsables de esta modalidad de agresión.
“El entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niñas y adolescentes a formas modernas de violencia simbólica, digital y psicológica”, advirtió la magistrada en el fallo.
Legarreta sustentó su decisión en normas nacionales e internacionales de protección a la niñez, así como en la reciente “Ley Olimpia” (Ley N° 27.736), que tipifica la violencia digital como una forma de violencia de género.
El caso se convirtió en uno de los primeros en el país donde el Poder Judicial interviene con medidas concretas contra aplicaciones que, mediante inteligencia artificial, replican dinámicas de abuso y cosificación.
El informe técnico presentado por José Nicolás Bruzzo, del Área de Seguridad Informática del Poder Judicial de Corrientes, describió que la app usa tecnologías como redes generativas antagónicas (GANs) y modelos de difusión para construir imágenes manipuladas a partir de fotos reales.
“El sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo”, sostuvo el especialista.
La circulación del contenido falso habría comenzado a través de WhatsApp, y el daño concreto fue reconocido por el juzgado al identificar que la aplicación no cuenta con ningún filtro que impida su uso contra menores de edad.
