Por Lucas Moyano*
La Inteligencia Artificial Generativa (IAG) nos trae progreso, sí, pero también es la herramienta más poderosa para crear imágenes falsas de desnudos o abusos digitales (deepfakes) que están haciendo un daño real y devastador en la vida de los menores.
No son fotos «reales», pero el impacto psicológico y emocional en un menor es idéntico. Estas imágenes se viralizan sin control, humillan, extorsionan y, lo más grave, son un insumo funcional para las redes de pedofilia.
Recientemente se conoció una sentencia de la Agencia Española de Protección de Datos (AEPD) que marcó un hito con la primera sanción en Europa por un falso desnudo generado con IA. La sanción fue de 2.000 euros.
La Responsabilidad Recae en los Adultos: si el infractor es menor, son los padres o tutores quienes deben responder y pagar la sanción económica. Este precedente eleva la responsabilidad familiar a un nivel crucial: la supervisión del uso de la tecnología no es opcional, tiene un costo legal.
En nuestro país los padres son responsables civilmente ante una acción de daños y perjuicios y responden por los daños causados por sus hijos menores que están bajo su responsabilidad parental.
La AEPD fue clara: usar la cara de alguien sin su consentimiento, aunque sea en un cuerpo simulado, es un tratamiento ilícito de datos personales.
Este tipo de generación de imágenes genera daño emocinal en las victimas que lo padecen, que va mas allá de la imagen.
Cuando hablamos de esto, hay que entender que la víctima, un menor, al ver su cara o cuerpo en un contexto de abuso (aunque el cuerpo sea «falso» o simulado por IA), sufre un impacto emocional y psicológico idéntico a si la imagen fuera auténtica. Ello genera:
- Violencia Digital: Esto es una forma de violencia digital. Ya sea que lo hagan otros compañeros (bullying con IA) o adultos inescrupulosos, el objetivo es el mismo: humillar, extorsionar y dañar la reputación y la dignidad de los menores.
- Difusión sin Control: Lamentablemente, estas imágenes se crean y se difunden a la velocidad de la luz por grupos de WhatsApp, Telegram o redes, volviéndose virales dentro de la comunidad escolar o de conocidos. Borrarlas es casi imposible y el estigma, la vergüenza, el dolor, quedan para siempre.
- Alimentando Redes Peligrosas: Lo peor es que este contenido, generado con un rostro real pero un cuerpo simulado, se está convirtiendo en un insumo funcional para las redes de pedofilia que operan en la dark web y circuitos cerrados. Es un eslabón más en una cadena de explotación.
¿Qué hacemos nosotros? El desafío de los adultos.
Esta problemática no puede reducirse a un problema de los avances de la tecnología, es un problema de valores, educación y responsabilidad.
- Hablemos claro con los chicos: La educación es la primera barrera. Tenemos que hablar con nuestros hijos e hijas sobre la responsabilidad digital, sobre el impacto de un click o de un reenvío, y sobre la importancia de pedir ayuda si ven algo así.
- No Difundir. ¡Denunciar! Si alguna vez te llega una de estas imágenes, no la reproduzcas. Bórrala inmediatamente y, lo más importante, ¡denuncia!
La IA es una gran herramienta, pero utilizada sin ética y responsabilidad genera un daño irreparable. Es por ello que su uso debe adecuarse a una ciudadanía digital responsable, evitando perjudicar a terceros. Educar y cuidar a nuestros chicos es una responsabilidad que nos une a todos.
* Especialista en Ciberdelitos y Evidencia Digital. Autor del Libro Ciberdelitos Como investigar en Entornos Digitales. Edición 1 y 2 Editorial Hammurabi
