La advertencia parte del fiscal federal con competencia electoral, Ramiro González, en un dictamen en el cual reclama medidas urgentes contra el uso indebido de inteligencia artificial en la campaña electoral con miras a los próximos comicios legislativos nacionales de octubre.
El fiscal federal con competencia electoral, Ramiro González, advirtió sobre los riesgos que implica la utilización de inteligencia artificial en los comicios y reclamó la adopción de medidas concretas para evitar la manipulación del electorado. El pronunciamiento se dio en el marco de la acción de amparo impulsada por el constitucionalista Andrés Gil Domínguez, tras la difusión de videos falsos en elecciones pasadas.
El abogado interpuso una acción de amparo en reclamo de que se ordene a los organismos competentes del Estado nacional la adopción de medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de “deepfakes” o uso no autorizado del servicio de clonación de vos y rostro con Inteligencia Artificial respecto del proceso electoral nacional en curso.
“No caben duda respecto a los riesgos que generan los ‘deepfakes’ para la actividad política en general y los procesos electorales en particular, afectados por actos de comunicación malintencionada, falsa o directamente difamatoria, mediante el recurso (…) a la inteligencia artificial”, sostuvo el fiscal en su dictamen.
Qué pide la Fiscalía
El fiscal dictaminó a favor de que se haga lugar al amparo y se sugiera al Poder Ejecutivo Nacional que, a través de la representación que corresponda, adhiera el “Compromiso Ético Digital 2025” impulsado por la Cámara Nacional Electoral.
En su dictamen, González aludió a los riesgos de las “deepfakes” para la actividad política en general “y los procesos electorales en particular”. Se ven afectados “por actos de comunicación malintencionada, falsa o directamente difamatoria, mediante el recurso -a veces más, a veces menos, sofisticado pero igualmente pernicioso-, a la inteligencia artificial. En ciertos supuestos, directamente un uso constitutivo de delito”.
El fiscal señaló que “la utilización de deepfakes con fines electorales constituye una forma de interferencia política sofisticada y profundamente lesiva para el sufragio libre e informado de las personas”.
Recordó los antecedentes recientes en los que la manipulación digital buscó alterar candidaturas, como los videos apócrifos de Mauricio Macri y Silvia Lospennato en la campaña legislativa de mayo. También mencionó casos previos vinculados a Mario Negri y episodios de violencia electoral digital durante el proceso electoral de 2023.
Por todo ello coincide en la necesidad de involucrar a los órganos competentes del Poder Ejecutivo Nacional en la “adopción de medidas concretas y efectivas” para “prevenir y alertar -y eventualmente cesar- la difusión de DEEPFAKES o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional de renovación parcial de la Cámara
de Diputados y de la Cámara de Senadores que se celebrará el 26 de octubre de 2025”.
En concreto, se pide a la jueza federal con competencia electoral María Servini que requiera:
- Informes oficiales sobre las medidas de prevención ya adoptadas o planificadas para evitar el uso abusivo de la IA en la campaña.
- Acciones de sensibilización ciudadana sobre el voto informado y el uso crítico de la información en internet.
- Notificación a plataformas digitales y medios de comunicación sobre la regulación electoral vigente y los delitos aplicables en caso de engaño al electorado.
- Que el Poder Ejecutivo adhiera al Compromiso Ético Digital 2025, que busca “garantizar un debate democrático honesto y libre de desinformación en redes sociales”.
Democracia en tiempos de algoritmos
“Corresponde requerir acciones, programas o herramientas que promuevan el voto informado, incluso trascendiendo lo específico de las ‘deepfakes’, pero que contribuyan a mitigar sus eventuales efectos”, agregó.
La comunicación digital “es tan intensa como, correlativamente, lo son los riesgos que trae consigo” y los mensajes falsos viralizados con inteligencia artificial trascienden fronteras y superan incluso la capacidad de control de los Estados nacionales.
En su dictamen, González llamó a no considerar a internet como una “zona liberada”, sino como un ámbito en el que el Estado y la Justicia tienen la obligación de intervenir para garantizar la transparencia electoral.
La jueza deberá resolver ahora si hace lugar al amparo y ordena al Ejecutivo implementar las medidas reclamadas. El pronunciamiento, en plena recta final hacia las elecciones legislativas del 26 de octubre, podría marcar un precedente clave en la regulación del uso de inteligencia artificial en la política argentina.
