Por Lucas Moyano*
La Inteligencia Artificial (IA) ya no es cuento de ciencia ficción; es una realidad diaria para jueces, fiscales, defensores y abogados. Hoy, la tecnología ofrece una oportunidad gigante para optimizar los tribunales, automatizando muchas de esas tareas repetitivas donde la intervención humana no aporta nada de valor. Sin embargo, la implementación de la IA en la justicia debe ser cautelosa, porque arrastra un riesgo enorme: los sesgos inherentes en los algoritmos, que podrían generar fallos injustos. Hay que automatizar, sí, pero con ética y control.
Como hemos visto, el camino no está exento de tropiezos: para ello veamos dos casos que ocurrieron recientemente:
El primero donde una sentencia fue anulada porque el Juez de primera instancia copio y pego un texto directamente generado de un asistente de IA, incluyendo una frase que lo delato: aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar.
Un segundo ejemplo abogados que citan fallos que nunca existieron, un fenómeno conocido como alucinaciones de la IA. Si un abogado confía en los resultados aportados por el asistente de IA sin cotejar la fuente original, puede correr el riesgo que sus presentaciones sean desestimadas y ser sujeto a sanciones.
La enseñanza que nos deja es que: el uso de la herramienta no exime de responsabilidad. No debemos confiar confía ciegamente en la IA, el control humano es la única garantía de la ética y la verdad procesal.
El Desafío: Aprender a Usar la IA Correctamente
El verdadero desafío es aprender a utilizar la IA correctamente. Para ello, el uso ético debe enfocarse en tres pilares, teniendo como eje al ciudadano y al juicio humano.
1. Automatizar lo Rutinario
La IA no debe intervenir en el análisis de un caso complejo, sino en el volumen de trabajo repetitivo que ahoga a los tribunales. El uso ético y responsable se enfoca en la automatización de procesos estandarizados y ser una asistencia al profesional:
Acelerar la Gestión: Por ejemplo sistemas que automatizan la gestión de procesos en juicios ejecutivos (como la carga de datos, o control de plazos) permiten que estos trámites rutinarios avancen con mayor celeridad, sin automatizar la decisión judicial.
Análisis de Documentos: La IA es una poderosa lupa digital. Es excelente extrayendo datos específicos (fechas, nombres, montos) de miles de expedientes o analizando grandes volúmenes de jurisprudencia en minutos. Esto permite a fiscales, defensores, o abogados armar estrategias con mayor rapidez.
Pseudonimización de Datos: La IA puede pseudonimizar automáticamente (reemplazar nombres y datos sensibles) las sentencias públicas. Esto es vital para fomentar la Justicia Abierta y la transparencia, sin vulnerar la Ley de Protección de Datos Personales.
2. El Peligro de «Tapar la Fuente»
En el caso del juez que copió y pegó, la Cámara de Apelaciones que anuló el fallo advirtió que la gravedad no estaba solo en el «copiar y pegar», sino en la orden de que la IA eliminara las citas y la trazabilidad de la fuente. Esto atenta directamente contra el principio de motivación de las sentencias, una garantía constitucional que exige que el juez explique por qué tomó la decisión, demostrando que su razonamiento es propio y está basado en la ley.
3. El Control Humano
Para evitar que la IA comprometa el debido proceso, toda intervención tecnológica debe adherirse a un protocolo de buenas prácticas, donde la responsabilidad final recae siempre en el humano:
La IA es una herramienta de asistencia, pero en ningún momento puede sustituir la deliberación, el análisis del caso o el juicio crítico del Juez, ni la diligencia profesional indelegable del abogado.
Verificación Obligatoria: El abogado tiene el deber ineludible de cotejar cada cita. Las «alucinaciones» son su responsabilidad.
Privacidad: Nunca debemos ingresar información confidencial a sistemas de IA externos (basados en la nube) o de proveedores sin las debidas garantías de seguridad y confidencialidad, para no violar la reserva de las actuaciones judiciales. Además, debemos asegurar que los sistemas no repliquen sesgos algorítmicos.
Trazabilidad: La Justicia debe ser clara sobre cómo y para qué se utilizó la IA en un proceso, permitiendo que el ciudadano entienda que la decisión fue asistida, pero no tomada, por la tecnología.
Soy de la opinión que la IA nos da la oportunidad histórica de tener una Justicia más rápida y más eficiente. Pero esa velocidad nunca puede ir en detrimento de la confianza y el criterio humano, será un brillante asistente pero nunca un sustituto.
El desafío de la Inteligencia Artificial aplicada a la Justicia es lograr eficiente y eficazmente el desarrollo de los procesos de gestión judicial, avanzando en una integración tecnológica que mejore la calidad, pero que mantenga la humanidad.
Cuando la inteligencia artificial se encuentra con la justicia, lo que está en juego es significativo. Los errores o sesgos algorítmicos en los sistemas de IA pueden socavar la equidad judicial, erosionar la confianza pública y poner en peligro los derechos fundamentales. Por último, en esta carrera por la evolución y desarrollos tecnológicos, no debemos perder ni delegar la capacidad que nos hace humanos: la de deliberar, razonar y decidir libremente.
* Especialista en Ciberdelitos y Evidencia Digital. Autor del Libro Ciberdelitos Como investigar en Entornos Digitales. Edición 1 y 2 Editorial Hammurabi
