Un reciente documento de la UNESCO ofrece el primer marco ético global para el uso de IA en la Justicia.
Por Gustavo Ferrari *
La inteligencia artificial ya opera en los Tribunales. No como promesa futura ni como experimento aislado, sino como realidad extendida: jueces que resumen decisiones con asistencia de modelos de lenguaje, sistemas que clasifican expedientes o predicen resultados de litigios, herramientas de traducción automática que procesan miles de documentos.
En Argentina y en todo el mundo, esta transformación está en curso. Y está muy bien. Nada tiene de malo incorporar los avances tecnológicos a la administración de Justicia.
La pregunta entonces ya no es si la IA ingresará al sistema judicial, sino bajo qué presupuestos lo hace y si existe la posibilidad de definir esas condiciones.
En ese contexto, la UNESCO publicó en este año 2026 las «Directrices para el Uso de Sistemas de IA en Cortes y Tribunales», producto de un proceso de consulta que involucró a más de 36.000 operadores judiciales en 160 países y recibió más de cien contribuciones de organizaciones de 41 naciones.
No se trata de una declaración de principios redactada en abstracto: es el resultado de un diálogo sostenido con quienes efectivamente utilizan —o tienen pretensión de utilizar— estas herramientas.
Una arquitectura de quince principios
El núcleo del documento es un conjunto de principios destinados a orientar el desarrollo, adquisición y uso de sistemas de IA en el ámbito judicial. Leídos en conjunto, no son una lista de buenas intenciones sino una arquitectura coherente. Se organizan en cuatro núcleos principales:
I. Los derechos como límite estructural
1 · Protección de los derechos humanos
La IA debe respetar, proteger y promover los derechos fundamentales a lo largo de todo su ciclo de vida, con atención especial a los grupos en situación de vulnerabilidad.
El documento advierte que ciertos sistemas pueden “agravar, reproducir, reforzar o perpetuar la discriminación” si no se adoptan salvaguardas adecuadas. Es el principio rector del que derivan todos los demás. Un ejemplo concreto: los sistemas de predicción de riesgo de reincidencia utilizados en decisiones sobre prisión preventiva o libertad condicional deben demostrar que no reproducen sesgos raciales, socioeconómicos o de género antes de ser desplegados.
2 · Proporcionalidad
La adopción de IA debe responder a fines legítimos y ser adecuada al contexto. El documento es preciso: los sistemas deben tener “como objetivo lograr fines legítimos y proporcionales en el contexto de su uso”. No toda innovación tecnológica se justifica en un ámbito donde el costo del error es particularmente alto. Incorporar IA porque está de moda no es razón suficiente. Se trata entonces de evitar el uso de IA en decisiones sustantivas cuando su aporte no supere claramente los riesgos.
3 · Viabilidad de los beneficios
Antes de implementar cualquier sistema, el poder judicial debe evaluar si generará mejoras concretas y si tiene capacidad institucional real para sostenerlo.
Las Directrices son explícitas: no basta con incorporar IA por modernización simbólica. Debe de existir un impacto verificable en eficiencia o acceso a justicia. Un tribunal que adopta una herramienta de gestión de expedientes sin contar con infraestructura tecnológica adecuada ni personal capacitado no está modernizándose: está asumiendo riesgos sin respaldo.
II. Integridad técnica
4 · Seguridad
Los sistemas deben evitar daños a las partes, a los jueces y a la reputación del poder judicial. El documento menciona explícitamente “evitar el uso de modelos generativos sin control en la redacción de resoluciones judiciales” como aplicación directa de este principio. El daño no es solo técnico: una resolución fundada en información incorrecta producida por IA compromete la legitimidad institucional del tribunal.
5 · Seguridad de la información
Proteger la confidencialidad de los datos judiciales y garantizar el control continuo sobre ellos. En términos prácticos, esto implica restringir herramientas cuyos términos de uso permiten al proveedor utilizar la información ingresada para entrenar modelos futuros. Como señala el documento: “cualquier información que introduzca en un chatbot de IA comercial debe considerarse disponible para todos”. Un funcionario judicial que ingresa datos de un expediente en un chatbot gratuito puede estar transfiriendo información confidencial a servidores externos sin control.
6 · Precisión y fiabilidad
Los sistemas deben producir resultados correctos y consistentes. Es el principio directamente vulnerado cuando un chatbot genera citas a sentencias inexistentes —fenómeno documentado en Australia, Brasil, Canadá, España, Sudáfrica y Estados Unidos, y no ajeno a la Argentina—. El documento advierte que los modelos de lenguaje “pueden incluir información incorrecta, imprecisa o ficticia sobre cuestiones fácticas, legales y técnicas”, y que “la estructura convincente del texto producido no debe conducir a una confianza excesiva en su veracidad”.
7 · Explicabilidad
Los sistemas deben poder dar cuenta de sus resultados de forma “comprensible, interpretable y rastreable para los humanos.” Un sistema de asignación de causas que distribuye expedientes según criterios opacos, o una herramienta de análisis de riesgo cuya lógica nadie puede examinar, violan este principio. La explicabilidad no es un lujo técnico: es una condición del debido proceso conocer los fundamentos de toda decisión.
III. Transparencia y control
8 · Auditabilidad
Los sistemas deben poder ser examinados durante su despliegue mediante mecanismos administrativos, legales y técnicos. El documento recomienda que los proveedores “acepten permitir y colaborar con auditorías algorítmicas realizadas por la organización o por partes independientes». Cuando están en juego derechos fundamentales, la sociedad civil y auditores externos deben poder acceder a las herramientas.
9 · Justicia transparente y abierta
Las personas deben ser informadas cuando una decisión está influida por IA y deben poder impugnarla. El documento establece que los operadores deben “asegurarse de que las personas sean conscientes de que pueden impugnar dichas decisiones». La UNESCO enfatiza que las personas deben saber cuándo una decisión está influida por IA y que deben poder cuestionarla. Una resolución que incorpora análisis generado por IA sin declararlo viola este principio, independientemente de su contenido.
10 · Concienciación y uso informado
Los operadores judiciales deben comprender las funcionalidades, limitaciones y riesgos de las herramientas que utilizan. La formación continua no es una opción: es una obligación institucional. El documento es directo al respecto: usar una herramienta que no se comprende no exime de responsabilidad. Las escuelas judiciales deberían incorporar alfabetización en IA como contenido curricular permanente.
11 · Rendición de cuentas y contestabilidad
Las decisiones adoptadas con apoyo de IA deben poder ser revisadas e impugnadas. Con íntima vinculación con el principio 9, el documento introduce mecanismos que permitan a las partes “contrainterrogar cualquier resultado producido por un sistema de IA que pueda influir en el resultado del caso”, así como “responsabilizar a los operadores judiciales por sus errores.” La impugnabilidad de la decisión asistida por IA es una extensión natural del derecho al recurso efectivo.
IV. Responsabilidad y gobernanza
12 · Responsabilidad
Quien utiliza una herramienta de IA asume las consecuencias de las decisiones adoptadas con su apoyo. El documento es categórico: la responsabilidad no se delega en la máquina, “sin perjuicio de la posible responsabilidad del proveedor en caso de que el sistema sea defectuoso”. Un juez no puede justificar un error invocando que lo sugirió el algoritmo. La máquina no firma la sentencia.
13 · Supervisión humana y toma de decisiones
Los jueces no pueden delegar ninguna parte de su mandato en sistemas de IA. Las Directrices lo afirman sin ambigüedad: “Las herramientas de IA no deben sustituir el análisis independiente de hechos, leyes y pruebas por parte del responsable de la toma de decisiones”. Jamás se debe reemplazar el juicio humano. La decisión judicial no es un resultado algorítmico: es un acto de razonamiento situado, contextual y responsable. Automatizar ese acto no es eficiencia: es abdicación.
14 · Diseño participativo y centrado en el ser humano
El desarrollo de estos sistemas debe incluir a los propios operadores judiciales y al público. La tecnología judicial no puede diseñarse sin quienes la van a usar ni sin quienes van a ser afectados por ella. Un sistema de gestión de audiencias diseñado sin consultar a jueces, defensores y justiciables probablemente optimice variables equivocadas.
15 · Gobernanza y colaboración multiactor
La regulación de la IA no puede ser patrimonio exclusivo de la administración judicial. El documento exige la participación de la academia, la sociedad civil, los desarrolladores tecnológicos y las comunidades afectadas, “especialmente a quienes puedan verse afectados directa o indirectamente por su despliegue, como mujeres, personas con discapacidad, menores y niños». Las políticas de IA judicial decididas solo por quienes administran los tribunales tienen un déficit democrático de origen.
Lo que está en juego
Las directrices concluyen con una afirmación que vale sostener: las herramientas de IA no sustituyen el razonamiento jurídico cualificado, el juicio humano ni el asesoramiento jurídico personalizado. No es una advertencia conservadora frente a la innovación.
Es el reconocimiento de algo más profundo: los sistemas de IA generativa producen texto combinando secuencias lingüísticas según patrones estadísticos, sin comprensión contextual del problema legal que enfrentan.
Un texto bien formado puede no ser un argumento fundado. Una cita plausible quien sabe no es una cita verificada. Una respuesta convincente no necesariamente es una decisión justa.
La eficiencia importa: los tribunales que tardan años en resolver causas también vulneran derechos. Pero hay una diferencia entre una justicia más ágil y una justicia delegada en algoritmos que nadie comprende, nadie controla y nadie puede impugnar. Esa diferencia tiene nombre: Estado de derecho.
Las directrices de la UNESCO no resuelven esa tensión —ningún documento puede hacerlo—. Pero ofrecen una contribución al debate argentino: un lenguaje común, construido globalmente, para discutir qué queremos que sea la justicia cuando la inteligencia artificial ya está también sentada en el estrado.
* Abogado
