La reconocida jurista advirtió sobre los riesgos de utilizar jurisprudencia generada por IA sin controlar su veracidad y puso el foco en la responsabilidad de jueces y fiscales. Lo hizo durante una jornada académica sobre Derecho Privado realizada en Rafaela, que reunió a destacados especialistas.
La ex jueza de la Suprema Corte de Mendoza e integrante de la comisión redactora del Código Civil y Comercial, Aída Kemelmajer de Carlucci, advirtió sobre el uso sin control de la inteligencia artificial en la Justicia y puso el foco en una situación que consideró especialmente grave: que jueces o integrantes del Ministerio Público incorporen a sus decisiones jurisprudencia generada por esas herramientas sin comprobar previamente su existencia o alcance.
“Lo más dramático es cuando hemos tenido que verificar que el juez sigue esa jurisprudencia sin verificarla, o el Ministerio Público acusa con esa jurisprudencia sin verificarla”, afirmó la reconocida jurista.
Kemelmajer hizo esas declaraciones durante una conferencia de prensa realizada en la sede de la Cámara de Apelaciones en lo Civil, Comercial y Laboral de Rafaela, en el marco de su visita a la ciudad para participar de la Jornada Académica “Actualización en Derecho Privado”.
El encuentro reunió a magistrados, funcionarios y especialistas, entre ellos a Marisa Herrera, investigadora del CONICET y especialista en Derecho de Familia e Infancia, quien tuvo a su cargo la conferencia de apertura sobre el entorno digital y los derechos de niños, niñas y adolescentes.
Durante la jornada también expusieron Carlos Hernández, Mariana Iglesias, Gustavo Nadalini y Cristian Werlen, además de los camaristas Pablo Lorenzetti -uno de los impulsores de la actividad- y María José Álvarez Tremea.
Los paneles abordaron cuestiones vinculadas con la protección de los consumidores en el ámbito inmobiliario, la cuantificación y actualización de indemnizaciones, el consentimiento y la buena fe frente a la manipulación algorítmica, el Derecho Sucesorio y la prescripción adquisitiva.
Kemelmajer explicó que la utilización de información falsa producida por inteligencia artificial dejó de ser una situación excepcional. Recordó que hace dos años todavía resultaba noticia que un abogado fuera sancionado por presentar en un expediente jurisprudencia inexistente producto de las denominadas “alucinaciones” de estos sistemas.
“Hoy prácticamente todos los días, en las noticias especializadas de Derecho, aparece alguna noticia: el abogado de Neuquén o el de Ushuaia, o el que fuera, fue sancionado porque utilizó jurisprudencia que no existía”, señaló.
El problema, remarcó, no termina en los abogados. Para Kemelmajer, la responsabilidad se vuelve todavía mayor cuando esa información atraviesa los controles y termina siendo utilizada por quienes tienen la obligación de acusar o resolver.
“Es una responsabilidad que hoy nos incluye a todos y hay que ejercer un control muy serio sobre estas cuestiones, sobre todo en materia penal”, sostuvo.
Una herramienta que exige control
Kemelmajer no planteó un rechazo a la utilización de inteligencia artificial en el ámbito judicial. Por el contrario, reconoció sus posibilidades y también los avances que experimentaron estas herramientas durante los últimos años. “La inteligencia artificial, y todo eso, es un gran instrumento”, afirmó.
Según explicó, en el Derecho Penal, el Derecho de Familia y las cuestiones vinculadas directamente con las personas no alcanza con disponer de información: cada decisión exige contemplar las particularidades de quien está involucrado en el expediente. “Es esa circunstancia de esa persona lo que no siempre la inteligencia artificial puede captar”, señaló.
Y ubicó allí una de las tareas centrales que conserva el magistrado frente al avance tecnológico: “La gran responsabilidad hoy del juez es atender a esa persona que tenés delante tuyo; ese niño, esa mujer, eso la inteligencia artificial no te lo puede dar”.
La visita de Kemelmajer tuvo además un peso particular por su participación en la comisión redactora del Código Civil y Comercial, que entró en vigencia en 2015. A más de una década de aquella reforma, la jurista planteó que las transformaciones sociales y tecnológicas volvieron a colocar al Derecho frente a realidades que requieren nuevas respuestas.
Entre los cambios más importantes de los últimos años ubicó los producidos en el Derecho de Familia y mencionó el matrimonio igualitario, la identidad de género y la autonomía progresiva de niños, niñas y adolescentes. Pero también se refirió a fenómenos más recientes, vinculados con las redes sociales y las nuevas formas de organización familiar.
Uno de los ejemplos que utilizó fue el debate en torno a las denominadas “familias multiespecie” y el lugar que ocupan los animales de compañía dentro de los vínculos familiares. En ese contexto sostuvo que el Derecho debe ocuparse de “las cosas que le interesan a la gente y no sobre abstracciones”.
