La Justicia frente al algoritmo: gobernar la IA antes de que gobierne todo

Por Juan Manuel Garay*

La inteligencia artificial es, hoy, el instrumento más eficiente que ha encontrado el poder para hacerse invisible. No porque no se note su presencia, sino porque se naturaliza su intervención: recomendaciones, tendencias, rankings, “lo que te puede interesar”, puntajes, alertas, filtros, etc.

La vida pública transcurre también dentro de ese entramado. Y ese fue, en parte, el disparador de la obra Las nuevas leyes del poder: justicia, medios, IA y redes sociales, dirigida por el doctor Mariano Hernán Borinsky y María Bourdi; con prólogo del Ministro de la Corte Suprema de Justicia de la Nación, doctor Ricardo Lorenzetti.

Durante años, cuando se hablaba de “poder”, el debate solía ordenarse alrededor de figuras, instituciones y decisiones. Los grandes actores, en esencia, eran la política, la justicia y los medios. Hoy, se suma como poder la infraestructura: la arquitectura que decide qué se informa, a qué velocidad, con qué énfasis y hacia quién. Ahí es donde la IA deja de ser un tema tecnológico para volverse un problema jurídico y democrático.

A muchos les resulta tentador leer estos cambios con el prisma de Robert Greene y “sus leyes” del poder: controlar la información, administrar la percepción, construir dependencia, anticipar movimientos, convertir la reputación en capital. En esta época, buena parte de esas “leyes” ya no se ejecutan principalmente con discursos sino con modelos, datos y automatización.

el proceso judicial, por diseño, no está hecho para competir con la velocidad del algoritmo. La justicia trabaja con prueba, contradicción, tiempos, garantías.

Hoy, la regla decisiva, quizá, no es solo “controlar la narrativa”, sino diseñar el sistema que decide qué narrativa ve cada persona. La IA permite eso: distribuir relatos según el receptor y según el momento, personalizar mensajes, amplificar emociones, conocernos mejor. De esta forma, el poder ya no necesita convencer a una audiencia homogénea; puede operar sobre millones de audiencias más pequeñas, individuales, cada una con su propia pantalla y su propio algoritmo.

En ese punto la justicia también entra en tensión. Porque el proceso judicial, por diseño, no está hecho para competir con la velocidad del algoritmo. La justicia trabaja con prueba, contradicción, tiempos, garantías. Las redes -y las tecnologías de recomendación apoyadas en IA- trabajan con atención, impacto y viralización. Cuando esas lógicas chocan, el riesgo no es solo comunicacional: es institucional.

En este sentido, el ministro de la CSJN, Ricardo Lorenzetti, ha señalado que la gobernabilidad se desorienta cuando las instituciones siguen hablando con categorías del siglo XX a una sociedad que ya se fragmentó y cambió de base; esa brecha erosiona la democracia y obliga a pensar reformas para volverla eficaz.

Coordinar esta obra fue, en buena medida, ordenar un diálogo que rara vez se produce de manera integrada. Por eso, la convocatoria se centró en voces que, en la práctica, están obligadas a convivir con el fenómeno.

En ese trabajo de coordinación, confirmé algo que suele perderse en el debate: la IA no “reemplaza” la decisión humana, la condiciona. Y lo hace mediante tres mecanismos muy concretos.

Primero, reconfigura el acceso a la realidad pública. Si lo que llega a cada ciudadano está filtrado por sistemas de recomendación y segmentación, la deliberación democrática se vuelve fragmentaria. No hay “opinión pública” en singular: hay burbujas paralelas, orientadas para retener atención.

Segundo, la IA multiplica la escala de la falsificación. Deepfakes, audio sintético, imágenes plausibles, documentos apócrifos. Ya no hablamos de “posibilidad”; nos enfrentamos a documentos verosímiles donde la falsedad se vuelve muy difícil de detectar. Esto impacta en la investigación penal, en la valoración probatoria y en la cadena de custodia digital. Pero también impacta en la confianza social: si todo puede ser falso, existe un escenario posible para relativizar cualquier responsabilidad.

Tercero, la IA introduce opacidad funcional. Muchos sistemas no son explicables en términos jurídicamente útiles. No basta con decir “el modelo arrojó este resultado”. El derecho necesita razones, trazabilidad, estándares de control. De lo contrario, lo que se presenta como eficiencia puede convertirse en arbitrariedad “sofisticada” y confirmación de sesgos.

El libro se titula Las nuevas leyes del poder porque el poder, efectivamente, cambió y lo sigue haciendo. Una parte de las reglas que organizan la conversación pública y la circulación de la información no están escritas: están fusionadas en plataformas, términos de uso, sistemas de ranking y modelos entrenados con datos que no controlamos, ni conocemos.

Por eso esta obra es, para mí, una apuesta a pensar. No a “combatir” la IA, sino a gobernarla y entenderla. No para negar la tecnología, sino para impedir que su lógica se imponga sin controles sobre instituciones que costaron décadas construir.

La conversación no puede seguir segmentada: lo jurídico, por un lado, lo tecnológico por otro, lo mediático aparte. El poder ya no opera así. Y el derecho, si quiere seguir cumpliendo su función, tampoco debería hacerlo.

* Investigador y expositor en Inteligencia Artificial y Derecho. Director de la Diplomatura “El Derecho en la era de la IA: Capacitación y Aplicaciones” (USI). Prosecretario de Cámara en la Cámara Federal de Casación Penal. Asesor del proyecto de reforma del Código Penal año 2024/2025.

Noticias relacionadas

Suscribite a nuestro newsletter

Para estar actualizado de las últimas noticias, informes especiales y recibir las ediciones digitales antes que nadie!

Últimas noticias