Inteligencia artificial en la justicia: razonabilidad y límites de las decisiones judiciales

Banner elDial

 

Inteligencia artificial en la justicia: razonabilidad y límites de las decisiones judiciales

Más contenido jurídico en  elDial.com 

Por Luis Emilio García Areal

El trabajo examina en qué medida el principio de razonabilidad opera como estándar de validez de la decisión jurisdiccional y qué límites impone a la incorporación de sistemas de inteligencia artificial en el proceso judicial. Se analiza la sentencia como acto jurídico complejo, integrado por la interpretación normativa, la valoración de los hechos y la argumentación, y se contrasta ese modelo con el funcionamiento de los sistemas algorítmicos, cuya opacidad, sesgos y carácter inferencial dificultan la motivación verificable y el control por vía de recurso. 

El relevamiento del derecho comparado muestra una convergencia: el Reglamento (UE) 2024/1689, la normativa española, la Carta Ética de la CEPEJ y las directrices de la UNESCO admiten estas herramientas como asistencia y las excluyen como sustituto del juzgador. La conclusión sostiene que la jurisdicción es una función indelegable del juez humano y que el empleo de inteligencia artificial resulta admisible únicamente bajo control humano efectivo, con responsabilidad personal del magistrado por el contenido de la decisión.

La razonabilidad en la decisión jurisdiccional y los límites de la inteligencia artificial

Resumen. El trabajo examina en qué medida el principio de razonabilidad opera como estándar de validez de la decisión jurisdiccional y qué límites impone a la incorporación de sistemas de inteligencia artificial en el proceso judicial. Se analiza la sentencia como acto jurídico complejo, integrado por la interpretación normativa, la valoración de los hechos y la argumentación, y se contrasta ese modelo con el funcionamiento de los sistemas algorítmicos, cuya opacidad, sesgos y carácter inferencial dificultan la motivación verificable y el control por vía de recurso. El relevamiento del derecho comparado muestra una convergencia: el Reglamento (UE) 2024/1689, la normativa española, la Carta Ética de la CEPEJ y las directrices de la UNESCO admiten estas herramientas como asistencia y las excluyen como sustituto del juzgador. La conclusión sostiene que la jurisdicción es una función indelegable del juez humano y que el empleo de inteligencia artificial resulta admisible únicamente bajo control humano efectivo, con responsabilidad personal del magistrado por el contenido de la decisión.

 

Palabras clave. Razonabilidad; motivación de la sentencia; inteligencia artificial; debido proceso; función jurisdiccional; responsabilidad judicial.

 

 

Abstract. This paper examines the extent to which the principle of reasonableness operates as a standard of validity for judicial decisions, and the limits it imposes on the use of artificial intelligence systems in judicial proceedings. The judgment is analysed as a complex legal act comprising statutory interpretation, assessment of the facts and legal argument; that model is then contrasted with the operation of algorithmic systems, whose opacity, biases and inferential nature hinder verifiable reasoning and appellate review. A comparative survey shows a convergence: Regulation (EU) 2024/1689, Spanish legislation, the CEPEJ Ethical Charter and the UNESCO guidelines admit these tools as assistance and rule them out as a substitute for the judge. The conclusion holds that adjudication is a function that cannot be delegated by the human judge, and that artificial intelligence may be used only under effective human control, with the judge remaining personally accountable for the content of the decision.

 

 

Keywords. Reasonableness; judicial reasoning; artificial intelligence; due process; adjudication; judicial accountability.

 

 

Sumario. I. Introducción. II. El principio de razonabilidad. III. La sentencia como acto jurisdiccional complejo. IV. Motivación de la sentencia y doctrina de la arbitrariedad. V. Discrecionalidad judicial y función interpretativa. VI. Inteligencia artificial y función jurisdiccional. VII. Problemas estructurales de la inteligencia artificial en el proceso judicial. VIII. Derecho comparado y regulación de la inteligencia artificial en la administración de justicia. IX. Derecho al recurso y control jurisdiccional de las decisiones. X. Responsabilidad judicial y decisiones asistidas por inteligencia artificial. XI. Legitimidad democrática de la decisión jurisdiccional. XII. Conclusiones generales.

 

 

I. Introducción

 

El avance de la tecnología en las últimas décadas ha generado transformaciones profundas en múltiples ámbitos del conocimiento, entre ellos el derecho. La incorporación de herramientas de inteligencia artificial en la administración de justicia abrió un campo de análisis que trasciende lo meramente técnico y se proyecta sobre cuestiones estructurales del derecho procesal y constitucional.

 

La posibilidad de utilizar sistemas automatizados en la toma de decisiones judiciales plantea interrogantes centrales respecto de la naturaleza de la función jurisdiccional. La jurisdicción no puede concebirse como una actividad puramente mecánica o algorítmica: es un proceso complejo que integra interpretación normativa, valoración de hechos y argumentación racional.

 

En este marco, el principio de razonabilidad adquiere una relevancia central. Funciona no solo como criterio de control de la actividad estatal, sino como un estándar estructural de validez de las decisiones judiciales, que garantiza que las resoluciones jurisdiccionales no sean arbitrarias, sino que respondan a una justificación racional, coherente con el ordenamiento jurídico y con las circunstancias del caso.

 

La incorporación de inteligencia artificial en el proceso judicial tensiona este modelo. Mientras que la decisión judicial tradicional se apoya en la explicitación de razones y en la posibilidad de control, los sistemas de IA operan mediante inferencias estadísticas que no siempre resultan transparentes ni justificables en términos jurídicos.

 

Este trabajo analiza la relación entre la razonabilidad de la decisión judicial y los límites de la inteligencia artificial en el proceso jurisdiccional. Para eso parte del estudio de la sentencia como acto jurídico complejo, examina el rol de la motivación y la interpretación judicial, y contrasta ese modelo con las características propias de los sistemas algorítmicos.

 

La hipótesis central sostiene que la inteligencia artificial no puede sustituir la función jurisdiccional sin comprometer garantías esenciales del debido proceso. Su utilización, en consecuencia, solo resulta admisible como herramienta auxiliar, bajo control del juez humano, quien conserva la titularidad exclusiva de la función jurisdiccional.

 

 

II. El principio de razonabilidad

 

El principio de razonabilidad constituye uno de los ejes estructurales del Estado constitucional de derecho. Su importancia radica en que permite evaluar la validez de los actos estatales no solo desde una perspectiva formal, sino también material. Esta lectura se inscribe en el proceso más amplio de constitucionalización de las instituciones procesales que Montaño de Cardona[1] describe para el derecho latinoamericano: las categorías procesales clásicas (la sentencia, el recurso, la motivación) dejan de entenderse como meras técnicas del procedimiento y pasan a leerse a la luz de los principios y garantías constitucionales, lo que explica por qué la irrupción de la inteligencia artificial en el proceso judicial no puede evaluarse solo en términos de eficiencia, sino también de compatibilidad con esas garantías.

 

La razonabilidad exige que toda decisión estatal, incluidas las judiciales, sea el resultado de un proceso racional, en el que exista una adecuada relación entre los medios empleados y los fines perseguidos. De este modo se configura como un límite al ejercicio del poder que evita decisiones arbitrarias. Atienza distingue, en este sentido, entre la decisión jurídica estrictamente racional y la decisión jurídica razonable: esta última es la que se adopta cuando no es posible, o no sería aceptable, resolver de modo estrictamente racional, y la que logra un equilibrio óptimo entre las exigencias en juego y obtiene el mayor consenso posible[2].

 

En el ámbito del derecho procesal este principio adquiere una proyección específica: no se limita a orientar la actuación del legislador o de la administración, sino que se incorpora directamente al análisis de la actividad jurisdiccional. El juez no solo debe aplicar el derecho vigente, sino hacerlo de manera razonable, justificando sus decisiones en términos comprensibles y controlables.

 

Como señala Gozaíni[3], la razonabilidad se integra al debido proceso sustancial, lo que implica que una decisión puede resultar inválida aun cuando respete las formas procesales, si su contenido es arbitrario o irrazonable. Esta concepción amplía el alcance del control judicial, extendiéndolo al contenido mismo de la decisión.

 

Desde el punto de vista metodológico, la razonabilidad se articula a través de herramientas como la proporcionalidad y la ponderación. El test de proporcionalidad, sistematizado por Alexy[4], permite evaluar la idoneidad, la necesidad y la proporcionalidad en sentido estricto de una medida, y resulta particularmente útil para estructurar el razonamiento judicial y evitar decisiones excesivas o desproporcionadas.

 

La ponderación, por su parte, se presenta como un método para resolver conflictos entre derechos fundamentales. En estos casos el juez debe justificar por qué un derecho prevalece sobre otro en el caso concreto, lo que exige una argumentación rigurosa.

 

En el derecho argentino la razonabilidad encuentra fundamento en diversas disposiciones constitucionales, especialmente en los artículos 18, 28 y 31 de la Constitución Nacional, que establecen un marco que impide el ejercicio arbitrario del poder y exige que toda decisión estatal sea razonable.

 

La razonabilidad no es, entonces, un principio abstracto, sino una exigencia jurídica concreta que condiciona la validez de las decisiones judiciales, sobre todo de aquellas que ponen fin a una controversia determinada.

 

 

III. La sentencia como acto jurisdiccional complejo

 

La sentencia judicial constituye el acto central del proceso y la manifestación más relevante de la función jurisdiccional. Su análisis exige superar las concepciones que la reducen a una mera aplicación mecánica de normas.

 

Desde la teoría general del derecho, Kelsen[5] sostuvo que la sentencia es una norma jurídica individual, producto de la aplicación de una norma general a un caso concreto. Esta concepción permite comprender la función normativa de la sentencia, pero resulta insuficiente para explicar su dimensión interpretativa y valorativa.

 

Como señala Hart[6], el derecho presenta zonas de indeterminación que impiden una aplicación automática de las normas. En los llamados “casos difíciles” el juez debe ejercer discrecionalidad, lo que implica tomar decisiones que no pueden derivarse directamente del derecho vigente.

 

La doctrina procesal argentina desarrolló una concepción más completa de la sentencia. Alvarado Velloso[7] la define como un acto jurídico procesal decisorio que integra tres dimensiones fundamentales: cognoscitiva, relativa a la determinación de los hechos; valorativa, vinculada a la interpretación del derecho; y volitiva, referida a la decisión final. Esta estructura muestra que la sentencia no es un acto simple, sino el resultado de un proceso complejo que involucra múltiples operaciones intelectuales, y que esas operaciones siempre han sido efectuadas por una persona humana investida de la jurisdicción.

 

Morello[8] destaca, por su parte, que la sentencia es el resultado del debido proceso: su validez no depende únicamente de su contenido, sino también del respeto de las garantías procesales que la preceden. La legitimidad de la decisión se construye tanto en el procedimiento como en el resultado.

 

El eje de su obra es, precisamente, el tránsito del garantismo formal a la tutela judicial efectiva: no basta con que un proceso respete externamente las formas previstas por la ley, sino que debe garantizar una protección real y sustancial de los derechos en juego. Ese mismo criterio es el que permite evaluar la irrupción de la inteligencia artificial en el proceso: un sistema puede cumplir formalmente con las etapas procesales sin por eso ofrecer, en los hechos, la tutela efectiva que el proceso justo exige.

 

Peyrano[9] enfatiza la función instrumental del proceso, orientada a la efectividad de los derechos. Desde esta perspectiva, la sentencia debe superar el formalismo y garantizar una tutela judicial efectiva, lo que exige decisiones razonables y fundadas.

 

En síntesis, la sentencia judicial puede caracterizarse como un acto jurídico estatal, un acto decisorio con efectos obligatorios, un acto interpretativo y un acto controlable. Esta complejidad es la que vuelve incompatible a la sentencia con modelos de decisión automatizada como el empleo de IA, en tanto estos no pueden reproducir la totalidad de las operaciones intelectuales que integran la función jurisdiccional.

 

El análisis de la sentencia como acto jurisdiccional complejo permite entender por qué la inteligencia artificial no puede sustituir la función judicial, sino únicamente asistirla en operaciones de búsqueda de información.

 

 

IV. Motivación de la sentencia y doctrina de la arbitrariedad

 

La motivación de la sentencia judicial constituye uno de los elementos estructurales del acto jurisdiccional y una condición indispensable de su validez constitucional. No se trata de una exigencia meramente formal, sino de una garantía sustancial vinculada directamente con el debido proceso, el derecho de defensa y el control de la actividad judicial.

 

La motivación cumple varias finalidades que se proyectan tanto sobre las partes del proceso como sobre el sistema institucional en su conjunto: permite a los justiciables comprender las razones de la decisión y ejercer efectivamente su derecho de defensa; habilita el control por parte de los tribunales superiores, al proporcionar los elementos necesarios para evaluar la corrección jurídica del fallo; y contribuye a la legitimación de la decisión judicial en el marco del Estado de Derecho, en tanto evita la arbitrariedad y asegura la racionalidad del acto jurisdiccional.

 

La doctrina de la arbitrariedad de sentencia tiene su origen en “Rey c/ Rocha”[10], donde la Corte Suprema distinguió por primera vez entre la sentencia arbitraria (desprovista de todo apoyo legal y fundada tan solo en la voluntad del juez) y el mero error de interpretación de la ley, que no habilita por sí solo el recurso extraordinario. Sobre esa base, la Corte desarrolló de manera consistente la doctrina de la arbitrariedad de las sentencias, al establecer que los fallos deben constituir una derivación razonada del derecho vigente con aplicación a las circunstancias comprobadas de la causa[11].

 

Este estándar implica que la decisión debe fundarse en una argumentación lógica, coherente y adecuada a los hechos acreditados en el expediente.

 

La ausencia o insuficiencia de motivación configura, en este sentido, un supuesto de invalidez constitucional. Así lo sostuvo el Tribunal en reiteradas oportunidades, al señalar que las decisiones basadas en afirmaciones dogmáticas, meramente aparentes o desvinculadas de las constancias del expediente no satisfacen el estándar de razonabilidad exigido por el ordenamiento jurídico.

 

La doctrina precisó la diferencia entre fundamentación y motivación[12]: mientras la fundamentación se refiere a la invocación de normas jurídicas aplicables, la motivación implica la explicitación del razonamiento que conduce a la decisión. La distinción es relevante porque una sentencia puede estar formalmente fundada y sin embargo carecer de motivación suficiente, si no explica de qué manera se arriba a la conclusión adoptada.

 

La motivación judicial debe cumplir, en líneas generales, con algunos estándares mínimos: coherencia lógica que evite contradicciones internas, razonabilidad en la adecuación entre premisas y conclusión, vinculación con los hechos mediante una adecuada valoración de la prueba, y explicitación del razonamiento que permita su control.

 

Alexy[13] aportó a esta exigencia una distinción que la doctrina posterior adoptó ampliamente: la que existe entre justificación interna y justificación externa de la decisión judicial. La primera se limita a verificar si la conclusión se deriva lógicamente de las premisas invocadas; la segunda examina si esas premisas están a su vez correctamente fundadas, a través de las reglas de la interpretación, la dogmática jurídica, el uso de los precedentes y la argumentación práctica general. Una sentencia puede ser internamente válida (el silogismo es correcto) y sin embargo carecer de justificación externa suficiente, si las premisas de las que parte no están a su vez adecuadamente fundamentadas.

 

En reiterados precedentes[14] la Corte Suprema destacó que la valoración irrazonable de la prueba configura un supuesto de arbitrariedad, mientras que en otros[15] rechazó las decisiones basadas en afirmaciones dogmáticas.

 

La motivación constituye, en definitiva, el núcleo racional de la sentencia. Sin ella la decisión judicial pierde su carácter jurídico y se transforma en un acto arbitrario, incompatible con el Estado constitucional de derecho.

 

 

V. Discrecionalidad judicial y función interpretativa

 

La función jurisdiccional no puede comprenderse como una mera aplicación mecánica de normas preexistentes. Implica, por el contrario, una actividad interpretativa compleja en la que el juez debe integrar normas, principios y hechos para arribar a una solución jurídicamente válida.

 

En este contexto, la discrecionalidad judicial aparece como un elemento inevitable del proceso decisorio. Como señala Hart[16], el lenguaje jurídico presenta una “textura abierta” que impide prever todas las situaciones posibles, y genera espacios en los cuales el juez debe optar entre distintas soluciones compatibles con el derecho. Esta discrecionalidad no implica libertad absoluta: se encuentra jurídicamente condicionada por el principio de razonabilidad, que exige que toda decisión sea justificada de manera racional.

 

La doctrina distingue con claridad entre discrecionalidad y arbitrariedad (Gozaíni; Fernández)[17]: la primera supone la existencia de varias alternativas válidas dentro del ordenamiento jurídico, mientras que la segunda implica una decisión carente de fundamento racional o desvinculada del derecho vigente.

 

La discrecionalidad judicial solo es legítima, en consecuencia, cuando se ejerce dentro de los límites del sistema jurídico, mediante una argumentación que permita justificar la opción adoptada. Cuando esos límites se superan, la decisión deviene arbitraria.

 

La función interpretativa del juez se vincula directamente con esta problemática. Como sostiene Dworkin[18], el derecho no puede reducirse a un conjunto de reglas: constituye una práctica interpretativa en la que el juez debe buscar la solución que mejor se ajuste a los principios del sistema jurídico.

 

Ya en una obra anterior, Dworkin[19] había ilustrado esta idea con la figura de Hércules, un juez hipotético dotado de capacidad, paciencia y conocimiento sobrehumanos, capaz de construir la teoría que mejor justifique el conjunto del ordenamiento jurídico y de hallar así la respuesta correcta en los casos difíciles. La figura resulta útil, paradójicamente, para medir la distancia que separa a la inteligencia artificial de la función judicial: incluso Hércules, con todas sus capacidades ilimitadas, debe formular juicios de moral política para decidir qué principios justifican mejor el derecho vigente, una tarea evaluativa que ningún sistema de inferencia estadística puede replicar.

 

En la tradición procesal, Couture[20] rechaza la concepción del juez como “boca de la ley” y destaca su rol activo en la construcción de la decisión; en el mismo sentido, Morello[21] subraya la necesidad de superar el formalismo para garantizar una tutela judicial efectiva.

 

Bajo el título “nuevas demandas, nuevas respuestas”, el autor sostiene que los cambios sociales generan continuamente conflictos que las categorías procesales tradicionales no alcanzan a contener, y que exigen del juez una función creativa capaz de dar respuestas jurídicas donde antes no las había. Esa capacidad de generar una respuesta ante una demanda social genuinamente nueva, sin precedente que la encauce, es justamente lo que un sistema de inteligencia artificial no puede ofrecer: entrenado sobre datos y decisiones pasadas, está estructuralmente orientado a reproducir patrones existentes, no a crear la respuesta que un conflicto inédito reclama.

 

Lorenzetti[22] aporta a esta discusión un elemento adicional: además de las reglas, los precedentes y los principios, sostiene que el razonamiento judicial está precondicionado por lo que llama “paradigmas”, esto es, orientaciones valorativas previas a la decisión (por ejemplo, un paradigma protectorio de la parte más débil, o uno centrado en el acceso a la justicia) que determinan cómo un mismo conjunto de reglas y principios termina siendo aplicado. Para el autor, esos paradigmas no deben ocultarse sino explicitarse y armonizarse cuando entran en tensión entre sí.

 

Esta dimensión del razonamiento judicial es, quizás, la más difícil de trasladar a un sistema de inteligencia artificial: un algoritmo puede optimizar conforme a un objetivo dado, pero carece de la capacidad reflexiva para exhibir sus propios presupuestos valorativos y justificarlos frente a paradigmas en competencia, tal como exige un razonamiento judicial transparente.

 

La jurisprudencia argentina receptó esta concepción, al privilegiar la verdad jurídica objetiva por sobre el rigor formal[23]. Este enfoque reconoce que la función del juez no se agota en la aplicación de normas, sino que incluye la valoración de los hechos y la interpretación del derecho conforme a los principios que lo informan.

 

La decisión judicial es, así, el resultado de un proceso interpretativo en el que el juez determina los hechos relevantes, interpreta las normas aplicables, pondera principios en caso de conflicto y justifica racionalmente la solución adoptada. Esa estructura compleja es la que impide que la decisión jurisdiccional pueda automatizarse sin perder las características esenciales que se acaban de describir.

 

 

VI. Inteligencia artificial y función jurisdiccional

 

La incorporación de la inteligencia artificial en el ámbito judicial exige analizar su compatibilidad con la función jurisdiccional desde una perspectiva estrictamente jurídica.

 

En primer lugar, la inteligencia artificial no puede ser considerada un sujeto de derecho ni un órgano jurisdiccional. La función jurisdiccional implica el ejercicio de una potestad estatal que requiere investidura constitucional, independencia y responsabilidad. Sagüés[24] define la jurisdicción como la potestad de decir el derecho con efecto vinculante, definición que excluye a los sistemas tecnológicos, carentes de reconocimiento institucional dentro de la estructura del Estado. Couture[25] añade que la función jurisdiccional requiere un órgano investido de autoridad, capaz de dictar decisiones obligatorias; la inteligencia artificial, en cambio, no posee autoridad jurídica propia, sino que opera como herramienta técnica.

 

Otro elemento central es la responsabilidad de los operadores de los órganos jurisdiccionales. Como señala Ferrajoli[26], la legitimidad de la jurisdicción se basa en un sistema de garantías que incluye la posibilidad de atribuir responsabilidad al juez por sus decisiones. Este elemento resulta incompatible con la inteligencia artificial, que no puede ser sujeto de imputación jurídica.

 

Este principio no es exclusivo del ámbito judicial: en el derecho laboral comparado, De Stefano[27] advierte que atribuir capacidad jurídica y derechos y obligaciones a sistemas robóticos o algorítmicos termina perjudicando a las personas afectadas por sus decisiones, y defiende en cambio un enfoque de “human-in-command” que preserve el control humano sobre los sistemas de gestión automatizada. La coincidencia con el criterio que rige en materia judicial no es casual: en distintas ramas del derecho, la respuesta frente a la irrupción de la inteligencia artificial converge en la misma exigencia de mantener a una persona humana como responsable último de las decisiones que afectan derechos.

 

Desde el punto de vista funcional, la IA presenta diferencias estructurales con el razonamiento jurídico. Mientras la decisión judicial se basa en la interpretación, la argumentación y la ponderación, como se analizó antes, la inteligencia artificial opera mediante inferencias estadísticas basadas en datos que no siempre son acertados o de origen verificable. Esto implica que la IA no interpreta normas en sentido jurídico, no pondera principios jurídicos, no valora pruebas conforme a criterios de sana crítica ni de otro sistema de valoración probatoria establecido, y no puede justificar racionalmente una decisión del modo en que lo hace una persona humana. En consecuencia, no puede cumplir con los requisitos exigidos para la validez de una sentencia judicial tal como la conocemos.

 

Ello no implica, sin embargo, que la inteligencia artificial carezca de utilidad en el ámbito judicial. Puede desempeñar un rol relevante como herramienta auxiliar: análisis de información, sistematización de precedentes provenientes de bases oficiales o fidedignas, y elaboración o corrección de borradores, con el fin de agilizar la tarea del juzgador. Ese uso, sin embargo, debe estar subordinado al control humano: el juez debe conservar en todo momento la dirección del proceso y la responsabilidad por la decisión final.

 

La inteligencia artificial no puede sustituir la función jurisdiccional porque carece de los elementos esenciales que la definen. Su utilización solo resulta compatible con el ordenamiento jurídico en la medida en que se limite a las funciones auxiliares señaladas y no afecte las garantías fundamentales del proceso.

 

 

VII. Problemas estructurales de la inteligencia artificial en el proceso judicial

 

La incorporación de sistemas de inteligencia artificial en el ámbito judicial plantea una serie de problemas estructurales que inciden directamente sobre las garantías fundamentales del proceso: la motivación de las decisiones, el derecho de defensa, la igualdad ante la ley y el control jurisdiccional.

 

A diferencia de la decisión judicial tradicional, que se estructura sobre un razonamiento argumentativo, explícito y controlable, la inteligencia artificial opera mediante modelos de inferencia estadística que procesan grandes volúmenes de datos para generar resultados. Esta diferencia no es meramente técnica: tiene consecuencias jurídicas sustanciales[28].

 

1. Opacidad algorítmica y déficit de explicabilidad

 

Uno de los principales problemas identificados es la denominada “caja negra”[29] de los sistemas algorítmicos (Burrell)[30], que se refiere a la dificultad, e incluso la imposibilidad, de comprender cómo un sistema de inteligencia artificial arriba a un determinado resultado.

 

En el ámbito judicial esta opacidad resulta particularmente problemática. La decisión jurisdiccional exige una motivación explícita que permita reconstruir el razonamiento seguido por el juez, y esa exigencia no es formal sino sustancial: constituye una garantía del debido proceso. La falta de explicabilidad de los sistemas de IA impide, en concreto, verificar la corrección lógica del razonamiento, identificar posibles errores en la decisión y controlar la aplicación del derecho al caso concreto.

 

La opacidad algorítmica compromete así, de manera directa, la validez jurídica de la decisión, en la medida en que impide su control racional.

 

2. Falta de motivación verificable y afectación del debido proceso

 

La motivación de la sentencia es un requisito esencial del acto jurisdiccional, tal como fue desarrollado por la doctrina y la jurisprudencia citadas: la decisión judicial debe ser una derivación razonada del derecho vigente, fundada en las circunstancias del caso.

 

La inteligencia artificial, sin embargo, no produce motivaciones en sentido jurídico. Los resultados que genera no constituyen una justificación racional, sino la consecuencia de operaciones matemáticas basadas en patrones de datos. De ahí un problema estructural: la imposibilidad de trasladar el estándar de motivación judicial al ámbito de la inteligencia artificial.

 

Como consecuencia, se debilita el derecho de defensa (el justiciable no puede comprender las razones de la decisión), se limita el control jurisdiccional (no existe un razonamiento verificable) y se compromete la legitimidad de la decisión. La incompatibilidad entre el modelo decisorio de la IA y las exigencias del debido proceso resulta, en estos puntos, evidente.

 

3. Sesgos algorítmicos y afectación del principio de igualdad

 

Otro problema relevante es la existencia de sesgos algorítmicos, es decir, la reproducción de patrones discriminatorios presentes en los datos utilizados para entrenar los sistemas (O’Neil)[31]. Estos sesgos pueden manifestarse como reproducción de desigualdades estructurales, tratamiento diferenciado injustificado o resultados sistemáticamente desfavorables para determinados grupos.

 

En el ámbito judicial esto implica una posible vulneración del principio de igualdad ante la ley. A diferencia del juez humano, obligado a justificar sus decisiones y a someterlas a control, los sistemas de IA pueden reproducir sesgos sin que estos resulten fácilmente detectables. Este problema se agrava por la opacidad algorítmica, que dificulta identificar los criterios utilizados por el sistema para llegar a sus resultados.

 

Esa opacidad puede tener, siguiendo la clasificación de Burrell, distintos orígenes. Por un lado, está la opacidad técnica o “caja negra”: muchos sistemas de aprendizaje automático, en particular los basados en redes neuronales profundas, operan mediante procesos matemáticos tan complejos que ni siquiera sus diseñadores pueden explicar con precisión por qué el sistema llegó a una conclusión específica, porque el modelo ajusta millones, o miles de millones, de parámetros internos durante el entrenamiento, y el resultado final es difícil de traducir a una explicación comprensible para un humano.

 

Por otra parte, está la opacidad intencional o secreto comercial: las empresas que desarrollan estos sistemas se niegan a revelar su funcionamiento interno alegando propiedad intelectual, ventaja competitiva o seguridad, lo que genera una asimetría de información entre quien diseña el sistema y quien es evaluado por él.

 

Como advierte Pasquale[32], esa capacidad de escrutar a otros mientras se evita ser escrutado constituye una de las formas más eficaces de poder, y es precisamente esa asimetría la que las empresas explotan al invocar el secreto comercial para blindar sus algoritmos del control público. El autor no propone por eso la transparencia absoluta del código fuente, que podría chocar con intereses legítimos de propiedad intelectual, sino mecanismos de responsabilidad calificada (auditorías externas, supervisión regulatoria y otras formas de escrutinio) que permitan verificar el funcionamiento del sistema sin exigir su divulgación total.

 

Y, finalmente, hay casos de opacidad por analfabetismo técnico: incluso cuando la información sobre el funcionamiento del sistema está disponible, puede resultar inaccesible para la mayoría de las personas, incluidos jueces, reguladores o el público general, debido a la complejidad técnica del lenguaje y los conceptos involucrados.

 

4. Problema de la responsabilidad jurídica

 

La incorporación de inteligencia artificial en la toma de decisiones judiciales plantea un problema central: la ausencia de un sujeto claramente responsable por los resultados generados. En el modelo tradicional la responsabilidad judicial es un elemento esencial del sistema: el juez responde por sus decisiones, lo que garantiza el control del ejercicio del poder que le fue delegado constitucionalmente al acceder al cargo de magistrado.

 

Cuando se observan los modelos de decisión basados en IA, esa estructura se altera, porque los sistemas algorítmicos no poseen personalidad jurídica, carecen de voluntad y no pueden ser sujetos de imputación normativa: los actos de atribución de responsabilidad (jurídica, moral o ética) presuponen un sujeto al que exigirle algo, ya sea una sanción, una reparación o una corrección de conducta, y ese presupuesto sencillamente no se cumple.

 

Para que un sistema de IA pudiera ser objeto de imputación normativa se requerirían, tradicionalmente, ciertas capacidades: acción intencional (actuar con propósito o voluntad), comprensión (entender lo que se hace y sus consecuencias), capacidad de responder (dar cuenta de los propios actos, ser interpelado) y personalidad jurídica o moral (ser reconocido como sujeto de derechos y obligaciones). Ninguna de esas capacidades está presente en un sistema algorítmico, de modo que no puede ser considerado responsable en sentido jurídico (Floridi et al.)[33].

 

No tiene intencionalidad: el algoritmo no “quiere” nada, no tiene voluntad ni propósitos propios, simplemente ejecuta procesos matemáticos según fue programado y entrenado. No tiene comprensión: no entiende el significado ni las consecuencias de sus decisiones, aunque produzca resultados que parezcan “inteligentes”. Y no puede rendir cuentas: no se le puede pedir que explique, justifique o se retracte de una decisión de manera significativa, porque no hay un “sujeto” detrás capaz de responder.

 

Esto genera un vacío que afecta directamente la estructura del Estado de Derecho, en tanto toda decisión que produce efectos jurídicos debe ser atribuible a un sujeto responsable. No es una formalidad accesoria: es uno de los pilares sobre los que se sostiene la legitimidad del poder en un sistema jurídico moderno. Si el poder público o privado se ejerce sin que exista alguien identificable a quien exigirle cuentas, se rompe la cadena de legitimación que hace tolerable y controlable el ejercicio de ese poder.

 

5. Reducción del razonamiento jurídico a inferencias estadísticas

 

La inteligencia artificial opera mediante modelos predictivos que identifican patrones en los datos, lo que implica una reducción del razonamiento a términos probabilísticos. El razonamiento jurídico, sin embargo, no se agota en la predicción de resultados: requiere interpretación normativa, ponderación de principios y valoración de la prueba conforme a criterios racionales. La decisión judicial exige justificar por qué una solución es correcta, no simplemente predecir cuál es la más probable.

 

En este sentido la IA presenta una limitación estructural: no puede reemplazar la dimensión argumentativa del derecho. No es una objeción menor ni una preferencia por lo “humano” frente a lo “artificial”: apunta a una diferencia de naturaleza entre lo que hace un sistema de IA y lo que exige la práctica jurídica.

 

6. Impacto sobre el control jurisdiccional

 

Los problemas señalados tienen un efecto acumulativo sobre el control de las decisiones judiciales, por la combinación de la opacidad con la falta de motivación, los sesgos, la ausencia de responsabilidad y la dificultad para ejercer mecanismos de control, tanto internos (los recursos) como externos (el control constitucional). Esto implica un riesgo significativo para el sistema de garantías procesales que hoy conocemos, en la medida en que reduce la posibilidad de detectar y corregir errores en las decisiones tomadas con asistencia de sistemas de inteligencia artificial.

 

7. Síntesis y articulación con el sistema procesal

 

Los problemas estructurales de la inteligencia artificial no son contingentes ni meramente técnicos: responden a diferencias profundas entre el modelo decisorio algorítmico y el modelo jurídico. La decisión judicial se caracteriza por su razonabilidad, su motivación, su controlabilidad y su responsabilidad, y la inteligencia artificial presenta limitaciones en cada uno de esos aspectos. Su utilización en el proceso judicial solo resulta compatible con el ordenamiento en la medida en que se limite a funciones auxiliares, no sustituya la decisión humana y se encuentre sometida a control.

 

Puede afirmarse, en términos conclusivos, que estos problemas no son corregibles únicamente mediante mejoras técnicas, sino que derivan de la propia naturaleza de los sistemas algorítmicos, lo que impide su equiparación con la función jurisdiccional en cabeza del juez humano.

 

 

VIII. Derecho comparado y regulación de la inteligencia artificial en la administración de justicia

 

El análisis del derecho comparado permite advertir que, a pesar del avance tecnológico, existe un consenso normativo claro: la inteligencia artificial no puede sustituir la función jurisdiccional, sino únicamente asistirla. Ese consenso se estructura sobre un eje central, la preservación de las garantías del debido proceso y de los derechos fundamentales.

 

1. El modelo europeo: regulación basada en el riesgo

 

El modelo de la Unión Europea es el desarrollo normativo más avanzado en la materia. Su antecedente directo es el Libro Blanco sobre la Inteligencia Artificial[34], publicado por la Comisión Europea en 2020, que planteó por primera vez el enfoque basado en el riesgo y evaluó las opciones regulatorias que, un año después, derivaron en la propuesta que terminó convirtiéndose en el Reglamento (UE) 2024/1689 (Artificial Intelligence Act)[35], el cual retoma y consolida ese enfoque y clasifica los sistemas de inteligencia artificial según su impacto potencial sobre los derechos fundamentales.

 

Dentro de ese esquema, los sistemas aplicados a la administración de justicia se consideran de alto riesgo, lo que impone obligaciones reforzadas: garantías de transparencia y explicabilidad, mecanismos de supervisión humana efectiva, evaluaciones de impacto sobre derechos fundamentales y sistemas de gestión de riesgos. Este modelo refleja una idea central: cuanto mayor es el impacto potencial sobre los derechos fundamentales, mayor debe ser el control jurídico del sistema tecnológico.

 

El derecho europeo establece, además, una limitación fundamental: la prohibición de decisiones exclusivamente automatizadas cuando produzcan efectos jurídicos relevantes, salvo habilitación expresa y bajo condiciones estrictas[36]. Este principio se vincula directamente con la protección del debido proceso y del derecho de defensa.

 

El propio preámbulo del Reglamento es categórico en este punto: clasifica como de alto riesgo a los sistemas de IA destinados a asistir a una autoridad judicial en la investigación e interpretación de los hechos y del derecho, y en la aplicación de la ley a un caso concreto, precisamente porque pueden afectar a la democracia, al Estado de Derecho y al derecho a la tutela judicial efectiva; y aclara expresamente que estas herramientas pueden apoyar el poder de decisión del juez, pero no sustituirlo, porque la decisión final debe seguir siendo una actividad humana[37].

 

2. Normativa española: distinción entre automatización y asistencia

 

En España, el Real Decreto-ley 6/2023[38] introduce una clasificación relevante de las actuaciones judiciales en contextos digitales: actuaciones automatizadas, asistidas y proactivas. Las actuaciones asistidas adquieren especial relevancia porque permiten utilizar inteligencia artificial para generar borradores o sugerencias, pero mantienen la decisión final en cabeza del juez.

 

La Ley Orgánica 7/2021 establece, por su parte, una limitación clara: no pueden adoptarse decisiones basadas exclusivamente en procesos automatizados cuando produzcan efectos jurídicos negativos, salvo habilitación legal expresa. Este criterio refuerza el principio de intervención humana como garantía estructural del proceso[39].

 

3. Principios internacionales aplicables

 

A nivel internacional, organismos como la UNESCO[40] y la OCDE[41] desarrollaron principios orientadores que, aunque no vinculantes, configuran estándares relevantes para la regulación de la inteligencia artificial en el ámbito judicial: control humano, transparencia, no discriminación, responsabilidad y protección de derechos fundamentales.

 

En el ámbito específicamente judicial europeo, la Comisión Europea para la Eficacia de la Justicia (CEPEJ) del Consejo de Europa adoptó una carta ética que fija cinco principios rectores para el uso de la inteligencia artificial en los sistemas judiciales: respeto de los derechos fundamentales, no discriminación, calidad y seguridad, transparencia e imparcialidad, y control por el usuario[42].

 

Todos convergen en una idea central: la inteligencia artificial debe ser compatible con el Estado de Derecho, lo que implica su subordinación a las garantías procesales.

 

4. Experiencias comparadas: límites prácticos

 

Las experiencias comparadas confirman esta conclusión. En Estonia, el proyecto de “juez robot” para conflictos de menor cuantía, anunciado en 2019, no llegó a concretarse: en 2022 el Ministerio de Justicia aclaró que no desarrollaba un juez de IA destinado a reemplazar al juez humano, y que su interés se limitaba a automatizar pasos procesales y a herramientas de apoyo a la tarea judicial[43]. En China, los tribunales digitales utilizan IA para tareas de gestión y asistencia, pero las decisiones siguen siendo formalmente atribuidas a jueces humanos[44].

 

En Argentina, el Ministerio Público Fiscal de la Ciudad de Buenos Aires desarrolló desde 2017 Prometea[45], un sistema que redacta proyectos de dictámenes en casos estandarizados, como contrataciones públicas o amparos habitacionales, mediante el reconocimiento de patrones en decisiones previas; sus propios desarrolladores lo presentan expresamente como una herramienta de asistencia que potencia, pero no reemplaza, el criterio del fiscal o del juez.

 

En Cataluña, el proyecto AI4JUSTICE[46] asiste a jueces y magistrados de la Audiencia Provincial de Barcelona en la redacción de sentencias mediante búsquedas semánticas sobre jurisprudencia y sentencias previas del propio juez, limitado por ahora a procedimientos que no requieren interpretaciones jurídicas complejas, como reclamaciones por cláusulas suelo o por retrasos de vuelos; el borrador generado no adquiere carácter de resolución sin que el juez lo revise, corrija y apruebe.

 

En el Reino Unido, Susskind[47] describe un modelo similar de “tribunales en línea”: distingue entre la “resolución en línea por jueces”, en la que la decisión permanece en manos de un juez humano aunque el procedimiento se digitalice, y los “tribunales extendidos”, que ofrecen herramientas de orientación y resolución no judicial sin sustituir la función jurisdiccional. Incluso este autor, uno de los principales impulsores de la digitalización judicial, dedica un capítulo específico al rol que deben conservar los seres humanos en el proceso.

 

Francia adoptó, en cambio, un criterio más restrictivo: el artículo 33 de la Ley de Reforma de la Justicia de 2019[48] prohíbe reutilizar los datos de identidad de los magistrados con el propósito de evaluar, analizar, comparar o predecir sus prácticas profesionales, y sanciona penalmente su infracción; la norma no se limita a subordinar la IA al control humano, sino que directamente veda su uso específico cuando amenaza la independencia judicial.

 

En los cinco primeros casos la IA no desplaza la función jurisdiccional, sino que opera dentro de un esquema de subordinación y control de la persona humana; el caso francés, por su parte, muestra que ese control humano puede llegar incluso a prohibir ciertos usos de la IA cuando comprometen garantías estructurales del sistema judicial, como la independencia de los jueces.

 

El derecho comparado demuestra, en síntesis, que no existe un modelo jurídico que reconozca a la inteligencia artificial como sujeto decisor autónomo en el ámbito jurisdiccional[49]. Todos los sistemas coinciden en preservar la decisión humana, limitar la automatización decisoria y exigir control, transparencia y responsabilidad. El modelo predominante puede sintetizarse en la fórmula “IA asistencial + juez humano decisor”.

 

 

IX. Derecho al recurso y control jurisdiccional de las decisiones

 

El derecho al recurso constituye una de las garantías estructurales del debido proceso, en tanto permite someter la decisión judicial a un control posterior, asegurando su corrección jurídica y reduciendo el margen de error en su dictado. No es un mero formalismo procesal: es la manifestación concreta del reconocimiento de que toda decisión humana, y con mayor razón toda decisión jurisdiccional, es falible, y que esa falibilidad debe contar con mecanismos institucionales de corrección antes de que la decisión adquiera carácter definitivo e irrevocable.

 

La doctrina procesal argentina abordó tempranamente el problema de la naturaleza jurídica del recurso. Podetti[50], en su Tratado de los recursos, lo estudió en diálogo con las corrientes clásicas sobre esa naturaleza jurídica (el recurso como nueva acción, como prolongación de la instancia ya abierta o como remedio procesal autónomo), y destacó que, cualquiera sea el encuadre teórico que se adopte, el recurso presupone siempre la posibilidad de un error en la decisión impugnada y la necesidad de un control ulterior a cargo de un órgano jurisdiccional. Esa premisa es la que subyace, décadas después, a la caracterización del derecho al recurso como garantía sustancial y no como mero formalismo.

 

Desde la perspectiva de su naturaleza y función, el derecho al recurso cumple una doble finalidad: una función individual, que protege al justiciable frente a decisiones erróneas o arbitrarias, y una función institucional, que permite el control de la actividad jurisdiccional por órganos superiores. No se trata simplemente de un mecanismo técnico, sino de una garantía vinculada a la racionalidad del sistema judicial.

 

Esta garantía adquiere especial relevancia a partir de la reforma constitucional de 1994, que incorpora tratados internacionales de derechos humanos con jerarquía constitucional. La Convención Americana sobre Derechos Humanos, en particular, reconoce el derecho a recurrir el fallo ante juez o tribunal superior, lo que exige que el recurso sea real, efectivo y sustancial: no basta con una posibilidad formal de impugnación.

 

El artículo 8.2.h de la Convención Americana reconoce expresamente el derecho a recurrir del fallo ante juez o tribunal superior, particularmente en materia penal, como parte del derecho de toda persona a ser oída con las debidas garantías. En sentido similar, el artículo 14.5 del Pacto Internacional de Derechos Civiles y Políticos establece que toda persona declarada culpable de un delito tiene derecho a que el fallo condenatorio y la pena impuesta sean sometidos a un tribunal superior. La Corte Interamericana ha sido enfática al señalar que este recurso debe ser accesible, sin exigir mayores complejidades que lo vuelvan ilusorio, y debe garantizar un examen integral de la decisión recurrida, no limitado a cuestiones formales[51].

 

En nuestra jurisprudencia, el derecho a recurrir los fallos judiciales experimentó una evolución hacia el control amplio. En “Giroldi”[52] la Corte Suprema reconoció la necesidad de adecuar el sistema recursivo a los estándares internacionales, al señalar que el recurso extraordinario no resulta suficiente como garantía de revisión. Más tarde, en “Casal”[53], se amplió el alcance del recurso de casación para permitir la revisión tanto de cuestiones de hecho como de derecho, bajo el principio del “máximo esfuerzo de revisión”: el tribunal revisor debe agotar todas las posibilidades de control, evitando restricciones formales que vacíen de contenido la garantía.

 

Unos meses antes de “Casal”, en “Di Nunzio”[54], la Corte había equiparado a sentencia definitiva, a los fines del recurso, a las resoluciones que restringen la libertad del imputado antes del fallo final, en tanto pueden ocasionar un perjuicio de imposible reparación ulterior, y había consolidado a la Cámara de Casación como “tribunal intermedio”, en la línea abierta por “Giroldi”.

 

Del desarrollo doctrinario y jurisprudencial argentino surge que el derecho al recurso implica revisión integral de la sentencia, posibilidad de cuestionar la valoración de la prueba, control de la aplicación del derecho por parte del juzgador y acceso real a un tribunal superior.

 

La doctrina distingue, en este punto, entre la doble instancia (una estructura organizativa) y el derecho al recurso propiamente dicho (una garantía sustancial): la existencia de dos instancias no garantiza por sí sola el cumplimiento del estándar constitucional si la revisión resulta limitada o meramente formal.

 

Esto es especialmente relevante si se piensa qué ocurriría si las decisiones de un proceso quedaran únicamente en manos de la IA: la revisión a la que deben someterse esos fallos tiene que contar, sin duda, con la participación de un sujeto humano investido de jurisdicción.

 

El uso de inteligencia artificial plantea tensiones específicas con esta garantía: la falta de explicabilidad dificulta la impugnación, la opacidad algorítmica impide identificar errores y, como consecuencia de ambas cosas, se debilita el control recursivo.

 

Para que un recurso sea efectivo, y no meramente formal, quien impugna una decisión debe poder identificar con precisión qué se decidió, con base en qué elementos, y por qué esos elementos condujeron a ese resultado y no a otro. Cuando la decisión fue adoptada, total o parcialmente, mediante un sistema de IA de tipo “caja negra”, esta reconstrucción se vuelve extremadamente difícil o directamente imposible: no existe una cadena argumentativa explícita que pueda desandarse paso a paso, es difícil o imposible identificar el peso de cada variable en el resultado, y las correlaciones estadísticas que produce el sistema no siempre se corresponden con las categorías normativas que el derecho exige valorar: culpabilidad, proporcionalidad, buena fe.

 

Esta imposibilidad de reconstrucción frustra la función correctiva del recurso (si no puede identificarse en qué consistió el error, tampoco puede corregirse), vacía de contenido el examen integral exigido por los estándares fijados por la Corte Interamericana, invierte de manera ilegítima la carga argumentativa (el recurrente impugna “en el vacío”, sin razones concretas contra las cuales dirigir sus agravios) y debilita la posibilidad de detectar sesgos o discriminación en la decisión.

 

En consecuencia, una decisión basada en IA que no permita reconstruir el razonamiento seguido podría vulnerar el derecho al recurso, al impedir una revisión efectiva. Se trata de una vulneración que compromete la tutela judicial efectiva: la falta de explicabilidad no es un defecto meramente técnico del sistema, sino una falla estructural con consecuencias jurídicas directas. Al impedir la reconstrucción del razonamiento se afecta no solo el derecho al recurso en sentido estricto, sino el derecho más amplio a la tutela judicial efectiva, que exige no solo la posibilidad formal de recurrir, sino la existencia de condiciones reales que permitan ejercer ese derecho de manera sustantiva y no ilusoria.

 

Como precisó tempranamente González Pérez[55], la tutela jurisdiccional no se agota en el acceso a un órgano judicial: comprende también el derecho a obtener de él una resolución fundada y, en su caso, a que esa resolución sea efectivamente ejecutada. Una IA que impide reconstruir el razonamiento de una decisión compromete esa garantía de manera integral, más allá del trámite puntual del recurso.

 

 

X. Responsabilidad judicial y decisiones asistidas por inteligencia artificial

 

La responsabilidad constituye uno de los pilares del Estado de Derecho, en tanto garantiza el control del ejercicio del poder jurisdiccional. En el sistema argentino el juez está sujeto a un régimen integral de responsabilidad que comprende, por un lado, la responsabilidad disciplinaria a cargo del Consejo de la Magistratura; por otro, la responsabilidad civil en supuestos excepcionales (cuando puede demostrarse dolo, fraude, culpa grave o negligencia inexcusable, e incluso ante la denegación de justicia, en los casos en que el juez se niega a juzgar o incurre en demoras irrazonables que equivalen, en los hechos, a una negación del servicio de justicia); y, por último, la responsabilidad penal por delitos funcionales.

 

Este régimen cumple una función esencial: asegurar que el ejercicio de la jurisdicción no se transforme en un poder arbitrario. La autoridad de cosa juzgada que reviste a las decisiones judiciales les otorga una fuerza especial, la de resolver de manera definitiva e irrevocable, que no tiene equivalente en otros actos jurídicos, y es justamente esa magnitud de poder la que exige, como contrapartida, un sistema de responsabilidad que lo limite y lo haga controlable. Un poder que decide en última instancia, sin que su ejercicio irregular genere consecuencias, dejaría de ser jurisdicción para convertirse en arbitrio puro.

 

La responsabilidad judicial es, en este sentido, una consecuencia necesaria del poder de decidir con autoridad de cosa juzgada (Lorenzetti)[56]: a mayor poder decisorio, mayor debe ser la exigencia de que ese poder se ejerza dentro de los límites del derecho, y mayor la necesidad de mecanismos que respondan cuando esos límites son transgredidos.

 

1. Responsabilidad como garantía institucional

 

La responsabilidad no debe entenderse como una limitación de la independencia judicial, sino como su complemento necesario. El sistema busca equilibrar la independencia, que protege al juez frente a presiones externas, con la responsabilidad, que lo somete a control frente a eventuales abusos. Ese equilibrio es característico del Estado constitucional.

 

2. El problema de la responsabilidad en decisiones asistidas por IA

 

La incorporación de inteligencia artificial introduce una dificultad estructural: la fragmentación del proceso decisorio. Surge entonces la pregunta de quién responde por una decisión influida por IA. Las respuestas posibles son tres: el juez, el Estado o el desarrollador del sistema, y ninguna resulta, por sí sola, completamente satisfactoria si no se define con precisión el rol de cada actor.

 

Calo[57] explica que los sistemas robóticos y de inteligencia artificial presentan una propiedad de “emergencia”: despliegan comportamientos que no fueron anticipados ni programados directamente por sus creadores, lo que dificulta aplicar las reglas tradicionales de responsabilidad por culpa (que exigen previsibilidad) a quienes los desarrollan. Hoy en día, de hecho, sigue sin estar clara la responsabilidad del desarrollador o del agente que carga la información en los sistemas.

 

La inteligencia artificial, en cualquier caso, no puede ser sujeto de responsabilidad jurídica: no posee personalidad jurídica, carece de voluntad y no tiene capacidad de comprender normas. Por lo tanto, no puede ser sujeto de imputación.

 

3. El principio de responsabilidad humana

 

Frente a esta situación el criterio predominante es claro: la responsabilidad permanece en cabeza del juez, porque es él quien conserva la decisión final, la IA actúa solo como herramienta y el control del proceso sigue siendo humano. El Estado, además, puede asumir responsabilidad por defectos en el diseño o la implementación del sistema, y los desarrolladores pueden responder en el ámbito civil o contractual.

 

Los principios internacionales refuerzan esta idea a través del concepto de accountability (responsabilidad identificable), que implica que siempre debe existir un sujeto humano responsable por las decisiones adoptadas[58].

 

En el derecho de protección de datos de la Unión Europea, Kuner et al.[59] explican que el principio de accountability recibió una formulación similar en el artículo 5.2 del Reglamento General de Protección de Datos: no basta con que el responsable del tratamiento cumpla con las reglas de la norma, sino que además debe estar en condiciones de demostrar ese cumplimiento, lo que traslada la accountability de una simple obligación sustantiva a una carga probatoria concreta.

 

La introducción de inteligencia artificial no elimina ni reduce la responsabilidad judicial: reafirma la centralidad del juez, exige mayor control sobre las herramientas tecnológicas e impide trasladar la responsabilidad a sistemas automatizados. La IA no altera, en definitiva, la estructura básica del sistema de responsabilidad, sino que refuerza la necesidad de preservar sus principios fundamentales.

 

 

XI. Legitimidad democrática de la decisión jurisdiccional

 

La legitimidad de la decisión judicial constituye uno de los pilares fundamentales del Estado constitucional de derecho. A diferencia de otros poderes del Estado, cuya legitimidad deriva de la representación directa o de mecanismos políticos, la jurisdicción encuentra su fundamento en un sistema complejo de garantías institucionales que aseguran la racionalidad, la imparcialidad y la controlabilidad de las decisiones.

 

La decisión jurisdiccional no se legitima únicamente por su resultado, sino por el conjunto de condiciones que estructuran su producción: la designación del juez conforme a procedimientos constitucionales, la independencia judicial frente a presiones externas, la sujeción a la ley y a la Constitución, la motivación de las decisiones y la posibilidad de control mediante recursos.

 

La Corte Interamericana precisó el contenido de esa independencia en “Tribunal Constitucional vs. Perú”, al declarar responsable al Estado peruano por destituir a magistrados constitucionales sin un proceso que respetara las garantías del artículo 8.1 de la Convención Americana, y sostuvo que la independencia de todo juez exige un adecuado proceso de nombramiento, una duración establecida en el cargo y una garantía frente a presiones externas[60]. Años después, en “Apitz Barbera y otros vs. Venezuela”[61], reiteró ese estándar frente a la destitución arbitraria de jueces, reafirmando que la independencia judicial no es una prerrogativa personal del magistrado, sino una garantía del justiciable de que su causa sea resuelta con sujeción exclusiva al derecho.

 

Estas condiciones configuran un modelo de legitimidad que no es de carácter político, sino jurídico-racional. Como señalan Ferrajoli[62] y Nino[63], la legitimidad de la jurisdicción se basa en la sujeción del juez al derecho y en la racionalidad de sus decisiones, lo que permite su control dentro del sistema institucional.

 

La motivación adquiere aquí un rol central, en tanto es el medio a través del cual el juez justifica su decisión y la hace comprensible: sin motivación la decisión pierde su carácter racional y se aproxima a un acto de poder arbitrario.

 

La posibilidad de recurrir las decisiones judiciales refuerza, además, su legitimidad, al permitir su revisión por órganos superiores: un control que no solo protege a las partes, sino que asegura la coherencia del sistema jurídico.

 

La incorporación de inteligencia artificial en la toma de decisiones judiciales tensiona este modelo de legitimidad, porque los sistemas algorítmicos carecen de los elementos que la fundamentan. No son designados conforme a procedimientos constitucionales ni forman parte de la estructura orgánica del Estado; carecen de independencia en sentido jurídico, ya que su funcionamiento depende de datos, algoritmos y decisiones de diseño; y no pueden ser considerados responsables por sus decisiones, lo que impide su control en términos jurídicos.

 

A esto se suma que la opacidad de los sistemas algorítmicos dificulta la motivación de las decisiones, lo que afecta directamente su legitimidad: una decisión cuyo razonamiento no puede reconstruirse carece de los elementos necesarios para ser considerada válida dentro del Estado de Derecho.

 

En este contexto, la utilización de inteligencia artificial en el ámbito judicial solo resulta compatible con el sistema de legitimidad democrática en la medida en que se mantenga el control humano sobre la decisión. El juez debe conservar la titularidad de la función jurisdiccional, asegurando que la decisión final sea el resultado de un razonamiento jurídico explícito y controlable.

 

La legitimidad de la decisión judicial se construye, en definitiva, a partir de un conjunto de garantías que no pueden ser replicadas por sistemas automatizados, y por eso la inteligencia artificial no puede sustituir al juez sin comprometer los fundamentos mismos del Estado constitucional de derecho.

 

 

XII. Conclusiones generales

 

El análisis desarrollado a lo largo de este trabajo permite formular una serie de conclusiones articuladas en torno a la naturaleza de la decisión jurisdiccional, el principio de razonabilidad y los límites de la inteligencia artificial en el proceso judicial.

 

La sentencia judicial es un acto jurídico complejo que integra dimensiones cognitivas, valorativas y volitivas. No se trata de una mera aplicación mecánica de normas, sino de un proceso interpretativo en el que el juez determina los hechos, interpreta el derecho y justifica racionalmente la solución adoptada.

 

El principio de razonabilidad se presenta, a su vez, como el eje estructural que condiciona la validez de las decisiones judiciales: exige que toda decisión sea el resultado de un razonamiento coherente, adecuado a los hechos y conforme al derecho vigente. Su vinculación con el debido proceso sustancial permite controlar no solo la forma, sino también el contenido de las decisiones.

 

La motivación de la sentencia, por su parte, es una garantía esencial del sistema procesal: a través de ella el juez exterioriza su razonamiento, lo que posibilita el control jurisdiccional y asegura el derecho de defensa. Su ausencia configura un supuesto de arbitrariedad, incompatible con el ordenamiento jurídico.

 

La función jurisdiccional implica, además, una actividad interpretativa que no puede reducirse a un modelo automático. La discrecionalidad judicial, cuando se ejerce dentro de los límites del derecho, constituye un elemento legítimo del proceso decisorio, mientras que la arbitrariedad representa su desviación.

 

El análisis de la inteligencia artificial permitió identificar, a su vez, una serie de limitaciones estructurales que impiden equipararla con la función jurisdiccional: la falta de explicabilidad de los algoritmos, la imposibilidad de generar motivaciones en sentido jurídico, la existencia de sesgos algorítmicos, la ausencia de responsabilidad jurídica y la reducción del razonamiento a inferencias estadísticas. Estas características muestran que la inteligencia artificial no puede cumplir con los requisitos exigidos para la validez de una decisión judicial.

 

El derecho comparado confirma esta conclusión: los modelos regulatorios relevados limitan el uso de la inteligencia artificial a funciones auxiliares y exigen, en todos los casos, la intervención humana. El derecho al recurso y el control jurisdiccional refuerzan, en el mismo sentido, la necesidad de decisiones motivadas y comprensibles, algo que resulta incompatible con sistemas opacos. Y la responsabilidad judicial, junto con la legitimidad democrática, constituye un elemento esencial del sistema que no puede trasladarse a sistemas automatizados.

 

La hipótesis planteada en la introducción queda, en consecuencia, confirmada: la inteligencia artificial no puede sustituir la función jurisdiccional sin afectar garantías fundamentales del Estado de Derecho. Esto no implica rechazar su utilización, sino delimitar su alcance. La inteligencia artificial puede desempeñar un rol relevante como herramienta auxiliar, facilitando tareas de análisis y organización de información; pero la decisión final debe permanecer en manos del juez, único sujeto capaz de asumir la responsabilidad jurídica, interpretar el derecho y justificar racionalmente la decisión.

 

La jurisdicción es una función indelegable del juez humano, cuya legitimidad se basa en la razonabilidad, la motivación y la responsabilidad. La inteligencia artificial, por sus limitaciones estructurales, no puede decidir: solo puede asistir.

 

 

Referencias

 

Alexy, R. (1989). Teoría de la argumentación jurídica. Centro de Estudios Constitucionales.

Alexy, R. (1993). Teoría de los derechos fundamentales. Centro de Estudios Constitucionales.

Alvarado Velloso, A. (2009). Sistema procesal: Garantía de la libertad. Rubinzal-Culzoni.

Atienza, M. (1989). Sobre lo razonable en el derecho. Revista Española de Derecho Constitucional, (27), 93-110.

Bahamontes, A. (2025, 18 de marzo). AI4JUSTICE: ¿El primer paso hacia jueces artificiales? TecFuturo. https://tecfuturo.es/actualidad/ai4justice-el-primer-paso-hacia-jueces-artificiales/

Burrell, J. (2016). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1). https://doi.org/10.1177/2053951715622512

Calo, R. (2015). Robotics and the lessons of cyberlaw. California Law Review, 103(3), 513-563.

Centro de Estudios Políticos y Constitucionales (España), Servicio de Documentación Jurídica. (2025). Inteligencia artificial y justicia [Dossier, septiembre de 2025] (NIPO 145-25-038-5).

Comisión Europea para la Eficacia de la Justicia [CEPEJ]. (2018). European ethical charter on the use of artificial intelligence in judicial systems and their environment (CEPEJ(2018)14). Consejo de Europa. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c

Corte Interamericana de Derechos Humanos. (2001, 31 de enero). Caso Tribunal Constitucional vs. Perú (Fondo, Reparaciones y Costas). Serie C N.º 71.

Corte Interamericana de Derechos Humanos. (2004, 2 de julio). Caso Herrera Ulloa vs. Costa Rica (Excepciones Preliminares, Fondo, Reparaciones y Costas). Serie C N.º 107.

Corte Interamericana de Derechos Humanos. (2008, 5 de agosto). Caso Apitz Barbera y otros vs. Venezuela (Excepción Preliminar, Fondo, Reparaciones y Costas). Serie C N.º 182.

Corte Suprema de Justicia de la Nación (Argentina). (1909). Rey c/ Rocha (Fallos: 112:384).

Corte Suprema de Justicia de la Nación (Argentina). (1957). Colalillo, Domingo c/ Compañía de Seguros España y Río de la Plata (Fallos: 238:550).

Corte Suprema de Justicia de la Nación (Argentina). (1988). Martínez, Saturnino y otras s/ homicidio calificado (Fallos: 311:948).

Corte Suprema de Justicia de la Nación (Argentina). (1995, 7 de abril). Giroldi, Horacio David y otro s/ recurso de casación (Fallos: 318:514).

Corte Suprema de Justicia de la Nación (Argentina). (1996). Fallos: 319:1728.

Corte Suprema de Justicia de la Nación (Argentina). (1997, 15 de julio). Roig de Orge, Noemí Nélida c/ Provincia de Buenos Aires (Fallos: 320:1534).

Corte Suprema de Justicia de la Nación (Argentina). (1998, 13 de agosto). Vianini, José (Fallos: 321:2131).

Corte Suprema de Justicia de la Nación (Argentina). (2000, 27 de junio). Quelas, José c/ Banco de la Nación Argentina (Fallos: 323:1779).

Corte Suprema de Justicia de la Nación (Argentina). (2004, 7 de diciembre). González, Eduardo A. c/ Trenes de Buenos Aires S.A. (Fallos: 327:5528).

Corte Suprema de Justicia de la Nación (Argentina). (2005, 3 de mayo). Di Nunzio, Beatriz Herminia s/ excarcelación (Fallos: 328:1108).

Corte Suprema de Justicia de la Nación (Argentina). (2005, 20 de septiembre). Casal, Matías Eugenio y otro s/ robo simple en grado de tentativa (Fallos: 328:3399).

Couture, E. J. (2002). Fundamentos del derecho procesal civil (4.ª ed.). B de F.

De Stefano, V. (2019). “Negotiating the algorithm”: Automation, artificial intelligence and labour protection. Comparative Labor Law & Policy Journal, 41(1), 15-46.

Dworkin, R. (1977). Taking rights seriously. Harvard University Press.

Dworkin, R. (1986). Law’s empire. Harvard University Press.

España. (2021). Ley Orgánica 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales. Boletín Oficial del Estado.

España. (2023). Real Decreto-ley 6/2023, de 19 de diciembre, por el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de justicia, función pública, régimen local y mecenazgo. Boletín Oficial del Estado.

Estevez, E., Linares Lejarraga, S., & Fillottrani, P. (2020). PROMETEA: Transformando la administración de justicia con herramientas de inteligencia artificial. Banco Interamericano de Desarrollo. https://publications.iadb.org/es/prometea-transformando-la-administracion-de-justicia-con-herramientas-de-inteligencia-artificial

European Commission. (2020). White paper on artificial intelligence: A European approach to excellence and trust (COM(2020) 65 final).

Fernández, T.-R. (1991). Arbitrariedad y discrecionalidad. Civitas.

Ferrajoli, L. (2001). Derecho y razón: Teoría del garantismo penal (5.ª ed.). Trotta.

Ferrajoli, L. (2006). Las garantías constitucionales de los derechos fundamentales. Doxa. Cuadernos de Filosofía del Derecho, (29), 15-31.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5

Francia. (2019). Loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice. Journal officiel de la République française.

Generalitat de Catalunya, Departament de la Presidència. (2025, 12 de marzo). Catalunya impulsa els governs locals intel·ligents amb un acord estratègic en l’ús de les dades i la IA per millorar els serveis públics [Nota de prensa]. https://govern.cat/salapremsa/notes-premsa/689143/catalunya-impulsa-governs-locals-intelligents-acord-estrategic-us-dades-ia-millorar-serveis-publics

González Pérez, J. (1989). El derecho a la tutela jurisdiccional (2.ª ed.). Civitas.

Gozaíni, O. A. (2004). El debido proceso en la actualidad. Revista Iberoamericana de Derecho Procesal Constitucional, (2), 57-70.

Gozaíni, O. A. (2018). La sentencia razonablemente fundada. En O. A. Gozaíni (Dir.), Cuestiones procesales del Código Civil y Comercial de la Nación (pp. 93-112). Rubinzal-Culzoni.

Hart, H. L. A. (2012). El concepto de derecho (G. R. Carrió, Trad.; 2.ª ed., reimp.). Abeledo-Perrot. (Trabajo original publicado en 1961)

Kelsen, H. (2009). Teoría pura del derecho. Eudeba.

Kuner, C., Bygrave, L. A., & Docksey, C. (Eds.). (2020). The EU General Data Protection Regulation (GDPR): A commentary. Oxford University Press.

Lorenzetti, R. L. (2006). Teoría de la decisión judicial. Rubinzal-Culzoni.

Ministerio de Justicia de Estonia. (2022, 16 de febrero). Estonia does not develop AI judge [Comunicado de prensa]. https://www.just.ee/en/news/estonia-does-not-develop-ai-judge

Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. (2017). Prometea: Sistema de inteligencia artificial para la asistencia y automatización de tareas jurídicas.

Montaño de Cardona, J. V. (2002). Instituciones procesales desde el constitucionalismo. Leyer.

Morello, A. M. (1998). Estudios de derecho procesal (t. II). Platense-Abeledo Perrot.

Morello, A. M. (2005). El proceso justo (2.ª ed.). Librería Editora Platense.

Niiler, E. (2019, 25 de marzo). Can AI be a fair judge in court? Estonia thinks so. Wired. https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/

Nino, C. S. (1992). Fundamentos de derecho constitucional. Astrea.

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.

Organización para la Cooperación y el Desarrollo Económicos [OCDE]. (2019). Recomendación del Consejo sobre Inteligencia Artificial (Principios de la OCDE sobre IA).

Pasquale, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press.

Peyrano, J. W. (1978). El proceso civil: Principios y fundamentos. Astrea.

Podetti, J. R. (1958). Tratado de los recursos. Ediar.

Russell, S., & Norvig, P. (2021). Artificial intelligence: A modern approach (4.ª ed.). Pearson.

Sagüés, N. P. (2016). Manual de derecho constitucional (2.ª ed., reimp.). Astrea.

Suprema Corte de Justicia de la Nación (México), Segunda Sala. (1995). Fundamentación y motivación [Tesis de jurisprudencia 260, Séptima Época]. En Apéndice al Semanario Judicial de la Federación 1917-1995 (t. VI, Parte SCJN, Materia Común, p. 175; registro digital 394216). https://sjf2.scjn.gob.mx/detalle/tesis/394216

Suprema Corte de Justicia de la Nación (México). (2012). Amparo en revisión 453/2012. https://www2.scjn.gob.mx/juridica/engroses/2/2012/2/2_141207_2378_firmado.pdf

Susskind, R. (2019). Online courts and the future of justice. Oxford University Press.

Tribunal Popular Supremo de la República Popular China. (2022, 8 de diciembre). Opinions on regulating and strengthening the applications of artificial intelligence in the judicial fields (Fa Fa [2022] N.º 33). https://www.court.gov.cn/zixun/xiangqing/382461.html

UNESCO. (2025). Guidelines for the use of AI systems in courts and tribunals. https://unesdoc.unesco.org/ark:/48223/pf0000396582

Unión Europea. (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). Diario Oficial de la Unión Europea.

Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea.

 

 



(*) Abogado y doctor en Derecho por la Universidad Nacional de Lomas de Zamora (título en trámite), donde también se especializó en Daños y Perjuicios y en Derecho de Familia y Sucesiones. Es especialista en Adopción por el Consejo Superior del Niño y realizó el Curso Superior “Inteligencia Artificial y Derecho” en la Universidad de Salamanca. Es Defensor Oficial Titular de la Unidad de Defensa Civil del Departamento Judicial de Lomas de Zamora. Enseña en la UNLZ desde hace más de treinta años y actualmente es profesor adjunto de Derecho Procesal Civil y Comercial.

[1] Montaño de Cardona, J. V. (2002). Instituciones procesales desde el constitucionalismo. Leyer.

[2] Atienza, M. (1989). Sobre lo razonable en el derecho. Revista Española de Derecho Constitucional, (27), 93-110.

[3] Gozaíni, O. A. (2004). El debido proceso en la actualidad. Revista Iberoamericana de Derecho Procesal Constitucional, (2), 57-70.

[4] Alexy, R. (1993). Teoría de los derechos fundamentales. Centro de Estudios Constitucionales.

[5] Kelsen, H. (2009). Teoría pura del derecho. Eudeba.

[6] Hart, H. L. A. (2012). El concepto de derecho (G. R. Carrió, Trad.; 2.ª ed., reimp.). Abeledo-Perrot. (Trabajo original publicado en 1961)

[7] Alvarado Velloso, A. (2009). Sistema procesal: Garantía de la libertad. Rubinzal-Culzoni.

[8] Morello, A. M. (2005). El proceso justo (2.ª ed.). Librería Editora Platense.

[9] Peyrano, J. W. (1978). El proceso civil: Principios y fundamentos. Astrea.

[10] Corte Suprema de Justicia de la Nación (Argentina). (1909). Rey c/ Rocha (Fallos: 112:384).

[11] Corte Suprema de Justicia de la Nación (Argentina). (1957). Colalillo, Domingo c/ Compañía de Seguros España y Río de la Plata (Fallos: 238:550, 553): “es condición de validez de un fallo judicial que él sea conclusión razonada del derecho vigente con particular referencia a las circunstancias comprobadas de la causa”. Corte Suprema de Justicia de la Nación (Argentina). (1998, 13 de agosto). Vianini, José (Fallos: 321:2131), entre muchos otros.

[12] La formulación clásica de esta distinción proviene de la jurisprudencia mexicana: por fundamentación se entiende la expresión precisa del precepto legal aplicable al caso, y por motivación, el señalamiento de las circunstancias especiales, razones particulares o causas inmediatas que se tuvieron en cuenta para decidir. Suprema Corte de Justicia de la Nación (México), Segunda Sala. (1995). Fundamentación y motivación [Tesis de jurisprudencia 260, Séptima Época]. En Apéndice al Semanario Judicial de la Federación 1917-1995 (t. VI, Parte SCJN, Materia Común, p. 175; registro digital 394216). https://sjf2.scjn.gob.mx/detalle/tesis/394216. Citada, entre otras, en la Suprema Corte de Justicia de la Nación (México). (2012). Amparo en revisión 453/2012. https://www2.scjn.gob.mx/juridica/engroses/2/2012/2/2_141207_2378_firmado.pdf

[13] Alexy, R. (1989). Teoría de la argumentación jurídica. Centro de Estudios Constitucionales.

[14] Corte Suprema de Justicia de la Nación (Argentina). (1988). Martínez, Saturnino y otras s/ homicidio calificado (Fallos: 311:948). Corte Suprema de Justicia de la Nación (Argentina). (1996). Fallos: 319:1728.

[15] Corte Suprema de Justicia de la Nación (Argentina). (1997, 15 de julio). Roig de Orge, Noemí Nélida c/ Provincia de Buenos Aires (Fallos: 320:1534). Corte Suprema de Justicia de la Nación (Argentina). (2000, 27 de junio). Quelas, José c/ Banco de la Nación Argentina (Fallos: 323:1779). Corte Suprema de Justicia de la Nación (Argentina). (2004, 7 de diciembre). González, Eduardo A. c/ Trenes de Buenos Aires S.A. (Fallos: 327:5528).

[16] Hart, H. L. A., op. cit. (nota 6).

[17] Gozaíni, O. A. (2018). La sentencia razonablemente fundada. En O. A. Gozaíni (Dir.), Cuestiones procesales del Código Civil y Comercial de la Nación (pp. 93-112). Rubinzal-Culzoni. Fernández, T.-R. (1991). Arbitrariedad y discrecionalidad (pp. 105 y ss.). Civitas.

[18] Dworkin, R. (1986). Law’s empire. Harvard University Press.

[19] Dworkin, R. (1977). Taking rights seriously. Harvard University Press.

[20] Couture, E. J. (2002). Fundamentos del derecho procesal civil (4.ª ed.). B de F.

[21] Morello, A. M. (1998). Estudios de derecho procesal (t. II). Platense-Abeledo Perrot.

[22] Lorenzetti, R. L. (2006). Teoría de la decisión judicial. Rubinzal-Culzoni.

[23] Corte Suprema de Justicia de la Nación (Argentina), Colalillo, op. cit. (nota 11), Fallos: 238:550.

[24] Sagüés, N. P. (2016). Manual de derecho constitucional (2.ª ed., reimp.). Astrea.

[25] Couture, E. J., op. cit. (nota 20).

[26] Ferrajoli, L. (2006). Las garantías constitucionales de los derechos fundamentales. Doxa. Cuadernos de Filosofía del Derecho, (29), 15-31.

[27] De Stefano, V. (2019). “Negotiating the algorithm”: Automation, artificial intelligence and labour protection. Comparative Labor Law & Policy Journal, 41(1), 15-46.

[28] Russell, S., & Norvig, P. (2021). Artificial intelligence: A modern approach (4.ª ed.). Pearson.

[29] Pasquale, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press.

[30] Burrell, J. (2016). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1). https://doi.org/10.1177/2053951715622512

[31] O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.

[32] Pasquale, F., op. cit. (nota 29).

[33] Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689-707. https://doi.org/10.1007/s11023-018-9482-5

[34] European Commission. (2020). White paper on artificial intelligence: A European approach to excellence and trust (COM(2020) 65 final).

[35] Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea.

[36] Unión Europea. (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). Diario Oficial de la Unión Europea. Véase art. 22.

[37] Unión Europea, Reglamento (UE) 2024/1689, op. cit. (nota 35), considerando 61 y anexo III, punto 8, letra a).

[38] España. (2023). Real Decreto-ley 6/2023, de 19 de diciembre, por el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de justicia, función pública, régimen local y mecenazgo. Boletín Oficial del Estado.

[39] España. (2021). Ley Orgánica 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales. Boletín Oficial del Estado.

[40] UNESCO. (2025). Guidelines for the use of AI systems in courts and tribunals. https://unesdoc.unesco.org/ark:/48223/pf0000396582

[41] Organización para la Cooperación y el Desarrollo Económicos [OCDE]. (2019). Recomendación del Consejo sobre Inteligencia Artificial (Principios de la OCDE sobre IA).

[42] Comisión Europea para la Eficacia de la Justicia [CEPEJ]. (2018). European ethical charter on the use of artificial intelligence in judicial systems and their environment (CEPEJ(2018)14). Consejo de Europa. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c

[43] Ministerio de Justicia de Estonia. (2022, 16 de febrero). Estonia does not develop AI judge [Comunicado de prensa]. https://www.just.ee/en/news/estonia-does-not-develop-ai-judge. El anuncio original fue difundido por Niiler, E. (2019, 25 de marzo). Can AI be a fair judge in court? Estonia thinks so. Wired. https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/

[44] Tribunal Popular Supremo de la República Popular China. (2022, 8 de diciembre). Opinions on regulating and strengthening the applications of artificial intelligence in the judicial fields (Fa Fa [2022] N.º 33). https://www.court.gov.cn/zixun/xiangqing/382461.html

[45] Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. (2017). Prometea: Sistema de inteligencia artificial para la asistencia y automatización de tareas jurídicas. Véase Estevez, E., Linares Lejarraga, S., & Fillottrani, P. (2020). PROMETEA: Transformando la administración de justicia con herramientas de inteligencia artificial. Banco Interamericano de Desarrollo. https://publications.iadb.org/es/prometea-transformando-la-administracion-de-justicia-con-herramientas-de-inteligencia-artificial

[46] Generalitat de Catalunya, Departament de la Presidència. (2025, 12 de marzo). Catalunya impulsa els governs locals intel·ligents amb un acord estratègic en l’ús de les dades i la IA per millorar els serveis públics [Nota de prensa]. https://govern.cat/salapremsa/notes-premsa/689143/catalunya-impulsa-governs-locals-intelligents-acord-estrategic-us-dades-ia-millorar-serveis-publics. Véase también Bahamontes, A. (2025, 18 de marzo). AI4JUSTICE: ¿El primer paso hacia jueces artificiales? TecFuturo. https://tecfuturo.es/actualidad/ai4justice-el-primer-paso-hacia-jueces-artificiales/

[47] Susskind, R. (2019). Online courts and the future of justice. Oxford University Press.

[48] Francia. (2019). Loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice. Journal officiel de la République française. Véase art. 33.

[49] Centro de Estudios Políticos y Constitucionales (España), Servicio de Documentación Jurídica. (2025). Inteligencia artificial y justicia [Dossier, septiembre de 2025] (NIPO 145-25-038-5).

[50] Podetti, J. R. (1958). Tratado de los recursos. Ediar.

[51] Corte Interamericana de Derechos Humanos. (2004, 2 de julio). Caso Herrera Ulloa vs. Costa Rica (Excepciones Preliminares, Fondo, Reparaciones y Costas). Serie C N.º 107.

[52] Corte Suprema de Justicia de la Nación (Argentina). (1995, 7 de abril). Giroldi, Horacio David y otro s/ recurso de casación (Fallos: 318:514).

[53] Corte Suprema de Justicia de la Nación (Argentina). (2005, 20 de septiembre). Casal, Matías Eugenio y otro s/ robo simple en grado de tentativa (Fallos: 328:3399).

[54] Corte Suprema de Justicia de la Nación (Argentina). (2005, 3 de mayo). Di Nunzio, Beatriz Herminia s/ excarcelación (Fallos: 328:1108).

[55] González Pérez, J. (1989). El derecho a la tutela jurisdiccional (2.ª ed.). Civitas.

[56] Lorenzetti, R. L., op. cit. (nota 22).

[57] Calo, R. (2015). Robotics and the lessons of cyberlaw. California Law Review, 103(3), 513-563.

[58] OCDE, op. cit. (nota 41).

[59] Kuner, C., Bygrave, L. A., & Docksey, C. (Eds.). (2020). The EU General Data Protection Regulation (GDPR): A commentary. Oxford University Press.

[60] Corte Interamericana de Derechos Humanos. (2001, 31 de enero). Caso Tribunal Constitucional vs. Perú (Fondo, Reparaciones y Costas). Serie C N.º 71.

[61] Corte Interamericana de Derechos Humanos. (2008, 5 de agosto). Caso Apitz Barbera y otros vs. Venezuela (Excepción Preliminar, Fondo, Reparaciones y Costas). Serie C N.º 182.

[62] Ferrajoli, L. (2001). Derecho y razón: Teoría del garantismo penal (5.ª ed.). Trotta.

[63] Nino, C. S. (1992). Fundamentos de derecho constitucional. Astrea.