Más contenido jurídico en elDial.com
Por Dra. Anastasia Bosque
IntroducciónHasta ahora, los casos más conocidos vinculados al uso de inteligencia artificial en el ámbito judicial estaban relacionados con abogados, e incluso jueces, que incorporaban en escritos o sentencias citas jurisprudenciales inexistentes o alucines generadas por IA, sin verificar previamente su autenticidad. En esos supuestos, el foco estuvo puesto en la falta de control humano y en la omisión del deber profesional de corroborar la veracidad de la información antes de utilizarla en un expediente judicial.
Sin embargo, el escenario en el caso es otro, uno más técnico. Ya no se trata solamente de confiar si el contenido dado por IA es cierto o no, sino de intentar manipular deliberadamente el funcionamiento de herramientas de inteligencia artificial utilizadas dentro del sistema judicial.
Hechos
El caso ocurrió en Brasil, en el marco del expediente “ATOrd 0001062-55.2025.5.08.0130”, tramitado ante la 3ª Vara do Trabalho de Parauapebas. Allí, dos abogadas incorporaron dentro de la demanda laboral un texto oculto, en color blanco sobre fondo blanco, destinado a influir sobre el comportamiento de una herramienta de IA judicial llamada “Galileu”, utilizada por la Justicia laboral brasileña.
Análisis
La sentencia explica que la técnica utilizada es conocida en el ámbito tecnológico como prompt injection. Consiste en insertar instrucciones ocultas dentro de un documento para influir en el comportamiento de un sistema de inteligencia artificial que procese ese texto.
En este caso, el comando fue detectado cuando la demanda fue procesada mediante “Galileu”, una herramienta de inteligencia artificial generativa autorizada para su uso dentro de la Justicia laboral brasileña. El sistema permitió advertir la existencia de un texto oculto invisible para un lector humano, pero legible para la IA.
Para el tribunal, no se trató de un error ni de una práctica menor. La sentencia sostuvo que la intención era inequívoca: inducir a que un sistema automatizado generara una contestación superficial o incluso un borrador de sentencia comprometido, afectando el correcto funcionamiento del proceso judicial.
El juez remarcó además que la conducta vulneraba deberes elementales de buena fe procesal y lealtad hacia la administración de justicia. Según expresó, la inserción deliberada de instrucciones ocultas destinadas a manipular sistemas institucionales de IA configuraba un acto atentatorio contra la dignidad de la justicia.
Otro aspecto relevante del fallo fue la delimitación de responsabilidades. El tribunal entendió que la maniobra no podía atribuirse al trabajador demandante, sino exclusivamente a las profesionales que redactaron y firmaron la demanda. La sentencia recordó que la confección del escrito judicial es un acto propio de la actividad profesional del abogado y que el contenido presentado ante el tribunal es de su exclusiva responsabilidad.
También rechazó que las letradas pudieran ampararse en la garantía de independencia profesional prevista para el ejercicio de la abogacía. El juez sostuvo que la conducta excedía cualquier estrategia legítima de defensa y que, cuando un abogado deja de actuar como sujeto procesal para transformarse en “agente de sabotaje del sistema judicial”, su accionar queda fuera del ámbito de protección funcional previsto por la ley.
Conclusión
El tribunal consideró acreditada la existencia de una conducta de extrema gravedad institucional. Aunque finalmente no se verificó un perjuicio procesal concreto, porque la parte demandada permaneció en rebeldía y no presentó contestación, el juez entendió que el ilícito se consumaba con la sola inserción del comando oculto dentro del documento judicial.
Por ello, condenó solidariamente a las dos abogadas al pago de una multa equivalente al 10% del valor de la causa, porcentaje que el magistrado consideró proporcional frente a la gravedad de la maniobra y a la ausencia de un daño procesal efectivo.
Además, ordenó remitir antecedentes a la Ordem dos Advogados do Brasil y a la corregiduría del Tribunal Regional del Trabajo de la 8ª Región para la eventual evaluación de responsabilidades disciplinarias.
Reflexión final
El caso representa uno de los primeros antecedentes conocidos en los que la discusión ya no gira únicamente en torno a errores producidos por la inteligencia artificial o al simple descuido humano de no verificar la información suministrada por una IA. Aquí, según entendió el tribunal, existió un intento deliberado de manipular el funcionamiento de una herramienta institucional utilizada dentro del proceso judicial.
Esto demuestra que la incorporación de inteligencia artificial en la justicia no solo exige reglas sobre su utilización responsable, sino también mecanismos de control frente a posibles interferencias o intentos de manipulación. Para el tribunal, la gravedad de la conducta no estuvo dada únicamente por el contenido del mensaje oculto, sino por la intención de afectar el normal funcionamiento de una herramienta tecnológica empleada por el propio Poder Judicial.
La relevancia del fallo no radica únicamente en la sanción impuesta, sino también en el fuerte mensaje institucional que transmite. La incorporación de herramientas de inteligencia artificial en la administración de justicia es cada vez más frecuente y, nuestro caso, distintos poderes judiciales conviven con el desarrollo de sistemas destinados a asistir en el procesamiento y análisis de la información de las causas, este escenario obliga a repensar no solo los mecanismos de uso responsable de estas tecnologías, sino también las formas en que pueden ser manipuladas, vulneradas o utilizadas indebidamente dentro del proceso judicial.