Más contenido jurídico en elDial.com
Por Alejandro Batista
El vertiginoso desarrollo de la inteligencia artificial generativa ha instalado una preocupación creciente acerca de cómo garantizar que las decisiones relevantes permanezcan, en última instancia, bajo control humano. Frente al avance de sistemas cada vez más autónomos y capaces de producir textos, imágenes, diagnósticos, recomendaciones y análisis complejos, uno de los principios que mayor consenso parece reunir es el denominado Human in the Loop (HITL): mantener al ser humano dentro del circuito de decisión, reservándole capacidades de supervisión, intervención y decisión final.”
“El informe PISA no debería ser analizado únicamente como un indicador de la calidad del sistema educativo. También puede ser leído como una advertencia sobre las capacidades con las que las próximas generaciones ingresarán en una sociedad crecientemente mediada por sistemas algorítmicos.”
“El debate sobre la gobernanza de la inteligencia artificial no puede quedar limitado a ingenieros, especialistas en tecnología, reguladores o abogados. Es también, y quizás fundamentalmente, un problema educativo. Durante años hablamos de alfabetización digital como la capacidad para utilizar computadoras, navegar por Internet o manejar distintas aplicaciones. La expansión de la IA generativa exige avanzar hacia una concepción mucho más ambiciosa. La alfabetización necesaria para una sociedad atravesada por inteligencia artificial supone, en primer lugar, saber leer y comprender. Pero también implica poder contrastar fuentes, reconocer argumentos, identificar supuestos, distinguir hechos de opiniones, evaluar evidencias, formular buenas preguntas y justificar por qué aceptamos o rechazamos una determinada respuesta. Es decir, paradójicamente, algunas de las competencias más importantes para convivir con las tecnologías más avanzadas del siglo XXI son capacidades intelectuales bastante tradicionales: leer, escribir, comprender, razonar y pensar críticamente. Los resultados de PISA 2025 muestran precisamente dificultades en ese núcleo. Apenas alrededor del 40% de los estudiantes argentinos alcanzó el nivel básico en lectura y solo el 7,8% logró simultáneamente el umbral mínimo en lectura, matemática y ciencias. La cuestión adquiere, por ello, una dimensión que trasciende ampliamente al sistema educativo.”
“No existe verdadero Human in the Loop si el humano colocado dentro del circuito carece de las capacidades necesarias para comprender aquello que debe supervisar. No existe control efectivo cuando la persona simplemente acepta la recomendación del algoritmo porque no posee herramientas para cuestionarla. Y difícilmente pueda hablarse de una “última palabra humana” cuando esa última palabra consiste simplemente en convalidar automáticamente lo que previamente decidió o produjo una máquina. Por eso, quizás una de las políticas más importantes para gobernar adecuadamente la inteligencia artificial no sea estrictamente una política tecnológica.”
“Si pretendemos construir una sociedad en la cual las personas continúen teniendo la última palabra frente a sistemas de inteligencia artificial cada vez más poderosos, necesitamos personas capaces de ejercer esa responsabilidad. Eso exige recuperar y fortalecer la lectura comprensiva, la escritura, el razonamiento, la capacidad de concentración, el pensamiento crítico y la formación profesional. El desafío, entonces, no consiste solamente en desarrollar una inteligencia artificial confiable. Consiste también en formar seres humanos capaces de controlarla. Porque el principio Human in the Loop contiene una condición que muchas veces damos por supuesta: para que el ser humano tenga efectivamente la última palabra, primero tiene que estar en condiciones de comprender qué está diciendo, haciendo y recomendando la inteligencia artificial.
Inteligencia Artificial, las Pruebas PISA y la ilusión del control humano
El vertiginoso desarrollo de la inteligencia artificial generativa ha instalado una preocupación creciente acerca de cómo garantizar que las decisiones relevantes permanezcan, en última instancia, bajo control humano. Frente al avance de sistemas cada vez más autónomos y capaces de producir textos, imágenes, diagnósticos, recomendaciones y análisis complejos, uno de los principios que mayor consenso parece reunir es el denominado Human in the Loop (HITL): mantener al ser humano dentro del circuito de decisión, reservándole capacidades de supervisión, intervención y decisión final.
Human in the Loop: ¿estamos preparados para tener la última palabra frente a la inteligencia artificial?
La idea resulta tranquilizadora. Podemos utilizar inteligencia artificial para aumentar nuestras capacidades y automatizar tareas, pero será una persona quien controle el resultado y tenga “la última palabra”. Sin embargo, detrás de esa afirmación aparentemente sencilla existe un problema mucho más profundo: para controlar a una inteligencia artificial no alcanza con colocar formalmente a un ser humano al final del proceso. Ese ser humano debe estar en condiciones intelectuales y profesionales de ejercer efectivamente ese control.
Los resultados de las pruebas PISA 2025 conocidos recientemente en Argentina obligan a pensar esta cuestión desde una perspectiva particularmente inquietante.
El problema comienza antes de la inteligencia artificial
Los datos difundidos muestran un deterioro significativo de las capacidades de los estudiantes argentinos de 15 años. Argentina obtuvo 367 puntos en Matemática, 389 en Lectura y 393 en Ciencias, con retrocesos respecto de las mediciones anteriores. En lectura, alrededor de seis de cada diez estudiantes quedaron por debajo del nivel mínimo esperado. En términos prácticos, esto supone serias dificultades para comprender, utilizar, analizar y reflexionar sobre textos, competencias que PISA considera necesarias para desenvolverse autónomamente en la sociedad.
El fenómeno no es exclusivamente argentino. La propia evaluación identifica una caída internacional de los aprendizajes y advierte sobre la aparición de los denominados “lectores apresurados”: estudiantes que recorren rápidamente los textos pero responden de manera incorrecta. Esa conducta prácticamente se duplicó entre 2018 y 2025. En Argentina, además, el fenómeno se superpone con problemas estructurales que vienen acumulándose desde hace años.
Los especialistas señalan especialmente las dificultades para sostener la atención frente a textos extensos, evaluar información e integrar datos provenientes de distintas fuentes. No estamos, entonces, únicamente frente a un problema de “leer menos”. Estamos ante dificultades relacionadas con la comprensión, la atención sostenida, la interpretación y el procesamiento crítico de la información.
Y precisamente esas son algunas de las capacidades que necesitaremos cada vez más para interactuar responsablemente con sistemas de inteligencia artificial.
Human in the Loop: mucho más que un humano presente
La relación entre ambos fenómenos suele pasar inadvertida. Gran parte de las propuestas regulatorias y de gobernanza de la IA se apoyan sobre distintas modalidades de supervisión humana. El presupuesto subyacente parece evidente: la máquina propone, recomienda o ejecuta determinadas acciones, mientras que una persona conserva la posibilidad de revisar, corregir o impedir el resultado.
Pero existe una diferencia fundamental entre estar dentro del circuito y controlar el circuito.
Supongamos que un sistema de IA elabora un informe jurídico, propone un diagnóstico, evalúa candidatos para un puesto de trabajo, recomienda la concesión de un crédito o genera un documento administrativo. Podemos establecer como requisito que una persona revise el resultado antes de adoptarlo. Formalmente, habremos incorporado un Human in the Loop. Pero ¿qué sucede si esa persona no comprende adecuadamente la información presentada? ¿Qué ocurre si carece de conocimientos suficientes para detectar inconsistencias? ¿Y si no puede distinguir una afirmación fundada de una respuesta simplemente verosímil?
La supervisión humana podría transformarse entonces en una mera formalidad.
Incluso aparece un riesgo adicional: cuanto mejores sean los sistemas, más convincentes serán sus respuestas y, paradójicamente, mayor capacidad crítica necesitará quien deba supervisarlos. El problema ya no será solamente detectar una alucinación evidente, sino identificar un razonamiento aparentemente correcto que contiene errores sutiles, omisiones, sesgos o premisas discutibles.
IA, lectura y delegación cognitiva
Aquí los resultados educativos adquieren otra dimensión. El informe PISA no debería ser analizado únicamente como un indicador de la calidad del sistema educativo. También puede ser leído como una advertencia sobre las capacidades con las que las próximas generaciones ingresarán en una sociedad crecientemente mediada por sistemas algorítmicos.
La cuestión se vuelve todavía más compleja porque la propia inteligencia artificial puede profundizar el problema que pretendemos resolver.
Los especialistas consultados a propósito de PISA 2025 advierten sobre los cambios producidos por las pantallas, las redes sociales y las nuevas formas de utilización de la IA en la relación de los jóvenes con la lectura, la atención y el esfuerzo cognitivo. Resulta particularmente significativo que el uso frecuente de herramientas de IA para resumir textos o redactar trabajos aparezca asociado con peores resultados educativos, mientras que los usos específicamente orientados al aprendizaje no muestran el mismo patrón.
La diferencia es fundamental. La IA puede funcionar como una herramienta para potenciar el pensamiento o como un mecanismo para sustituirlo.
Utilizarla para comparar argumentos, pedir explicaciones alternativas, identificar contradicciones, formular preguntas o recibir retroalimentación puede fortalecer el aprendizaje. Utilizarla sistemáticamente para evitar leer, escribir, resumir, argumentar o resolver problemas puede producir exactamente el efecto contrario: una progresiva delegación de aquellas capacidades cognitivas que después necesitaremos para controlar a la propia inteligencia artificial.
Se genera así una paradoja: cuanto más delegamos nuestras capacidades intelectuales en la IA, menos preparados podemos estar para supervisarla; y cuanto menos preparados estamos para supervisarla, mayor será nuestra dependencia de ella.
De la alfabetización tradicional a la alfabetización para la IA.
Por eso, el debate sobre la gobernanza de la inteligencia artificial no puede quedar limitado a ingenieros, especialistas en tecnología, reguladores o abogados. Es también, y quizás fundamentalmente, un problema educativo.
Durante años hablamos de alfabetización digital como la capacidad para utilizar computadoras, navegar por Internet o manejar distintas aplicaciones. La expansión de la IA generativa exige avanzar hacia una concepción mucho más ambiciosa.
La alfabetización necesaria para una sociedad atravesada por inteligencia artificial supone, en primer lugar, saber leer y comprender. Pero también implica poder contrastar fuentes, reconocer argumentos, identificar supuestos, distinguir hechos de opiniones, evaluar evidencias, formular buenas preguntas y justificar por qué aceptamos o rechazamos una determinada respuesta.
Es decir, paradójicamente, algunas de las competencias más importantes para convivir con las tecnologías más avanzadas del siglo XXI son capacidades intelectuales bastante tradicionales: leer, escribir, comprender, razonar y pensar críticamente.
Los resultados de PISA 2025 muestran precisamente dificultades en ese núcleo. Apenas alrededor del 40% de los estudiantes argentinos alcanzó el nivel básico en lectura y solo el 7,8% logró simultáneamente el umbral mínimo en lectura, matemática y ciencias. La cuestión adquiere, por ello, una dimensión que trasciende ampliamente al sistema educativo.
La última palabra
En los próximos años seguramente continuaremos desarrollando normas, principios éticos, protocolos y mecanismos técnicos destinados a garantizar el control humano sobre la inteligencia artificial. Hablaremos de Human in the Loop, supervisión humana significativa, explicabilidad, transparencia, trazabilidad y responsabilidad.
Todo ello será necesario. Pero puede resultar insuficiente.
No existe verdadero Human in the Loop si el humano colocado dentro del circuito carece de las capacidades necesarias para comprender aquello que debe supervisar. No existe control efectivo cuando la persona simplemente acepta la recomendación del algoritmo porque no posee herramientas para cuestionarla. Y difícilmente pueda hablarse de una “última palabra humana” cuando esa última palabra consiste simplemente en convalidar automáticamente lo que previamente decidió o produjo una máquina.
Por eso, quizás una de las políticas más importantes para gobernar adecuadamente la inteligencia artificial no sea estrictamente una política tecnológica.
Si pretendemos construir una sociedad en la cual las personas continúen teniendo la última palabra frente a sistemas de inteligencia artificial cada vez más poderosos, necesitamos personas capaces de ejercer esa responsabilidad. Eso exige recuperar y fortalecer la lectura comprensiva, la escritura, el razonamiento, la capacidad de concentración, el pensamiento crítico y la formación profesional.
El desafío, entonces, no consiste solamente en desarrollar una inteligencia artificial confiable. Consiste también en formar seres humanos capaces de controlarla.
Porque el principio Human in the Loop contiene una condición que muchas veces damos por supuesta: para que el ser humano tenga efectivamente la última palabra, primero tiene que estar en condiciones de comprender qué está diciendo, haciendo y recomendando la inteligencia artificial.
Y en ese terreno, los resultados educativos argentinos constituyen una señal de alarma que sería peligroso ignorar.
(*) Abogado. Especialista en Derecho de Alta Tecnología. Magister en Finanzas Públicas. Doctorando en Sociología. Doctorando en Ciencias Jurídicas. Diplomado en Inteligencia Artificial y Derecho. Docente de Grado y Posgrado en la Universidad Nacional de La Plata, en la Universidad del Museo Social Argentino, la Universidad Nacional de Quilmes y la Universidad del Este. Director y Profesor en la Especialización en Blockchain, Blockchain, Smartcontracts y Criptocurrency, en Blockchain y la Transformación Digital de la Sociedad, y en Startups, Entrepreneurship y Fundraising Law en ADEN Business School. Prosecretario de Políticas Digitales en la Facultad de Ciencias Jurídicas y Sociales de la Universidad Nacional de La Plata.