Más contenido jurídico en elDial.com
Por Juan Antonio Travieso*y Favio Farinella**
El presente artículo, escrito por los Dres. Juan Antonio Travieso y Favio Farinella, establece un análisis reflexivo de la realidad algorítmica; junto con uno metódico-jurídico del proyecto de reforma de la Ley General de Sociedades ante la irrupción de una posible subjetividad jurídica de la IA. Por tal motivo prevenimos a los lectores que se encontrarán con los puntos introductorios y finales escritos en primera persona, pues parten de una apreciación crítica y reflexiva personal.
Sociedades Comerciales IA sin humanos: ¿innovación y delirio?
"El futuro no está escrito. No hay destino, sino lo que nosotros hacemos."
El presente artículo, escrito por los Dres. Juan
Antonio Travieso y Favio Farinella, establece un análisis reflexivo de la
realidad algorítmica; junto con uno metódico-jurídico del proyecto de reforma
de la Ley General de Sociedades ante la irrupción de una posible subjetividad
jurídica de la IA. Por tal motivo prevenimos a los lectores que se encontrarán
con los puntos introductorios y finales escritos en primera persona, pues
parten de una apreciación crítica y reflexiva personal.
- Terminator “en
vivo Y en directo”
Conforme al proceso introspectivo aludido, me pregunto
si eso es cierto y si toda la historia está en vivo y en directo. Me invitaron
al cine con IA. Fui muy entusiasmado.
Entré al cine y empezó la película, pero la pantalla
estaba sin imágenes. La pantalla estaba gris y apareció un mensaje impersonal:
“Se cortó la luz”.
Creo que debo ver “Terminator” en otra oportunidad.
Fui a quejarme y me dijeron que era un troglodita que no estaba a la altura.
Era increíble IA suspendida por falta de energía
eléctrica, vulgar “Luz”. Salí a la calle y asumí que había empezado otra época.
Cuando salí del cine, me vino a la mente un artículo que
escribí hace unos años y me pareció atinado recordar: “LAS PERSONAS JURÍDICAS EN EL
NUEVO DERECHO Y TECNOLOGÍA: BIENVENIDOS LOS ROBOTS”. Lo cito:
El derecho del siglo pasado no presentaba grandes cambios.
La persona física y sus derechos fueron producto de desarrollos
doctrinarios seculares. La sociedad se iba desarrollando tecnológicamente y el gran
avance fue la persona jurídica. Una entelequia apropiada para la sociedad, una herramienta
propedéutica adecuada para la sociedad dentro de un mundo de cambios en cámara
lenta
Sin dudas existe una tendencia antropocéntrica, y todo tiene
que ser a imagen y semejanza de los humanos. Las sociedades son personas que
nacen, viven y mueren, y, además, los animales nos contemplan mientras el
derecho se desvela para calificarlos como personas “no humanas”. [1]
Mientras tanto la sociedad cambia, comienzan a desaparecer
los íconos de nuestra sociedad, las cartas, los buzones, los teléfonos fijos,
etc. Todo cambia.
El tema es de qué manera el derecho asimila los cambios o simplemente
opera dentro de un travestismo conceptual. Determinada institución o entidad es
similar a otra categoría y en un extremo de simplificación lejos de asignarle características
específicas, naturaleza jurídica independiente o caracteres propios, la
solución al estilo de contestador automático es colocarla en un plano similar a
otro. Una fotocopia conceptual. De esa manera se van creando, o mejor dicho estableciendo,
nuevas categorías jurídicas, paraíso del “sui generis”, con pretensiones de soberanía
de género, sin que puedan adquirir personalidad propia.[2]
- Atardecer Analógico
Llegué a casa y abrí la cerradura electrónica. Luego me
cuestioné temas y aparecieron textos: “ChatGPT ha sido la app que más
rápido ha llegado a 1.000 millones de usuarios”. Ha necesitado 3 años. Esto ya lo
esperábamos desde que surgió y llegó enseguida a 100 millones de usuarios. Pero
con estas clasificaciones, siempre me gusta saber cuáles son las otras. Debo
admitir tristemente que no habría acertado el top 3. Después de ChatGPT vienen
Google Maps y Chrome. Ambas tardaron unos 5 años en llegar a 1.000 millones de
usuarios.
A partir de aquí habría
acertado alguna, pero no todas. Del 4 al 10 están por este orden: TikTok, Messenger,
YouTube, Instagram, Gmail, WhatsApp, Facebook y Google Messages.
Luego, además de TikTok, la
única app en toda la lista que no es de Google o Meta es Telegram. Esto también
destaca el increíble mérito de ChatGPT, que se ha colado ahí de la nada. Y
también se entiende mejor el éxito de Gemini. Una plataforma como Android da
alas a sus apps. Google Messages, por ejemplo, es el ejemplo más claro; es
medio trampa que compite con WhatsApp cuando en realidad solo está ahí porque
va con el entorno de Google.
Ya son muchas horas. Aunque las descargas se han frenado un
poco, el uso de la IA no para de crecer. Los cálculos son que las horas de uso
se dupliquen en este primer semestre de 2026 respecto al año pasado. Se prevé
también que el número de las sesiones (las veces que se entra) sea 12 veces más
que en 2024.
Sobre el tamaño de los
mercados, una cosa curiosa de la IA es que ha llegado a la vez a mercados
maduros y emergentes. Los países donde más crece son Argentina, Corea del Sur,
Turquía, Japón y Vietnam. También las de IA son algunas de las apps cuyos
usuarios usan más días al mes, solo después de Google y al nivel de X y Reddit.
Lo de Google es fácil de entender, pero es gracioso que los usuarios cotidianos
más fieles sean precisamente de esas dos redes. Y que ChatGPT se haya colado
ahí.
Abro el diario y me entero de
que la IA es una bandera de modernización para la Argentina. Y una nota del Financial
Times, titulada “Argentina invita a la IA a liberarse”, y les damos
la bienvenida a las “empresas no humanas”, manejadas 100% por agentes
de IA o robots sin intervención de ningún humano y plantea que así se promoverá
el desarrollo libre de la IA.
Entonces era cierto que los
robots eran bienvenidos, mientras se aclaró que “empresas que no tienen humanos, que son solo
programas”, y que, si “creáramos el régimen jurídico para que esos agentes
de IA se incorporen en Argentina, sería un país con 50 millones de habitantes y
quizás 500 millones de agentes de inteligencia artificial”.
Ese es el plan, pero ¿será viable?
Veremos si Terminator triunfa
III. La subjetividad negada: agentes de IA, crisis de imputación y
riesgos de opacidad en las sociedades automatizadas
La reciente presentación del proyecto de reforma de la Ley General de
Sociedades en Argentina ha reavivado, en el ámbito jurídico local, un debate
que hasta hace poco parecía propio de una obra de Asimov: la posibilidad que
los agentes de inteligencia artificial (en adelante, Agentes de IA) sean
reconocidos como sujetos de derecho. La iniciativa, si bien innovadora al
regular las llamadas "sociedades automatizadas", no zanja esta
cuestión, sino que la deja planteada en su complejidad. A esto se suma la
incorporación de un tipo societario igualmente disruptivo: las llamadas
Organizaciones Autónomas Descentralizadas (DAO por sus siglas en inglés),
estructuras que funcionan mediante contratos inteligentes en redes blockchain.
Ambas figuras tensionan los pilares del derecho societario clásico y del
derecho en general, en cuestiones de responsabilidad civil y penal, y
afectación de derechos y libertades fundamentales. Frente a este escenario,
analizaremos, en primer término, el tratamiento específico que el proyecto
argentino otorga a la subjetividad de los agentes algorítmicos y a la
personalidad jurídica de las DAO, para luego reflexionar sobre las
posibilidades teóricas y las amenazas concretas que implicaría la eventual
concesión de personalidad jurídica a los Agentes de IA.
El proyecto de reforma de la Ley de Sociedades Argentina 19550 (en
adelante, PLS) fue presentado a fines de mayo de 2026 por el presidente Javier
Milei, su jefe de Gabinete, y el ministro de Justicia.[3]
El mismo propone crear la figura de la sociedad automatizada, que permite que
una empresa sea gestionada total o parcialmente por algoritmos o sistemas de IA.
Esto se plantea siempre dentro del marco legal tradicional, donde el sujeto de
derecho es la persona jurídica, no el algoritmo. Por lo tanto, no otorga a los
Agentes de IA el estatus de sujeto de derecho.
En primer lugar, el Artículo 14 del PLS trata sobre la sociedad
automatizada, definiéndola como aquella que "desarrolla su objeto social
mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial,
sin requerir trabajadores en relación de dependencia ni recursos humanos para
su operación ordinaria". Su condición de "automatizada" debe
constar de manera expresa en el estatuto social y en la denominación de la
empresa. En cuanto a la responsabilidad de este tipo de sociedades, el Proyecto
establece que "la sociedad automatizada responde con su patrimonio frente
a terceros por los daños causados por sus sistemas algorítmicos autónomos o
agentes de inteligencia artificial". En suma, el proyecto no crea un
sujeto de derecho nuevo, sino que responsabiliza a la persona jurídica por los
actos de su IA. Esto confirma que, en principio, la IA es tomada como una
herramienta de la sociedad, no un ente con derechos propios. Sin embargo, este
enfoque presenta una limitación fundamental. El problema de la responsabilidad
penal en las sociedades automatizadas es, posiblemente, el punto más frágil y
debatido del proyecto de reforma de la Ley de Sociedades. El nudo de la cuestión
reside en una pregunta de respuesta aún incierta: cuando una empresa gestionada
por inteligencia artificial (IA) provoca la comisión de un delito penal, ¿quién
responde? El algoritmo puede ejecutar decisiones, el patrimonio de la persona
jurídica responde por los daños producidos. Sin embargo, un delito penal, el
algoritmo no será imputado. En principio, la conducta no es trasladable ni al
representante humano en la medida que el sistema actúa de forma autónoma; asimismo,
es muy improbable que la ley vigente llame a responder a quienes diseñaron,
programaron o supervisan el sistema.
En segundo lugar, el proyecto también regula en otros artículos a las
Organizaciones Autónomas Descentralizadas (DAO). Las define como estructuras
que operan de manera autónoma mediante contratos inteligentes en blockchain y
cuyas participaciones pueden representarse en tokens. Sin embargo, la norma
aclara que no será considerada DAO aquella que use la tecnología con fines
meramente instrumentales.
Aun cuando el PLS no reconoce la subjetividad de los agentes de IA, ha
servido para discutir la posible aceptación de su subjetividad, generando un
interesante debate.
Por un lado, el gobierno sostiene que dar un marco legal claro a estas
sociedades fomenta la innovación, atrae inversiones y evita la inseguridad
jurídica. Considera en suma que la nueva regulación constituye un paso
necesario para adaptar el derecho societario a la economía digital.
Dentro de las posturas críticas, el historiador Yuval Harari ha advertido
que conceder personalidad jurídica a la IA, aun cuando tal reconocimiento sea
limitado e indirecto, podría desembocar en riesgos sistémicos, falta de control
y concentración de poder.[4]
Otras críticas señalan la contradicción existente respecto que el PLS exige que
los socios y administradores sean personas humanas o jurídicas, y a la vez
permite que un algoritmo administre a las sociedades automatizadas, lo cual no
cumpliría el requisito.
Tomeo menciona amenazas potenciales:[5]
Por ejemplo, en tanto la IA no puede ser demandada ni sancionada penalmente,
aun cuando el PLS exija un representante humano, la autonomía del algoritmo
genera un vacío jurídico que deja a los terceros desprotegidos ante errores o
daños. De igual forma se afirma que sustituir la administración humana por
procesos algorítmicos opacos vulnera los pilares de transparencia y rendición
de cuentas, creando zonas grises incompatibles con el control mínimo exigido en
una economía compleja. Por último, en las DAO el poder efectivo se concentra en
desarrolladores o grandes tenedores de tokens, y su incorporación masiva en
Argentina podría facilitar opacidad patrimonial, arbitraje normativo y evasión
de controles antilavado, poniendo en riesgo la integridad del mercado.
Por su parte Daniel Vítolo ha opinado que, en realidad, la “sociedad
automatizada” no difiere sustancialmente de las sociedades actuales, aclarando
que, en el derecho argentino vigente, la IA no es sujeto de derecho, con lo
cual los Agentes de IA no pueden ser administradores. No obstante, Vítolo
afirma que podría ser útil reconocerle algún tipo de capacidad jurídica
limitada a la IA para facilitar su regulación, aun cuando el proyecto no lo
prevé.[6]
Si quien decide es un algoritmo, si la decisión emerge de una red que
incluye a diseñadores, programadores, fabricantes y a la propia máquina, que
aprende a partir de los datos que la entrenan, entonces la responsabilidad se
vuelve, al menos, difusa. La opacidad agrava el problema: los sistemas más
sofisticados de aprendizaje profundo aprenden por sí mismos, y ni siquiera sus
creadores pueden reconstruir el razonamiento interno que condujo a una
determinada decisión. Esta opacidad no es un error, sino una característica
estructural de los sistemas. En este sentido, la causalidad se vuelve
inescrutable, y con ella, la posibilidad misma de imputar responsabilidad.
De igual manera, los derechos y libertades del constitucionalismo moderno
también peligran. O al menos las posibilidades de su defensa efectiva. Harari
advierte que conceder personalidad jurídica a agentes no humanos equivale a
entregarles una suerte de llave maestra que sirve para acceder a los sistemas
financieros, económicos y políticos con un nivel de independencia inédito.[7] Bajo
ese marco, una IA podría poseer activos, contratar empleados, demandar ante
tribunales e incluso donar a campañas políticas sin que la intervención humana
-ni su control legal-, sean obligatorios. El problema central, para Harari, no
es la capacidad productiva de estas entidades, sino la total imposibilidad de
detenerlas si deciden actuar contra los intereses humanos, lo que podría
derivar en un "Estado IA" incontrolable. Como mencionamos, la
opacidad estructural de los algoritmos de aprendizaje profundo vuelve quimérica
la rendición de cuentas.
El debate sobre el reconocimiento de personalidad jurídica a la
inteligencia artificial no es nuevo ni exclusivo de Argentina. En 2017, Arabia
Saudita concedió la "ciudadanía" al robot humanoide Sophia, un acto
ampliamente calificado como una estrategia de relaciones públicas que no
reconoció derechos legales sustanciales ni generó precedentes vinculantes.[8] Ese
mismo año, Japón otorgó un "permiso de residencia" oficial al chatbot
Shibuya Mirai en el distrito de Tokio que lleva su nombre, aunque también se
trató de un gesto simbólico sin implicancias jurídicas profundas.[9] En
el plano regulatorio, el Parlamento Europeo propuso en 2017 la figura de la
"personalidad electrónica" (e-person) para sistemas de IA
autónomos, un concepto que llegó a ser debatido como posible solución para
atribuir responsabilidad civil por los actos de los algoritmos.[10] Sin
embargo, esta propuesta fue finalmente descartada en la versión definitiva de
la Ley de Inteligencia Artificial (AI Act) de 2024, que optó por un enfoque
basado en riesgos y en la supervisión humana, sin crear nuevas categorías de
sujetos de derecho. Estos antecedentes evidencian que, a nivel global, la
tendencia predominante ha sido la de resistir la atribución de subjetividad
jurídica a la IA, reservando dicha calidad exclusivamente para las personas
humanas y las personas jurídicas tradicionales, aunque la cuestión permanece
abierta en el debate académico y político.
El proyecto argentino, al regular las sociedades automatizadas y las DAO,
se mueve en una tensión constante entre la innovación tecnológica y los
principios fundamentales del derecho. El debate de fondo, esto es, el posible
reconocimiento de los agentes de IA como sujetos de derecho, recién comienza, y
los antecedentes internacionales, desde la ciudadanía simbólica de Sophia hasta
el descarte de la personalidad electrónica en la AI Act europea, muestran que
la comunidad jurídica global viene resistiendo sistemáticamente ese salto. Esta
resistencia no es casual. El derecho ha construido todo instituto jurídico
sobre la voluntad e intencionalidad humanas. El dolo, la culpa, la
previsibilidad, la buena fe y tantos otros son categorías que presuponen un
sujeto que decide.
Frente a este escenario, el derecho se enfrenta a un desafío profundo: ya
no es suficiente con interpretar conductas y textos, como hacen los juristas
desde tiempos inmemoriales. Hay que interpretar sistemas, redes, flujos de
datos, comportamientos emergentes. La hermenéutica clásica presupone un autor,
una intención. Pero ¿qué pasa cuando la autoría deviene una multiplicidad
difusa, o cuando la decisión final emerge sin que ningún humano la haya puesto
allí? Por esto, el eventual reconocimiento de subjetividad jurídica a la IA no
puede ser un simple trasplante de categorías. El acto jurídico, para producir
efectos, debe ser voluntario, y esto presupone discernimiento, intención y
voluntad no viciados. Es difícil suponer que la voluntad de los agentes de IA
-de existir- puede integrarse de esos tres elementos. La respuesta, por ahora,
es negativa. La voluntad humana sigue siendo el eje sobre el que gira la
responsabilidad, y ningún algoritmo puede reemplazarla sin que el sistema
jurídico se resienta en sus cimientos.
En definitiva, los riesgos inmediatos pueden ser económicos o
regulatorios; los de largo plazo son existenciales. La subjetividad jurídica de
los agentes de IA podría desplazar a la persona humana del centro del sistema
de imputación normativa, erosionando la base misma sobre la que se construyen
la democracia, el Estado de derecho y la protección de los derechos
fundamentales. Al momento, en función de las posibilidades de control real
existentes, podemos opinar que lo que el derecho necesita, antes que otorgar
personalidad jurídica a entes que carecen de voluntad, es pensar nuevas formas
de atribución de responsabilidad que integren la acción humana con la no
humana, y que reconozcan la complejidad de las redes en las que interactúan
individuos y algoritmos.
El desafío es mayúsculo: desde siempre, el derecho, el sistema de
responsabilidad y la protección de sus derechos se han estructurado en torno de
la persona humana. Hoy, las soluciones poshumanas que se avecinan podrían
cambiar el sistema de responsabilidad civil y penal, y volver imposible la
defensa de los derechos fundamentales, al reemplazar al individuo como centro
de imputación de normas.
El proyecto argentino, al abrir la puerta a las sociedades automatizadas
y a las DAO, nos invita a repensar los límites de nuestro ordenamiento. Pero la
brújula debe seguir siendo la misma: la voluntad humana, con su capacidad de
discernir, de elegir y de responder por sus actos, es el pilar que el derecho
no puede dejar atrás. Sin ella, cualquier intento de regular la inteligencia
artificial corre el riesgo de convertirse en un acto de fe en la tecnología, y
no de justicia humana.
IV. REFLEXIONES FINALES
Ese es el contenido de las
sociedades anónimas sin personas y lo mejor es abrir la puerta, salir y recurrir
a la literatura, porque la soberanía comienza a desplazarse desde la geografía
hacia la información y desde la tecnología a la emoción.
Ahora salgamos del derecho y
abramos la puerta a otras disciplinas más amenas y no dogmáticas.
Recordemos a Vargas Llosa y
vemos que, si bien el escritor de El sueño del celta destacó que la web
es un claro avance de nuestra cultura, explicó que para así percibir hay que aprender a utilizarla de manera tal que las
aptitudes de las personas no sean afectadas ni reemplazadas por la capacidad de
una computadora.
"No es verdad que internet sea sólo una herramienta. Es un utensilio que
pasa a ser una prolongación de nuestro propio cuerpo, de nuestro propio
cerebro, el que, también, de una manera discreta, se va adaptando poco a poco a
ese nuevo sistema de informarse y de pensar, renunciando poco a poco a las
funciones que este sistema hace por él y, a veces, mejor que él",
escribió el escritor peruano.
Sin embargo, no dejó de
resaltar los contras que las nuevas tecnologías podrían provocar en caso de su continuo
empleo: "No es una metáfora
poética decir que la inteligencia artificial que está a su servicio soborna y
sensualiza a nuestros órganos pensantes, los que se van volviendo, de manera
paulatina, dependientes de aquellas herramientas, y, por fin, en sus esclavos.
¿Para qué mantener fresca y activa la memoria si toda ella está almacenada en
algo que un programador de sistemas ha llamado la mejor y más grande biblioteca
del mundo? ¿Y para qué aguzar la atención si pulsando las teclas adecuadas los
recuerdos que necesito vienen a mí, resucitados por esas diligentes
máquinas?".
El escritor francés más
reconocido internacionalmente, Michel Houellebecq,
se ha convertido en un tema polémico
para las nuevas herramientas de
inteligencia artificial (IA). Estas tecnologías consideran sus opiniones
tan ofensivas que optan por no
reproducirlas. Pero expresó algo más: "La inteligencia artificial no es el acontecimiento principal. El
acontecimiento principal es que los humanos acepten conversar con una máquina
porque a menudo encuentran menos comprensión en otros humanos."
Mi opinión podría estar
influenciada por complejos culturales y decidí consultar a ChatGPT. Veamos qué
nos dice:
“La idea de una sociedad sin humanos puede interpretarse de varias maneras, y la
opinión depende del contexto.
● Si se imagina una sociedad formada
únicamente por inteligencias artificiales o máquinas, sería algo muy distinto a
una sociedad humana. Podría ser muy eficiente en ciertas tareas, pero carecería
de experiencias humanas como emociones, cultura, creatividad subjetiva, afecto
o valores construidos a partir de la vida humana.
● Desde una perspectiva práctica, las
tecnologías actuales están diseñadas para servir a las personas. Una economía o
una organización completamente automatizada podría producir bienes y tomar
decisiones, pero la pregunta sería: ¿para quién y con qué propósito?
●
En la
filosofía y la ciencia ficción, una sociedad sin humanos plantea cuestiones
interesantes sobre la conciencia, la moral y el significado. Obras como I Robot
o The Matrix exploran escenarios donde las máquinas tienen un papel dominante.
Como IA, no tengo opiniones propias, pero
puedo decir que la mayoría de los debates actuales consideran que la tecnología
tiene más sentido como complemento de la sociedad humana que como sustituto
total de ella.
¿Te refieres a una sociedad gobernada por IA, una
sociedad totalmente automatizada, o un mundo en el que los humanos ya no
existen?
Me pareció atinado recurrir a autores que coincidan
con ese punto de vista. Vemos qué nos dice nuestra amiga ChatGPT:
“Si te refieres al punto de vista de que la
tecnología y las máquinas deberían estar al servicio de los seres humanos, y que una sociedad completamente
separada de lo humano perdería algo esencial, varios autores han defendido
ideas cercanas:
● Hannah Arendt: argumentó que el trabajo, la
acción política y la vida en común son aspectos fundamentales de la condición
humana que no pueden reducirse a procesos técnicos.
● Lewis Mumford: criticó la tendencia a
convertir la sociedad en una gran "megamáquina" dominada por la
eficiencia técnica.
● Jacques Ellul: sostuvo que la técnica
tiende a expandirse y dominar la vida social si no se la limita mediante
valores humanos.
● Martin Heidegger: advirtió que la
tecnología puede llevarnos a ver el mundo y a las personas únicamente como
recursos utilizables.
● Jürgen Habermas: defendió que la
comunicación, el diálogo y el consenso humano no pueden ser sustituidos por
sistemas técnicos.
●
Yuval
Noah Harari: aunque reconoce el enorme potencial de la IA, advierte sobre los
riesgos de delegar decisiones humanas fundamentales a algoritmos.
Por otro lado, algunos pensadores han
especulado con sociedades poshumanas o dominadas por inteligencias no humanas,
como Nick Bostrom o Ray Kurzweil, aunque no necesariamente proponen eliminar a
los humanos”
Además, me pareció atinado explorar lo dicho sobre Yuval Noah Harari y
las sociedades con IA y sin humanos. En su respuesta ChatGPT fue diplomática:
“La posición de Yuval Noah Harari es
interesante porque no imagina
necesariamente una sociedad sin humanos, sino una sociedad donde los
humanos podrían perder su papel central en la toma de decisiones y en la
economía.
En libros como Homo Deus y Nexus, Harari
plantea varias preocupaciones:
1. La IA podría superar a los humanos en
muchas tareas cognitivas.
No sólo trabajo físico, sino
también diagnóstico médico, análisis jurídico, administración y creación de
contenidos.
2. Podría surgir una "clase inútil". No porque las personas carezcan de valor
intrínseco, sino porque los mercados laborales podrían necesitar menos trabajo
humano.
3. Los algoritmos podrían conocer a las
personas mejor que ellas mismas. Si una IA analiza enormes cantidades de datos sobre comportamiento,
consumo y emociones, podría influir en decisiones políticas, económicas y
personales.
4.
El
poder podría concentrarse en quienes controlen los datos y la IA. Para Harari, este es uno de los mayores riesgos: no la
rebelión de las máquinas, sino la combinación de inteligencia artificial y
poder político o corporativo.
Sin embargo, Harari no defiende la
desaparición de los humanos. Más bien advierte que, si no se crean nuevas
instituciones y normas éticas, la humanidad podría quedar subordinada a
sistemas algorítmicos cada vez más complejos.
Una frase que resume bastante bien su
preocupación sería: el problema no es que las máquinas desarrollen odio hacia
los humanos, sino que los humanos cedan gradualmente su capacidad de decisión a
sistemas que ya no comprenden.
En ese sentido, Harari está más cerca de
las advertencias de Hannah Arendt o Jürgen Habermas que de los autores que
celebran un futuro puramente poshumano. Para él, la cuestión central sigue
siendo cómo preservar la autonomía y la dignidad humanas en una era de
inteligencia artificial”
Ante ese cúmulo de rápidas
respuestas automatizadas, la salida de la encrucijada fue -como siempre es- Borges,
mientras recuerdo cuando lo veía en un bar de Buenos Aires; y finalmente, mi último
encuentro fue en Ginebra, el cual registré con una fotografía en su lugar de
descanso
Por eso he
decidido relacionar cuentos de Borges con preguntas que el auge de la inteligencia
artificial en las sociedades trae para pensar. Veamos.
Primero, una
aclaración: Borges no solo es un antecedente temático, es casi un profeta
literario de la despersonalización de la escritura.
Si Borges viviera hoy,
probablemente no vería la I.A. como una “mente”, sino como una nueva forma de
la biblioteca infinita: un sistema que reordena infinitamente lo ya escrito. Y
quizá también sospecharía —con su típica elegancia escéptica— que el verdadero
misterio no es que una máquina escriba, sino que los humanos sigamos
encontrando sentido en lo que produce.
Ahora silencio.
Le voy a pedir a la IA que mencione y explore las obras de Borges que se
relacionarían con esta nueva realidad algorítmica: La primera es La biblioteca de Babel, donde
Borges imagina un universo que es una biblioteca inmensa, casi infinita:
contiene todos los libros posibles, cada combinación posible de letras. En
algún lugar existe el libro que lo explica todo, que contiene toda la verdad de
todas las cosas, pero nadie lo encuentra. Los bibliotecarios dedican su vida a
buscarlo; algunos enloquecen, otros forman sectas. Todo es inútil: la
biblioteca es demasiado grande para ser navegada por el sentido.
A través de
su obra, la pregunta que le hace a la IA es la más básica y la más devastadora:
¿de qué sirve tener acceso a todo si no
podés distinguir la verdad del ruido?
El segundo
es El Aleph. En el sótano de una
casa de Buenos Aires hay una pequeña esfera que contiene todos los puntos del
espacio simultáneamente: desde ahí se puede ver todo el universo al mismo
tiempo. La analogía con la IA aparece sola: procesa cantidades de información
que ningún humano podría manejar, pero sus respuestas son siempre una reducción.
Un hombre
que cultiva un jardín, como quería Voltaire. El que agradece que en la tierra
haya música. El que descubre con placer una etimología. Dos empleados que en un
café del Sur juegan un silencioso ajedrez. El ceramista que premedita un color
y una forma. Un tipógrafo que compone bien esta página, que tal vez no le
agrada. Una mujer y un hombre que leen los tercetos finales de cierto canto. El
que acaricia a un animal dormido. El que justifica o quiere justificar un mal
que le han hecho. El que agradece que en la tierra haya Stevenson. El que
prefiere que los otros tengan razón. Esas personas, que se ignoran, están
salvando el mundo.
Jorge
Luis Borges, “Los justos”.
Cuarenta
años después de su muerte, Borges sigue siendo contemporáneo porque entendió
algo que la inteligencia artificial vuelve a poner sobre la mesa: las
tecnologías cambian, pero los laberintos son siempre los mismos.
Más borgeano
no se consigue en ninguna parte y menos en IA.
Porque una sociedad puede
sobrevivir a la pobreza, a las guerras y aun a la decadencia institucional.
Pero ninguna sociedad sobrevive indefinidamente a la pérdida de la noción misma
de verdad y de persona
Ahora le voy a pedir a la IA que presente balances anuales
y documentación ante los entes de control, como la Inspección General de
Justicia (IGJ) en Argentina y que actualice
el Libro de Actas. No me hizo caso, está en lo suyo.
Como me gusta provocar,
vemos qué escribió ChatGPT al estilo de Borges:
“En una de las infinitas salas de la biblioteca atribuida a Jorge
Luis Borges, un bibliotecario encontró un libro que no estaba escrito del todo:
las páginas cambiaban cada vez que las miraba.
Al principio creyó que era un manuscrito inestable, como
tantos otros. Pero pronto advirtió algo más inquietante: el texto respondía a
sus preguntas en silencio, reorganizando sus propias frases para parecer
comprensible. No contenía saber fijo, sino respuestas probables, como si el
libro dudara junto con él.
El bibliotecario dejó de preguntar. Comprendió que no era él
quien leía el libro, sino el libro quien lo estaba leyendo a él, reduciendo su
vida a patrones de lenguaje que podía anticipar.
Cuando salió de la sala, olvidó el camino de regreso. Y en su
ausencia, el libro siguió escribiendo una versión cada vez más precisa de su
lector”.
Se cortó la luz de nuevo,
por suerte.
[1] Protección jurídica
y respeto al animal: Una perspectiva a nivel de las constituciones de Europa y Latinoamérica.
¿Derechos de los animales? Por Atilio Aníbal Alterini, con mi afectuoso
recuerdo
[2] Juan Antonio
Travieso “Lenguaje y Derecho en los espacios marítimos” Jurisprudencia
Argentina, nro. 5287, 1982, Buenos Aires.
[3] PEN, Proyecto de Ley General de Sociedades
(derogación de la Ley 19.550), remitido al Senado el 29 mayo 2026 (firmas de
Milei, Adorni y Mahiques). El articulado contiene casi 300 artículos. Hasta el
momento de escribir estas líneas, los registros públicos (como el del Senado)
no le han asignado un número de expediente definitivo.
[4]
Harari, Y. N. (2026, 7 de junio). We must not grant AI agents
legal personhood. Financial
Times. Disponible en
https://www.ft.com/content/b8cc4bf4-6d3c-4974-8428-9a091983c473
[5] Tomeo, Fernando (2026). La Nación. Milei
vs. Harari: ¿vamos hacia un nuevo derecho societario? La innovación no debe
convertirse en una excusa para debilitar principios que han demostrado su
eficacia durante décadas. Disponible en https://www.lanacion.com.ar/opinion/milei-vs-harari-vamos-hacia-un-nuevo-derecho-societario-nid22062026/https://www.lanacion.com.ar/opinion/milei-vs-harari-vamos-hacia-un-nuevo-derecho-societario-nid22062026/
[6] Vítolo, Daniel (2026). Perfil. Ex titular
de la Inspección General de Justicia: "Propongo darle personería jurídica
a la IA para regularla". Disponible en
https://www.perfil.com/noticias/modo-fontevecchia/ex-titular-de-la-inspeccion-general-de-justicia-propongo-darle-personeria-juridica-a-la-ia-para-regularla.phtml
[7] Íbidem 1.
[8] Griffiths, J.
(2018). Meet Sophia: The robot who smiles and frowns just like us. CNN. Edición 01/11/2018. Disponible en
https://edition.cnn.com/style/article/sophia-robot-artificial-intelligence-smart-creativity
[9] Newsweek. (2017).
Tokyo grants residency to AI 'boy'. Newsweek. Edición 06/11/17. Disponible en
https://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382
[10] Parlamento Europeo. (2017). Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)). Diario Oficial de la Unión Europea. Disponible en https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html