Inteligencia Artificial y Constitución: ¿quién responde cuando decide un algoritmo?

by Constitucionalista.net · August 28, 2026

La inteligencia artificial ya interviene en decisiones relacionadas con crédito, empleo, servicios públicos, salud, seguridad y justicia. El problema constitucional no aparece únicamente cuando una máquina sustituye completamente a una persona.

También aparece cuando un funcionario, empresa o autoridad conserva formalmente la decisión final, pero en la práctica depende de una puntuación, clasificación o recomendación producida por un sistema automatizado.

La pregunta es sencilla, pero sus consecuencias jurídicas son profundas: ¿quién responde cuando una decisión algorítmica afecta los derechos de una persona?

Constitucionalista Research ha publicado el Research Paper 001: “Inteligencia Artificial y Constitución: ¿Quién responde cuando el algoritmo toma una decisión sobre un ciudadano?”

El estudio compara el desarrollo jurídico de la Unión Europea, Estados Unidos y América Latina, examinando especialmente el debido proceso, la explicación de decisiones automatizadas, la supervisión humana, la discriminación algorítmica, el derecho de impugnación y la responsabilidad jurídica.

Una firma humana puede no ser suficiente

Uno de los problemas centrales identificados en la investigación es la supervisión humana meramente formal. Puede existir una persona encargada de confirmar una decisión y, sin embargo, carecer de capacidad real para comprender, cuestionar o rechazar el resultado producido por la inteligencia artificial.

La investigación propone que la verdadera intervención humana exige al menos tres elementos: comprensión suficiente del resultado, autoridad efectiva para apartarse de él y responsabilidad por la decisión final.

¿Quién responde?

Las decisiones automatizadas pueden involucrar una cadena completa de actores:

desarrollador → proveedor → institución → funcionario → ciudadano

Cada uno puede tener responsabilidades diferentes. Pero la multiplicidad de participantes no debería producir un resultado en el que nadie responda frente a la persona afectada.

Una propuesta constitucional

El paper formula como contribución central el Principio de Responsabilidad Constitucional No Delegable:

Cuando un sistema automatizado o de inteligencia artificial participa materialmente en una decisión que afecta derechos fundamentales, intereses jurídicamente protegidos o condiciones esenciales de una persona, debe permanecer identificable una persona física o institución jurídica con autoridad efectiva para explicar, revisar, corregir y responder por esa decisión.

La inteligencia artificial puede asistir al poder. Puede automatizar análisis. Puede recomendar. Puede aumentar considerablemente la eficiencia. Pero la utilización de tecnología no puede convertirse en un mecanismo para hacer desaparecer la responsabilidad jurídica.

Seis garantías frente a una decisión algorítmica

El estudio identifica seis garantías que deberían acompañar las decisiones automatizadas de alto impacto: legalidad; transparencia y explicación; igualdad y no discriminación; intervención humana significativa; posibilidad efectiva de impugnación y revisión; y responsabilidad acompañada de un remedio efectivo.