Inteligencia Artificial, Protección de Datos Personales y Justicia

La administración de justicia en el siglo XXI se enfrenta a una tensión dialéctica, la eficiencia algorítmica frente a la garantía de los derechos fundamentales. La justicia en la era digital no puede ser una justicia de “caja negra”.

En Ecuador, la Ley Orgánica de Protección de Datos Personales (LOPDP) nos exige que cualquier innovación, ya sea mediante sistemas predictivos o generativos, cumpla con el principio de transparencia y el derecho a la revisión humana, es decir que el tratamiento de datos en cualquier sistema de IA incluso en el sistema judicial sea lícito, leal y transparente. La “justicia automatizada” debe ser, ante todo, una justicia responsable.

Existen varios casos que nos detallan como la justicia está transitando del uso de herramientas de IA Generativa como medios de asistencia a la automatización o “juez robot”.

1. Colombia: El Caso del Juez Juan Manuel Padilla (2023)

En un fallo sin precedentes, un juez de Cartagena admitió haber utilizado ChatGPT para resolver una tutela relacionada con el derecho a la salud de un menor con autismo. El juez planteó preguntas jurídicas a la Aplicación  de IA Generativa sobre la exoneración de cuotas moderadoras en menores con discapacidad. Aunque el fondo del fallo fue correcto, la controversia radicó en el  alta de autonomía judicial y explicabilidad. El juez incluyó las transcripciones del chat en la sentencia, lo que abrió un debate sobre si la IA estaba “dictando” el derecho. La Corte Constitucional de Colombia ha sido clara, la IA puede ser un apoyo, pero la subjetividad jurídica es una facultad humana intransferible.

 “El uso de la IA no puede sustituir el razonamiento judicial ni la valoración de las pruebas por parte del juez” (Corte Constitucional de Colombia, 2024).

2. Argentina: El Sistema “Prometea” y la Automatización de Dictámenes

Argentina lidera con Prometea, una IA desarrollada por el Ministerio Público Fiscal de la CABA para automatizar procesos de baja complejidad. Prometea permite elaborar dictámenes en segundos mediante un sistema de preguntas y respuestas. Este sistema es un ejemplo de Privacidad desde el Diseño. No obstante, el desafío en Argentina ha sido evitar el “sesgo de confirmación”, donde el funcionario acepta ciegamente lo que el sistema propone sin verificar si el dataset de entrenamiento (jurisprudencia previa) contiene sesgos discriminatorios “falta de auditoría”.

3. Brasil: El “Prompt” Olvidado y la Resolución 615/2025

En la sentencia que absolvía a un hombre de 35 años por la violación de una niña de 12 años, el descuido de dejar el prompt de IA revela una delegación de la función cognitiva del juez.

El error del Juez Magid Nauef Láuar al dejar la instrucción “Ahora, mejore la exposición y la justificación de este párrafo”  (Sentencia TJ-MG, 25 de febrero de 2026) en una sentencia de violación, representa la quiebra absoluta de la supervisión humana.

Este caso demuestra una violación al principio de explicabilidad. Si el juez utiliza una IA para “mejorar” la fundamentación, el ciudadano ya no está siendo juzgado por un humano, sino por un modelo estadístico de lenguaje. Esto contraviene la Resolución CNJ Nº 615 de 2025 brasileña, la cual clasifica la producción de textos (Categoría BR4) como una actividad que exige supervisión humana absoluta. El riesgo reputacional es incalculable, la percepción de que la justicia es un “corte y pega” de ChatGPT socava la confianza en las instituciones. Es decir, se cuestiona la sustitución de la motivación humana por IA Generativa. La IA es para textos de apoyo, pero la versión final debe ser de autoría exclusiva del magistrado.

“É vedada a utilização de soluções de inteligência artificial que gerem dependência absoluta do usuário (…)” (CNJ Resolução 615).

La Resolución CNJ N° 615/2025 de Brasil establece una taxonomía de soluciones de IA:

• Categoría BR3 (Subsídios para a tomada de decisão): Permite análisis jurimétricos siempre que “no haya sustitución de la evaluación humana y que la solución no realice valoraciones de cuño moral sobre pruebas o sobre perfiles de personas”.
• Categoría BR8 (Anonimização): Uso vital para el cumplimiento de la privacidad, permitiendo la exhibición de sentencias sin vulnerar el sigilo de las partes.

4. Estados Unidos: El Caso Lenden Webb y Peter Kang (2026)

El 28 de abril de 2026, el Juez de Distrito de los EE. UU.,Peter H Kang, sancionó y multó a Lenden Webb, socio administrador de Webb Law Group, por no supervisar adecuadamente a una abogada principiante de su firma que presentó un escrito judicial que contenía una cita legal falsa “alucinación” (errores donde la IA inventa datos con apariencia de verdad). El dictaminó que Lenden Webb, como supervisor, falló en su deber de revisar el trabajo y estableció que la IA no exime de la debida diligencia.

“At minimum, a supervising lawyer should read and understand the content of any motion… and check citations to ensure their accuracy” (Reuters 2026)

Para las firmas legales y departamentos jurídicos en Ecuador, esto significa que el uso de IA Generativa  debe estar sujeto a un Protocolo de Verificación Humana. No verificar una cita “alucinada” por la IA se considera una falta a la buena fe procesal.

5. El Sistema COMPAS y el Sesgo Racial (EE. UU.): El Espejo de lo que no debe ser

COMPAS es un software desarrollado por la empresa Northpointe (ahora Equivant), utilizado en varios estados de EE. UU. (como Wisconsin y Florida) para predecir la probabilidad de que un acusado cometiera un nuevo delito en el futuro (reincidencia).

El sistema no “leía” el expediente judicial, sino que se basaba en un cuestionario de 137 preguntas respondidas por el acusado o extraídas de registros penales. Estas preguntas abarcaban desde antecedentes familiares hasta el historial de empleo y relaciones sociales. El resultado era una puntuación del 1 al 10 (donde 10 era el riesgo más alto), que los jueces utilizaban para decidir sobre fianzas, sentencias o libertad condicional. La controversia estalló cuando una investigación de ProPublica demostró que el algoritmo era racialmente sesgado. Al analizar los resultados, se encontraron patrones. El sistema calificaba a los acusados afroamericanos con un riesgo de reincidencia casi dos veces mayor que a los acusados blancos, a pesar de que los primeros no reincidían en la realidad. A los acusados blancos se les asignaba sistemáticamente un riesgo menor del real; es decir, el sistema predecía que no reincidirían cuando, en la práctica, sí volvían a delinquir.

Un aspecto crítico fue el caso Loomis V. Wisconsin (2016). Eric Loomis, sentenciado a seis años basándose en parte en su puntuación de COMPAS, impugnó el uso del software. Argumentó que, al ser un algoritmo de propiedad privada (secreto comercial), ni él ni su abogado podían auditar cómo se calculaba esa puntuación. La Corte Suprema de Wisconsin dictaminó que el uso de COMPAS no violaba el debido proceso, siempre que la puntuación no fuera el único factor para la sentencia, pero advirtió sobre sus limitaciones. Este es el punto donde la justicia colisiona con la opacidad técnica.

6.- Conclusiones

En Ecuador, bajo el Art. 41 de la LOPDP, la seguridad del tratamiento y la veracidad de la información son responsabilidad del Responsable del Tratamiento (en este caso, el despacho o la judicatura).

LaFunción Judicial para implementar IA deberá realizar Evaluaciones de Impacto (EIPD). No podemos usar datos sensibles de víctimas ni subirlas a nubes públicas de IA Generativa sin protocolos de anonimización. La gobernanza debe asegurar:

1. Transparencia: El ciudadano debe saber si se usó IA en su proceso.
2. Impugnabilidad: Derecho a la revisión por un juez humano (Art. 20 LOPDP).
3. Seguridad: Evitar que los datos judiciales reentrenen modelos comerciales.

Estos casos analizados a la luz de la normativa de Protección de Datos Personales  ecuatoriana revelan una disconformidad con el contenido del Art. 20 de la LOPDP (Decisiones Valorativas Automatizadas). Por ejemplo, si un sistema de IA Generativa judicial en Ecuador se alimentara de datos históricos sesgados, estaríamos automatizando la discriminación, vulnerando el derecho a la igualdad ante la ley.

La Inteligencia Artificial es una herramienta potente para la celeridad, pero la justicia es un acto de humanidad. Casos como los de Brasil y EE. UU. nos alertan que la eficiencia nunca debe sacrificar la probidad. En Ecuador, debemos caminar hacia una “Justicia Digital Garantista”, donde el algoritmo sea la pluma, pero el juez siga siendo la conciencia detrás de la sentencia.

• Institucionalización del “Human-in-the-loop”: Ningún borrador generado por IA puede publicarse sin una declaración expresa de revisión humana.
• Transparencia Algorítmica: El derecho a saber “por qué” decidió la máquina es una extensión del derecho a la defensa.
• Capacitación Crítica: Los jueces no necesitan ser programadores, pero sí deben ser capaces de detectar los sesgos y las “alucinaciones” de la tecnología.

La justicia es un acto de humanidad. La IA puede darnos velocidad, pero solo el ser humano puede darnos justicia.