Juez de Cali apartado de caso tras usar inteligencia artificial para redactar condena prematuramente
La Sala de Decisión de Tutelas de la Corte Suprema de Justicia tomó una decisión histórica al revocar un fallo emitido por un juez del Tribunal Superior de Cali, quien habría utilizado un sistema de inteligencia artificial para redactar la condena de un caso incluso antes de que concluyera el juicio y sin haber escuchado los alegatos finales de las partes.
La decisión de la Corte Suprema y sus implicaciones
En un hecho sin precedentes en la justicia colombiana, la Corte Suprema determinó que el juez había solicitado a una herramienta de IA la redacción completa de la condena, vulnerando derechos fundamentales del proceso. La sentencia original declaraba improcedente el amparo constitucional solicitado por Osbert Orozco Pérez, pero la Corte Suprema ordenó "conceder el amparo de sus derechos fundamentales al debido proceso y a un juicio imparcial", enfatizando que el fallo judicial debe responder exclusivamente al raciocinio humano.
Además del revocamiento, la Corte exhortó formalmente al Juzgado 7° Penal del Circuito de Cali para que, en caso de utilizar herramientas de inteligencia artificial en actuaciones judiciales futuras, lo haga "con estricta sujeción a los lineamientos, prohibiciones y principios" establecidos en el Acuerdo PCSJA24-12243, documento que regula el uso de tecnologías emergentes en la administración de justicia.
¿Qué establece la ley colombiana sobre el uso de IA en tribunales?
Fernán Ocampo, experto en inteligencia artificial y CEO de Linktic, explicó a Noticias Colombia que "en 2024, con la sentencia 323 de la Corte Constitucional, se establecieron límites claros sobre cuándo y cómo un juez puede utilizar inteligencia artificial". Esta jurisprudencia determinó que:
- La racionalidad humana y el criterio judicial no pueden ser sustituidos durante la valoración probatoria
- La emisión de fallos definitivos debe ser exclusivamente humana
- La IA es un medio de apoyo, nunca un fin en sí mismo
Ocampo destacó que "la herramienta es un medio, nunca es un fin" y aunque "la IA puede utilizarse para muchas funciones auxiliares, nunca podrá reemplazar la racionalidad humana en decisiones judiciales". El experto señaló que en este caso específico "la IA hizo todo y reemplazó completamente el criterio del juez, al punto que tuvieron que sacarlo del caso", constituyendo una advertencia para toda la judicatura colombiana.
Usos permitidos y riesgos de la inteligencia artificial en justicia
Según la normativa vigente y la jurisprudencia constitucional, la inteligencia artificial puede emplearse en procesos judiciales siempre que:
- Se respeten las buenas prácticas establecidas
- Se garantice plenamente la protección de derechos fundamentales
- Su uso resulte pertinente y proporcional al objetivo buscado
Fernán Ocampo detalló las aplicaciones adecuadas: "La IA puede generar resúmenes de expedientes, agrupar jurisprudencia relevante, buscar sentencias sobre temas específicos para ahorrar tiempo y hacer más eficiente la administración de justicia". Sin embargo, advirtió sobre sus limitaciones: "Recordemos que la IA también comete errores, 'alucina' como decimos técnicamente, y puede generar información inexacta o sesgada".
El experto hizo un llamado a la capacitación judicial: "Todos los medios tecnológicos son valiosos, pero el riesgo está en no saber manejarlos. Por eso el Consejo Nacional de la Judicatura realiza esfuerzos importantes de formación. Cualquier herramienta mal utilizada representa un peligro, especialmente en procesos donde está en juego la presunción de inocencia".
Este caso establece un precedente crucial sobre los límites éticos y legales del uso de tecnologías emergentes en el sistema judicial colombiano, reafirmando que la inteligencia artificial debe servir como apoyo a la labor judicial, nunca como sustituto de la deliberación humana en decisiones que afectan derechos fundamentales.
