Nulidad por "alucinaciones" de IA: Cuando el Juez inventa jurisprudencia con ChatGPT
📌 Resumen Exprés
- 📰 Hechos: Un juzgado penal condenó a un ciudadano por delitos sexuales agravados. Al revisar la apelación, el Tribunal detectó que la sentencia citaba fallos de la Corte Suprema inexistentes.
- 🌐 Controversia: ¿Es válida una sentencia motivada con argumentos y citas generadas irresponsablemente por Inteligencia Artificial (IA)?
- ❌ Error Detectado: La Juez de primera instancia fundamentó su decisión en "alucinaciones" de IA: números de radicado inventados (ej. SP16154-2016) y citas textuales falsas que no correspondían a la realidad jurídica.
- ✅ Decisión: DECRETA LA NULIDAD de la sentencia por falsa motivación (motivación sofística) y ordena compulsar copias disciplinarias contra la funcionaria por sustitución de la labor judicial.
El procesado, L.A.C.F., fue condenado en primera instancia por acceso carnal con incapaz de resistir agravado. La víctima, Y.G.P., una mujer con discapacidad física, denunció los hechos. La defensa apeló la condena alegando dudas probatorias e inconsistencias en los testimonios.
Sin embargo, al estudiar el caso, el Tribunal Superior de Bogotá notó algo alarmante: la sentencia de primera instancia estaba "muy bien redactada" pero sustentada en jurisprudencia fantasma. Citas como "CSJ SP414-2023" o "SP2483-2020" no existían o su contenido real no tenía relación con lo citado. El Tribunal concluyó que la juez delegó su razonamiento a una herramienta de IA sin supervisión, incorporando errores garrafales que viciaron la validez del fallo.
📌 Criterio Jurisprudencial Vigente
Uso de IA y Motivación (Sentencia T-323 de 2024): La Corte Constitucional permite el uso de IA como apoyo a la gestión judicial, pero prohíbe rotundamente la sustitución de la racionalidad humana. El juez debe verificar rigurosamente la información generada.
Falsa Motivación (Motivación Sofística): Fundamentar una decisión en normas o jurisprudencia inexistente ("alucinaciones" de la IA) configura un defecto de motivación que acarrea la nulidad del fallo, pues impide el ejercicio real de contradicción y defensa (CSJ SP2956-2018).
Deber de Verificación: El Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura obliga a los funcionarios a prescindir de la IA para la valoración probatoria o solución de problemas jurídicos si no pueden verificar la fuente y veracidad de los datos.
Análisis Estratégico: Cuando la tecnología atropella el derecho
1. Las "Alucinaciones" de la IA como vicio de nulidad
El Tribunal identificó un patrón claro de uso irresponsable de IA Generativa (tipo ChatGPT). La sentencia apelada citaba con seguridad:
- Radicados falsos: "CSJ SP16154-2016", "SP2483-2020", "SP567-2022". Ninguna de estas sentencias existe en los repositorios oficiales.
- Contenido inventado: Atribuía a sentencias reales (como la SP1492-2022) textos y reglas sobre congruencia o valoración de prueba que no aparecen en el documento original.
- Doctrina fantasma: Citaba libros inexistentes de autores reconocidos (Fernando Velásquez).