El Tribunal Constitucional de Colombia acaba de una sentencia que representa un hito a nivel mundial.
En la Sentencia T-323/2024, que dejo enlazada aquí, establece las pautas para el uso de la inteligencia artificial generativa en la fundamentación de las resoluciones judiciales en Colombia. La sentencia fue emitida el 2 de agosto de 2024 por la Sala Segunda de Revisión, con ponencia del magistrado Juan Carlos Cortés González.
El caso
Se trató de una acción de tutela promovida por una madre en nombre de su hijo menor con trastorno del espectro autista (TEA) contra una EPS, por temas de copagos, cuotas moderadoras, transporte y tratamiento integral. El juez de segunda instancia hizo uso de ChatGPT 3.5 para fundamentar su decisión, que dejo enlazada aquí.
El Tribunal Constitucional analizó si existió una posible vulneración de derechos, en el sentido de si la decisión fue debidamente motivada o si fue producto de alucinaciones y sesgos generados por la inteligencia artificial. Finalmente, confirmó la sentencia recurrida con pequeños matices que no afectan sustancialmente a la motivación deducida en segunda instancia.
El Tribunal Constitucional admite el uso de la inteligencia artificial generativa como herramienta de apoyo (complementaria, no sustitutiva), de modo que la IA no reemplace la racionalidad humana ni la autonomía del juez. No obstante, establece una serie de pautas, empezando por «exhortar a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia».
En el uso de la inteligencia artificial generativa, los funcionarios aplicarán los principios de:
- Transparencia (debe revelarse el uso de IA y qué consultas se hicieron).
- Responsabilidad (el juez responde por el contenido final).
- Control humano efectivo (la decisión es del juez, no de la máquina).
- No sustitución de la racionalidad humana.
- Verificación rigurosa (evitar alucinaciones, sesgos o información falsa).
- Prevención de riesgos.
- Privacidad y protección de datos.
- Igualdad y no discriminación.
- Adecuación a estándares éticos y buenas prácticas.
- Seguimiento y adaptación continua.
- Idoneidad y proporcionalidad.
El Tribunal Constitucional ordena «al Consejo Superior de la Judicatura que, en el término de cuatro meses, contados a partir de la notificación de esta providencia, divulgue una guía, manual o lineamiento en relación con la implementación de la inteligencia generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT» y ordena «al Consejo Superior de la Judicatura que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la resolución a todos los despachos judiciales del país, y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos».
El 5 noviembre 2025, la Corte Suprema de Justicia en la sentencia STC 17832-2025 anuló por primera vez una decisión judicial por basarse en citas falsas, recordando los riesgos de «alucinaciones» de IA no verificadas. Esto refuerza la necesidad de verificación humana estricta.
Conclusión
La inteligencia artificial generativa ha llegado para quedarse y los tribunales de justicia no son ajenos a la realidad, pero deben actuar con cautela, no en vano, el uso no contrastado del contenido generado puede dar lugar a resoluciones injustas, ya sea por error en las fuentes empleadas o por sesgos causados por quien entrena al algoritmo.
