El Tribunal Constitucional de Colombia acaba de resolver un caso sin precedentes a nivel mundial.
En la Sentencia T-323/2024, que dejo enlazada aquí, el Tribunal Constitucional de Colombia establece las pautas para el uso de la inteligencia artificial generativa en la fundamentación de las resoluciones judiciales.
En el caso objeto de estudio, el Juez de segunda instancia hizo uso de ChatGPT para fundamentar su decisión, que dejo enlazada aquí. El Tribunal Constitucional analiza si existió una posible vulneración de derechos, en el sentido de si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la inteligencia artificial. Termina confirmando la sentencia recurrida, con pequeños matices que no afectan sustancialmente a la motivación deducida en segunda instancia.
El Tribunal Constitucional no descarta de plano el uso de la inteligencia artificial generativa, si bien establece una serie de pautas sobre su uso, empezando por «exhortar a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia»
En consecuencia, en el uso de la inteligencia artificial generativa, los funcionarios aplicarán los principios de: (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
El Tribunal Constitucional ordena «al Consejo Superior de la Judicatura que, en el término de cuatro meses, contados a partir de la notificación de esta providencia, divulgue una guía, manual o lineamiento en relación con la implementación de la inteligencia generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT» y ordena «al Consejo Superior de la Judicatura que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la resolución a todos los despachos judiciales del país, y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre
el uso de la inteligencia artificial en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos».
Conclusión
La inteligencia artificial generativa ha llegado para quedarse y los tribunales de justicia no son ajenos a la realidad, pero deben actuar con cautela, no en vano, el uso no contrastado del contenido generado puede dar lugar a resoluciones injustas, ya sea por error en las fuentes empleadas o por sesgos causados por quien entrena al algoritmo.
