Fallo histórico: jueces podrán usar ChatGPT, pero nunca ser reemplazados

La Corte Constitucional emite el primer fallo sobre inteligencia artificial en la justicia, y dice que, aunque no se puede sustituir al juez, el Consejo Superior de la Judicatura deberá, en un tiempo máximo de cuatro meses, crear un lineamiento sobre el uso de ChatGPT en la Rama Judicial.

La decisión fue tomada por el alto tribunal, luego de escoger para su estudio una tutela presentada por la madre de un menor de edad contra una EPS para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas, debido a la negativa de la entidad de garantizarle un tratamiento integral al menor, sin costo.

La tutela, en un principio, fue fallada por un juez de Cartagena con ayuda de ChatGPT, al estudiar una apelación interpuesta por Salud Total, en la que alegaba que el niño no hacia parte de la población exenta para pagar la salud, sin embargo, con el respaldado de la Ley 2213 que incorpora las TIC en los procesos judiciales, el juez en segunda instancia le dio la razón al niño que padece de autismo y lo eximió de este pago.

Salud Total se mostró en desacuerdo con la decisión, señalando que el juez cometió varias irregularidades por apoyarse en la IA para tomar la decisión, por lo que el debate llegó a la Corte Constitucional.

Sobre la decisión:

La Corte Constitucional dividió el estudio del caso en dos grandes temáticas:

La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso debido al uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista.

Y la segunda, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.

Respecto a los derechos del menor, el alto tribunal encontró que sí fueron vulnerados, por lo que le ordenó a la EPS que, dentro del término de cuarenta y ocho horas realice todas las gestiones y trámites administrativos necesarios para que las IPS encargadas de la atención del niño apliquen: “sin demoras la exoneración de cobros de copagos y cuotas moderadoras, sin trasladar al niño y a su representante las consecuencias negativas de las eventuales faltas de comunicación entre las entidades del sistema”, puntualizó.

¿Se vulneró el debido proceso por usar ChatGPT?

Por otra parte, de manera histórica, la Corte dijo que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina.

Por lo que puntualizó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación.

La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso.

Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA.

Juez de Cartagena

En el caso puntual del juez de Cartagena, la Corte concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó esa IA luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas en la consulta.

De acuerdo con ello, no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta ChatGPT, pese a lo cual, al estudiar la forma en que se utilizó la herramienta, la Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.

La Corte impartió varias órdenes, como pedirle a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales: “en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia”, señaló el alto tribunal.