“Inteligencia artificial no tiene agencia moral”: abogado sobre su uso en la justicia

En los micrófonos de La W, el profesor Juan David Gutiérrez , quien es asociado de la Escuela de Gobierno de la Universidad de Los Andes y consultor ante la ONU en asuntos de Inteligencia Artificial (IA) en la justicia, se pronunció acerca de la histórica decisión de la Corte Constitucional acerca del uso de ChatGPT .Es necesario recordar que el alto tribunal emitió el primer fallo sobre inteligencia artificial en la justicia, en el cual estableció que, aunque no se puede sustituir al juez , el Consejo Superior de la Judicatura deberá crear un lineamiento sobre el uso de ChatGPT en la Rama Judicial en un plazo máximo de cuatro meses.En ese sentido, el alto tribunal puntualizó que la IA no puede remplazar al juez en la toma de decisiones, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental.Al respecto, Gutiérrez, quien impartió clases a magistrados y funcionarios de la Rama Judicial para capacitarlos en la implementación de herramientas digitales en la justicia –como ChatGPT–, señaló que, como dice la Corte, la herramienta no puede reemplazar la humanización en la justicia , sino únicamente ser un soporte y, por lo tanto, debe dársele un uso responsable.“(La Corte) pide expresamente a los jueces que no sustituyan sus propios razonamientos por los contenidos generados por chatbots (…) señala que ese no es un uso acorde con la Constitución y que deben apoyarse en esas herramientas para tomar decisiones, pero no para sustituir su propia interpretación de la legislación colombiana”, explicó el experto.Además, señaló que el mal uso de la IA puede generar la nulidad de una decisión judicial, pues esta no tiene agencia moral ni sabe distinguir lo malo de lo bueno : “La Corte Constitucional advierte cosas como que, cuando el ser humano simplemente copia y pega la información sin una revisión, esta no solo puede ser incorrecta o imprecisa, sino falsa (…) un juez debe hacer juicios de valo r, eso no lo puede hacer una máquina”.Escuche la entrevista al abogado Juan David Gutiérrez en La W: