La Corte Constitucional de Colombia reveló que la inteligencia artificial (IA) en el sistema judicial por ningún motivo puede hacer las veces de un Juez. La Sala Segunda de Revisión estudió un caso que involucra la utilización de ChatGPT, por parte de un juez de tutela en una decisión sobre los derechos fundamentales a la salud y la vida digna de un menor de edad.
La Corte explicó en comunicado que, aunque las herramientas de IA pueden ser útiles en la gestión administrativa y documental, no pueden reemplazar al juez en la toma de decisiones judiciales.
¿Por qué tomó dicha decisión?
El caso fue dado a conocer el febrero de 2023, cuando la madre de un niño con trastorno del espectro autista presentó una acción de tutela contra una EPS. La madre solicitó que se protegieran los derechos fundamentales de su hijo, debido a la negativa de la EPS de exonerarlo del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte para asistir a sus terapias, y garantizar un tratamiento integral.
Durante dicho proceso, el juez de segunda instancia utilizó ChatGPT para formular preguntas jurídicas y, posteriormente, incluyó las respuestas obtenidas en la sentencia.
Es así como la Corte dividió el análisis del caso en dos partes: la primera, centrada en la posible vulneración del derecho al debido proceso por el uso de IA en la decisión judicial; y la segunda, enfocada en la afectación de los derechos a la salud, la vida digna y la seguridad social del menor.
En cuanto al debido proceso, la Corte aseguró la necesidad de que el juez sea un ser humano, subrayando que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina.
Te puede interesar: Primera audiencia judicial en Colombia con metaverso, visores y avatares
El tribunal dejó claro que la IA no puede sustituir la racionalidad y el criterio humano en la toma de decisiones judiciales, independientemente de la complejidad del caso. Sin embargo, la Corte sí consideró admisible el uso de estas tecnologías para fines administrativos, corrección y síntesis de textos, siempre y cuando sean supervisadas por un operador jurídico.
La Corte explicó que el uso de IA en el ámbito judicial debe garantizar la independencia e imparcialidad del juez. La influencia indebida de cualquier entidad, incluida una IA, sobre las decisiones judiciales es inaceptable. Además, la IA no debe introducir sesgos o prejuicios que puedan comprometer la imparcialidad del proceso. La Corte expresó su preocupación por las “alucinaciones” de la IA, es decir, la generación de información inexacta o falsa que podría afectar la motivación de la decisión judicial.
¿Cómo usar la IA según la Corte?
Aunque, la tribunal concluyó que no hubo un reemplazo de la función judicial por parte de ChatGPT, ya que el juez tomó la decisión antes de utilizar la herramienta de IA. Sin embargo, la Corte criticó la falta de transparencia y responsabilidad en el uso de la IA por parte del juez, aunque reconoció que se respetaron los principios de privacidad.
La Corte también exhortó a los jueces de la República a evaluar cuidadosamente el uso de herramientas de IA, como ChatGPT, y a aplicar criterios éticos y de respeto a los mandatos superiores para garantizar los derechos fundamentales, especialmente el debido proceso. La Corte ordenó al Consejo Superior de la Judicatura que adopte guías y manuales sobre la implementación de la IA generativa en la Rama Judicial y que fomente la capacitación en el uso de estas tecnologías con un enfoque en derechos.
Imagen: Archivo ENTER.CO
