Corte de Colombia determina que IA no puede sustituir a un juez

Luego de que un juez redactara una decisión en Colombia con ayuda de la IA ChatGPT, la Corte determinó que no podrá sustituir a un juez.

Fabián Vega

Aunque la inteligencia artificial (IA) lleva con nosotros décadas, sin habernos dado cuenta muchas de sus capacidades y funciones actuales la han llevado a ayudarnos a tareas sencillas y complejas como:

 

• Resumir e interpretar grandes textos
• Crear imágenes y videos hiperrealistas
• Programar y corregir código
• Tomar cursos
• Pedirle información concreta 
• Traducir textos 

 

E inclusive, redactar decisiones judiciales al nivel de una Corte Constitucional como la de Colombia, que a principios de este año ayudó (a través del chatbot de OpenAI ChatGPT), a un juez a emitir un fallo sobre el caso de un menor de edad con discapacidad que le debía a una compañía de seguros para poder acceder a tratamiento médico.

 

Y en cuyo caso, el fallo resultó a favor fue del niño y determinó que estaba exento de pagar cualquier cuota.

 

“La Sala estimó que no existió un reemplazo del ejercicio de la función jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utilizó luego de haberse fundamentado y tomado la decisión”.

 

Sin embargo, y siguiendo las recomendaciones de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), esta Corte también determinó que ninguna IA podrá sustituir el papel de un juez:

 

“La inteligencia artificial no puede sustituir al juez. Con relación al debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial, señaló que debe respetarse el derecho a un juez natural, el cual implica, como elemento esencial, la condición de ser humano del juzgador, ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina”.

 

IA si puede ayudar a los jueces, siempre que se cumplan estos criterios:

 

Pero, si destacó el papel de ChatGPT y otras IA para apoyar a las y los jueces en:

 

• Gestión de tareas
• Redacción de decisiones judiciales

 

Siempre y cuando estas herramientas no se conviertan en el medio del cual dependan, y por ende comprometan las decisiones del Poder Judicial. Por lo que podrán usar IA:

 

“Cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.”

 

“Los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad”.

 

¿Cuáles son las desventajas de usar IA en un procedimiento judicial?

 

La UNESCO reconoce que entre los riesgos que representa que una IA intervenga en un proceso judicial, están las “alucinaciones y sesgos” a los que pueden verse expuestos los casos, toda vez que se trata de modelos que continuamente siguen cambiando y sumando nuevas funciones y aumentando su aprendizaje del mundo. 

 

De acuerdo con el último Reporte sobre la Magistratura en el Mundo de la Suprema Corte de Justicia de la Nación (SCJN):

 

“La inteligencia artificial no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen: una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos. Y, finalmente, la corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación”.

Te recomendamos:

https://noticias.imer.mx/blog/parlamento-europeo-aprueba-la-primera-ley-de-inteligencia-artificial-del-mundo/