1. INTRODUCCIÓN

En las últimas décadas las administraciones de justicia de América Latina han implementado nuevas tecnologías para la gestión de los procesos y para apoyar las tareas de los jueces y quienes laboran en sus despachos. Algunas de esas herramientas han sido adquiridas y/o desarrolladas por órganos que gobiernan la rama judicial en el marco de procesos de transformación digital, y otras herramientas de libre acceso están disponibles para cualquier usuario que tenga acceso a Internet –por ejemplo, los buscadores de sitios web como Google– y que son usadas a diario en los despachos.

Más recientemente, el sector judicial de la región también ha empezado a explorar la introducción de herramientas de inteligencia artificial (IA) en los sistemas judiciales para apoyar la identificación de información, sustituir algunas funciones previamente realizadas por personas, y para obtener recomendaciones a partir de análisis predictivos.2 En Colombia, por ejemplo, la Corte Constitucional desarrolló el proyecto PretorIA con el fin de optimizar el procesamiento de miles de tutelas que la Corte debe examinar, para seleccionar cuáles serán revisadas; no se trata de un sistema que selecciona de manera automatizada los expedientes de tutela, sino que apoya la labor de búsqueda e identificación de estos.3

Aunque PretorIA es uno de los sistemas más conocidos en la rama judicial colombiana, no es el único usado por entidades públicas que ejercen funciones judiciales y/o que participan en los procesos judiciales. También han desarrollado y/o implementado diferentes tipos de IA la Fiscalía General de la Nación, la Superintendencia de Industria y Comercio (Delegatura para Asuntos Jurisdiccionales), la Superintendencia de Sociedades (varias Delegaturas), y la Agencia Nacional de Defensa Jurídica del Estado.4

Volviendo al plano regional, jueces y magistrados de América Latina han comenzado a acudir a chatbots que operan a través de Modelos de Lenguaje a Gran Escala (LLMs, por sus siglas en inglés) para redactar decisiones judiciales y para participar en audiencias. En este artículo reflexionaré sobre el uso de los LLMs por parte de jueces y funcionarios de los despachos, y sobre la preparación requerida para darle un uso idóneo a dichas herramientas.

2. ¿QUÉ SON Y CÓMO FUNCIONAN LOS LLMS?

Los modelos de lenguaje son algoritmos con capacidad para procesar, analizar y/o generar texto natural.5 En los últimos años, empresas tecnológicas de Estados Unidos, Europa y China han de- sarrollado modelos a partir de una vasta cantidad de información –billones de parámetros– obtenida primordialmente de Internet y que son entrenados a partir de técnicas de aprendizaje automatizado en redes neuronales. Dichos modelos realizan funciones predictivas, más puntualmente “predecir la probabilidad de un token (carácter, palabra o cadena) dado su contexto precedente...”.6

Por otra parte, los chatbots que operan a partir de LLMs permiten la interacción entre humanos y sistemas computacionales a partir de lenguaje natural. Los usuarios introducen preguntas en la interfaz para que el sistema produzca texto sintético basado en el cuerpo de datos a partir del cual fue entrenado.

Es importante aclarar que estos sistemas no entienden, ni piensan, ni tienen posiciones propias o emociones. Como lo describió la profesora Emily Bender y sus coautoras, un modelo de lenguaje es un sistema que “hila al azar secuencias de formas lingüísticas que ha observado en sus vastos datos de entrenamiento, de acuerdo con información probabilística sobre cómo se combinan, pero sin ninguna referencia al significado: un loro estocástico”.7

El lanzamiento al público en noviembre de 2022, por parte de la empresa OpenAI, de ChatGPT, un chatbot que opera a través del LLM denominado GPT-3.5, fue un hecho disruptivo no solo para el sector ligado a la tecnología y a la IA, sino para millones de personas y empresas que empezaron a usarlo para sus actividades personales, académicas y/o profesionales.

Lo novedoso de ChatGPT no era la tecnología, sino que OpenAI pusiera su chatbot a disposición del público. Antes de noviembre de 2022, el acceso a LLMs predecesores era muy restringido para el público –como GPT-2 o GPT-3 de OpenAI– o simplemente las empresas no permitían su acceso a terceros –como el modelo denominado LaMDA de Google.

Como explicaré en la siguiente sección, actualmente nuestros jueces y funcionarios de los despachos judiciales también pueden acceder a LLMs como los que han puesto a disposición del público a través de Internet empresas como OpenAI, Microsoft, y Anthropic, entre otras. Por tanto, es pertinente preguntarse qué se necesita para que los operadores judiciales estén preparados para usar adecuadamente nuevas tecnologías, como los LLMs.

3. LA ALFABETIZACIÓN DIGITAL

Me enfocaré en discutir sobre las habilidades que son necesarias para que jueces y funcionarios judiciales usen los LLMs asumiendo que los despachos cuentan con la infraestructura necesaria para accederlos. Por supuesto, también es importante que los potenciales usuarios cuenten con la infraestructura para acceder a Internet, pero por razones de espacio ese tema quedará para una futura oportunidad.

La “alfabetización digital” puede entenderse como la “habilidad para entender y usar información de una variedad de fuentes digitales”.8 Aunque no hay consenso en la literatura especializada sobre las diferentes competencias, capacidades y actitudes que implica la alfabetización digital, para efectos de este artículo destacaré tres que considero pertinentes para que los jueces y los funcionarios de despacho puedan usar adecuadamente herramientas como los LLM: a) competencias básicas para usar el ordenador (hardware y software); b) capacidades para leer, entender y usar información sobre las tecnologías digitales; y, c) habilidad para evaluar críticamente los beneficios y los riesgos de las nuevas tecnologías.9

Respecto de la primera competencia, podemos dar por sentado que la gran mayoría de jueces y funcionarios de despacho en Colombia cuentan con competencias computacionales básicas. El uso de computadores conectados a Internet en los despachos judiciales –a pesar de las intermitencias o problemas de calidad de la conexión– es universal.

La segunda capacidad, consiste en que los jueces y funcionarios judiciales sean capaces de explorar y encontrar información sobre las tecnologías digitales, y de usarla de manera razonada. Por una parte, como la administración de justicia implica una constante búsqueda y valoración de información para tomar decisiones, es prudente asumir que tanto jueces como funcionarios del despacho judicial deben estar en capacidad de buscar in- formación sobre qué son, cómo funcionan y para qué sirven los LLMs. Adicionalmente, debido al auge de este tipo de tecnologías, existe una amplia oferta de información para diferentes niveles de experticia sobre la materia.

Sin embargo, dado el nivel de congestión judicial y la consecuente sobrecarga que aqueja a muchos juzgados, no podemos asumir que los jueces ni sus funcionarios tengan el tiempo para familiarizarse con los LLMs ni para probarlos. Además, como los LLMs solo han estado a disposición del público desde noviembre del 2022, seguramente hay jueces que todavía no están familiarizados con su existencia.

El componente de la alfabetización digital que más me preocupa es el tercero, la capacidad de evaluar críticamente la herramienta. Buena parte de la información disponible exagera lo que los LLMs pueden hacer y omite informar sobre sus limitaciones y riesgos. A menos de que los jueces y funcionarios judiciales dediquen suficiente tiempo para ubicar fuentes confiables, es posible que estén expuestos mayoritariamente al bombo de la IA (AI hype), alimentado tanto por las empresas que quieren vender sus productos como por personas tecno-solucionistas.

Además, los planes de capacitación de jueces en materia de destrezas digitales en Colombia no son muy ambiciosos en términos de cobertura. Desde hace años la Escuela Judicial “Rodrigo Lara

Bonilla” incluye en su Plan de Formación de la Rama Judicial subprogramas de formación en tecnologías de la información y la comunicación (TIC) para la práctica judicial y otros subprogramas afines.10 Sin embargo, en la distribución de recursos para el 2023, la Escuela Judicial proyecta que dichos cursos beneficiarán a menos de 800 funcionarios. Es decir, incluso asumiendo que dichos programas incluyan formación con relación a los LLMs, en 2023 dichos programas cubrirían a menos del 14% de los jueces en Colombia.

Entre febrero y marzo de este año, hemos tenido noticia de al menos cuatro jueces de Colombia, Perú y México que declararon expresamente en sus decisiones judiciales o en audiencias que habían usado un LLM, particularmente ChatGPT.11 Desafortunadamente, esos casos no son buenos ejemplos de cómo usar estas tecnologías. Como he explicado en otras publicaciones, los jueces parecen haber desconocido la tendencia de ChatGPT de producir información imprecisa, errónea y ficticia.12 Dado que estos sistemas no son fuentes confiables de información fáctica, técnica, ni jurídica, los jueces y funcionarios deben tener mucho cuidado en su uso para la proyección de fallos. Para empezar, no es recomendable transcribir texto sintético generado por el LLM para la motivación de decisiones, a menos de que toda la información sea expresamente contrastada con otras fuentes que sí sean confiables.

4. ¿QUÉ SE NECESITA PARA QUE LOS JUECES ESTÉN MEJOR PREPARADOS?

En suma, no considero que la mayoría de nuestros jueces y funcionarios judiciales estén debidamente preparados para usar adecuadamente un LLM. A continuación, propongo tres elementos básicos para que, en Colombia, los jueces estén mejor preparados para usar estas y otras tecnologías digitales que emerjan en el futuro.

Primero, que el Consejo Superior de la Judicatura produzca cartillas con información y lineamientos sobre para qué sirven y cómo usar adecuadamente la IA, incluyendo los LLMs. Particularmente, es fundamental que jueces y funcionarios conozcan: cómo funcionan los LLMs –para que no caigan en el error de verlos como oráculos–; qué tareas desempeñan bien los LLMs –por ejemplo, resumir, traducir y apoyar fases iniciales de investigación–; qué limitaciones presentan; y, qué prácticas deberían evitarse –por ejemplo, introducir información confidencial o personal en las consultas al LLM.

Segundo, que la Escuela Judicial Rodrigo Lara Bonilla expanda su oferta de cursos de formación sobre TICs y competencias digitales para la administración de justicia, incluyendo módulos sobre uso de IA en la justicia. Para tal efecto puede buscar opciones, alternativas a los cursos tradicionales, como el curso masivo y abierto en línea de la UNESCO llamado “Defensa del Estado de derecho en la era de la inteligencia artificial”.13

Tercero, en Colombia no contamos con datos públicos sobre el estado de las habilidades digitales de los jueces y de los funcionarios del despacho. Para tomar mejores decisiones sobre los dos anteriores puntos, sería muy provechoso que la Unidad de Desarrollo y Análisis Estadístico de Consejo Superior de la Judicatura realice encuestas periódicas para conocer y monitorear el estado y desarrollo de las habilidades digitales de jueces y funcionarios.

Para concluir, los LLMs que hoy están a disposición del público son herramientas muy poderosas, pero no suficientemente probadas ni confiables para obtener respuestas sobre asuntos fácticos o técnicos. Hay algunas tareas que pueden realizar los sistemas basados en LLMs que pueden ser útiles para los despachos judiciales, pero, como ocurre con cualquier otra herramienta, es preciso que los usuarios sean capaces de distinguir entre buenos y malos usos para aprovechar los beneficios y prevenir daños.

Un informe de la Corporación Excelencia en la Justicia —CEJ— revela que entre 1996 y 2022 el número de abogados inscritos en el país aumentó 472%. En efecto, Colombia registró 375.580 juristas inscritos al cierre del año 2022, lo que lo deja como uno de los países a nivel global con mayor tasa de abogados con un total de 728 juristas por cada 100 mil habitantes, según datos de la Unidad de Registro Nacional de Abogados y Auxiliares de la Justicia (URNA).

Lejos de corregirse, esta sobreoferta de abogados cada año tiende a aumentar. Por ejemplo, entre 2018 y 2021 —con excepción de la disminución que se produjo en 2020 por la pandemia— hubo un aumento sostenido en el número anual de tarjetas profesionales nuevas, dado que se expidieron en total 74.178 tarjetas: 18.895 en 2018, 19.947 en 2019, 13.855 en 2020 y 21.481 en 2021.

Si bien Colombia es uno de los países con mayor tasa de abogados, esta situación ya venía siendo puesta de presente desde 2008, año en el cual el país ocupó el segundo lugar en América con 354 profesionales del derecho por cada 100 mil habitantes, después de Costa Rica con 389. En Sudamérica los seguían Brasil con 327, Argentina con 305, Perú con 248 y Uruguay con 196 abogados por cada 100 mil habitantes.

Las cifras hacen parte de la investigación Ejercicio profesional del derecho en Colombia: perspectiva actual e ideas para su mejoramiento, el cual hace una pormenorizada radiografía sobre el estado y la calidad de la profesión jurídica en el país, un asunto de interés general teniendo en cuenta la alta participación de la profesión en diferentes cargos públicos y privados, pero, a su vez, los escasos estudios en esta materia.

En cuanto al género, históricamente la profesión ha estado dominada por hombres, y aunque las mujeres ganaron una mayor presencia entre 1996 y 2008, en los años siguientes esta tendencia se revirtió. Sin embargo, durante los últimos años el número anual de mujeres que se inscribieron como abogadas superó el número anual de hombres, si se tiene en cuenta que de las 108.063 tarjetas profesionales expedidas entre 2016 y 2021, cada año más de la mitad corresponden a mujeres.

Además del panorama actual de la abogacía, el informe de la CEJ advierte que solo el 23% de los programas de pregrado en derecho ofertados por las Instituciones de Educación Superior en Colombia están acreditados como programas de alta calidad. De los 196 estudios superiores ofertados por las 114 universidades que cuentan con pregrados de este tipo, únicamente 46 tienen el reconocimiento que les otorga el Ministerio de Educación Nacional, mientras que los 150 programas restantes, es decir el 77%, apenas cuentan con un registro calificado.

La investigación también advierte que las 114 facultades de derecho equivalen a 22 por cada 10 millones de habitantes, esto es casi cuatro veces el número de facultades que alberga un país como Estados Unidos que tiene 199, es decir, seis facultades por cada 10 millones de habitantes. Actualmente, Colombia cuenta con el triple de universidades con programas de pregrado si se compara con las 32 facultades y los 60 estudios superiores que existían en 1993, un crecimiento que se explica, en cierta medida, a partir de la promulgación de la Ley 30 de 1992, que organizó el servicio público de educación superior y eliminó algunas restricciones para la creación de universidades o programas de derecho, buscando ampliar la oferta educativa.

Aunque la ley lo prohíba, la procedencia universitaria es uno de los elementos determinantes en los procesos de evaluación de perfiles profesionales para la contratación laboral. Al respecto, el análisis de la Corporación plantea dos realidades frecuentes en el ámbito estudiantil: la desigualdad por la concentración geográfica de la oferta educativa de alta calidad, concentrándose principalmente en Bogotá (24%), Medellín (13%), Barranquilla (13%), Bucaramanga (7%), Cali (7%) y Tunja (7%), y las barreras de acceso basadas en matrículas altamente costosas para estudios superiores de alta calidad. Según el estudio, solo el 20% de los en razón a que el número anual de juristas investigados y sancionados difícilmente superó el 1% del total de tarjetas profesionales vigentes. programas de pregrado acreditados pertenecen a universidades del sector público.

La realidad de las Salas Disciplinarias de los Consejos Seccionales de la Judicatura no fue muy diferente. De acuerdo con el estudio, de las 102.651 causas disciplinarias iniciadas entre 1991 y 2011, al menos 70.129 fueron archivadas, 11.229 terminaron en absolución y 21.293 culminaron en sanción, es decir el 20.7%.

En cuanto al tipo de sanciones entre 1996 y 2020, la mayoría corresponden a suspensiones, seguido de las censuras y, en menor proporción, se encuentran las exclusiones, las amonestaciones y las multas, que tan solo registran el 5% total de los castigos. No obstante, considerando su duración, las suspensiones se caracterizaron por ser bastante laxas puesto que, entre 1996 y 2020, el 65% fueron inferiores a seis meses, el 27% tuvo una duración entre seis y 12 meses, y las mayores a un año no superan el 8%.

Ahora bien, desde el 13 de enero de 2021 la Sala Disciplinaria del Consejo Superior de la Judicatura fue reemplazada por la Comisión Nacional de Disciplina Judicial (CNDJ), dejando un saldo de 802 abogados sancionados en 2021: el 55% con suspensión, el 19% con suspensión y multa, el 18.6% con censura y el 5.6% con multa. Al igual que la Sala Disciplinaria, las suspensiones fueron el tipo de sanción más frecuente de la CNDJ contra juristas, determinando que el 78.9% de estas tuvo una duración de seis meses o menos.

El informe de la CEJ, que también analizó el control disciplinario de la profesión, revela que entre 1996 y 2020 se adelantaron 24.792 investigaciones, de las cuales el 84.4% —o sea 20.933 pesquisas— derivaron en una sanción. Comparado con el número anual de abogados vigentes, el control disciplinario, que durante ese periodo estuvo cargo de la Sala Disciplinaria del Consejo Superior de la Judicatura, fue prácticamente marginal

Consulte el informe completo en www.cej.org.co