FUNDAMENTOS JURÍDICOS PARA EL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS ÓRGANOS JUDICIALES
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José añón roig
Catedrática de Filosofía del Derecho de la Universidad de Valencia
ana Cañizares Laso
Catedrática de Derecho Civil de la Universidad de Málaga
Jorge a. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México
José raMón Cossío díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
eduardo Ferrer MaC-gregor Poisot
Juez de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José antonio garCía-CruCes gonzáLez
Catedrático de Derecho Mercantil de la UNED
Luis LóPez guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
ángeL M. LóPez y LóPez
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Javier de LuCas Martín
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
víCtor Moreno Catena
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
FranCisCo Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
angeLika nussberger
Catedrática de Derecho Constitucional e Internacional de la Universidad de Colonia (Alemania). Miembro de la Comisión de Valencia
HéCtor oLasoLo aLonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
LuCiano PareJo aLFonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
toMás saLa FranCo
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
ignaCio sanCHo gargaLLo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
toMás s. vives antón
Catedrático de Derecho Penal de la Universidad de Valencia
rutH ziMMerLing
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
FUNDAMENTOS JURÍDICOS PARA EL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS ÓRGANOS JUDICIALES
MIREN JOSUNE PÉREZ ESTRADA
tirant lo blanch Valencia, 2022
Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© Miren Josune Pérez Estrada
©
TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es DEPÓSITO LEGAL: V- 530-2022 ISBN: 978-84-1113-762-1 MAQUETA: Disset Ediciones Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
A mi familia
Este trabajo se ha desarrollado con la ayuda para la realización de estudios monográficos concedida por la Fundación Privada Manuel Serra Domínguez, en la Convocatoria Extraordinaria de ayudas de 2021 para la financiación de actividades propias de la Fundación, mediante Resolución de la Comisión, de acuerdo con el Patronato de la Función, de fecha 12 de julio de 2021. Grupo Investigación de Derechos Fundamentales y Unión Europea. Especial referencia al Espacio de Libertad, Seguridad y Justicia de la Unión Europea. Departamento de Educación, Universidades e Investigación del Gobierno Vasco. (GIG-IT 1190/19). Proyecto de investigación, Participatory approaches to a new ethical and legal framework for ICT (SWAPS17/01) financiado por la Comisión Europea.
Índice ABREVIATURAS..........................................................................
17
PRÓLOGO...................................................................................
23
Capítulo Primero LOS ASPECTOS GENERALES DE LA INTELIGENCIA ARTIFICIAL COMO INSTRUMENTO AL SERVICIO DE LOS ÓRGANOS JUDICIALES
I. Contextualización de la Inteligencia Artificial en la actualidad: hacia la convergencia tecnológica...............................................
25
II. Aproximación al concepto y funcionamiento de la Inteligencia artificial en el ámbito jurisdiccional............................................
29
1. El concepto de inteligencia artificial para la ciencia jurisdiccional .....................................................................
29
2. El funcionamiento de la Inteligencia Artificial: algoritmos y bases de datos (Big Data)..........................................
32
2.1. Generalización del uso de algoritmos: opacidad y sesgos en el diseño.................................................
32
2.2. El uso de Bases de datos (Big Data) a nivel global supone un riesgo para los derechos fundamentales.
35
12
Índice
Capítulo Segundo SISTEMAS DE INTELIGENCIA ARTIFICIAL APLICABLES EN EL ÁMBITO JURISDICCIONAL
1. El significativo avance de la informática jurídica documental a la informática jurídica decisional...............................................
43
2. Sistemas Jurídicos Expertos (Expert Systems), en general..........
46
2.1. Tipos de Sistemas Jurídicos Expertos............................
48
2.1.1. Sistemas basados en reglas de producción ........
48
2.1.2. Modelo positivista explícito subyacente ...........
49
2.1.3. Modelo constructivista......................................
50
2.1.4. Modelo de razonamiento legal basado en casos.
51
2.2. Sistemas Jurídicos Expertos concretos..........................
52
2.2.1. Split-up: sistema experto consistente en establecimiento de reglas y redes neuronales ...................
52
2.2.2. Expertius: sistema experto jurídico mixto, combinando el modelo constructivista y redes neuronales..........................................................................
53
2.2.3. SIES: Sistema Experto de Sentencias..................
53
3. Aprendizaje automático o Machine learning.............................
55
3.1. La evolución de la Inteligencia Jurídica........................
55
3.2. Deep learning y redes neuronales.................................
59
4. Robótica inteligente..................................................................
61
13
Índice
Capítulo Tercero ANÁLISIS DE DERECHO COMPARADO PARA LA APLICACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JURISDICCIONAL
I. Diferentes experiencias de inteligencia artificial en el ámbito jurisdiccional en el Derecho comparado........................................
65
II. Sistemas de Inteligencia Artificial aplicados en el ámbito jurisdiccional: el sistema predictivo PROMETEA o el software COMPAS ..................................................................................
69
1. COMPAS (Correctional Offender Management Profiling for Alternative Sanctions).............................................
70
1.1. El precedente judicial: casos Loomis vs. Wisconsin y State of Kansas vs. John Keith Walls.............
70
1.2. El uso de algoritmos inteligentes en el proceso.....
75
2. PROMETEA (sistema de inteligencia artificial multicapa)...............................................................................
79
2.1. Presentación.........................................................
79
2.2. Características de funcionamiento .......................
81
2.3. Funcionalidades...................................................
81
2.3.1. Función de Asistencia Inteligente....................... 82 2.3.2. Función de Automatización............................... 82 2.3.3. Función de Detección y clasificación Inteligente.83 2.3.4. Función Predictiva ............................................ 83 2.4. La implementación de PROMETEA desde los derechos fundamentales............................................
85
14
Índice
Capítulo Cuarto EL PASO PREVIO A LA IMPLANTACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JURISDICCIONAL: LA ACTUACIÓN JUDICIAL AUTOMATIZADA
1. Automatización e Inteligencia Artificial: dos conceptos diferentes..............................................................................................
87
2. La Automatización de los procesos judiciales............................
89
2.1. De la tramitación judicial guiada a la tramitación procesal automatizada.......................................................
89
2.2. Régimen Jurídico de la tramitación judicial automatizada.............................................................................
92
2.2.1. El precedente de la Actuación Administrativa Automatizada........................................................
92
2.2.2. La Actuación Judicial Automatizada.................
96
3. La Inteligencia Artificial en la actividad jurisdiccional ..............
102
3.1. El régimen jurídico de la inteligencia artificial .............
102
3.1.1. El marco regulador estatal de la futura normativa de inteligencia artificial en el sistema judicial.....
102
3.1.2. El marco regulador comunitario de la futura normativa de inteligencia artificial en el sistema judicial......................................................................
104
15
Índice
3.2. Tecnologías de inteligencia artificial aplicables en el proceso judicial............................................................
107
3.2.1. La tecnología de reconocimiento facial ............
107
2.2.2. La tecnología de procesamiento de Lenguaje Natural .................................................................
111
3.3. El ámbito de aplicación de la inteligencia en el proceso judicial.........................................................................
112
Capítulo Quinto LOS EFECTOS DE LA INTELIGENCIA ARTIFICIAL EN EL PROCESO JUDICIAL
I. Los riesgos de la inteligencia artificial, en general.......................
115
II. La transformación del derecho tradicional a un derecho líquido..............................................................................................
118
III. La necesaria regulación de la nueva tecnología........................
119
1. Una nueva regulación, líquida.........................................
121
2. La regulación de la evaluación del riesgo........................
122
IV. LA POSIBLE VULNERACIÓN DE DERECHOS PROCESALES FUNDAMENTALES POR EL USO DE LA INTELIGENCIA ARTIFICIAL.......................................................................
125
1. La aplicación de inteligencia artificial en el proceso judicial...............................................................................
125
2. El problema intrínseco del derecho fundamental a la protección de datos de carácter personal utilizados en el proceso........................................................................
129
16
Índice
2.1. La protección procesal de los datos personales ante el uso de inteligencia artificial en la actividad jurisdiccional.........................................................
131
3. La protección del derecho a un proceso con todas las garantías ante el uso de inteligencia artificial...............
134
3.1. La afectación de la garantía de la imparcialidad judicial por el uso de inteligencia artificial.............
136
3.2. La afectación del principio de igualdad procesal..
138
3.3. La afectación del derecho de audiencia o defensa.
139
3.4. Conclusiones sobre el posible uso de inteligencia artificial en el proceso penal...................................
139
4. Principios jurídicos rectores para el uso de inteligencia artificial en el proceso judicial......................................
141
CONCLUSIONES.........................................................................
145
BIBLIOGRAFÍA CONSULTADA..................................................
151
ABREVIATURAS AAVV
Varios autores
ADIs
Administraciones de asistencia Digital Integral
ADR
Alternative Dispute Resolution
AEPD
Agencia española de Protección de Datos
ARCO
Derechos de acceso, rectificación, cancelación y oposición
BOE
Boletín Oficial del Estado
CA (CCAA)
Comunidad(es) Autónoma(s)
CCTV
Comparación de imágenes obtenidas de cámaras de video
CE
Constitución Española, de 27 de diciembre de 1978
CEDF
Carta Europea de Derechos Fundamentales
CEFD
Cuadernos Electrónicos de Filosofía del Derecho
CENDOJ
Centro de Documentación Judicial
CEPEJ
Carta Ética de la Comisión Europea para la eficiencia de la Justicia
CGPJ
Consejo General del Poder Judicial
CNA
Canada Revenue Agency
CNUDMI
Comisión de las Naciones Unidas para el Derecho mercantil internacional
COMPAS
Correctional Offender Management Profiling for Alternative Sanctions
CONARC
Consulta Nacional de Rebeldías y Capturas
Coord(s).
Coordinador(es)
CTEAJE
Comité Técnico Estatal de la Administración Judicial Electrónica
DOUE
Diario Oficial de la Unión Europea
EGE
Grupo Europeo de Ética en Ciencia y Nuevas Tecnologías
EJE
Expediente judicial electrónico
EJIS
Esquema Judicial de Interoperabilidad y Seguridad
F. J.
Fundamento jurídico
FGE
Fiscalía General del Estado
FRA
European Union Agency for Fundamental Rights
IA
Inteligencia artificial
IBM
International Business Machines Corporation
ICDPPC
International Conference of Data Protection and Privacy Commissioners
ISM FORUM
Asociación Española para el Fomento de la Seguridad de la Información
LAE
Ley de Acceso Electrónico de los Ciudadanos a los Servicios Públicos
LJCA
Ley 29/1998, de 13 de julio, reguladora de la Jurisdicción ContenciosoAdministrativa
LO
Ley Orgánica
LOPDGDD
Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales
LOPJ
Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial
LPACAP
Ley del Procedimiento Administrativo Común de las Administraciones Públicas
LRJPAC
Ley 30/1992, de 26 de noviembre, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común
LRJSP
Ley del Régimen Jurídico del Sector Público
LTAIBG
Ley de transparencia, acceso a la información pública y buen gobierno
LUTICAJ
Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia
MGI
McKinsey Global Institute
NLP
Natural language processing (Tecnología de procesamiento de Lenguaje Natural)
Núm.
Número
NTIC
Nuevas Tecnologías
Op. Cit.
Obra Citada
ODR
Online Dispute Resolution
OF
Oficina Fiscal
OJ
Oficina Judicial
ORC
Reconocimiento óptico de caracteres
PNJ
Punto Neutro Judicial
REDI
Revista electrónica de derecho informático
RGPD
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE. (Reglamento General de Protección de Datos)
RNA
Redes neuronales artificiales
SBC
Sistemas Basados en Casos
SBR
Sistemas Basados en Reglas
SGP
Sistemas de Gestión Procesal
SIRAJ
Sistema de registros administrativos de apoyo a la Administración de Justicia
SNA
Social Network Analysis
SRFP
Sistema de Reconocimiento Facial de Prófugos
STC
Sentencia del Tribunal Constitucional