1_9788411137621

FUNDAMENTOS JURÍDICOS PARA EL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS ÓRGANOS JUDICIALES

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José añón roig

Catedrática de Filosofía del Derecho de la Universidad de Valencia

ana Cañizares Laso

Catedrática de Derecho Civil de la Universidad de Málaga

Jorge a. Cerdio Herrán

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

José raMón Cossío díaz

Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional

eduardo Ferrer MaC-gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM

owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José antonio garCía-CruCes gonzáLez

Catedrático de Derecho Mercantil de la UNED

Luis LóPez guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

ángeL M. LóPez y LóPez

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Javier de LuCas Martín

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

víCtor Moreno Catena

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

FranCisCo Muñoz Conde

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

angeLika nussberger

Catedrática de Derecho Constitucional e Internacional de la Universidad de Colonia (Alemania). Miembro de la Comisión de Valencia

HéCtor oLasoLo aLonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

LuCiano PareJo aLFonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

toMás saLa FranCo

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

ignaCio sanCHo gargaLLo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

toMás s. vives antón

Catedrático de Derecho Penal de la Universidad de Valencia

rutH ziMMerLing

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

FUNDAMENTOS JURÍDICOS PARA EL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS ÓRGANOS JUDICIALES

MIREN JOSUNE PÉREZ ESTRADA

tirant lo blanch Valencia, 2022

Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor.

En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.

© Miren Josune Pérez Estrada

©

TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es DEPÓSITO LEGAL: V- 530-2022 ISBN: 978-84-1113-762-1 MAQUETA: Disset Ediciones Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas.

Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

A mi familia

Este trabajo se ha desarrollado con la ayuda para la realización de estudios monográficos concedida por la Fundación Privada Manuel Serra Domínguez, en la Convocatoria Extraordinaria de ayudas de 2021 para la financiación de actividades propias de la Fundación, mediante Resolución de la Comisión, de acuerdo con el Patronato de la Función, de fecha 12 de julio de 2021.

Grupo Investigación de Derechos Fundamentales y Unión Europea. Especial referencia al Espacio de Libertad, Seguridad y Justicia de la Unión Europea. Departamento de Educación, Universidades e Investigación del Gobierno Vasco. (GIG-IT 1190/19).

Proyecto de investigación, Participatory approaches to a new ethical and legal framework for ICT (SWAPS17/01) financiado por la Comisión Europea.

Índice ABREVIATURAS..........................................................................

17

PRÓLOGO...................................................................................

23

Capítulo Primero LOS ASPECTOS GENERALES DE LA INTELIGENCIA ARTIFICIAL COMO INSTRUMENTO AL SERVICIO DE LOS ÓRGANOS JUDICIALES

I. Contextualización de la Inteligencia Artificial en la actualidad: hacia la convergencia tecnológica...............................................

25

II. Aproximación al concepto y funcionamiento de la Inteligencia artificial en el ámbito jurisdiccional............................................

29

1. El concepto de inteligencia artificial para la ciencia jurisdiccional .....................................................................

29

2. El funcionamiento de la Inteligencia Artificial: algoritmos y bases de datos (Big Data)..........................................

32

2.1. Generalización del uso de algoritmos: opacidad y sesgos en el diseño.................................................

32

2.2. El uso de Bases de datos (Big Data) a nivel global supone un riesgo para los derechos fundamentales.

35

12

Índice

Capítulo Segundo SISTEMAS DE INTELIGENCIA ARTIFICIAL APLICABLES EN EL ÁMBITO JURISDICCIONAL

1. El significativo avance de la informática jurídica documental a la informática jurídica decisional...............................................

43

2. Sistemas Jurídicos Expertos (Expert Systems), en general..........

46

2.1. Tipos de Sistemas Jurídicos Expertos............................

48

2.1.1. Sistemas basados en reglas de producción ........

48

2.1.2. Modelo positivista explícito subyacente ...........

49

2.1.3. Modelo constructivista......................................

50

2.1.4. Modelo de razonamiento legal basado en casos.

51

2.2. Sistemas Jurídicos Expertos concretos..........................

52

2.2.1. Split-up: sistema experto consistente en establecimiento de reglas y redes neuronales ...................

52

2.2.2. Expertius: sistema experto jurídico mixto, combinando el modelo constructivista y redes neuronales..........................................................................

53

2.2.3. SIES: Sistema Experto de Sentencias..................

53

3. Aprendizaje automático o Machine learning.............................

55

3.1. La evolución de la Inteligencia Jurídica........................

55

3.2. Deep learning y redes neuronales.................................

59

4. Robótica inteligente..................................................................

61

13

Índice

Capítulo Tercero ANÁLISIS DE DERECHO COMPARADO PARA LA APLICACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JURISDICCIONAL

I. Diferentes experiencias de inteligencia artificial en el ámbito jurisdiccional en el Derecho comparado........................................

65

II. Sistemas de Inteligencia Artificial aplicados en el ámbito jurisdiccional: el sistema predictivo PROMETEA o el software COMPAS ..................................................................................

69

1. COMPAS (Correctional Offender Management Profiling for Alternative Sanctions).............................................

70

1.1. El precedente judicial: casos Loomis vs. Wisconsin y State of Kansas vs. John Keith Walls.............

70

1.2. El uso de algoritmos inteligentes en el proceso.....

75

2. PROMETEA (sistema de inteligencia artificial multicapa)...............................................................................

79

2.1. Presentación.........................................................

79

2.2. Características de funcionamiento .......................

81

2.3. Funcionalidades...................................................

81

2.3.1. Función de Asistencia Inteligente....................... 82 2.3.2. Función de Automatización............................... 82 2.3.3. Función de Detección y clasificación Inteligente.83 2.3.4. Función Predictiva ............................................ 83 2.4. La implementación de PROMETEA desde los derechos fundamentales............................................

85

14

Índice

Capítulo Cuarto EL PASO PREVIO A LA IMPLANTACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JURISDICCIONAL: LA ACTUACIÓN JUDICIAL AUTOMATIZADA

1. Automatización e Inteligencia Artificial: dos conceptos diferentes..............................................................................................

87

2. La Automatización de los procesos judiciales............................

89

2.1. De la tramitación judicial guiada a la tramitación procesal automatizada.......................................................

89

2.2. Régimen Jurídico de la tramitación judicial automatizada.............................................................................

92

2.2.1. El precedente de la Actuación Administrativa Automatizada........................................................

92

2.2.2. La Actuación Judicial Automatizada.................

96

3. La Inteligencia Artificial en la actividad jurisdiccional ..............

102

3.1. El régimen jurídico de la inteligencia artificial .............

102

3.1.1. El marco regulador estatal de la futura normativa de inteligencia artificial en el sistema judicial.....

102

3.1.2. El marco regulador comunitario de la futura normativa de inteligencia artificial en el sistema judicial......................................................................

104

15

Índice

3.2. Tecnologías de inteligencia artificial aplicables en el proceso judicial............................................................

107

3.2.1. La tecnología de reconocimiento facial ............

107

2.2.2. La tecnología de procesamiento de Lenguaje Natural .................................................................

111

3.3. El ámbito de aplicación de la inteligencia en el proceso judicial.........................................................................

112

Capítulo Quinto LOS EFECTOS DE LA INTELIGENCIA ARTIFICIAL EN EL PROCESO JUDICIAL

I. Los riesgos de la inteligencia artificial, en general.......................

115

II. La transformación del derecho tradicional a un derecho líquido..............................................................................................

118

III. La necesaria regulación de la nueva tecnología........................

119

1. Una nueva regulación, líquida.........................................

121

2. La regulación de la evaluación del riesgo........................

122

IV. LA POSIBLE VULNERACIÓN DE DERECHOS PROCESALES FUNDAMENTALES POR EL USO DE LA INTELIGENCIA ARTIFICIAL.......................................................................

125

1. La aplicación de inteligencia artificial en el proceso judicial...............................................................................

125

2. El problema intrínseco del derecho fundamental a la protección de datos de carácter personal utilizados en el proceso........................................................................

129

16

Índice

2.1. La protección procesal de los datos personales ante el uso de inteligencia artificial en la actividad jurisdiccional.........................................................

131

3. La protección del derecho a un proceso con todas las garantías ante el uso de inteligencia artificial...............

134

3.1. La afectación de la garantía de la imparcialidad judicial por el uso de inteligencia artificial.............

136

3.2. La afectación del principio de igualdad procesal..

138

3.3. La afectación del derecho de audiencia o defensa.

139

3.4. Conclusiones sobre el posible uso de inteligencia artificial en el proceso penal...................................

139

4. Principios jurídicos rectores para el uso de inteligencia artificial en el proceso judicial......................................

141

CONCLUSIONES.........................................................................

145

BIBLIOGRAFÍA CONSULTADA..................................................

151

ABREVIATURAS AAVV

Varios autores

ADIs

Administraciones de asistencia Digital Integral

ADR

Alternative Dispute Resolution

AEPD

Agencia española de Protección de Datos

ARCO

Derechos de acceso, rectificación, cancelación y oposición

BOE

Boletín Oficial del Estado

CA (CCAA)

Comunidad(es) Autónoma(s)

CCTV

Comparación de imágenes obtenidas de cámaras de video

CE

Constitución Española, de 27 de diciembre de 1978

CEDF

Carta Europea de Derechos Fundamentales

CEFD

Cuadernos Electrónicos de Filosofía del Derecho

CENDOJ

Centro de Documentación Judicial

CEPEJ

Carta Ética de la Comisión Europea para la eficiencia de la Justicia

CGPJ

Consejo General del Poder Judicial

CNA

Canada Revenue Agency

CNUDMI

Comisión de las Naciones Unidas para el Derecho mercantil internacional

COMPAS

Correctional Offender Management Profiling for Alternative Sanctions

CONARC

Consulta Nacional de Rebeldías y Capturas

Coord(s).

Coordinador(es)

CTEAJE

Comité Técnico Estatal de la Administración Judicial Electrónica

DOUE

Diario Oficial de la Unión Europea

EGE

Grupo Europeo de Ética en Ciencia y Nuevas Tecnologías

EJE

Expediente judicial electrónico

EJIS

Esquema Judicial de Interoperabilidad y Seguridad

F. J.

Fundamento jurídico

FGE

Fiscalía General del Estado

FRA

European Union Agency for Fundamental Rights

IA

Inteligencia artificial

IBM

International Business Machines Corporation

ICDPPC

International Conference of Data Protection and Privacy Commissioners

ISM FORUM

Asociación Española para el Fomento de la Seguridad de la Información

LAE

Ley de Acceso Electrónico de los Ciudadanos a los Servicios Públicos

LJCA

Ley 29/1998, de 13 de julio, reguladora de la Jurisdicción ContenciosoAdministrativa

LO

Ley Orgánica

LOPDGDD

Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales

LOPJ

Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial

LPACAP

Ley del Procedimiento Administrativo Común de las Administraciones Públicas

LRJPAC

Ley 30/1992, de 26 de noviembre, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común

LRJSP

Ley del Régimen Jurídico del Sector Público

LTAIBG

Ley de transparencia, acceso a la información pública y buen gobierno

LUTICAJ

Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia

MGI

McKinsey Global Institute

NLP

Natural language processing (Tecnología de procesamiento de Lenguaje Natural)

Núm.

Número

NTIC

Nuevas Tecnologías

Op. Cit.

Obra Citada

ODR

Online Dispute Resolution

OF

Oficina Fiscal

OJ

Oficina Judicial

ORC

Reconocimiento óptico de caracteres

PNJ

Punto Neutro Judicial

REDI

Revista electrónica de derecho informático

RGPD

Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE. (Reglamento General de Protección de Datos)

RNA

Redes neuronales artificiales

SBC

Sistemas Basados en Casos

SBR

Sistemas Basados en Reglas

SGP

Sistemas de Gestión Procesal

SIRAJ

Sistema de registros administrativos de apoyo a la Administración de Justicia

SNA

Social Network Analysis

SRFP

Sistema de Reconocimiento Facial de Prófugos

STC

Sentencia del Tribunal Constitucional