Índice
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
11
Jorge Castellanos Claramunt
C apítulo I. L a superación del cuerpo y la desencarnación de la mente: imposibilidad ontológica de una maquina consciente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19
Pedro A. Talavera Fernández, Catedrático de Filosofía del Derecho, Universitat de Valencia.
I. INTRODUCCIÓN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19
II. SUPUESTAS CONCIENCIAS MAQUINALES Y AUTOENGAÑOS HUMANOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
22
III. LOS ADALIDES DEL ‘DUALISMO’ CARTESIANO: ¿MENTES SIN CUERPO? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
29
IV. SEPARAR LOS DERECHOS DE LA CORPORALIDAD: ¿IA COMO SUJETO DIGITAL? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
32
C apítulo II. L a sociedad digital como cultura del riesgo. Desafíos éticos e implicaciones legales del uso de sistemas de inteligencia artificial para la evaluación de riesgos y la vigilancia preventiva . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
39
Teresa García-Berrio Hernández, Profesora Titular de Filosofía del Derecho, Universidad Complutense de Madrid.
I.
DISRUPCIÓN, INDIVIDUALIZACIÓN E INSTRUMENTARISMO: HACIA UN CAPITALISMO DE LA VIGILANCIA . . . . . . . . . . . . . . . . . .
7
39
Jorge Castellanos Claramunt
II. VIGILANCIA PREVENTIVA VS. AUTONOMÍA: UNA REVITALIZACIÓN DEL PANOPTISMO DIGITAL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
46
III. EL FIN NO JUSTIFICA LOS MEDIOS: EJEMPLOS PARADIGMÁTICOS DEL USO INCORRECTO DE ALGORITMOS PARA EL CONTROL PREVENTIVO DE RIESGOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
53
IV. INTELIGENCIA ARTIFICIAL Y CONDICIÓN HUMANA: ENTENDER NO ES COMPRENDER . . . . . . . . . . . . . . . . . . . . . . . . . . . .
57
C apítulo III. Derecho, inteligencia artificial y democracia . . . .
65
Jorge Castellanos Claramunt, Profesor ayudante doctor de Derecho Constitucional, Universitat de Valencia.
I.
EL DERECHO EN EL ESCENARIO DIGITAL . . . . . . . . . . . . . . . . . . . . .
65
II. EL COMPLICADO ENCAJE DEMOCRÁTICO DE LA INTELIGENCIA ARTIFICIAL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Progreso o retroceso democrático . . . . . . . . . . . . . . . . . . . . . . . . . . 2. Sobre la relación derecho-inteligencia artificial . . . . . . . . . . . . . . . . 3. Hacia la democracia algorítmica: planteamientos jurídicos para los ciberciudadanos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4. La culpa no es de los ciclistas . . . . . . . . . . . . . . . . . . . . . . . . . . . .
76 77
III. EL DERECHO Y LA INTELIGENCIA ARTIFICIAL: UNA CUESTIÓN DE TIEMPO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
79
IV. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
82
C apítulo IV. L as garantías de los derechos en el espacio digital: la constitucionalización de lo digital . . . . . . . . . . . . . . . .
87
67 72 73
Ana Aba Catoira, Titular de Derecho Constitucional, Universidad de La Coruña.
I. PRESENTACIÓN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
87
II. LA PROTECCIÓN DE LOS DERECHOS EN EL ENTORNO TECNOLÓGICO: EVIDENTES DIFICULTADES FRENTE A LAS POTENTES AMENAZAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
89
III. LAS RESPUESTAS DESDE LA CONSTITUCIÓN . . . . . . . . . . . . . . . . . . .
92
IV. LAS EMPRESAS COMO SUJETOS OBLIGADOS . . . . . . . . . . . . . . . . . . 1. Evolución y desarrollo de las garantías: la regulación necesaria . . 2. Los principios: transparencia y responsabilidad . . . . . . . . . . . . . . .
101 103 104
V. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
108
8
Índice
C apítulo V. L a morfología jurídica del poder global de mercado en su fase digital: una reflexión constitucional . . . . . .
115
Ainhoa Lasa López, Profesora agregada de Derecho Constitucional, Universidad del País Vasco.
I.
EL SENTIDO DE LO DIGITAL COMO PROCESO DE ACCIÓN SOCIAL RELACIONAL DEL CAPITALISMO FINANCIARIZADO Y SUS EFECTOS EN LA ESTRUCTURA MATERIAL CONSTITUCIONAL: APROXIMACIONES PRELIMINARES . . . . . . . . . . . . . . . . . . . . . . . . . . .
II. LA DIGITALIZACIÓN EN LA RELACIÓN CONSTITUCIÓN-CAPITALISMO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Estado y Derecho en el ciclo sistémico de acumulación del capitalismo financiarizado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2. El avance de la digitalización como proceso de reproducción de la tasa de ganancia o como vínculo endógeno de la constitución económica del Estado mercado . . . . . . . . . . . . . . . . . . . . . . . . . . . .
115 118 123
128
III. LA ESTRUCTURA DEL DENOMINADO ESTADO DIGITAL Y DEL CIBERCAPITALISMO: RASGOS DEFINITORIOS . . . . . . . . . . . . . . . . . . . 1. Estado digital: cuestionando la ¿virtualidad? del concepto . . . . . . . 2. Cibercapitalismo, o, de nuevo, la lógica de la financiarización . . .
130 134 138
IV. A PROPÓSITO DE LA DIGITALIZACIÓN DEL SUJETO Y SUS DERECHOS: BREVES APUNTES SOBRE LA DESVALORIZACIÓN DE LAS MATERIALIDADES SOCIO-ECONÓMICAS . . . . . . . . . . . . . . . . . . .
140
V. LOS CONFLICTOS DEL CAPITAL DIGITAL: LAS NUEVAS PROPIEDADES MATERIALES E INMATERIALES Y SU NOMOS . . . . . .
145
VI. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
149
C apítulo VI. Inteligencia artificial y datos: comprensión del avance tecnológico con encaje en el derecho . . . . . . . . . . . . . . . . .
159
Antonio Merchán Murillo, Profesor ayudante doctor de Derecho internacional privado, Universidad Pablo de Olavide.
1. INTRODUCCIÓN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
159
II. LOS DATOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Conceptualización . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2. La propiedad de los datos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3. La mercantilización de los datos . . . . . . . . . . . . . . . . . . . . . . . . . . . 4. Breve estudio de derecho comparado de los datos como bien económico básico . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
161 161 163 167
III. LA INTELIGENCIA ARTIFICIAL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
170
IV. ASPECTOS DESTACADOS DEL REGLAMENTO IA . . . . . . . . . . . . . . . .
173
9
169
Jorge Castellanos Claramunt
V. EL AVANCE TECNOLOGICO DESCRITO ¿NOS DEBE LLEVAR A LA CAPACIDAD DIGITAL PARA LAS PERSONAS? . . . . . . . . . . . . . . . . . . .
174
VI. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
177
C apítulo VII. Sobre el control jurídico y democrático de la inteligencia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
183
María Dolores Montero Caro, Profesora ayudante doctora de Derecho Constitucional, Universidad de Córdoba.
I.
LA TECNOLOGÍA COMO ELEMENTO NATURAL DE LA VIDA POLÍTICA, SOCIAL Y JURÍDICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. Perspectiva crítica del uso incontrolado de la tecnología . . . . . . . . 2. Un ejemplo del uso controvertido de la tecnología: el VAR . . . . . .
183 185 188
II. EL MUNDO ONÍRICO DE LA INTELIGENCIA ARTIFICIAL . . . . . . . . . . .
191
III. UNA NECESARIA PERSPECTIVA JURÍDICA . . . . . . . . . . . . . . . . . . . . .
192
IV. A PROPÓSITO DE LA INCIDENCIA DEMOCRÁTICA DE LA INTELIGENCIA ARTIFICIAL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
194
V. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
198
C apítulo VIII. T ratamiento de datos y aplicaciones usadas en el control tributario: una propuesta de lege ferenda . . . . . . . . .
203
Fernando Hernández Guijarro, Profesor contratado doctor de Derecho Tributario, Universitat Politècnica de Valencia.
I.
EL TRATAMIENTO DE DATOS PERSONALES . . . . . . . . . . . . . . . . . . . . 1. El tratamiento de datos por la Agencia Tributaria . . . . . . . . . . . . . 2. El tratamiento de datos en la lucha contra el fraude fiscal . . . . . . 3. Infracciones del RGPD en actuaciones tributarias . . . . . . . . . . . . . .
203 205 206 209
II. LAS APLICACIONES INFORMÁTICAS UTILIZADAS POR LA AEAT EN LA LUCHA CONTRA EL FRAUDE FISCAL . . . . . . . . . . . . . . . . . . .
218
III. EL POSIBLE CONFLICTO ENTRE LA CONFIGURACIÓN DE LAS APLICACIONES INFORMÁTICAS Y LAS GARANTÍAS Y DERECHOS FUNDAMENTALES DEL ART. 24CE . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1. El derecho a la presunción de inocencia . . . . . . . . . . . . . . . . . . . . 2. El derecho a no declarar contra uno mismo . . . . . . . . . . . . . . . . .
221 221 222
IV. UNA PROPUESTA DE LEGE FERENDA . . . . . . . . . . . . . . . . . . . . . . . . .
223
V. CONCLUSIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
225
10
Introducción La presente obra colectiva, titulada «Inteligencia Artificial y Democracia: Garantías, Límites Constitucionales y Perspectiva Ética ante la Transformación Digital», aborda uno de los desafíos más apremiantes y trascendentales del siglo xxi: el impacto de la inteligencia artificial en nuestras sociedades democráticas. Y es que la creciente influencia de la tecnología y la transformación digital están redefiniendo las bases fundamentales de nuestras instituciones y nuestra manera de vivir, lo que plantea interrogantes cruciales sobre las garantías y límites constitucionales que deben regir este nuevo escenario. En un contexto donde la inteligencia artificial se ha vuelto omnipresente, es imprescindible comprender las implicaciones que esto conlleva para la democracia. Así, por todos es conocido que la IA posee el potencial de mejorar aspectos diversos de nuestra vida cotidiana, desde la eficiencia en la prestación de servicios hasta la optimización de la toma de decisiones políticas. Sin embargo, su adopción masiva también suscita preocupaciones relacionadas con la privacidad, la seguridad, y la posible concentración de poder en manos de unas pocas entidades tecnológicas. Esta obra colectiva reúne a una variedad de académicos y expertos en el campo de la inteligencia artificial y el derecho para abordar los temas cruciales que se derivan del título. Exploraremos las garantías constitucionales que deben proteger a los ciudadanos en un mundo cada vez más dominado por algoritmos y datos, asegurando que los derechos fundamentales no se vean comprometidos en el proceso de digitalización. Asimismo, examinaremos los límites que deben imponerse a la inteligencia artificial para salvaguardar los principios democráticos y evitar cualquier forma de discriminación o sesgo algorítmico. La transparencia y la rendición de cuentas serán elementos clave en la discusión sobre cómo mantener un equilibrio adecuado entre el uso responsable de la IA y la protección de los derechos individuales. La perspectiva ética también ocupará un lugar central en este análisis, ya que la implementación de la inteligencia artificial plantea cuestiones éticas comple-
11
Jorge Castellanos Claramunt
jas, como la autonomía y responsabilidad de las máquinas, la equidad en el acceso a la tecnología, y la equidad en la distribución de sus beneficios. Mediante un enfoque multidisciplinario, esta obra busca arrojar luz sobre el desafío de la inteligencia artificial en el contexto de la democracia y ofrece una reflexión profunda sobre cómo salvaguardar los valores democráticos en una era digital. Con un análisis riguroso y una mirada hacia el futuro, esperamos que este compendio de trabajos académicos fruto de la investigación desarrollada en el marco del proyecto de investigación de grupos emergentes CIGE/2021/123 «Garantías, límites constitucionales y perspectiva ética ante la transformación digital: Big data, inteligencia artificial y robótica» de la Conselleria de Innovación, Universidad, Ciencia y Sociedad digital de la Generalitat Valenciana (sustituida en 2023 por la Conselleria de Educación, Universidades y Empleo), contribuya a la construcción de un camino justo y equitativo hacia el progreso tecnológico, donde la inteligencia artificial sea una herramienta al servicio del bienestar de la sociedad y no una amenaza a nuestros derechos y principios fundamentales. Yendo al contenido, diremos que el primero de los trabajos que conforman esta obra colectiva lleva la firma de Pedro Talavera, catedrático de Filosofía del Derecho de la Universitat de València. En su interesantísimo trabajo «La superación del cuerpo y la desencarnación de la mente: imposibilidad ontológica de una maquina consciente» aborda la inquietud sobre cómo el progreso tecnológico y la inteligencia artificial están llevando a la sociedad hacia una transformación donde la tecnología se integra de manera esencial en la identidad humana y esta fusión de humanos y máquinas plantea el surgimiento de un paradigma posthumanista. El autor destaca que, si bien el desarrollo tecnológico ha mejorado la vida humana, existe el riesgo del «tecnologismo», donde la tecnología deja de ser solo una herramienta y se convierte en una parte inseparable de nuestra percepción de la realidad y de quienes somos. Y es que Talavera sostiene que la tecnología digital y la inteligencia artificial están provocando una transformación cognitiva y epistemológica, donde nuestra relación con la realidad se vuelve digital y matemática, basada en el análisis algorítmico de datos masivos. De ahí que se plantea la coexistencia cercana entre humanos y máquinas inteligentes, incluso se menciona la idea de una «singularidad» en la que las máquinas superarían la inteligencia humana y alcanzarían autonomía espiritual. Sin embargo, surge el cuestionamiento sobre si la inteligencia artificial realmente piensa o simplemente simula pensamiento a gran velocidad. Además, se aborda el enfoque funcionalista de la subjetividad y los derechos, que amplía la categoría de persona a seres, humanos o no humanos, capaces de ejercer funciones relevantes. No obstante, el texto critica esta visión, argumentando que las funciones no constituyen al sujeto. En síntesis, su trabajo advierte sobre los peligros de aceptar el dualismo antropológico y separar la persona del cuerpo, lo que podría llevar a la destrucción de la esencia humana y una poshumanidad sin identidad biológica, contradiciendo la concepción de derechos que reconoce la dignidad en todos los sujetos humanos sin distinciones. 12
Introducción
El segundo capítulo de la obra y, como el primero, de clara raíz iusfilosófica, es el llevado a cabo por Teresa García-Berrio Hernández, profesora titular de Filosofía del Derecho de la Universidad Complutense de Madrid. En él realiza un minucioso estudio de un tema de gran relevancia en la sociedad actual, abordando cuestiones éticas, legales y filosóficas de manera persuasiva y bien estructurada. De este modo, su trabajo, titulado «La sociedad digital como cultura del riesgo: desafíos éticos e implicaciones legales del uso de sistemas de inteligencia artificial para la evaluación de riesgos y la vigilancia preventiva» que analiza de manera sólida y reflexiva un tema crucial en la era contemporánea, comienza explorando la relación entre la sociedad digital y el concepto de «capitalismo de la vigilancia», destacando cómo la tecnología ha dado lugar a una cultura en la que la vigilancia se ha convertido en una parte integral de la vida cotidiana. Este enfoque es relevante y oportuno, ya que la digitalización y la inteligencia artificial están desempeñando un papel cada vez más importante en la forma en que las instituciones y las empresas evalúan y gestionan los riesgos. A continuación, la sección sobre «Vigilancia Preventiva vs. Autonomía» plantea cuestiones éticas importantes relacionadas con la creciente vigilancia en la sociedad digital y su impacto en la autonomía individual. El tercer punto, que destaca ejemplos paradigmáticos de uso incorrecto de algoritmos para el control preventivo de riesgos, proporciona ejemplos concretos de los peligros potenciales de la aplicación desmedida de la inteligencia artificial en la toma de decisiones. Finalmente, la sección que aborda la relación entre la inteligencia artificial y la condición humana es una reflexión profunda sobre las limitaciones y los riesgos de la dependencia excesiva de la tecnología para la toma de decisiones, cuyo análisis invita a los lectores a considerar cómo la tecnología puede amplificar tanto nuestra comprensión como nuestra ignorancia. El siguiente capítulo lleva la firma de Jorge Castellanos Claramunt, constitucionalista de la Universidad de Valencia. El trabajo «Derechos, inteligencia artificial y democracia» tiene, como puede deducirse de su título, un claro componente introductorio en las amplias temáticas que estudia. La idea principal que subyace a este texto es que la democracia no debe verse amenazada por la influencia de la inteligencia artificial en los comportamientos ciudadanos y, a este respecto, el derecho debe regular el uso de algoritmos para garantizar que los ciudadanos puedan ejercer su libertad de elección política sin consecuencias negativas. Si se logra este equilibrio, la relación entre el derecho, la democracia y la inteligencia artificial puede ser beneficiosa para mejorar la calidad de vida de las personas. Profundizando algo más en el trabajo, el autor pone de relieve que la omnipresencia de la inteligencia artificial en diversas facetas de la vida humana plantea importantes cuestiones legales y democráticas. Y, aunque esta penetración puede generar preocupaciones, no debemos necesariamente verla como negativa. En lugar de eso, debemos considerar cómo regular su uso para garantizar la seguridad de las personas, y aquí es donde entra en juego el derecho. Así, el derecho, al regular las interacciones entre las personas, desempeña un papel fundamental en limitar posibles abusos o mal uso de la inteligencia artificial. 13
Jorge Castellanos Claramunt
Sobre esta cuestión, un aspecto crítico es el uso algorítmico de datos, ya que puede amenazar principios democráticos al permitir un conocimiento profundo de los ciudadanos que puede influir en cuestiones políticas, por lo que la correlación de datos con propósitos políticos debe ser vigilada de cerca para evitar cualquier manipulación. A lo que se agrega que la transparencia y la explicabilidad de la inteligencia artificial son esenciales para mantener la democracia intacta, puesto que el derecho debe asegurarse de que no se utilicen algoritmos de manera opaca y que cualquier actividad que viole los límites establecidos sea sancionada. El capítulo cuarto es llevado a cabo por Ana Aba Catoira, Profesora Titular de Derecho Constitucional de la Universidad de La Coruña, y en él se trata la cuestión fundamental en el Derecho Constitucional de cómo garantizar los derechos y libertades en la era digital. La profesora Aba parte de la premisa de que el reconocimiento de derechos en las normas constitucionales es necesario pero insuficiente para garantizar su efectividad, por lo que expone que la realidad digital plantea desafíos únicos, como la expansión de la sociedad más allá de las fronteras nacionales y la falta de consenso sobre principios y valores compartidos. Reflexiona en su trabajo sobre la idea de que el Estado tiene la responsabilidad constitucional de proteger los derechos y libertades en este entorno, pero que las organizaciones privadas también juegan un papel crucial y a menudo determinan el alcance de los derechos. Por ello, se plantea la pregunta ética y jurídica de si es admisible cualquier uso de la tecnología sin considerar su impacto en las personas y sin controles adecuados. En cualquier caso, en el trabajo se argumenta a favor de un enfoque antropocéntrico en la regulación de la tecnología, priorizando a las personas en el desarrollo e innovación tecnológica, lo que requiere normas claras y eficaces para regular el uso de la tecnología, así como supervisión para garantizar su cumplimiento. El siguiente capítulo ha sido escrito por otra constitucionalista, la profesora Ainhoa Lasa López, de la Universidad del País Vasco. En su texto ofrece una perspectiva profunda y compleja sobre la intersección entre el mundo digital, el poder económico y la estructura constitucional, de modo que proporciona una base sólida para la reflexión y el debate sobre cómo la digitalización está dando forma a nuestra sociedad y nuestras instituciones legales en la era moderna. En puridad, el capítulo es una exploración profunda y crítica sobre el impacto de la digitalización en la estructura material constitucional y su relación con el capitalismo financiarizado. El título en sí mismo plantea cuestiones fundamentales sobre cómo el mundo digital está transformando la dinámica del poder y la naturaleza de la constitución en el contexto de la economía global. La primera sección introduce al lector en el concepto de lo digital como un proceso de acción social relacionado con el capitalismo financiarizado y plantea preguntas intrigantes sobre cómo esto afecta a la estructura material constitucional. A continuación se adentra en la relación entre la digitalización y la constitución, explorando cómo el Estado y el Derecho están influidos por el ciclo sistémico de acumulación del capitalismo financiarizado. Esto es esencial para comprender cómo la digitalización se convierte en un factor clave en la 14
Introducción
reproducción de la tasa de ganancia y en la economía del Estado mercado. La profesora Lasa examina en detalle la estructura del Estado digital y del cibercapitalismo, desafiando la concepción de «virtualidad» en el contexto del Estado y destacando la lógica de la financiarización en el cibercapitalismo. A ello se agrega en su trabajo la cuestión de la digitalización del sujeto y sus derechos, señalando cómo la desvalorización de las materialidades socioeconómicas está afectando la percepción y el ejercicio de los derechos individuales. Finalmente, la autora explora los conflictos emergentes en el capital digital, centrándose en las nuevas formas de propiedad material e inmaterial y su impacto en la normativa. El trabajo titulado «Inteligencia artificial y datos: comprensión del avance tecnológico con encaje en el derecho» es obra de Antonio Merchán Murillo, internacionalista de la Universidad Pablo de Olavide, y ofrece una visión integral y reflexiva sobre la intersección entre la inteligencia artificial, los datos y el marco legal. El título en sí mismo refleja la importancia de abordar estos temas en el contexto actual de avances tecnológicos y su influencia en la sociedad y el derecho. Así, en su introducción establece claramente el propósito del trabajo y la relevancia de los temas a tratar, preparando al lector para una exploración profunda. A continuación trata la cuestión relativa a «los datos», donde comienza con una conceptualización sólida y esencial sobre la naturaleza de los datos en la era digital. Luego, profundiza en cuestiones cruciales como la propiedad de los datos y su mercantilización, lo que es fundamental para comprender cómo los datos se convierten en un recurso valioso en la economía digital. Además, el análisis de derecho comparado añade perspectiva y enriquece la comprensión de los datos como un bien económico. La sección sobre «la inteligencia artificial» proporciona una visión general de esta tecnología disruptiva, destacando su creciente importancia en la sociedad y su relación con los datos. Además, la discusión sobre «aspectos destacados de la propuesta de Reglamento IA» es relevante y oportuna, ya que resalta los esfuerzos regulatorios en curso para abordar los desafíos éticos y legales planteados por la inteligencia artificial. Finalmente, la pregunta planteada en la sección «el avance tecnológico descrito ¿nos debe llevar a la capacidad digital para las personas?» provoca una reflexión importante sobre cómo los individuos deben adaptarse y desarrollar habilidades digitales en el contexto de estos avances tecnológicos. La profesora María Dolores Montero Caro, constitucionalista de la Universidad de Córdoba, firma el séptimo de los capítulos de esta obra. Su trabajo titulado «Sobre el control jurídico y democrático de la inteligencia artificial: herramientas y reflexiones acerca de la inserción incontrolada de mecanismos tecnológicos» aborda de manera perspicaz y pertinente un tema crucial en la actualidad: el impacto de la tecnología, en particular la inteligencia artificial, en la esfera política, social y legal. El título en sí mismo subraya la importancia de regular y controlar adecuadamente estos avances tecnológicos para garantizar la democracia y los derechos individuales. Así, el primer apartado establece un sólido marco de referencia al destacar cómo la tecnología se ha convertido en 15
Jorge Castellanos Claramunt
un elemento omnipresente en nuestra vida política, social y jurídica. La perspectiva crítica sobre el uso incontrolado de la tecnología plantea cuestiones importantes y relevantes en un mundo cada vez más digitalizado. Además, el ejemplo del uso del VAR en el deporte sirve como una ilustración concreta de cómo la tecnología puede ser controvertida en la práctica. A continuación, con la sección sobre «El mundo onírico de la inteligencia artificial» examina de manera reflexiva el avance de la inteligencia artificial y cómo está transformando la sociedad. Para pasar a la tercera sección donde aborda la perspectiva jurídica, destacando la importancia de establecer un marco legal sólido para supervisar y regular la IA. Finalmente, en el cuarto apartado trata de la incidencia democrática de la inteligencia artificial y plantea preguntas pertinentes sobre cómo la IA puede afectar a la toma de decisiones políticas y la participación ciudadana. El último de los trabajos, titulado «Tratamiento de datos y aplicaciones usadas en el control tributario: una propuesta de lege ferenda», escrito por Fernando Hernández Guijarro, Profesor contratado doctor de Derecho Tributario de la Universitat Politècnica de Valencia, trata una cuestión altamente relevante en la sociedad actual: la relación entre el tratamiento de datos personales, las aplicaciones informáticas y el control tributario. El título sugiere la importancia de establecer un marco legal sólido para abordar esta interacción y proteger los derechos fundamentales de los ciudadanos. En su primera sección se centra en el tratamiento de datos personales por parte de la Agencia Tributaria, destacando su papel en la lucha contra el fraude fiscal. Este análisis es esencial para comprender cómo se utilizan los datos en un contexto tributario y cómo pueden surgir posibles infracciones del Reglamento General de Protección de Datos (RGPD). En cuanto a la segunda sección, en ella examina las aplicaciones informáticas específicas utilizadas por la Agencia Tributaria en la lucha contra el fraude fiscal, lo que proporciona información detallada sobre las herramientas tecnológicas involucradas en el control tributario. El tercer apartado plantea cuestiones críticas sobre un posible conflicto entre la configuración de las aplicaciones informáticas y las garantías y derechos fundamentales establecidos en el artículo 24 de la Constitución Española. En particular, se destacan los derechos a la presunción de inocencia y a no declarar contra uno mismo, que son fundamentales en el ámbito legal. Y, finalmente, la cuarta sección presenta una propuesta de lege ferenda, es decir, una sugerencia para una futura legislación. Esta propuesta apunta a abordar los desafíos identificados en el trabajo y garantizar un equilibrio adecuado entre el control tributario y la protección de los derechos individuales. Para finalizar, como director de esta obra quiero mostrar mi público agradecimiento a todos los autores que han participado en este libro colectivo que da muestras de los resultados del proyecto CIGE/2021/123 «Garantías, límites constitucionales y perspectiva ética ante la transformación digital: Big data, inteligencia artificial y robótica» que he tenido el honor de liderar. Todos los autores tienen una prestigiosa carrera académica e investigadora que, sin duda, ve su 16
Introducción
reflejo en la alta calidad de los trabajos presentados. Desde luego ha sido un verdadero placer poder recibir todos y cada uno de los trabajos para nutrirme de los numerosos enfoques y perspectivas que proyectan, todos ellos con el elemento transversal de tener en el horizonte de sus investigaciones las ramificaciones del estudio de la democracia mediante el análisis de la incidencia de la inteligencia artificial en ella. Valencia, 22 de septiembre de 2023 Jorge Castellanos Claramunt
17