MIguEL ÁNgEL COLLADO YuRRITA
JOAN EgEA FERNÁNDEz
ISAbEL FERNÁNDEz TORRES
JOSé IgNACIO gARCíA NINET
JAvIER LOpéz gARCíA DE LA SERRANA
bELéN NOguERA DE LA MuELA
LuIS pRIETO SANChíS
FRANCISCO RAMOS MéNDEz
RICARDO RObLES pLANAS
SIxTO SÁNChEz LORENzO
JESúS-MARíA SILvA SÁNChEz
JOAN MANuEL TRAYTER JIMéNEz
JuAN JOSé TRIgÁS RODRíguEz Director de publicaciones
Dirección
Irene Sánchez Frías
Yeray Villegas Almagro
Comité científico
Dr. Carlos David Aguilar Segado
Dr. Ignacio Álvarez Arcá
Dra. Adriana Antúnez Sánchez
Dra. Elena Avilés Hernández
Dr. Jorge Baquero Aguilar
Dr. Andrés Bautista-Hernáez
Dr. José Becerra Muñoz
Dra. Elena Casado Patrixio
Dra. Paula Castaños Castro
Dra. Fátima Cisneros Ávila
Dr. Luis Corpas Pastor
Dr. José Alberto España
Dra. Marta Fernández Cabrera
Dra. Carmen R. Fernández Díaz
Dr. Jesús Martín Fuster
Dr. Gaspar González Represa
Dra. Carolina Jiménez Sánchez
Dra. Cynthia Mata Torres
Dr. Antonio Martín Pardo
Dr. José Carlos Nieto Jiménez
Dr. Jesús Palomares Bravo
Dra. Alicia M. Pastor García
Dra. María Pastrana Espárraga
Dr. Carlos Roca Peláez
Dr. Alejandro Sánchez Frías
Dr. Pablo Sánchez-Molina
Dra. Lucía Serrano Sánchez
Dra. Andrea Spada Jiménez
Dr. José Francisco Sedeño López
Dr. Guillermo Sánchez-Archidona Hidalgo
Dra. María del Mar Soto Moya
Directora:
Isabel Fernández Torres
Profesora titular de Derecho mercantil
Universidad Complutense de Madrid
PROYECTO CODIG-IA (PID2021-122536OB-I00)
PROYECTO COMEDI (ProyExcel_00665)
Reservados todos los derechos. De conformidad con lo dispuesto en los arts. 270, 271 y 272 del Código Penal vigente, podrá ser castigado con pena de multa y privación de libertad quien reprodujere, plagiare, distribuyere o comunicare públicamente, en todo o en parte, una obra literaria, artística o científica, fijada en cualquier tipo de soporte, sin la autorización de los titulares de los correspondientes derechos de propiedad intelectual o de sus cesionarios.
Este libro ha sido sometido a un riguroso proceso de revisión por pares.
© 2025 Los autores
© 2025 Atelier
Santa Dorotea 8, 08004 Barcelona e-mail: editorial@atelierlibros.es www.atelierlibrosjuridicos.com Tel.: 93 295 45 60
ISBN: 979-13-87543-98-3
Depósito legal: B 12293-2025
Diseño y composición: Addenda, Pau Claris 92, 08010 Barcelona www.addenda.es
Impresión: Podiprint
a PÍ tulo
i Derecho constitucional, Derecho
y Derecho internacional PúBlico
el conceP to De i nteligencia a rtificial en el r
Ch A p TER I. T hE
hE
c a PÍ tulo ii. l a evolución De los conceP tos De transParencia y ex Plica Bili Da D: De los años 90 al r eglamento De i nteligencia a rtificial
Ch A p TER II. T hE EvOLu TION OF T hE CONCEp TS OF TRANSpARENCY AND E xpLAINA bILITY: FROM T hE 1990 S TO T hE A RTIFICIAL INTELLIgENCE
R Egu LATION
Evolución normativa
1. Los conceptos en la Directiva de Protección de Datos de 1995 ...........................................
2. Reglamento General de Protección de Datos ...............
2.1. El principio del art. 5.1.a) del RGPD
2.2. La relevancia de los arts. 13 y 14 del RGPD
2.3. El rol del art. 15 del RGPD
2.4. El art. 22 del RGPD y sus excepciones .................
3. Reglamento de Inteligencia Artificial .....................
c a PÍ tulo iii. e l Pa Pel Del Derecho constitucional como Protector De los Derechos fun Damentales en la era De la tecnologÍ a Digital ....................................
Ch A p TER III. T hE ROLE OF CONSTIT u TIONAL L Aw AS A pROTECTOR OF F u
R IghTS IN T hE DIgITAL T EChNOLOgY ERA
Miguel Ángel García Torres
I. El Derecho constitucional en el siglo xx I: ¿un siglo
II. El Derecho constitucional en la era digital ...................
III. Artículo 18.4 de la Constitución Española: el emergente derecho al olvido y sus límites
2. Derecho al olvido frente a la libertad de expresión..........
IV. La constitucionalización de nuevos derechos y los «neuroderechos »
1. El encaje de nuevos derechos digitales en derechos fundamentales clásicos ................................
2.
V.
c a PÍ tulo iv. l a cuarta revolución in Dustrial y los Derechos humanos: el Derecho a la vi Da Priva Da y a la Protección De Datos en la era De la inteligencia artificial 85
C h A p TER I v. T h E FOu RT h I NDuSTRIAL R E vOLu TION AND hu MAN R Igh TS: T h E R Igh T TO p RI vATE L IFE AND DATA p ROTECTION IN T h E ERA OF T h E A RTIFICIAL I NTELLIgENCE
Víctor Vergara Giardín
I. La cuarta revolución industrial y su incidencia en los derechos humanos ............................................. 86
II. El derecho a la vida privada y a la protección de datos en Europa ............................................ 88
1. El Consejo de Europa ................................. 88
1.1. Jurisprudencia del Tribunal Europeo de los Derechos Humanos. Caso S. y Marper contra Reino Unido 89
2. La Unión Europea .................................... 92
III. La inteligencia artificial y los derechos humanos. Análisis del caso SyRI a la luz del convenio europeo de los derechos humanos ............................................. 93
1. La incidencia de la inteligencia artificial en los derechos humanos 93
2. La inteligencia artificial, ¿a juicio? Análisis del caso SyRI .....
IV. Conclusiones
V. Bibliografía ...........................................
c a PÍ tulo v. e xamen De la resiliencia De los Derechos fun Damentales en la gestión De la Pan Demia Por covi D-19 ..
Ch A p TER v. R Ev IEw OF T hE R ESILIENCE OF F u NDAMENTAL R IghTS IN T hE M ANAgEMENT OF T hE COv ID-19 pANDEMIC
Alexis José Aneas Fernández
I. Identificación y afectación de los derechos fundamentales durante el estado de alarma declarado el 14 de marzo de 2020 ......... 104
1. Identificación de los derechos fundamentales afectados ....... 104
2. El estado de alarma versus el derecho sectorial frente a la pandemia COVID-19 ..............................
3. El derecho sectorial sanitario como alternativa al estado de alarma 109
4. Suspensión o limitación de los derechos fundamentales versus estado de alarma ...............................
II. Conclusiones
c a PÍ tulo vi. l a intersección Digital coor Dina Da entre el sistema De Protección y el sistema De justicia juvenil . un menester cient Ífico
Ch A p TER v I. T h E DIgITAL AND COORDINATE INTERSECTION bET w EEN T hE pROTECTION SYSTEM AND T hE J uv ENILE J uSTICE SYSTEM. A SCIENTIFIC INTEREST
Elena Bazaga Campos
II. La delincuencia juvenil como objeto autónomo de interés y sistema tutelar .......................................
III. La imbricación entre el sistema de protección y el sistema de justicia juvenil ......................................
IV. La necesidad de la digitalización coordinada entre los sistemas de protección y justicia juvenil ............................
V. Conclusiones
VI. Bibliografía ...........................................
cha P ter vii. DecoDing the ethical lan Dsca Pe: the im Perative of grasPing reci Divism risk assessment tools
on
C A pí T u LO v II. DESCIFRANDO EL pANORAMA é TICO: EL IM pERATI vO DE COM pRENDER LAS hERRAMIENTAS DE EvALuACIóN DEL RIESgO DE REINCIDENCIA — u N EST u DIO DE CASO SObRE R ISCAN v I Víctor Herraiz Jagerovic
I. Introduction...........................................
III. Context: problems with criminal risk prediction algorithms as identified
IV. Explanability of the RisCanvi predictive ability indices
1. Positive predictive value, negative predictive value, sensitivity and specificity. Results of the predictive capacity of RisCanvi
2. RisCanvi is not a neutral technological artefact
V. The future of recidivism risk assessment tools in the European Union: AI Act
1. The use of the New Approach to harmonisation in the AI Act: “high risk” recidivism risk assessment AI systems under the spotlight ...................................
2. The impossibility of decoupling the design of technical standards from values.................................
3.
Derecho aDministrativo, Derecho financiero y triButario y Derecho Del traBajo
c a PÍ tulo viii. el necesario equiliBrio entre los Derechos De los a Dministra Dos y la Digitalización De la a Dministración Pú Blica: algunas consi Deraciones a ProPósito De la cita Previa oBligatoria .............................................
Ch A p TER v III. T h E NECESSARY bALANCE bET w EEN T h E RIgh TS OF ADMINISTERED INDI v IDuALS AND T h E DIgITALI z ATION OF pubLIC ADMINISTRATION: SOME CONSIDERATIONS REgARDINg T hE MANDATORY A ppOINTMENT SYSTEM
Adriana Antúnez Sánchez
I. Los derechos de los administrados en un contexto de digitalización
II. Las garantías jurídicas en el procedimiento administrativo digitalizado
III. Nuevo escenario postpandemia: implantación generalizada de la cita previa obligatoria ..............................
IV. Desafíos actuales de la administración digital tras la irrupción de la
cha P ter ix . t he im Portance of Digitising informations in the new euroPean sPatial
C A pí T u LO I x . L A IM pORTANCIA DE LA DIgITALIz ACIóN DE LAS INFORMACIóN ES EN LA N u EvA ORDENACIóN DEL TERRITORIO Eu ROpEO
Davide Tumminelli
I. Introduction...........................................
1. Why consider the use and automated processing of big data in spatial and land use planning? .......................
2. A looming scenario ..................................
II. The role of the European Union
III. What risks for the legal systems in the new scenario?
1. Data, discretion, the cognitive activity of the public administration and the powers of the judge ...............
2. Algorithmic spatial decision-making, transparency of choice and motivation
3. Digital data processing and administrative organization .......
4. Digital data processing and citizen participation in planning activities ...........................................
IV. Concluding reflections ...................................
c a PÍ tulo x . Desaf Íos jur ÍDicos Del PoDer De la ia en BiomeDicina .......................................... 189
Ch A p TER x. L EgAL Ch ALLENgES OF AI pOw ER IN bIOMEDICINE
José Luis Moreno-Garvayo
I. Introducción. Algunos apuntes terminológicos ................ 190
1. ¿De qué hablamos cuando hablamos de inteligencia artificial? 191
2. Breve análisis de conceptos clave en medicina: diagnóstico, pronóstico y tratamiento ............................... 193
II. La IA y su relación con la salud 194
1. Prevención de enfermedades y mejora de la calidad de vida de los pacientes .
2. Diagnósticos más rápidos y precisos ..................... 197
3. Avances en la investigación biomédica .................... 198
4. Mejora de los procedimientos quirúrgicos y de la gestión de los sistemas de salud 199
III. Retos para el empleo de la ia en el ámbito de la salud ........ 200
1. Acceso igualitario a una asistencia sanitaria de calidad .......
2. Transparencia en la toma de decisiones ...................
3. Sesgos de los datos y de los propios algoritmos en sistemas de IA .............................................
4. Protección de datos y ciberseguridad .....................
IV. Conclusiones
V. Bibliografía
c a PÍ tulo xi. l a necesaria integración De los Derechos Digitales
la nueva relación triButaria Digitaliza Da
Ch A p TER x I. T h E NECESSARY INTEgRATION OF DIgITAL RIghTS INTO T hE NEw DIgITALISED TA x RELATIONShIp
Yohan Andrés Campos Martínez
I. La inteligencia artificial tributaria. Una realidad dentro de un proceso inacabado e imperfecto 210
II. La evolución normativa de los principios y derechos digitales 213
III. Los derechos y principios digitales necesarios en el ámbito tributario ............................................. 218
1. Los principios y derechos básicos ....................... 219
2. El principio de buena administración digital 221
IV. Conclusiones: más allá del reconocimiento está garantizar su efectividad ......................................... 223
V. Bibliografía
c a PÍ tulo xii. el Desaf Ío De la ia Para los Derechos y garant Í as De los contriBuyentes ........................
Ch A p TER x II. T hE Ch ALLENgE OF AI TO T hE RIgh TS AND guARANTEES OF TA xpAYERS
Anas Mohand Moussaoui
I. Introducción
II. El uso de algoritmos en la administración tributaria ...........
III. El empleo de procesos automatizados por parte de la Administración Tributaria ..............................
IV. Perfilado de contribuyentes mediante IA ....................
1. Principios aplicables en el uso de la IA
2. Límites a la publicidad y transparencia de las actuaciones automatizadas .......................................
V. La necesidad de un marco normativo adaptado a la digitalización tributaria para la salvaguarda de los derechos y garantías de los contribuyentes ...................................
VI. Conclusiones
VII. Bibliografía
cha P ter xiii. t he use of artificial intelligence in the selection of su Bjects to Be su BjecteD to control .......
CA píT u LO x III. EL uSO DE LA INTELIgENCIA ARTIFICIAL EN LA SELECCIóN DE Su JETOS A SER Su JETOS A CONTROL
Marco Camilleri
I. The advent of AI in tax matters
II. The innovations introduced by the
c a PÍ tulo xiv. criP toactivos e inteligencia artificial . i nstrumentos De financiación De las enti Da Des sin ánimo De lucro ...............................................
Ch A p TER x I v. CRY p TO -ASSETS AND ARTIFICIAL INTELLIgENCE. F INANCINg INSTRuMENTS FOR NON-pROFIT ENTITIES
Juan Jesús Gómez Álvarez
I. Introducción
II. La digitalización frente a las entidades sin ánimo de lucro
III. Aproximación a la blockchain y los criptoactivos
IV. Aplicaciones de los criptoactivos en la financiación de las entidades sin ánimo de lucro ..........................
Derecho y entornos digitales
V. Inteligencia artificial y el CRM ............................
VI. Aplicaciones de la IA en la financiación .....................
VII. Referencias bibliográficas 281
c a PÍ tulo xv. l os riesgos De la inteligencia artificial Para la salu D y Derechos De los tra Baja Dores DesDe un enfoque ético y humano
Ch A p TER xv. T hE RISk S OF ARTIFICIAL INTELLIgENCE FOR wOR k ERS’ hEALT h AND RIghTS FROM AN ET hICAL AND huMAN pERSpECTI v E
Raquel Coterillo Laso
I. Introducción ..........................................
II. El impacto de la automatización en el empleo ................ 287
III. IA y salud laboral: más allá de la información, la necesaria participación de los representantes de los trabajadores .........
IV. Reconocimiento de emociones y desafíos regulatorios: un análisis del nuevo reglamento de inteligencia artificial ..........
1. El valor empresarial de las emociones
2. Desafíos en la aplicación de su régimen sancionador
V. Consideraciones
Bloque iii
Derecho mercantil, Derecho civil y Derecho internacional PrivaDo
c a PÍ tulo xvi. l a resPonsa Bili Da D De las Plataformas Digitales Por el uso infractor De la marca ................
Ch A p TER xv I. L IA bILITY OF DIgITAL pLATFORMS FOR TRADEMAR k INFRINgEMENTS
Ana María Aido Vázquez
I. Introducción ..........................................
II. Una aproximación a las plataformas de comercio electrónico
1. Las plataformas en línea como protagonistas de la economía digital .............................................
2. Concepto y características de las plataformas de comercio electrónico
III. La responsabilidad de las plataformas de comercio electrónico y el derecho de marcas
1. Tipos de responsabilidad por infracciones marcarias 309
2. La infracción directa de una marca ......................
IV. La evolución de la jurisprudencia del TJUE ...................
1. El caso L’Oréal/eBay ..................................
2. El caso Coty Germany/Amazon ..........................
3. El caso Amazon/Louboutin
V. La relevancia de la percepción del consumidor en las infracciones marcarias: reflexiones a partir del caso Fruugo ...............
c a PÍ tulo xvii. el control De la a Busivi Da D De las con Diciones generales De las a Puestas DePortivas online ....
Ch A p TER xv II. T hE CONTROL OF T hE A buSI v ITY OF T hE gENERAL TERMS AND CONDITIONS OF ONLINE SpORTS bETTINg Miquel Aznar Company
I. Introducción ..........................................
II. Apuestas deportivas online: contextualización y marco normativo
III. El control de abusividad de las condiciones de contratación de las apuestas deportivas online ..........................
1. Cláusulas que permiten al operador cancelar apuestas ya formalizadas por el usuario ............................ 326
2. Restricciones y limitaciones impuestas unilateralmente por el operador ...........................................
IV. Conclusión
c a PÍ tulo xviii. l a «Distri Bución» Digital De vi Deojuegos ante el Derecho De Defensa De la com Petencia. un comentario a la sentencia Del t riBunal general t-172/21, valve .................................................. 333
Ch A p TER xv III. ONLINE DISTRIbu TION OF v IDEOgAMES u NDER T hE LENSE OF ANTITRuST LAw. A COMMENT ON T hE DECISION OF T hE gENERAL COu RT Eu T-172/21, vALv E
Marcos Cruz González
I. Introducción ..........................................
II. El caso Valve y el derecho de la competencia ................ 336
1. La postura europea en torno a la limitación territorial de las licencias para contenidos digitales 336
2. El modelo de licencia de Valve: estructura de plataforma para la distribución de videojuegos ...................... 339
III. Incompatibilidad de la solución jurisprudencial con el sistema de licencias territoriales: ¿armonización por la puerta de atrás? ... 342
IV. A modo de conclusión: a vueltas con el debate de la tensión entre propiedad intelectual y derecho de la competencia 346
V. Bibliografía 348
c a PÍ tulo xix . t ratamiento y Protección De Datos en el e- commerce .............................................
Ch A p TER x I x. DATA pRI vACY AT E- COMMERCE
Paula María González Chorén
I. Introducción ..........................................
II. Normativa aplicable
III. Dato personal
IV. El deber de información
1. El deber de información en la LSSICE ....................
2. El deber de información en el RGPD y LOPDGDD ..........
3. Bases legitimadoras para el tratamiento de datos
4. Política de privacidad y política de cookies ................
V. Derechos de los interesados . . .
VI. Conclusión ............................................
c a PÍ tulo xx . el consentimiento contractual: im Plicaciones
jur ÍDicas De la inteligencia artificial en la contratación electrónica
Ch A p TER xx. CONTRACT uAL CONSENT: LEgAL IMpLICATIONS OF ARTIFICIAL INTELLIgENCE IN pRI vATE ELECTRONIC CONTRACTINg
María González-García Viñuela
I. Introducción ..........................................
1. El concepto de « contratación electrónica» ..................
2. Problemáticas que plantea la contratación electrónica
II. El consentimiento en la contratación electrónica...............
1. La exteriorización del consentimiento en la contratación electrónica .........................................
2. La obligación reforzada de información ...................
3. Breve referencia a algunos supuestos especiales ............
3.1. Personas con discapacidad ..........................
3.2. Menores de edad .................................
III. La voluntad en los contratos electrónicos en los que interviene inteligencia artificial ....................................
1. Clasificación ........................................
2. Perfeccionamiento del contrato
2.1. Sistemas de inteligencia artificial autónomos
2.2. Sistemas de inteligencia artificial predeterminados
IV. Consideraciones conclusivas ..............................
V. Bibliografía ...........................................
cha P ter xxi. r egulatory uncertainty in nft markets: legal im Plications within eu an D us frameworks ...........
CA píT u LO xx I. INCERTIDuMbRE NORMATI vA EN LOS MERCADOS DE NFT: IMpLICACIONES J u R íDICAS EN LOS MARCOS DE LA u E Y EE.uu. Miguel Ángel Zapatero Castrillo
I.
II. Blockchain technology ..................................
1. What is Blockchain? ..................................
2. Types of Tokens .....................................
2.1. Tokens by Fungibility ..............................
2.2. Tokens by Nature
III. Legal frameworks in the U.S. And Europe ...................
1. U.S. Legal Framework: The Howey Test and NFT Classification ........................................
2. Spain and the EU
2.1. Scope of MiCA regulation ...........................
2.2. Exemptions Under MiCA (Article 4) ....................
2.3.
NFT
2.4. Regulatory Impacts of MiCA on
2.5. Activities that require registration .....................
IV. Thoughts on the current NFT
V.
P ter xxii. t he Big Ba D Digital wolf: an awareness -raising tale a Bout the online Pitfalls for minors an D the neeD to esta Blish roBust age assurance mechanisms
CA píT u LO xx II. EL gRAN LObO DIgITAL: u N RELATO DE SENSIbILIz ACIóN SObRE LOS pELIgROS EN LíNEA pARA MENORES Y LA NECESIDAD DE ESTA bLECER MECANISMOS SóLIDOS DE v ERIFICACIóN DE EDAD Eleni Moraiti I. Online risks and minors as vulnerable individuals
La irrupción de la digitalización y de la inteligencia artificial ha traído consigo una incuestionable transformación de los sectores sociales, económicos y jurídicos, suponiendo un giro copernicano en el modo de entender la economía, el trabajo, la política y la sociedad. Este nuevo contexto histórico fue denominado por Klaus Schwab, fundador del Foro Económico Mundial, como « cuarta revolución industrial». Un término extendido en la actualidad para referirnos al periodo que vivimos, marcado por las tecnologías emergentes y sobre el que se han derramado auténticos ríos de tinta por las diferentes disciplinas y áreas de conocimiento.
En este sendero, abierto por nuestros maestros, caminamos los investigadores noveles, investidos, en palabras de Ramón y Cajal, de «la independencia mental, la curiosidad intelectual, la perseverancia en el trabajo, la religión de la patria y el amor a la gloria», con el fin de obtener respuestas ante los nuevos fenómenos y contribuir a nuestras disciplinas con aquellos hallazgos que surgen en nuestro fragmentario saber.
Siguiendo estos férreos valores, desde la actual coordinación del Aula de Investigación Novel (AiN) de la Facultad de Derecho de la Universidad de Málaga tomamos la decisión de continuar con una iniciativa puesta en marcha por quienes nos precedieron. El AiN, fundado en el año 2011, siempre ha destacado por ser un foro de discusión y diálogo en el que los investigadores noveles pudiesen desarrollar su espíritu crítico, encontrando, en este camino, a otros compañeros con los que compartir la vida académica. Y como la investigación no guarda sentido alguno sin una verdadera divulgación —científica y social—, creímos imperativa la organización de una nueva edición del Congreso de Jóvenes Investigadores en Ciencias Jurídicas, esta vez bajo el título «Derecho y entornos digitales » . De este Congreso, celebrado los días 14 y 15 de marzo de 2024 en Málaga, nace la presente obra colectiva. La misma cuenta con aportaciones multidisciplinares de autores pertenecientes tanto al ámbito académico como profesional, provenientes de diversas zonas geográficas y grupos de investigación. Esta diversidad contribuye a la calidad del resultado y encarna el lema in varietate concordia, bajo el que resulta esencial unirse en una época preocupantemente convul-
Derecho y entornos
sa para el sistema de valores y derechos fundamentales de la Unión Europea. Tras el fructífero debate de aquellos días y el correspondiente tiempo de reflexión de los autores, la obra pretende dar difusión los estudios y planteamientos compartidos durante el Congreso.
La obra se divide en tres bloques temáticos, con el fin de facilitar al lector la búsqueda y el contexto de cada uno de los capítulos, sin ánimo, en ningún caso, de dar a entender que esta división por áreas se identifique con una clasificación de aquellas como compartimentos estancos; todo lo contrario. Siguiendo la interpretación que el Tribunal Constitucional lleva a cabo sobre los principios constitucionales en su sentencia 38/1981, de 20 de julio, sostenemos que cada una de estas áreas cobra valor en función de las demás. Sólo de este modo podemos alcanzar soluciones eficaces frente a los problemas originados por las nuevas realidades sociales y económicas de cada tiempo. He aquí la riqueza de la multidisciplinariedad, cualidad altamente demandada hoy por la Academia.
Dicho esto, la obra se abre con un primer bloque temático dedicado al Derecho Constitucional, Derecho Penal y Derecho Internacional Público. En esta parte inicial encontramos los fundamentos que han supuesto un mayor debate desde el punto de vista de la política legislativa, al intentar aunar intereses tan diversos como el avance tecnológico y el respeto a los valores y derechos fundamentales tanto a nivel nacional como internacional.
A modo introductorio, Jorge Blanes Jover nos aproxima al alcance, naturaleza y elementos de la inteligencia artificial desde el prisma del Reglamento de Inteligencia Artificial de la Unión Europea. Tras analizar los antecedentes y la evolución de esta tecnología, expone las tendencias actuales y la problemática que supone una falta de definición clara y sistemática. Blanes Jover ofrece una visión del potencial de la inteligencia artificial y del loable esfuerzo de las instituciones por equilibrar las ventajas e inconvenientes que, tanto en el plano jurídico como ético, trae consigo.
Le sigue Pilar Vargas Martínez, que analiza la evolución de los conceptos de transparencia y explicabilidad, desde la década de los 90, hasta la aprobación del Reglamento citado supra. La autora, que parte de aspectos cotidianos — v.gr., la determinación de necesidades calóricas personales mediante relojes inteligentes, el desvío automático de llamadas para mejorar la experiencia de los clientes o la detección de actividades sospechosas en redes informáticas— expone el aumento de posibilidades técnicas que dicha tecnología trae consigo. Sin embargo, este avance no está exento de riesgos, motivo por el que las distintas disciplinas reclaman marcos normativos basados en los referidos conceptos. Vargas Martínez pone de manifiesto el aparente alejamiento de la noción de explicabilidad del citado Reglamento con respecto al Reglamento General de Protección de Datos, lo que afectaría, en último término, a las expectativas de la sociedad sobre la idea de un derecho a conocer los entresijos de los procesos decisionales automatizados. Hemos mencionado ya en varias ocasiones la repercusión de las tecnologías en la protección de los derechos fundamentales. A este respecto, Miguel Ángel García Torres analiza, desde una perspectiva jurídico-constitucional, dicha incidencia, junto a algunas herramientas que pueden resultar eficaces en el asegura-
miento del cumplimiento de aquellos, como el derecho al olvido y los neuroderechos. La doble crisis del constitucionalismo en el siglo xx I, originada por la globalización, la creación de entidades y la pérdida de soberanía, por un lado, y la revolución tecnológica, por otro, constituyen la base del ensayo, en el que el autor se aproxima a los derechos que pueden verse afectados negativamente; en especial, los relativos a la dimensión privada de las personas. Todo ello conduce a García Torres a reflexionar sobre el posible encaje de nuevos derechos digitales en los derechos constitucionales clásicos o, a sensu contrario, la aconsejable adaptación de estos últimos a las nuevas realidades. Como adelantábamos, nuestro ordenamiento interno no es el único afectado por los desafíos que plantean las tecnologías emergentes, cuya introducción en el mercado suele presentar notas transfronterizas. Prueba de ello es la investigación de Víctor Vergara Giardín acerca de los derechos humanos ante la « cuarta revolución industrial» y el uso de neurodispositivos. El autor, que realiza un recorrido por la jurisprudencia del Tribunal Europeo de Derechos Humanos, expone no solo la vulneración de los derechos a la vida privada y la protección de datos, sino también de los derechos al debido proceso y a la igualdad frente a la discriminación algorítmica, a partir del caso SyRI. En suma, Vergara Giardín lleva a cabo un amplio estudio sobre los avances internacionales con respecto al fenómeno de la digitalización.
Siguiendo con los posibles conflictos que pueden originarse entre los intereses públicos e individuales, Alexis José Aneas Fernández examina la incidencia de la crisis sanitaria del COVID-19 en derechos fundamentales ya afectados por la digitalización. Aneas Fernández identifica los derechos afectados por la Declaración del Estado de Alarma el 14 de marzo de 2020, exponiendo las deficiencias y carencias del marco normativo sanitario como posible alternativa al Estado de Alarma para gestionar la pandemia. El autor pone de manifiesto la supresión o limitación de los derechos fundamentales ante este tipo de medidas y reclama garantías jurídicas suficientes frente a futuras crisis sanitarias.
Desde la perspectiva penal, Elena Bazaga Campos nos presenta un estudio sobre la intersección digital coordinada entre el sistema de protección y el sistema de justicia juvenil. La autora lleva a cabo una revisión de los principales estudios internacionales y españoles que han abarcado la delincuencia juvenil. El objetivo de dicho estudio es poner de manifiesto la imbricación y coordinación entre el sistema de protección y el sistema de justicia juvenil, para lo que resulta necesaria la digitalización. La interconexión de información facilitaría la investigación de los expertos y ayudaría a superar algunas de las grandes limitaciones que supone abarcar esta realidad social. Entre ellas, la lentitud para proporcionar los datos y las incoherencias al intentar unificar bases de datos, así como los errores humanos en la introducción de información en ambos sistemas y en los propios programas informáticos, incapaces de identificar a un mismo sujeto o seguir su rastro criminal si a lo largo del tiempo se ha cambiado de nombre, domicilio o sexo. Siguiendo esta misma línea, han adquirido también una especial relevancia los sistemas de evaluación de riesgos de reincidencia. A este respecto, Víctor Herraiz Jagerovic cierra el primer bloque analizando el panorama ético en torno al
algoritmo RisCanvi, utilizado en el sistema penitenciario catalán, con el fin de predecir la probabilidad de reincidencia. El autor sostiene que sería un sistema considerado de « alto riesgo » conforme al Reglamento de Inteligencia Artificial, por lo que exigiría el cumplimiento de determinados requisitos y especificaciones técnicas. Herraiz Jagerovic analiza el objetivo y funcionamiento del sistema para exponer problemas que derivan de este y explicar los índices de valoración de la capacidad predictiva de RisCanvi, cuyo futuro analiza el autor.
El segundo bloque de la obra se destina al Derecho Administrativo, Derecho Financiero y Tributario, y Derecho del Trabajo, donde los estudios sobre el creciente uso de sistemas automatizados por parte de las Administraciones Públicas guardan un papel protagonista. El propio texto constitucional reconoce que la Administración Pública puede valerse de cuantos recursos tengan a su alcance; entre ellos, los tecnológicos. Dicho esto, el fin, por loable que sea, no justifica los medios, que no deben ser desproporcionados ni invasivos en la esfera más íntima de los ciudadanos, bajo el pretexto de dar cumplimiento a otros principios, como el de eficiencia administrativa. En este contexto, los estudiosos del Derecho Administrativo vienen exponiendo el necesario equilibrio entre los derechos de los administrados y la digitalización de la Administración Pública. Esta tendencia sigue Adriana Antúnez Sánchez, que, ante el proceso de digitalización que se lleva fraguando en los últimos años en la Administración Pública, advierte de un cambio en el modo de relacionarse entre esta y los ciudadanos. Para ello, la autora lleva a cabo un recorrido desde la denominada « administración electrónica», hasta la actual « administración digital», con el fin de analizar las garantías que deben regir los procedimientos administrativos digitalizados. Antúnez Sánchez analiza, además, el particular escenario que vivimos en la época post-pandemia con la generalización de la cita previa obligatoria y la obligación, en muchos casos, de relacionarse electrónicamente con la Administración, al constituir este el único medio posible para solicitar dicha cita. Todo ello le lleva a plantear, finalmente, problemas tan acuciantes como la brecha digital o la afectación del « derecho al plazo administrativo » .
Por su parte, Davide Tumminelli plantea la importancia de la digitalización de la información en la nueva ordenación del territorio europeo. En concreto, analiza los riesgos y desafíos jurídicos asociados a la creciente digitalización y las herramientas de planificación espacial en Europa, a partir de los sistemas jurídicos italiano y español como referentes. En el ensayo, Tumminelli describe la automatización de la recogida y gestión de datos territoriales, y plantea los interrogantes que históricamente ha representado la discrecionalidad en las decisiones urbanísticas, con el fin de exponer, en último término, los principales riesgos, relativos a la transparencia y la motivación de las decisiones.
Siguiendo con la toma de decisiones automatizada, pero desde la perspectiva de la biomedicina, encontramos el ensayo de José Luis Moreno-Garvayo, relativo a los desafíos jurídicos del poder de la inteligencia artificial en este contexto. El autor analiza la interrelación entre el derecho a la ciencia y los recientes avances en biomedicina y cuidados médicos impulsados por la citada tecnología. El estudio reclama un equilibrio entre la innovación científica y la protección de los
derechos fundamentales, de modo que los avances científicos beneficien a la sociedad de manera justa y responsable. Así las cosas, aunque las nuevas herramientas presentan soluciones ante los problemas más acuciantes a los que se enfrente la humanidad —diagnósticos rápidos y precisos, mejora de procedimientos quirúrgicos y de la gestión sanitaria, entre otras—, también trae consigo retos, como la transparencia en la toma de decisiones, los sesgos de los datos y los propios algoritmos, así como la protección de datos y la ciberseguridad.
Con todo, si hay una Administración que destaque por su digitalización, es la tributaria. El uso de nuevas herramientas, cada vez más avanzadas, tanto en la información y asistencia al contribuyente como en la lucha contra el fraude fiscal, ha originado también un nuevo modelo de relación jurídico-tributaria. El modo en que operan las Agencias Tributarias, caracterizado, en no pocas ocasiones, por la falta de transparencia y el uso de medios desproporcionados e invasivos sobre el status jurídico del contribuyente, sobre todo en el ejercicio de sus potestades discrecionales, se ha visto agravado en los últimos años, bajo el pretexto de la eficiencia.
Lo cierto es que, como expusieron los firmantes de la Declaración de Granada (2018), «parece que el afán recaudatorio se ha convertido en el único objetivo del comportamiento de los órganos tributarios, con olvido de los derechos y garantías individuales ». Ahora, más que nunca, en un contexto de digitalización, «lo que debe ser una función pública que tiene como fin hacer efectiva la tributación de todos de acuerdo con la Constitución y las leyes, se lleva a cabo atendiendo de manera preferente a normas reglamentarias e instrucciones internas que, más veces de las deseables, solo están pensadas para allegar más recursos al Erario público, pero no necesariamente para hacerlo de forma más justa», lo que incide desfavorablemente sobre los contribuyentes.
Ante esta situación se han derramado grandes ríos de contribuciones en la doctrina tributaria, a la que los autores que siguen pretenden aportar con sus investigaciones. Así, Yohan Andrés Campos Martínez reclama la integración de los derechos digitales en la nueva relación jurídico-tributaria, dado el actual desequilibrio de posiciones, agravado aún más, si cabe, por el uso de estas herramientas. El autor analiza la evolución normativa de los principios y derechos digitales, y expone la ausencia de un marco legal que reconozca, regule y limite el uso dichas herramientas en las relaciones Fisco-contribuyente. Campos Martínez propone, de este modo, la búsqueda y la reinterpretación de una normativa consolidada para unas relaciones analógicas, con el fin de fortalecer los derechos y principios que tradicionalmente han regido. En este contexto, el autor presta especial atención al principio a la buena administración digital, derivado de principios constitucionales ya consolidados. Una contrapartida mínima, en definitiva, que las Administraciones tributarias deben asumir ante los riesgos que el tratamiento masivo de los datos de los contribuyentes y los sistemas de análisis traen consigo.
En el mismo sentido, Anas Mohan Moussaoui expone el desafío que la inteligencia artificial supone para los derechos y garantías de los contribuyentes. El autor realiza un extenso análisis de las implicaciones y los desafíos que las nuevas herramientas representan en el ámbito tributario. Para ello, Mohan Mous -
Derecho y entornos
saoui analiza el uso de algoritmos y de procedimientos automatizados en la Administración tributaria, así como la elaboración de perfiles y selección de contribuyentes. El autor, en línea con quienes le preceden, pone de relieve los principios aplicables, así como los límites a la publicidad y la transparencia de las actuaciones automatizadas. Finalmente, Mohan Moussaoui se une al reclamo de la necesaria adaptación del marco normativo a la digitalización, en aras de una eficaz salvaguardia de los derechos y garantías de los contribuyentes.
A pesar de que la Administración tributaria española siempre ha sido una institución vanguardista y pionera en el uso de las nuevas tecnologías, debemos destacar que otras, como la italiana, también lo son. De hecho, el Piano Nazionale di Ripresa e Resilienza impulsa la digitalización y la optimización del control tributario y aduanero. En este sentido, Marco Camilleri nos ofrece una visión del citado fenómeno en el ordenamiento jurídico-tributario italiano. El autor nos muestra los avances del uso de la inteligencia artificial en la selección de contribuyentes sujetos a comprobación, en el marco de la lucha contra el fraude fiscal. Esta innovación en los métodos de control de la Agenzia delle Entrate plantea, al igual que en España, desafíos ante los riesgos inherentes a ellos; en particular, la privacidad, la transparencia, los sesgos, la discriminación y, en último término, la reducción de la participación de los contribuyentes en los procedimientos. De este modo, Camilleri pone de relieve cómo la interoperabilidad de las bases de datos, junto al uso de sistemas basados en inteligencia artificial, facilita la detección del fraude, a la vez que plantea desafíos éticos y jurídicos. Finalmente, en el ámbito fiscal, Juan Jesús Gómez Álvarez analiza una cuestión de gran actualidad: la integración de la tecnología blockchain y la inteligencia artificial en las entidades sin ánimo de lucro, cuyo régimen fiscal fue actualizado mediante el Real Decreto-ley 6/2023, de 19 de diciembre. El autor parte del análisis del modelo económico de estas entidades, con la premisa de que estas nuevas tecnologías emergentes pueden ayudar a eliminar las barreras de financiación de dichas entidades. Tras señalar los cuatro niveles de digitalización y aproximarse a los fundamentos de la tecnología blockchain y los criptoactivos, Gómez Álvarez expone las aplicaciones que, tanto estos como la inteligencia artificial, pueden tener en la financiación de las citadas entidades. El autor pone como ejemplo particular el Customer Relationship Management, instrumento que gestiona y almacena toda la información recogida por una empresa en su relación con los clientes y que puede dirigirse a la captación de fondos.
En otro orden, la inteligencia artificial también ha irrumpido en el ámbito laboral, donde en ocasiones ha puesto en jaque la salud y los derechos de los trabajadores. Raquel Coterillo Laso cierra el segundo bloque de la obra ofreciendo un ensayo al respecto desde un enfoque ético y humano. La autora apunta al peligro de centrar las inquietudes de forma exclusiva en la automatización de los puestos de trabajo. Coterillo Laso hace hincapié en los riesgos derivados de la digitalización, como la impotencia que deriva en los trabajadores de la inadaptación a las nuevas competencias exigidas, o la constante presión ante la monitorización de su rendimiento. La frustración, la ausencia de límites claros entre el tiempo de trabajo y de descanso, el impacto negativo en la calidad de vida, el
tecnoestrés como enfermedad profesional común o la reducción del rendimiento laboral son algunas de las principales consecuencias descritas por la autora. En este contexto, Coterillo Laso profundiza, a partir del Reglamento de Inteligencia Artificial de la Unión Europea, en el estrecho vínculo entre los sistemas de reconocimiento automatizado de emociones de la persona trabajadora y la protección de datos de carácter personal, concluyendo, por último, con los desafíos que estas tecnologías plantean en el régimen sancionador.
El tercer y último bloque de la obra se ocupa de estudiar la necesaria actualización y adaptación del Derecho Mercantil, Derecho Civil y Derecho Internacional Privado a las tecnologías emergentes. El exponencial crecimiento del comercio electrónico, por su propia naturaleza de carácter transfronterizo, ha planteado la necesidad de adaptar conceptos tradicionales del Derecho Privado a las prácticas actuales que proliferan en el mercado.
A esta tarea contribuye María González-García Viñuela, exponiendo las implicaciones jurídicas de la inteligencia artificial en el consentimiento electrónico. La autora analiza el concepto de contratación electrónica y las problemáticas que ésta plantea desde el prisma de la Ley de Servicios de la Sociedad de la Información y del Comercio Electrónico. González-García Viñuela, en el marco de las nuevas tecnologías, pone de manifiesto la necesidad de no dar por superadas cuestiones clásicas como los elementos del contrato. La autora presta especial atención a la exteriorización del consentimiento y a la obligación reforzada de información, subrayando la transparencia como garantía de una voluntad eficaz de dicho consentimiento.
Pese a que algunos de estos desafíos han sido abordables de lege lata, no conviene ignorar que la Unión Europea se ha visto obligada a explorar nuevas soluciones normativas con las que hacer frente a una mercantilización de los datos que resulte respetuosa con los derechos fundamentales de los usuarios en línea, sin tampoco frenar el crecimiento empresarial de forma desproporcionada. Estas soluciones han provocado adaptaciones normativas no sólo en los Estados Miembros, sino también en las potencias tecnológicas con las que compite, siguiendo el ya conocido efecto Bruselas. Prueba de ello es la regulación de las plataformas en línea, término que se ha usado de forma cotidiana en la última década y que, bajo la Estrategia de la Comisión «Una Europa Adaptada a la Era Digital», ha sido objeto de una conceptualización normativa algo confusa.
En este punto, Ana María Aido Vázquez nos ayuda a comprender las distintas nociones del concepto «plataforma» en los recientes Reglamentos de Mercados y Servicios Digitales (conocidos en su conjunto como «Paquete de Servicios Digitales »), para a continuación analizar la posibilidad de que las plataformas en línea resulten directamente responsables por las infracciones marcarias cometidas por terceros vendedores. Aido Vázquez aporta un estudio del marco jurídico actual y de la evolución jurisprudencial del Tribunal de Justicia de la Unión Europea al respecto, aportando una sensible reflexión sobre la relevancia de la percepción del consumidor en tales infracciones.
Siguiendo con la proliferación de riesgos sistémicos en los entornos digitales, Miquel Aznar Company expone otra problemática de gran calibre: las cláusulas
Derecho y entornos
abusivas en las apuestas deportivas online, una de las principales manifestaciones de juegos de azar en nuestro país. El autor centra el examen de abusividad en dos cláusulas o facultades unilaterales del operador: la facultad de cancelar apuestas ya formalizadas, y la eliminación unilateral de la cuenta abierta por el usuario. A tal fin, el Aznar Company aporta un análisis detallado de la normativa aplicable, así como de la jurisprudencia nacional existente sobre ambas cláusulas.
Al hilo del comercio electrónico y de los juegos online, Marcos Cruz González nos ofrece perspectivas desde el Derecho de la competencia y el derecho de autor. El autor analiza, a partir de la sentencia Valve, el sistema de licencias de contenidos protegidos por derecho de autor y el exclusivo derecho del titular a segmentar y fragmentar los mercados y submercados nacionales en la distribución digital de videojuegos. Cruz González apunta al fenómeno democratizador en este ámbito, a través de e-shops como Steam, tienda titularidad de Valve que ofrece a los desarrolladores de videojuegos una ventana a internet en la que poner a disposición su videojuego, sin necesidad de que intermedien los guardianes de acceso, pudiendo ejecutar el videojuego en un ordenador personal doméstico. El autor analiza así la postura europea en torno a la limitación territorial de las licencias para contenidos digitales y el modelo de licencia Valve. Mencionábamos anteriormente que otro de los grandes retos a los que se ha enfrentado el legislador en la última década ha sido la mercantilización o monetización de los datos personales. Al respecto, Paula María González Chorén aporta un estudio sobre la normativa aplicable al tratamiento de datos personales que deben cumplir las empresas que comercializan productos y servicios en España, así como los derechos que la legislación reconoce a los titulares de los datos. Ante el auge del comercio electrónico, el referido derecho no solo es relevante como obligación, sino que, además, repercute en la reputación de las empresas que deben dar cumplimiento a dicha normativa. La autora analiza ciertos conceptos clave de la protección de datos, para a continuación centrarse en los deberes de información, las bases legitimadoras para el tratamiento de datos, la política de privacidad y de cookies, y, en definitiva, en los derechos de los interesados.
Otro desafío actual, de gran calibre y complejidad, se encuentra en la ausencia de una regulación específica en el sector de los Tokens No Fungibles (NFT). Al respecto, Miguel Ángel Zapatero Castrillo aporta un análisis técnico-jurídico dentro de los marcos jurídicos europeos y norteamericanos. Con base en la experiencia práctica del autor en la prestación de servicios de infraestructura Web3, examina el impacto que presenta la ausencia de un marco normativo específico en las relaciones jurídicas con los clientes, la seguridad jurídica en la operatividad del sector y el cumplimiento de las obligaciones regulatorias en la industria de los NFT. Se aborda, asimismo, la incidencia de esta laguna regulatoria en la relación abogado-cliente, las dificultades operativas derivadas de la falta de directrices normativas claras y los desafíos fiscales asociados a la tributación de las transacciones con NFT. Finalmente, Zapatero Castrillo propone estrategias orientadas a la adopción de marcos regulatorios más definidos, con el propósito de fomentar un desarrollo sostenible y jurídicamente seguro del mercado de NFT.
Para concluir, la obra no podía obviar el agravamiento de los riesgos inherentes a las nuevas tecnologías cuando los afectados son menores de edad. Eleni Moraiti pone de manifiesto los principales problemas que giran en torno al mundo digital en los menores: el ciberacoso, el grooming y la exposición a contenido inapropiado. La autora pone de ejemplo el caso del Blue Whale Challenge, como prueba de la manipulación en línea y su incidencia en la salud mental de los jóvenes. Asimismo, trata otros ejemplos preocupantes, como el robo de identidad y las estafas, técnicas cada vez más sofisticadas debido al uso de inteligencia artificial. Moraiti concluye con la relevancia de la evaluación de impacto como medida que coadyuva a ajustar los medios de seguridad. Introducidos los capítulos que conforman la presente obra, no nos queda más que agradecer al comité científico —doctores y miembros honoríficos del AiN— por su ingrata labor. Igualmente, agradecemos al Vicerrectorado de Investigación y Divulgación Científica de la Universidad de Málaga la financiación otorgada; especialmente, en la coyuntura que nuestra institución atraviesa. Asimismo, la celebración del Congreso y la publicación de esta obra no habría sido posible sin la ayuda del Proyecto «Marco jurídico para la competencia dinámica en mercados digitales y para la innovación a través de Inteligencia Artificial» (CODIG-IA) (PID2021-122536OB-100), cuyo IP es el profesor Eugenio Olmedo Peralta, y del Decanato de la Facultad de Derecho de la Universidad de Málaga, dirigido por el profesor Juan José Hinojosa Torralvo, cuya colaboración permanente reconocemos en estas líneas. Y, por supuesto, a los participantes, pues sin ellos no existiría el resultado que ahora presentamos. A todos, gracias por permitirnos aprender y seguir caminando en la vida universitaria.
En Málaga, el día en que el pueblo español ratificó mediante referéndum hace 46 años la Constitución española. 6 de diciembre de 2024.
Irene Sánchez Frías y Yeray Villegas Almagro Coordinadores del Aula de Investigación Novel
