Se ha tratado, en definitiva, de contribuir, por un lado, al conocimiento de los efectos jurídicos que plantea la progresiva e inevitable incorporación de la inteligencia artificial a las reglas de imputación de la responsabilidad; y, por otro lado, a definir el marco de gestión de las responsabilidades derivadas de los riesgos cibernéticos.
Esther Monterrosso Casado
Directora
Directora
Coordinador
INTELIGENCIA ARTIFICIAL Y RIESGOS CIBERNÉTICOS RESPONSABILIDADES Y ASEGURAMIENTO
RESPONSABILIDADES Y ASEGURAMIENTO
En una segunda parte, relativa a la responsabilidad derivada de los riesgos cibernéticos, se analizan las distintas responsabilidades civiles, penales y administrativas que se pueden derivar, y el aseguramiento de tales riesgos. La siguiente sección se centra en la responsabilidad por seguridad en las redes y protección de datos, la evaluación de los riesgos en la ciberseguridad y la protección de datos personales, y los derechos de los particulares en el nuevo reglamento general de protección de datos, donde se cuestiona la necesidad de una mayor protección hacia los ciberriesgos. A continuación, se analiza la responsabilidad laboral en plataformas digitales, a través de un interesante capítulo sobre el levantamiento del velo digital. Y por último, se concluye con una última parte relativa a las perspectivas de futuro de la inteligencia artificial.
ESTHER MONTERROSSO CASADO ALBERTO MUÑOZ VILLARREAL
INTELIGENCIA ARTIFICIAL Y RIESGOS CIBERNÉTICOS
La preocupación por los riesgos y la reparación de los daños causados por las máquinas inteligentes exige un nuevo análisis jurídico, a la vista de que la responsabilidad y el aseguramiento de las mismas que precisa delimitar el ámbito en el que nos encontramos y establecer el criterio jurídico de imputación de esa responsabilidad, objetivo que persiguen los autores de esta monografía. Para ello, en la primera parte de la obra se analizan la responsabilidad civil y el aseguramiento de los robots, su posible personalidad electrónica y el estudio de tres sectores de especial relevancia: la utilización de los robots en el ámbito sanitario, la circulación de vehículos autónomos y el uso de los drones.
ALTA CALIDAD EN INVESTIGACIÓN JURÍDICA
monografías
monografías
monografías
INTELIGENCIA ARTIFICIAL Y RIESGOS CIBERNÉTICOS RESPONSABILIDADES Y ASEGURAMIENTO
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig
Catedrática de Filosofía del Derecho de la Universidad de Valencia
Ana Cañizares Laso
Catedrática de Derecho Civil de la Universidad de Málaga
Jorge A. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México
José Ramón Cossío Díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
Eduardo Ferrer Mac-Gregor Poisot
Presidente de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
Owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José Antonio García-Cruces González
Catedrático de Derecho Mercantil de la UNED
Luis López Guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
Ángel M. López y López
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente Sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Javier de Lucas Martín
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia
Víctor Moreno Catena
Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
Francisco Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
Angelika Nussberger
Jueza del Tribunal Europeo de Derechos Humanos. Catedrática de Derecho Internacional de la Universidad de Colonia (Alemania)
Héctor Olasolo Alonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
Luciano Parejo Alfonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
Tomás Sala Franco
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
Ignacio Sancho Gargallo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
Tomás S. Vives Antón
Catedrático de Derecho Penal de la Universidad de Valencia
Ruth Zimmerling
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
INTELIGENCIA ARTIFICIAL Y RIESGOS CIBERNÉTICOS RESPONSABILIDADES Y ASEGURAMIENTO Directora
Esther Monterrosso Casado Coordinador
Alberto Muñoz Villarreal Autores
Pilar Álvarez Olalla José Antonio Badillo Arias Efrén Díaz Díaz José María Elguero Daniel Fernández Bermejo Víctor Gallego Corchero Eugenio Lanzadera Arencibia Luis Felipe López Álvarez Esther López Barrero María Aurora Martínez Rey Esther Monterroso Casado Alberto Muñoz Villarreal Juan Pazos Sierra Bernardo Ybarra Malo de Molina
tirant lo blanch Valencia, 2019
Copyright ® 2019 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© VV.AA.
© TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1313-013-2 MAQUETA: Tink Factoría de Color Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
ÍNDICE INTRODUCCIÓN....................................................................................................... 17
Esther Monterroso Casado
PARTE I
INTELIGENCIA ARTIFICIAL Y RESPONSABILIDAD CIVIL CAPÍTULO 1 RESPONSABILIDAD CIVIL Y ASEGURAMIENTO OBLIGATORIO DE LOS ROBOTS........................................................................................................ 25 José Antonio Badillo Arias I. II.
CONSIDERACIONES GENERALES.................................................... 26 LA RESOLUCIÓN DEL PARLAMENTO EUROPEO, DE 16 DE FEBRERO DE 2017, CON RECOMENDACIONES DESTINADAS A LA COMISIÓN SOBRE NORMAS DE DERECHO CIVIL SOBRE ROBÓTICA...................................................................................................... 30 1. Antecedentes.................................................................................... 30 2. Análisis de la Resolución................................................................. 31 3. Comunicación de la Comisión sobre inteligencia artificial............... 33 III. LA RESPONSABILIDAD CIVIL Y EL SEGURO OBLIGATORIO DE LOS ROBOTS........................................................................................ 34 1. Concepto de robot........................................................................... 34 2. Registro obligatorio de los robots.................................................... 37 3. La personalidad jurídica de los robots............................................. 39 4. Régimen de responsabilidad civil de los robots................................ 42 4.1. Consideraciones generales....................................................... 42 4.2. La responsabilidad civil en la Resolución del Parlamento Europeo de febrero de 2017........................................................ 47 4.3. Aplicación de la legislación sobre productos defectuosos........ 50 4.4. Seguro obligatorio que garantice los daños producidos por los robots..................................................................................... 51 4.4.1. Aspectos generales...................................................... 51 4.4.2. La regulación y justificación de los seguros obligatorios............................................................................. 54 4.4.3. La creación del seguro obligatorio. Aspectos aseguradores.......................................................................... 57 IV. LA CREACIÓN DE FONDOS DE COMPENSACIÓN EN EL ASEGURAMIENTO DE LOS ROBOTS............................................................ 59
8
Índice
1. Fondo de compensación similar al que ya existe en automóviles...... 60 2. Fondo de compensación general para limitar la responsabilidad...... 62 V. BIBLIOGRAFÍA..................................................................................... 65 CAPÍTULO 2 INTELIGENCIA ARTIFICIAL E IRRUPCIÓN DE UNA NUEVA PERSONALIDAD EN NUESTRO ORDENAMIENTO JURÍDICO ANTE LA IMPUTACIÓN DE RESPONSABILIDAD A LOS ROBOTS......................................... 67 Alberto Muñoz Villarreal Víctor Gallego Corchero I. INTELIGENCIA ARTIFICIAL............................................................... 68 II. PERSONALIDAD ELECTRÓNICA....................................................... 74 III. RESPONSABILIDAD CIVIL E INTELIGENCIA ARTIFICAL............... 83 1. Definición de responsabilidad civil y clases...................................... 83 1.1. Responsabilidad contractual................................................... 86 1.2. Responsabilidad extracontractual........................................... 86 2. Responsabilidad Civil y sistemas de Inteligencia Artificial................ 93 IV. CONCLUSIONES................................................................................. 97 V. BIBLIOGRAFÍA..................................................................................... 98 CAPÍTULO 3 RESPONSABILIDAD CIVIL POR DAÑOS CAUSADOS POR ROBOTS EN EL ÁMBITO SANITARIO................................................................................... 101 Esther Monterroso Casado I. INTRODUCCIÓN: LA ROBÓTICA EN EL ÁMBITO SANITARIO..... 102 II. DAÑOS CAUSADOS POR ROBOTS SANITARIOS.............................. 106 III. DELIMITACIÓN DE LA RESPONSABILIDAD EN LOS DAÑOS CAUSADOS POR LOS ROBOTS SANITARIOS........................................... 108 1. El derecho de consumo en el uso de robots en el ámbito sanitario... 109 1.1. La delimitación de los consumidores....................................... 109 1.2. La responsabilidad derivada de la prestación de servicios sanitarios...................................................................................... 110 2. La responsabilidad por productos defectuosos en los robots............ 112 2.1. La delimitación de los robots como productos defectuosos..... 112 2.2. La delimitación de los robots como productos sanitarios........ 117 3. La responsabilidad civil de los médicos y centros sanitarios en la utilización de robots........................................................................ 121 3.1. La delimitación de la responsabilidad civil extracontractual... 121 3.2. La delimitación de la responsabilidad civil contractual........... 123 3.3. La delimitación de la responsabilidad en los centros sanitarios públicos.................................................................................. 126
9
Índice
IV. HACIA UN NUEVO CRITERIO DE IMPUTACIÓN DE LA RESPONSABILIDAD CIVIL DE LOS ROBOTS................................................... 126 1. Las recomendaciones del parlamento europeo sobre normas de derecho civil sobre robótica................................................................. 126 2. El control como criterio de imputación de la responsabilidad.......... 130 3. La gestión del riesgo y la responsabilidad objetiva como criterios de imputación de la responsabilidad..................................................... 133 V. MECANISMOS DE ASEGURAMIENTO DE LOS ROBOTS................ 136 VI. CONCLUSIONES................................................................................. 139 VII. BIBLIOGRAFÍA..................................................................................... 140 CAPÍTULO 4 RESPONSABILIDAD CIVIL EN LA CIRCULACIÓN DE VEHÍCULOS AUTÓNOMOS......................................................................................................... 145 Pilar Álvarez Olalla I. INTRODUCCIÓN................................................................................. 145 II. SUPUESTOS QUE ILUSTRAN LA PROBLEMÁTICA DE LOS VEHÍCULOS AUTÓNOMOS......................................................................... 147 III. EL ESTADO DE LA CUESTIÓN EN ESTADOS UNIDOS Y EUROPA. 148 IV. ASPECTOS ÉTICOS RELACIONADOS CON LA CIRCULACIÓN DE VEHÍCULOS AUTÓNOMOS................................................................ 153 V. CIBERSEGURIDAD Y PROTECCIÓN DE DATOS............................... 156 VI. RESPONSABILIDAD CIVIL y robótica................................................. 157 VII. RESPONSABILIDAD CIVIL EN CASO DE ACCIDENTES DE VEHÍCULOS AUTÓNOMOS......................................................................... 163 VIII. BIBLIOGRAFÍA..................................................................................... 169 CAPÍTULO 5 RESPONSABILIDAD CIVIL Y PROTECCIÓN DE DATOS EN EL USO DE LOS DRONES........................................................................................................ 171 Esther Monterroso Casado Efrén Díaz Díaz I. II.
INTRODUCCIÓN: CONCEPTO Y EVOLUCIÓN............................... 172 REGULACIÓN JURÍDICA SOBRE DRONES....................................... 173 1. Legislación europea sobre drones..................................................... 173 2. Legislación europea en responsabilidad civil.................................... 179 3. Legislación europea en privacidad................................................... 181 4. Legislación española sobre drones................................................... 183 5. Legislación española sobre responsabilidad civil.............................. 190 6. Legislación española sobre privacidad............................................. 191
10
Índice
III. INTEGRACIÓN DE DRONES EN EL ESPACIO AÉREO CIVIL.......... 191 1. Drones y sensores............................................................................ 191 1.1. Qué son los “drones”.............................................................. 191 1.2. Ejemplos de equipos y sensores instalados.............................. 192 2. Ventajas, muchas. Algunos riesgos................................................... 192 2.1. Beneficios................................................................................ 192 2.2. Riesgos paras las personas y los bienes.................................... 194 2.3. Riesgos para la privacidad...................................................... 197 2.4. Riesgos específicos para la protección de datos....................... 198 IV. OBLIGACIONES EXIGIDAS PARA LA UTILIZACIÓN DE DRONES. 199 1. Uso profesional y experimental de RPAS......................................... 200 1.1. Obligaciones de los pilotos y operadores................................. 201 1.2. Requisitos personales del piloto remoto.................................. 202 2. Uso deportivo y recreativo de drones............................................... 203 3. Uso de drones de juguetes................................................................ 204 V. LA RESPONSABILIDAD CIVIL DERIVADA DE LA UTILIZACIÓN DE DRONES......................................................................................... 205 1. Régimen de responsabilidad objetiva de la Ley de Navegación Aérea................................................................................................... 205 2. Régimen de responsabilidad subjetiva del Código Civil y criterio de interpretación.................................................................................. 210 3. Régimen de responsabilidad civil por vulneración de los derechos de la personalidad................................................................................ 216 4. Régimen de responsabilidad por productos defectuosos................... 217 5. El aseguramiento de los drones........................................................ 221 VI. LA PROTECCIÓN DE DATOS EN LOS DRONES............................... 223 1. Marco jurídico aplicable en Europa................................................. 223 1.1. Aplicación de la Directiva de protección de datos................... 223 1.2. Tratamiento de datos personales con fines policiales............... 224 1.3. Legalidad del procesamiento y limitación de la finalidad......... 225 1.4. Proporcionalidad, calidad y minimización de los datos: privacidad por diseño y por defecto................................................ 226 2. Recomendaciones prácticas aplicadas a España............................... 227 2.1. Medidas previas al uso de drones............................................ 227 2.2. Recomendaciones para el uso legal de datos procesados por drones..................................................................................... 230 VII. CONCLUSIONES................................................................................. 230 1. Conclusiones relativas a la responsabilidad civil.............................. 230 2. Conclusiones relativas a la protección de datos................................ 232 VIII. BIBLIOGRAFÍA..................................................................................... 233
11
Índice
PARTE II
RESPONSABILIDAD DERIVADA DE LOS RIESGOS CIBERNÉTICOS CAPÍTULO 6 RESPONSABILIDADES EN EL ÁMBITO CIBERNÉTICO................................. 239 Bernardo Ybarra Malo de Molina I. INTRODUCCIÓN................................................................................. 240 II. TIPOLOGÍA DE LAS RESPONSABILIDADES DERIVADAS DE LOS RIESGOS CIBERNÉTICOS................................................................... 243 1. La responsabilidad civil: contractual o extracontractual.................. 244 2. Responsabilidad penal y la civil derivada del delito......................... 246 3. Responsabilidad en el ámbito laboral y la jurisdicción social........... 247 4. Responsabilidad en el ámbito administrativo o regulatorio.............. 249 III. RESPONSABILIDAD POR SEGURIDAD EN LAS REDES.................... 250 1. Supuestos de ataques a la seguridad en las redes y sistemas de información............................................................................................. 250 2. Escenarios de responsabilidad frente a terceros................................ 254 2.1. Actos intencionados por parte de un tercero (cracker)............ 254 2.2. Actos intencionados por parte de un “insider”........................ 255 2.3. Actos intencionados o no intencionados por parte del titular de la red o sistema de información.......................................... 256 3. Elementos de la Responsabilidad Civil en el ámbito de los ciber riesgos................................................................................................... 256 3.1. Actuación u omisión negligente............................................... 256 3.2. Relación de causalidad............................................................ 263 3.3. Daño....................................................................................... 266 3.4. Inexistencia de prescripción.................................................... 267 IV. RESPONSABILIDAD POR GESTIÓN................................................... 268 V. RESPONSABILIDAD DE LOS MEDIOS DE COMUNICACIÓN POR LA ALTERACIÓN DE SU CONTENIDO DERIVADO DE UN CIBERATAQUE............................................................................................. 269 VI. RESPONSABILIDAD POR INFRACCIÓN DE PROPIEDAD INTELECTUAL E INDUSTRIAL................................................................... 276 1. Introducción.................................................................................... 276 2. Las infracciones de los derechos de Propiedad Intelectual en el Ciberespacio........................................................................................... 277 3. Responsabilidad............................................................................... 280 3.1. Responsabilidad civil.............................................................. 281 3.2. Responsabilidad Penal............................................................ 283 4. Responsabilidad Administrativa...................................................... 286
12
Índice
5. Las infracciones de los derechos de Propiedad Industrial en el Ciberespacio........................................................................................... 288 VII. CONCLUSIONES................................................................................. 293 VIII. BIBLIOGRAFÍA..................................................................................... 294 CAPÍTULO 7 RIESGOS CIBERNÉTICOS Y RESPONSABILIDAD CIVIL DE ADMINISTRADORES Y DIRECTIVOS................................................................................ 297 Alberto Muñoz Villarreal I. INTRODUCCIÓN................................................................................. 297 II. LA RESPONSABILIDAD CIVIL DE ADMINISTRADORES Y DIRECTIVOS.................................................................................................... 300 1. El seguro de D&O: evolución histórica............................................ 300 2. Principales características del Seguro de D&O: claim made, dolo, fianzas.............................................................................................. 303 3. Responsabilidad civil de Administradores y Directivos.................... 310 III. RIESGOS CIBERNÉTICOS................................................................... 314 IV. LA RESPONSABILIDAD CIVIL DE ADMINISTRADORES Y DIRECTIVOS DERIVADA DE LOS RIESGOS CIBERNÉTICOS..................... 318 V. CONCLUSIONES................................................................................. 321 VI. BIBLIOGRAFÍA..................................................................................... 322 CAPÍTULO 8 ALGUNAS CUESTIONES JURÍDICO PENALES SOBRE LA CIBERDELINCUENCIA...................................................................................................... 325 Daniel Fernández Bermejo I. INTRODUCCIÓN................................................................................. 325 II. CIBERDELINCUENCIA....................................................................... 328 1. Aspectos generales........................................................................... 328 2. La protección constitucional de algunos derechos fundamentales intrínsecamente relacionados con las TICS. Algunas notas jurisprudenciales.......................................................................................... 330 2.1. Derecho a la intimidad............................................................ 330 2.2. Derecho a la inviolabilidad del domicilio................................ 332 2.3. Derecho al secreto de las comunicaciones............................... 333 2.3.1. Secreto de las comunicaciones.................................... 333 2.3.2. Intervención de las comunicaciones............................ 334 2.4. Derecho a la libertad de expresión e información.................... 336 2.4.1. Libertades de expresión e información. Límites a estos derechos..................................................................... 336 2.4.2. Medios de comunicación social.................................. 338
Índice
13
2.4.3. Límites....................................................................... 338 2.4.4. La protección de la infancia y juventud...................... 340 2.4.5. Secuestro.................................................................... 341 III. CONVENIO SOBRE LA CIBERDELINCUENCIA............................... 342 IV. TRATAMIENTO DE LA CIBERDELINCUENCIA, CIBERCRIMINALIDAD O DELITOS INFORMÁTICOS EN EL DERECHO PENAL..... 347 1. Aspectos generales........................................................................... 347 2. Clasificación de los delitos informáticos en el Código Penal y circulares de la Fiscalía General del Estado.............................................. 352 2.1. Clasificación en el Código Penal.............................................. 352 2.2. Instrucción 2/2011 de la Fiscalía General del Estado............... 359 2.3. Circular 3/2017 de la Fiscalía General del Estado................... 360 2.4. Extensión de la protección penal a otros delitos...................... 363 V. BIBLIOGRAFÍA..................................................................................... 369 CAPÍTULO 9 EL SEGURO DE RIESGOS CIBERNÉTICOS...................................................... 375 José María Elguero I. INTRODUCCIÓN................................................................................. 376 II. EL MERCADO DE CIBERSEGUROS.................................................... 377 III. EL SEGURO DE RIESGOS CIBERNÉTICOS........................................ 379 1. Denominación del seguro................................................................. 379 2. Naturaleza jurídica y riesgo cubierto............................................... 380 IV. ESTRUCTURA DE LA PÓLIZA. DEFINICIONES. REDACCIÓN........ 383 1. Coberturas....................................................................................... 384 1.1. Coberturas generales............................................................... 385 1.2. Extensiones............................................................................. 387 1.3. Coberturas opcionales............................................................. 390 2. Exclusiones...................................................................................... 391 2.1. Exclusiones generales.............................................................. 391 2.2. Exclusiones específicas............................................................ 396 3. Aspectos técnicos del seguro............................................................ 397 3.1. Delimitación temporal de la cobertura.................................... 397 3.2. Asignación.............................................................................. 398 3.3. Límite por periodo.................................................................. 398 3.4. Franquicia............................................................................... 398 3.5. Ámbito territorial.................................................................... 399 3.6. Efecto y duración del contrato................................................ 399 3.7. Concurrencia de seguros......................................................... 399 V. SUSCRIPCIÓN Y COTIZACIÓN.......................................................... 400 VI. DECLARACIÓN DEL RIESGO............................................................ 400 VII. BIBLIOGRAFÍA..................................................................................... 409
14
Índice
PARTE III
RESPONSABILIDAD POR SEGURIDAD EN LAS REDES Y PROTECCIÓN DE DATOS CAPÍTULO 10 RESPONSABILIDAD POR SEGURIDAD EN LAS REDES Y PROTECCIÓN DE DATOS........................................................................................................... 413 Bernardo Ybarra Malo de Molina I. INTRODUCCIÓN................................................................................. 413 II. INFRACCIONES DEL REGLAMENTO GENERAL DE PROTECCIÓN DE DATOS.................................................................................. 417 1. Poderes Correctivos de la Autoridad de Supervisión........................ 417 2. Multas económicas.......................................................................... 419 III. INDEMNIZACIÓN FRENTE A LOS TERCEROS................................ 424 IV. LA OBLIGACIÓN DE NOTIFICAR LAS BRECHAS DE SEGURIDAD. 425 V. PRESCRIPCIÓN.................................................................................... 427 VI. CONCLUSIONES................................................................................. 428 VII. BIBLIOGRAFÍA..................................................................................... 428 CAPÍTULO 11 CIBERSEGURIDAD Y PROTECCIÓN DE DATOS PERSONALES: LAS EVALUACIONES DE RIESGOS............................................................................ 429 Luis Felipe López Álvarez I. INTRODUCCIÓN................................................................................. 430 II. AMENAZAS: ¿A QUÉ NOS ENFRENTAMOS?................................... 433 1. Situación General............................................................................. 433 2. Amenazas para la protección de datos de carácter personal............. 437 III. EVALUANDO LOS RIESGOS............................................................... 442 1. ¿Qué dispone el RGPD?................................................................... 442 2. ¿Cómo se deben evaluar los riesgos?................................................ 451 IV. LA SELECCIÓN DE CONTROLES PARA TRATAR LOS RIESGOS.... 456 1. Medidas previstas en el RGPD o aconsejadas por las autoridades de control............................................................................................. 457 2. Otras medidas previstas en normativas de seguridad y que pueden resultar aplicables a la protección de datos personales..................... 459 V. CONCLUSIONES................................................................................. 462 VI. BIBLIOGRAFÍA..................................................................................... 464
15
Índice
CAPÍTULO 12 LOS DERECHOS DE LOS PARTICULARES EN EL NUEVO REGLAMENTO GENERAL DE PROTECCIÓN DE DATOS: ¿MÁS PROTECCIÓN FRENTE A LOS RIESGOS CIBERNÉTICOS?.............................................................. 465 Esther López Barrero I. INTRODUCCIÓN................................................................................. 466 II. CUESTIONES COMUNES A LOS DERECHOS DE LOS TITULARES DE LOS DATOS.................................................................................... 468 1. Características comunes de los derechos de los titulares de los datos.................................................................................................... 469 2. Cuestiones relativas al ejercicio de los derechos............................... 471 III. LOS DERECHOS DE LOS PARTICULARES EN EL RGPD: DE LOS DERECHOS ARCO A LOS DERECHOS “PARSOL”............................ 473 1. El Derecho de Acceso (art. 15 RGPD y art. 13 LOPDGDD)............ 473 2. El Derecho de Rectificación............................................................. 476 3. El Derecho de Oposición................................................................. 478 4. El Derecho de Cancelación, Derecho a la Supresión o “derecho al olvido”............................................................................................. 482 5. El Derecho de Limitación................................................................. 486 6. El Derecho de Portabilidad.............................................................. 487 IV. OTROS DERECHOS: BUSCANDO RESPUESTAS A LOS RIESGOS CIBERNÉTICOS................................................................................... 490 1. El derecho a conocer las brechas de seguridad en tus datos.............. 490 2. El derecho a que no se tomen decisiones basadas en tratamientos automatizados................................................................................. 493 V. DEBERES QUE REFUERZAN LOS DERECHOS DE LOS PARTICULARES................................................................................................... 496 1. El deber de informar........................................................................ 496 2. El deber de transparencia................................................................. 499 VI. CONCLUSIONES................................................................................. 500 VII. BIBLIOGRAFÍA..................................................................................... 501
PARTE IV
RESPONSABILIDAD LABORAL EN PLATAFORMAS DIGITALES CAPÍTULO 13 EL LEVANTAMIENTO DEL VELO DIGITAL FRENTE A LAS RESPONSABILIDADES LABORALES DERIVADAS DEL TRABAJO EN PLATAFORMAS DE INTERNET.............................................................................................. 505 Eugenio Lanzadera Arencibia I.
INTRODUCCIÓN Y PLANTEAMIENTO............................................ 506
16
Índice
II.
LOS SERVICIOS PRESTADOS A TRAVÉS DE PLATAFORMAS TECNOLÓGICAS Y SU LABORALIDAD.................................................... 508 1. ¿Es la plataforma un empresario digital?......................................... 508 2. Trabajos amistosos y colaborativos vs. actividad laboral o profesional................................................................................................... 513 3. Trabajo por cuenta ajena y trabajo por cuenta propia en plataformas digitales.................................................................................... 517 4. El levantamiento del velo digital y sus consecuencias....................... 527 III. EL FACTOR GLOBALIZADOR DE INTERNET SIN FRONTERAS Y SUS REPERCUSIONES LABORALES................................................... 530 IV. A MODO DE CONCLUSIÓN.............................................................. 535 V. BIBLIOGRAFÍA..................................................................................... 537
PARTE V
INTELIGENCIA ARTIFICIAL: PERSPECTIVAS DE FUTURO CAPÍTULO 14 LA INTELIGENCIA ARTIFICIAL Y EL DERECHO: PASADO, PRESENTE Y FUTURO........................................................................................................ 541 María Aurora Martínez Rey Juan Pazos Sierra I. INTRODUCCIÓN Y UN POCO DE HISTORIA.................................. 541 II. LA IA Y SU VERSATILIDAD................................................................. 547 III. DEFINICIÓN DE IA............................................................................. 549 IV. TIPOS DE IA......................................................................................... 551 V. SINGULARIDAD TECNOLÓGICA...................................................... 556 VI. IA Y JURISPRUDENCIA (LEIBNIZ)..................................................... 557 VII. LA IA Y EL DERECHO......................................................................... 560 VIII. FINALMENTE, UNA MIRADA HACIA EL FUTURO.......................... 566 IX. BIBLIOGRAFÍA..................................................................................... 569
INTRODUCCIÓN La inteligencia artificial (IA) es una expresión de uso común que define, en general, la creación y el desarrollo de herramientas con capacidad sustitutiva de los procesos decisorios y mecánicos propios del ser humano. A pesar de la indefinición que rodea en estos momentos al concepto de inteligencia, o precisamente por esa indeterminación conceptual, la difusión de las tecnologías dotadas de IA, como soluciones a una infinidad de problemas de orden práctico, suponen un gran reto para los científicos que analizan su repercusión social. Las ciencias sociales, en su sentido más amplio, preocupadas por la adaptación de los seres humanos y sus instituciones a las nuevas tecnologías, han demostrado empíricamente cómo la llegada de innovaciones de gran impacto, o disruptivas —tales como el fuego, la rueda, la máquina de vapor o internet—, propician un fenómeno conocido como ‘retraso cultural’ (cultural lag): un desfase entre las capacidades materiales que incorporan las creaciones exitosas y la capacidad de las culturas humanas para reconocer sus implicaciones sociales y adaptarse a los desafíos que entraña su utilización. Esta idea, desarrollada por William Ogburn a principios del siglo XX, permanece vigente para muchos investigadores de la sociedad contemporánea que observan, como antaño, la falta de sincronía entre el desarrollo de los conocimientos instrumentales que dan lugar a un cambio tecnológico y los valores, las creencias y las normas sociales que constituyen los mecanismos de control del desarrollo material de una sociedad (Ogburn, 1922). Debido a que existe un intervalo de tiempo en el que la sociedad trata de acomodar sus usos, costumbres y normas al cambio tecnológico, la cultura adaptativa se encuentra siempre rezagada con respecto al desarrollo técnico, esto es, hay un desajuste cronológico entre la innovación, el cambio tecnológico y el cambio social. Resulta obvio, por tanto, que la obra que presentamos a continuación se enmarca dentro de esta adaptación diferida, a la que el Derecho siempre llega tarde. Los robots inteligentes forman parte ya de nuestra vida cotidiana. Entre otros muchos ejemplos, la IA constituye a día de hoy la base sobre la que se asienta el software de generación, procesamiento y análisis de lenguaje natural que, junto con los sistemas de reconocimiento de voz y los agentes virtuales, las plataformas de machine learning, las plataformas de aprendizaje profundo o las aplicaciones biométricas ofrecen una variedad de servicios (mayoritariamente de marketing) asociados a nuestra huella digital. En lo que respecta al hardware, la IA es reconocible, sobre todo, en los robots industriales, asistenciales y sanitarios, en los vehículos autónomos y en los drones inteligentes.
18
Esther Monterroso Casado
El Derecho debe permanecer atento a la realidad social. Como ciencia social, también debe analizar las consecuencias que acarrea la generalización de estos artefactos, concurriendo a la compresión de los efectos jurídico-legales que ya se observan en la sociedad que los ha recibido y que los utiliza corrientemente. En tanto en cuanto la relación jurídica entre el humano y las máquinas inteligentes produce efectos indeseados, el jurista debe prestar una atención especial a las responsabilidades derivadas de la disfuncionalidad tecnológica, cuando no anticiparse a las situaciones conflictivas que, por analogía con las herramientas precedentes, emergerán en el ámbito público y privado. La mayoría de los robots que se utilizan hoy en día, aun siendo pioneros de la IA, comparten un aspecto que es central para la valoración de su responsabilidad: la máquina funciona y toma decisiones que deben ser supervisadas por las personas que la han diseñado, programado o utilizado a partir de los sistemas de retroalimentación informativa que ésta proporciona. La mano humana define, guía y controla el proceso, bien directamente o a consecuencia de la capacidad para anular al robot o retomar su control. Por ejemplo, el sistema operativo que controla el pilotaje automático de algunos modelos de aviones Airbus mantiene la nave en una ruta fijada por los pilotos mediante la comprobación de los cambios en el viento y las corrientes, aunque sin referencia del tráfico aéreo circundante, por lo que la responsabilidad de vigilar tanto el funcionamiento del pilotaje autónomo como la proximidad de otras aeronaves recae sobre los tripulantes. El coche autónomo de Google utiliza toda una serie de sensores de radar y láseres, cámaras, dispositivos de geolocalización, algoritmos y programas analíticos complejos para conseguir que el vehículo imite la conducción humana, mejorándola. El automóvil vigila la carretera, controla de manera constante las eventualidades de la conducción normal, tales como la cercanía de otros coches, peatones, obstáculos y desvíos, y ajusta la velocidad y la trayectoria según las condiciones del tráfico, la climatología y cualquier otro factor que puede afectar al manejo seguro del vehículo. Por supuesto, el Google car está programado para evitar una colisión con un peatón, con otro vehículo o con un obstáculo. Sin embargo, el 14 de febrero de 2016 se registró el primer accidente de este coche autónomo, una colisión contra un autobús en California, en la que no se registraron daños personales. Google alegó al respecto que el humano que iba a bordo no tomó el control de la situación porque confió en la inteligencia artificial. En el informe enviado por Google, explican que su coche creyó que no pasaría nada cuando se aproximó el autobús: “Nuestro conductor de pruebas, que iba dentro, se había dado cuenta de que venía el autobús, lo vio por el espejo, pero asumió que el conductor del autobús aminoraría la marcha. Sin embargo, el que ambas partes asumieran que el otro cedería el mismo espacio en el mismo carril, llevó al accidente” (Jiménez, 2016). El 18 de marzo de 2018 se confirmó
Introducción
19
la primera muerte provocada por un coche autónomo. En este caso se trató de la empresa de transporte Uber, cuyo vehículo inteligente atropelló a una mujer en Tempe, Arizona, mientras el coche circulaba en modo automático con conductor de seguridad y la mujer cruzaba la calle fuera de un paso de peatones. Cinco días más tarde, otro vehículo autónomo de la compañía estadounidense Tesla chocó contra una barrera de hormigón en Mountain View (California), con el sistema de conducción autónoma activado. De acuerdo con el fabricante del robot, el accidente mortal fue la consecuencia de una negligencia del conductor, quien no mantuvo las manos en el volante de manera constante, como es preceptivo en el uso de los vehículos de Tesla. A pesar de que el sistema operativo intermediario de los robots inteligentes depende para su correcta ejecución de un régimen de feedback positivo, que podría entenderse como IA, y a pesar de su gran nivel de sofisticación, nos encontramos, en estos casos, como en el de la mayoría de los artefactos que utilizan la IA en la actualidad, con máquinas semiautónomas. Se trata de herramientas en las que la implicación del ser humano en su diseño y manejo es tan evidente que el deber jurídico de resarcir o indemnizar los daños y perjuicios causados por su uso se sustenta en la individualización de la conducta dañosa, según unos criterios de imputación subjetivos (dolo o culpa) u objetivos (riesgo). Una persona física o jurídica puede reultar imputable por las acciones u omisiones cometidos, directa o indirectamente, por una máquina cuya creación o supervisión está bajo su responsabilidad de manera parcial o total. La preocupación por los riesgos y la reparación de los daños causados por las máquinas inteligentes exige un nuevo análisis jurídico, a la vista de que la responsabilidad y el aseguramiento de las mismas se erige ya en uno de los campos con mayor proyección del Derecho. Se trata de un ámbito todavía no regulado en el que confluyen los intereses propios de la economía de mercado y la coyuntura actual de cambio tecnológico y social acelerado, razón por la cual resultará inevitable la existencia de conflictos jurídicos y morales de la más variada índole. Por otra parte, y sin duda también por este mismo motivo, con la paulatina generalización de la IA y de los robots inteligentes deberá consolidarse la contratación de seguros, que atemperen o cubran los daños, que irán en consonancia con los criterios de imputación de la responsabilidad que se establezcan. En este contexto, cuando se producen daños como consecuencia de la utilización de estos robots es preciso dirimir quiénes son los responsables, que pueden ser demandados: los programadores del software de la IA que controla al robot, el fabricante o productor por el mal funcionamiento del producto o por la deficiente información sobre los riesgos del producto, el sujeto que lo maneja o el que lo supervisa, el sujeto o la empresa propietaria, o, incluso, en el caso de robots autónomos, se podría cuestionar si lo sería el propio robot. En este sentido, seña-
20
Esther Monterroso Casado
la el Parlamento Europeo, a este respecto, en su Resolución de 16 de febrero de 2017 con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica que “en el supuesto de que un robot pueda tomar decisiones autónomas, las normas tradicionales no bastarán para generar responsabilidad jurídica por los daños ocasionados por el robot, ya que no permitirán determinar la parte que ha de hacerse cargo de la indemnización, ni exigir a dicha parte que repare el daño ocasionado”. Como hemos puesto de relieve, la respuesta no siempre es sencilla y precisa delimitar el ámbito en el que nos encontramos y establecer el criterio jurídico de imputación de esa responsabilidad, objetivo que persiguen los autores de esta monografía. La nueva casuística que emerge con la autonomía creciente de los robots abre un nuevo espacio teórico y práctico sobre la responsabilidad derivada del comportamiento de quienes diseñan, programan o manipulan tecnologías cuya operatividad depende de la IA. Por primera vez en la Historia, los sistemas legales deben dirimir la imputación de responsabilidad a seres humanos por los daños causados por las decisiones que adopta un sistema operativo intermediario. Además, este tipo de responsabilidad exige analizar las peculiaridades de los distintos tipos de robots implicados en el daño, según el ámbito al que se destinan las tecnologías sustitutivas de humanos: desde los aparatos ideados para ofrecer servicios hasta las herramientas de IA empleadas en la industria, el comercio, la seguridad ciudadana o la sanidad. Este es, precisamente, uno de los aspectos más innovadores en el campo del derecho de los robots. ¿Es necesario ampliar las formas convencionales de responsabilidad de los seres humanos creadores o manipuladores de robots hacia un régimen de responsabilidad objetiva, que se mitigaran mediante nuevos modelos aseguradores o, en su defecto, debería imputarse la responsabilidad por culpa, adoptando, por ejemplo, mecanismos de inversión de la carga de la prueba? La delimitación y la atribución de las responsabilidades que entraña la IA resulta compleja. Se espera que el Derecho determine la responsabilidad entre el usuario del robot, o su propietario, su programador, su diseñador o su fabricante, y otros posibles sujetos intervinientes ante un fallo mecánico. Sin embargo, cabe preguntarnos si es indispensable la intervención de un humano para atribuir una responsabilidad jurídica. A pesar de que siempre existe alguien que diseña, produce o controla hasta cierto punto a los autómatas sustitutos de seres humanos, las ‘máquinas egocéntricas’ van poco a poco adquiriendo independencia e individualidad (singularidad tecnológica). En nuestro trabajo se abordará este dilema, desde un punto de vista jurídico, analizando distintos ámbitos. El argumento de que es posible identificar una serie de supuestos legales de acuerdo con las distintas categorías y tipos de herramientas automatizadas invita