Issuu

alternativa

140

alternativa

978-84-1130-647-8

9 788411 306478

Algoritmos e inteligencia artificial en el derecho digital del trabajo Jesús R. Mercader Uguina

Jesús R. Mercader Uguina

140

Algoritmos e inteligencia artificial en el derecho digital del trabajo

alternativa

La lógica algorítmica (predictiva o no) como instrumento de toma de decisiones irradia sus efectos en múltiples campos del actuar humano y, como no podía ser de otro modo, también en el laboral. La presente obra analiza, entre otras cuestiones, su impacto disruptivo en el sistema de fuentes y el efecto que, sobre la creación normativa, pueden tener estos sistemas. De igual modo, los algoritmos y la Inteligencia Artificial se están convirtiendo instrumentos en los que la empresa post-material delega funciones centrales de su poder: desde los procesos selección hasta las múltiples formas de ejercicio de facultades de dirección y control, llegando, incluso, a las propias decisiones extintivas. Una realidad que exige valorar el significado que ello puede tener desde la perspectiva de la tutela de los intereses colectivos de los trabajadores. Se analizan también los usos de la Inteligencia Artificial en el terreno de la intervención administrativa y se ensaya un sistema de garantías frente a estas fórmulas que sirva para tutelar una efectiva igualdad algorítmica. El último capítulo incorpora una reflexión de conjunto sobre el impacto que estos procesos de digitalización pueden tener en los mercados de trabajo futuros.

ALGORITMOS E INTELIGENCIA ARTIFICIAL EN EL DERECHO DIGITAL DEL TRABAJO

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig

Catedrática de Filosofía del Derecho de la Universidad de Valencia

Ana Cañizares Laso

Catedrática de Derecho Civil de la Universidad de Málaga

Jorge A. Cerdio Herrán

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

José Ramón Cossío Díaz

Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional

Eduardo Ferrer Mac-Gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos Investigador del Instituto de Investigaciones Jurídicas de la UNAM

Owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José Antonio García-Cruces González Catedrático de Derecho Mercantil de la UNED

Luis López Guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid

Ángel M. López y López

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente Sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Javier de Lucas Martín

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Víctor Moreno Catena

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

Francisco Muñoz Conde

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

Angelika Nussberger

Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania) Miembro de la Comisión de Venecia

Héctor Olasolo Alonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

Luciano Parejo Alfonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

Consuelo Ramón Chornet

Catedrática de Derecho Internacional Público y Relaciones Internacionales de la Universidad de Valencia

Tomás Sala Franco

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

Ignacio Sancho Gargallo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

Tomás S. Vives Antón

Catedrático de Derecho Penal de la Universidad de Valencia

Ruth Zimmerling

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

ALGORITMOS E INTELIGENCIA ARTIFICIAL EN EL DERECHO DIGITAL DEL TRABAJO

JESÚS R. MERCADER UGUINA

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad Carlos III de Madrid Counsel de Uría Menéndez Prólogo de DANIEL PEÑA

Catedrático de Estadística y Académico de la Real Academia de Ciencias Exactas, Físicas y Naturales

tirant lo blanch Valencia, 2022

Copyright ® 2022 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito del autor y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com. El presente estudio se ha realizado en el marco del Proyecto Nacional de Investigación de I+D+I (Referencia: RTI2018-094547-B-C21) “Cambio tecnológico y transformación en las fuentes laborales: ley y convenio colectivo ante la disrupción digital”.

JESÚS R. MERCADER UGUINA

TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email: tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1130-648-5 Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

Para Ignacio García-Perrote Escartín Amigo, maestro y «hermano mayor»

Índice Prólogo de Daniel Peña.................................................................................

Capítulo I ALGORITMOS E INTELIGENCIA ARTIFICIAL: DOS COMPAÑEROS EN EL VIAJE HACIA EL DERECHO DIGITAL DEL TRABAJO I. ¿Qué es un algoritmo? ¿Qué es un sistema de Inteligencia Artificial?.....................................................................................................

II. Rasgos caracterizadores de los sistemas algorítmicos y de IA.........

III. El aire de los algoritmos: Datos personales, datos despersonalizados y datos no personales.................................................................. 1. Big data y tutela de los datos personales.................................... 2. Los datos no personales. Datos despersonalizados y la frontera de los datos sintéticos.................................................................. IV. Hacia una construcción «jurídica» de algoritmo y de la IA............

28 28 34 39

Capítulo II ALGORITMOS Y NUEVAS FÓRMULAS DE CREACIÓN JURÍDICA I. ¿Son fuente del Derecho los algoritmos?: Pasos hacia un Derecho cada vez más liquido..........................................................................

II. ¿Hay Derecho del trabajo en el metaverso? O de las pareidolias jurídicas..............................................................................................

III. La individualización de la Ley o las formas de granularidad normativa.................................................................................................

IV. Integración de reglas a través de algoritmos: La posible función instrumental de la inteligencia artificial en la determinación de los conceptos jurídicos indeterminados...........................................

V. ¿Son los algoritmos reglamentos?.....................................................

VI. Normativas de ensayo y error: Los sandboxes regulatorios............

VII. Negociación colectiva, datos y algoritmos........................................

Capítulo III LA GESTIÓN ALGORÍTMICA DEL TRABAJO I. La empresa y el empleador algorítmico: La era de la empresa post-material....................................................................................... II. La gestión algorítmica del empleo...................................................

69 74

Índice

1. La selección de trabajadores y las funciones de los algoritmos............................................................................................ 1.1. Procesos de selección sospechosos..................................... 1.2. El fantasma de Ada Lovelace tutela los riesgos de su creación....................................................................................... 2. Los algoritmos dirigen la empresa............................................. 2.1. La dependencia algorítmica............................................... 2.2. Facultades empresariales y límites al establecimiento de sistemas algorítmicos y de IA en la normativa vigente: Dos cuestiones..................................................................... 3. El control algorítmico del trabajo en la era del capitalismo de la vigilancia................................................................................... 3.1. La expansión del control biométrico................................. 3.2. Algoritmos y reconocimiento facial................................... 3.3. El control de la conducta del trabajador: Minority Report laboral................................................................................... 4. Inteligencia artificial y seguridad y salud en el trabajo............. 5. ¿Pueden despedir los algoritmos?..............................................

74 74 78 81 81 87 90 92 95 99 101 107

Capítulo IV LA ADMINISTRACIÓN SOCIAL ALGORÍTMICA I. Algoritmos y Administración: De la Administración electrónica a la Administración algorítmica........................................................... 1. En busca de la eficacia digital: los sistemas de IA y los algoritmos o las ruedecillas sin alma de la era de la Administración digital............................................................................................ 2. Los precedentes: La Administración electrónica...................... 3. Los algoritmos aterrizan en la Administración.......................... II. El aire de la Administración algorítmica: el Big Data público........ 1. La Administración como garante de la privacidad: El límite de la normativa de datos personales................................................ 2. Administración y datos «relativamente» abiertos: El «open data» público................................................................................ 3. El cruce de datos entre organismos del sector público (y privado)................................................................................................ III. Algoritmos e Inteligencia Artificial al servicio de la Inspección de Trabajo................................................................................................ 1. El primer paso: Las decisiones automatizadas........................... 2. La Inspección de Trabajo como policía predictiva.................... IV. Big data predictivo al servicio de la protección social..................... 1. También un primer paso en dirección a las decisiones automatizadas...........................................................................................

111 111 114 118 120 121 123 126 132 132 136 139 139

Índice

2. Inteligencia Artificial y algoritmos al servicio de la protección social............................................................................................. 2.1. IA y gestión de prestaciones............................................... 2.2. Sistemas de IA al servicio del control del fraude.............. 2.3. Los sistemas de IA al servicio de la gestión y control de las prestaciones del sistema de Seguridad Social: El caso de la Incapacidad Temporal.................................................... 2.4. Sistemas de perfilado estadístico de desempleados: Instrumentos al servicio de la una más eficaz búsqueda de empleo................................................................................. V. Algoritmos y prestaciones de asistencia social................................. 1. ¿Prestaciones a la medida de la persona?................................... 2. ¿La automatización de la desigualdad?......................................

141 141 143 145 149 151 151 154

Capítulo V GARANTÍAS FRENTE Y RESPONSABILIDADES DE LOS SISTEMAS DE IA: INSTRUMENTOS PARA LA IGUALDAD ALGORÍTMICA I. Hacia un garantismo tecnológico: Construyendo la tutela de la dignidad en la era tecnológica..........................................................

157

II. La débil prohibición general de las decisiones basadas en el tratamiento automatizado y su proyección en los algoritmos: el art. 22 RGPD..................................................................................................

159

III. Principios para un sistema de garantías frente a los algoritmos y los sistemas de IA............................................................................... 1. El necesario robustecimiento del principio de proporcionalidad: Su adaptación reforzada ante el establecimiento de algoritmos y sistemas de IA................................................................ 2. Transparencia y explicabilidad algorítmica como principio maestro......................................................................................... 2.1. Garantía de transparencia informativa individual............ 2.2. Garantía de transparencia colectiva................................... 2.3. Especialidades de la transparencia algorítmica de la Administración......................................................................... 2.4. Garantía de explicabilidad de los sistemas de IA.............. 3. Principio de gobernanza de los datos (remisión)..................... 4. Principio de aproximación basada en el alto riesgo................. 4.1. El significado del «alto riesgo»........................................... 4.2. Protección desde el diseño y por defecto. Las Evaluaciones de Impacto.................................................................... 4.3. Auditorías algorítmicas....................................................... 5. Principio de humano al mando..................................................

165 165 170 171 174 176 178 180 183 183 184 187 189

Índice

IV. Responsabilidad por las cosas intangibles: daños provocados por sistemas de IA y su reparación..........................................................

192

Capítulo VI LOS ALGORITMOS Y EL FIN DEL EMPLEO I. ¿Seguirán los humanos el mismo camino que los caballos?: Innovación tecnológica y el debate del fin del empleo...........................

201

II. ¿Están preparados nuestros mercados de trabajo para el cambio tecnológico?: Empleo débil y precariedad sistémica, dos señas de identidad de un mercado de trabajo incierto..................................

203

III. ¿La digitalización crea, destruye o transforma el empleo?.............

206

IV. La digitalización crea empleo...........................................................

208

V. La digitalización también destruye empleo.....................................

212

VI. Y, en fin, la digitalización también transforma el empleo...............

214

VII. Empresa tecnológicamente responsable y transición digital..........

219

Prólogo Cuando comencé a leer este libro de mi buen amigo y admirado Jesús Mercader estaba seguro de que iba a aprender algo sobre la influencia en el derecho laboral del análisis de los nuevos datos masivos, o Big data. No esperaba encontrar una nueva perspectiva del enorme efecto que puede tener, en la concepción del derecho, la posibilidad de utilizar algoritmos jurídicos de decisión, basados en los datos disponibles de juicios ya realizados. Mi enhorabuena al autor por este excelente libro y mi recomendación de su lectura para todos los interesados en el futuro del derecho y su necesaria adaptación al mundo actual. El libro se organiza en seis capítulos. En el primero se describe con precisión la idea de un algoritmo, una regla de decisión y predicción basada en datos, y de la inteligencia artificial, como método automático de reconocimiento de patrones y elaboración de decisiones basadas en algoritmos. En el segundo capítulo el autor analiza los algoritmos como forma de creación jurídica, con ideas muy sugerentes que abren la puerta a posibles transformaciones del derecho actual. Supongamos, por ejemplo, la siguiente situación, que hasta hace poco tiempo era puramente utópica, pero que podríamos encontrar en un futuro, más próximo del que imaginamos. Se digitaliza la información disponible de todos los juicios realizados en un país, (o en un conjunto de países), definiendo un conjunto de variables relevantes para describir la información utilizada para determinar la evidencia de si la persona es o no culpable y, en caso afirmativo, la pena finalmente aplicada. Se supondría que la persona es culpable si ha sido declarada como tal en el juicio y no ha habido posteriormente una evidencia en contra, que ha llevado a la revisión de la condena. Con la mitad de esos casos se entrena un algoritmo que realiza una predicción de estas dos variables, culpabilidad y pena, en función de todos los datos disponibles con el menor error posible. A continuación, se comparan sus resultados con las sentencias reales, para comprobar su

Daniel Peña

eficacia relativa respecto al sistema judicial y, en particular, si el algoritmo es capaz de disminuir los errores cometidos en los casos detectados. Estos algoritmos de decisión jurídica no es previsible que sustituyan a los jueces, especialmente en causas penales, pero podrían ser una ayuda para sus decisiones al estimar la probabilidad de que el acusado sea culpable, dada la evidencia disponible. Existe amplia evidencia de que las personas gestionamos mal la información no determinista, como es gran parte de la manejada en un juicio, y que subestimamos o sobreestimamos la evidencia en muchos casos (véase, por ejemplo, el libro de Daniel Kahneman, pensar rápido, pensar despacio). Disponer de un cálculo preciso de esta evidencia puede mejorar la calidad de las sentencias emitidas y eliminar los sesgos que, consciente o inconscientemente, afectan las decisiones judiciales. Además, esto algoritmos permitirían cuantificar la imprecisa idea de duda razonable que establece la frontera entre la culpabilidad y la absolución. En este segundo capítulo se plantea también el problema de un derecho más personalizado o individualizado. Es claro que hay una tendencia global en el mundo en adaptar todas las decisiones, en la medicina, la educación, los servicios sociales o las técnicas de venta, a las características personales del afectado. En el caso del derecho, el uso de algoritmos jurídicos de ayuda a la decisión sería importante para matizar las penas en función de las características específicas de las personas, estimando por ejemplo, con más precisión, la probabilidad de reincidir en el delito dada la información disponible. Este campo puede ser importante en el futuro. En el capítulo III se abordan temas sobre la gestión del trabajo y la utilización de algoritmos para tomar decisiones de contratación, evaluación del rendimiento y despido por las organizaciones. Se señala muy adecuadamente el riesgo de mecanismos de decisión basado en cajas negras cuya lógica no es fácil de entender con exactitud y que pueden incluir sesgos por los datos utilizado para construirlos. La equidad y justicia de estos algoritmos

Prólogo

de decisión debe ser analizada de manera que sus reglas se hagan comprensibles para todos los afectados por sus decisiones. En el Capítulo IV se analizan muchos interesantes problemas de la relación electrónica entre la administración y los ciudadanos, tanto de las ventajas para que pueden aportar por una mejor utilización de los recursos públicos, como de las discriminaciones que pueden generar, al exigir el uso obligatorio de recursos electrónicos a personas que carecen de la formación suficiente para hacerlo. El capítulo V discute las responsabilidades y garantías ante los algoritmos y el VI su efecto futuro sobre el trabajo. Este último tema ha sido una constante en los grandes cambios estructurales sociales desde el siglo XVIII. Se planteó primer en la revolución industrial con la introducción de la maquinaría en la fabricación en serie, que hizo temer por el trabajo manual no especializado. Volvió a ser de actualidad a mediados del siglo XX, con la aparición de los ordenadores, y después la robótica, que sustituyeron progresivamente mucho trabajo administrativo más cualificado, creando, como en ocasiones anteriores otras nuevas profesiones. Vuelve ahora con un nuevo rostro en nuestro siglo con los algoritmos de inteligencia artificial, que pueden sustituir trabajo intelectual cualificado en muchos servicios, desde educativos a financieros y sanitarios, pero no aparecen alumbrar muchos puestos de trabajo futuro, salvo en zonas muy especializadas y poco intensivas en trabajo humano. El debate sobre la revolución de los datos masivos y los algoritmos y su efecto sobre el empleo y la nueva organización social subyacente será de gran actualidad en los próximos años, a medida que sus efectos sean más visibles. En resumen, este es un libro excelente sobre temas de gran importancia futura que pueden transformar profundamente el derecho, y en consecuencia nuestra sociedad, tal y como lo conocemos hoy. La aplicación del derecho es una de las áreas de actividad humana menos afectadas por los cambios tecnológicos recientes, y es patente la necesidad de transformar nuestro sistema legal para adaptarlo a las necesidades actuales: según el Barómetro Externo

Daniel Peña

encargado por el Consejo General de la Abogacía Española, la mayoría de los ciudadanos creen que la Administración de Justicia funciona mal, siendo lenta e ineficaz. Cualquier propuesta sensata para modificar nuestro sistema legal debe partir de los datos que describan su funcionamiento actual, y de las posibilidades de utilizar nueva información para transformarlo. Son, por tanto, muy bienvenidos excelentes libros como éste de Jesús Mercader, que abre muchas interesantes opciones de cambio que tendrán que explorarse en el futuro.

Daniel Peña Catedrático de Estadística y Académico de la Real Academia de Ciencias Exactas, Físicas y Naturales

Capítulo I

ALGORITMOS E INTELIGENCIA ARTIFICIAL: DOS COMPAÑEROS EN EL VIAJE HACIA EL DERECHO DIGITAL DEL TRABAJO

I. ¿QUÉ ES UN ALGORITMO? ¿QUÉ ES UN SISTEMA DE INTELIGENCIA ARTIFICIAL? El devenir de la existencia se define como un eterno retorno. Seguramente no se sorprendería Jesús Ibáñez, dada su inteligencia y mente abierta, cuando, a mediados de los ochenta, publicara su famosa obra «Del algoritmo al sujeto» que la referida imagen pudiera quedar redefinida años después en sentido inverso. Hoy recorremos la misma senda, pero caminamos en sentido contrario; podría decirse que ahora vamos «del sujeto al algoritmo»1.

Del algoritmo al sujeto. Madrid, Siglo XXI, 1985. El presente trabajo es tributario y, por tanto, incorpora las reflexiones que sobre esta materia inicié en «Algoritmos y derecho del trabajo», Actualidad Jurídica Uría Menéndez, 2019, nº 52, pp. 63 a 70 y que continué en otras publicaciones posteriores, significadamente, «Nuevos escenarios para el Estatuto de los Trabajadores del siglo XXI: digitalización y cambio tecnológico», Trabajo y Derecho, 2020, nº 63, pp. 45 a 65. Tuve oportunidad de seguir profundizando en esta materia en la Conversación desarrollada en la Fundación Ramón Areces, dirigida por la Profesora María Emilia Casas Baamonde, en la que junto a Alejandro Huergo reflexioné sobre «La regulación de los algoritmos». Dicha conversación puede verse en este enlace: https://www.youtube.com/ watch?v=ZFFQ9rk46lA&t=46s. Resultado de aquella intervención fue el trabajo posterior: Algoritmos: personas y números en el Derecho Digital del trabajo, Diario La Ley, Nº 48, Sección Ciberderecho, 24 de febrero de 2021. He seguido acercándome a esta cuestión desde otras perspectivas en «Discriminación algorítmica y derecho granular: nuevos retos para la igualdad en la era del big data», Labos. Revista de Derecho del Trabajo y Protección Social, 2021, nº 2, vol. 2., pp. 4-10. Más recientemente con motivo de mi Ponencia en el

Jesús R. Mercader Uguina

Pero, ¿qué es un algoritmo? Se entiende por algoritmo, según el Diccionario de la Real Academia Española de la Lengua, el «conjunto ordenado y finito de operaciones que permite hallar la solución de un problema»2. Una tecnología intelectual, se ha dicho, que supone, en última instancia, la sustitución de juicios intuitivos por una respuesta objetivada. Y ello en la medida en que un algoritmo es una receta, un conjunto de instrucciones matemáticas, una secuencia de tareas destinada a conseguir un cálculo o un resultado. Hablando informalmente, un algoritmo es la descripción precisa de los pasos que nos llevan a la solución de un problema planteado. Estos pasos son, en general, acciones u operaciones que se efectúan sobre ciertos objetos. La descripción de un algoritmo afecta a tres partes: entrada (datos), proceso (instrucciones) y salida (resultados). En este sentido, un algoritmo se puede comparar a una función matemática. Desde nuestra limitada perspectiva, tan alejada de las ciencias exactas, resulta imposible conocer qué son exactamente los algoritmos, aunque sí podemos saber para qué sirven, qué hacen o cuál es su lógica. Si ensayáramos una definición, podríamos decir que los algoritmos son formulaciones que analizan experiencias pasadas de las que sabemos qué resultado produjeron3 utilizando

Congreso Nacional de la AEDTSS he publicado «La gestión laboral a través de algoritmos», en XXXII Congreso Anual de la Asociación Española de Derecho del Trabajo y de la Seguridad Social. Madrid, MTES, 2022, pp. 243-284. La Resolución de 21 de septiembre de 2016, de la Comisión de Garantía del derecho de acceso a la información pública de Cataluña, en la reclamación 123/2016, se define el algoritmo como el «procedimiento de cálculo que consiste en cumplir un conjunto ordenado y finito de instrucciones con unos datos especificados para llegar a la solución del problema planteado» o «conjunto finito de reglas que, aplicadas de manera ordenada, permiten la resolución sistemática de un problema, el cual se utiliza como punto de partida en programación informática». Como dijera L. WITTGENSTEIN, «Si el fundamento de nuestra certeza es la experiencia, debe tratarse obviamente, de la experiencia pasada» (Sobre la certeza, §275).

Algoritmos e inteligencia artificial en el derecho digital del trabajo

para ello grandes cantidades de datos (no «muestras»)4, de modo que por medio de lenguaje matemático y el uso de determinados «indicadores» («proxy»), se extraen predicciones, correlaciones o aproximaciones (no inferencias causales) a partir de las cuáles se identifica qué características o grupo de características han llevado a los mejores resultados para, sobre esta base, adoptar decisiones automáticas o humanas5. Una noción que se encuentra inescindiblemente unida a la de algoritmo es la de Inteligencia Artificial (en adelante, IA), aunque lo cierto es que no todos los algoritmos componen un sistema de IA. El Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial (AI HLEG, High-Level Expert Group on Artificial Intelligence), creado por la Comisión Europea en 2018, define los sistemas de IA como aquellos «programas informáticos (y posiblemente también equipos informáticos) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital mediante la percepción de su entorno mediante la adquisición de datos, la interpretación de los datos estructurados o no estructurados, el razonamiento sobre el conocimiento o el tratamiento de la información, fruto de estos datos y la decisión de las mejores acciones que se llevarán a cabo para alcanzar el objetivo fijado». Por su parte, el reciente borrador de Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (en lo sucesivo, «Propuesta de Reglamento sobre Ley de Inteligencia Artificial») en su art. 3.1 define un sistema IA como el «software que es desarrollado con una o más de las aproximaciones y técnicas enumeradas en el Anexo I y, que para un

V. MAYER-SCHÖNBERGER, K. CUKIER, Big data. La revolución de los datos masivos, Turner, Madrid, 2013, pp. 49-98. Pues como señala BYUNG-CUL HAN, No cosas. Quiebras del mundo de hoy, Barcelona, Taurus, 2021, p. 59, «no sale de lo antes dado hacia lo intransitado» y «resulta ciega para los acontecimientos». En suma, «IA es incapaz de pensar, porque es incapaz de “faire l’idiot”. Es demasiado inteligente para ser un idiota».

Jesús R. Mercader Uguina

conjunto de objetivos definidos por un humano, a su vez, puede generar como resultados contenidos, predicciones, recomendaciones, o decisiones que influyen en entornos reales o virtuales». Algoritmos e IA han alcanzado un papel esencial en la toma de decisiones automatizadas que resultan cada vez más frecuentes en la actual sociedad digital, hasta el punto de que, se ha dicho, vivimos en una sociedad llena de cajas negras cuyo funcionamiento nos es desconocido: mecanismos, sistemas, algoritmos, robots, códigos, automatismos y dispositivos que usamos o nos afectan. La nuestra sería una black box society6.

II. RASGOS CARACTERIZADORES DE LOS SISTEMAS ALGORÍTMICOS Y DE IA Varios son los rasgos caracterizadores de estos sistemas que, día a día, se convierten en métodos complementarios y, en algunos casos, sustitutorios de las decisiones humanas Un primer factor diferenciador es que su construcción se asienta en modelos de base matemática. Modelos, por tanto, que se caracterizan por su: (i) precisión. Un algoritmo debe expresarse de forma no ambigua. La precisión afecta por igual a dos aspectos: (a) Al orden (encadenamiento o concatenación) de los pasos que han de llevarse a cabo. (b) Al contenido de las mismas, pues cada paso debe «saberse realizar» con toda precisión, de forma automática; (ii) determinismo, ya que todo algoritmo debe responder del mismo modo ante las mismas condiciones y (iii) finitud, en la medida en que la descripción de un algoritmo debe ser finita7.

F. A. PASQUALE, The Black Box Society: The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press, 2015. C. PAREJA FLORES y otros, Algoritmos y Programación en Pascal, Madrid, Openlibra, 2011, pp. 66-7. https://openlibra.com/es/book/ algoritmos-y-programacion-en-pascal.