COMO DEBE ADAPTARSE LA IA A LA LEY EN PROTECCIÓN DE DATOS

El uso de la Inteligencia Artificial (IA) es ya una realidad; no solo se trata de una tecnología en desarrollo, sino de una tecnología que ya se emplea en diferentes ámbitos, especialmente, para automatizar procesos y asistir en la toma de ciertas decisiones (incluso ya podemos encontrar IA que crean diferentes tipos de contenidos artísticos)

Sin embargo, para que estas IA «funcionen», es necesario «entrenarlas», lo que requiere alimentarlas con miles de datos, entre los que hay también datos personales

Por ello, y otras razones, existe una relación incuestionable entre la Inteligencia

Artificial y la protección de datos, que vamos a abordar en este artículo, en el que también trataremos sobre la adaptación de la Inteligencia Artificial al RGPD

La Protección de datos y la Inteligencia

Artificial deben ir, necesariamente, de la mano, porque entre los datos que se emplean para entrenar un sistema de IA puede fácilmente incluirse datos personales

Pensemos, por ejemplo, en una IA de reconocimiento facial; para entrenarla habrá sido necesario suministrarle miles, sino millones de fotografías de rostros. Estas fotos, puesto que pueden usarse para identificar a las personas, se consideran datos personales y, por tanto, bajo el paraguas del RGPD. (Registro General de Protección de Datos)

Pero el uso de los datos personales requeridos para poder adaptar y entrenar entrenar los sistemas de Inteligencia Artificial no son la única razón por la que la protección de datos debe tenerse en cuenta. Entre las aplicaciones de la IA podemos encontrar la asistencia en toma de decisiones en procesos automatizados (ya ha habido casos en los que se ha empleado para agilizar parte de los procesos de selección en el empleo) y eso implica connotaciones éticas relacionadas con la privacidad de los datos y la protección de los derechos fundamentales, que no deben ignorarse.

La toma decisiones automatizadas y la elaboración de perfiles (contemplados ya en el RGPD) se basan en sistemas de IA y tienen un gran potencial para impactar significativamente en los derechos de las personas, por lo que es necesario adoptar las medidas que se contemplan en la normativa, con especial atención al deber de informar sobre el uso de la IA y la lógica empleada y el derecho de acceso (siempre en términos comprensibles) y la posibilidad de intervención humana que pueden requerir los interesados

La adaptabilidad de la Protección de Datos en el sistemas de IA trata con datos personales, y por ello es necesario que cumpla con una serie de normas relativas a la protección de datos, recogidas en el RGPD y la LOPDGDD, y que podemos resumir en el cumplimiento de los principios de licitud, lealtad y transparencia, minimización y exactitud de los datos, integridad y confidencialidad y responsabilidad proactiva.

Así mismo, un sistema de IA debe cumplir con la protección de la privacidad desde el diseño y por defecto. Es decir, se deben cumplir las obligaciones de la normativa de protección de datos ya desde el propio diseño del sistema de IA, teniendo la privacidad de los datos como el enfoque principal desde el principio.

A lo largo de los siguientes puntos iremos viendo cómo se cumple con estos principios y normas aplicando las obligaciones de la normativa de protección de datos a la Inteligencia Artificial, para garantizar no solo ese respeto a la privacidad, sino también a evitar conflictos con los derechos fundamentales de los interesados (y en los que la IA, que no deja de estar creada y programada por humanos, puede caer a causa de sesgos en su programación).

¿Qué datos personales procesa la IA?

La IA puede procesar datos personales de cualquier categoría, si bien es cierto que para poder usar datos personales de categorías especiales, es necesario que concurran tanto el consentimiento expreso de los interesados como algunas de las bases legitimadoras del artículo 9.2 del RGPD.

Cabe señalar que un sistema de IA procesa los datos personales en dos fases: la fase de entrenamiento algorítmico y la fase de uso. Durante el primero se entrena el algoritmo de la IA en un conjunto de datos, lo que le permite crear un modelo mediante la identificación de patrones y conexiones entre diferentes puntos de datos.

Gestión

En la última fase, este modelo se aplica al caso de uso particular en el que se diseñó la IA a fin de proporcionar una predicción o clasificación, ayudar a una decisión humana o tomar una decisión por sí mismo.

Por lo tanto, los datos personales son un componente vital para el ciclo de vida completo de un sistema de IA. ¿Cómo se aplica el RGPD a la Inteligencia Artificial?

Respecto a la aplicación del RGPD a la IA, lo primero que responsables y encargados de tratamiento deben tener en cuenta es la base legal, es decir, la base legitimadora para el empleo de sistemas de IA en el procesamiento de datos personales.

Esas bases legitimadoras las encontramos en el artículo 6 y 9 del RGPD y que se resumen en consentimiento del interesado, interés legítimo del responsable, obligación legal o necesidad contractual. Y deben concretarse y establecerse tanto en la fase de entrenamiento como en la fase de uso.

En la práctica, y dentro del contexto de Inteligencia Artificial y privacidad, esto significa que es necesario definir el objetivo del procesamiento de la IA desde el principio y asegurarse de que el propósito original del mismo se reevalúa si el sistema de IA proporciona un resultado inesperado, ya sea para que puedan identificarse los intereses legítimos perseguidos o para que el consentimiento válido, según sea el caso, pueda ser recogido de individuos.

Así mismo, de cara al uso de sistema de IA en el procesamiento de datos personales, responsables y encargados deberán aplicar los principios de:

Limitación: Se deberá determinar el propósito del uso del sistema de IA al comienzo de su capacitación o implementación, y realizar una reevaluación de esto para determinar si el procesamiento del sistema arroja resultados inesperados. Los datos personales solo se recopilarán para «fines específicos, explícitos y legítimos» y no se utilizarán de una manera que sea incompatible con el propósito original. En el mismo sentido, el principio de limitación del tratamiento requiere que los datos personales se mantendrán en forma identificable por un tiempo no superior al necesario para los fines para los cuales se procesan

Precisión: Los datos usados por el sistema de IA deben ser precisos y exactos Alimentar un sistema de IA con datos inexactos podría disminuir la calidad del resultado, y este principio requiere que los usuarios de IA adopten un enfoque particularmente vigilante para garantizar que el conjunto de datos no se diluye con datos de mala calidad La decisión imprecisa podría tener un impacto significativo en las personas