I La necesaria regulación de la inteligencia artificial

La necesaria regulación de la inteligencia artificial

Laia Bonet - Teniente de Alcaldía de Agenda 2030 y Transición Digital del Ayuntamiento de Barcelona

Nos encontramos en un momento de disrupción digital. La Inteligencia Artificial (IA) y sus algoritmos están modificando nuestras pautas de comportamiento: qué leemos, qué vemos, qué compramos o con quien nos relacionamos. La robotización de tareas transformará aún más esta realidad y desde los poderes públicos debemos impulsa una estrategia para enfrentar este reto, que es a la vez ético y tecnológico.

Si no lo abordamos, nos encontraremos con unos impropios de los algoritmos, que pueden tener consecuencias sociales nefastas. Como nos han mostrado ejemplos de políticas públicas en países como el Reino Unido o los Países Bajos, no se pueden utilizar algoritmos sin supervisión humana para tomar decisiones automatizadas ni tampoco se pueden programar algoritmos con unos sesgos que agraven las desigualdades existentes. El aspecto de los sesgos es fundamental. Como afirma la fundadora de la Liga por la justicia algorítmica, Joy Buolamwini, “el pasado habita en nuestros algoritmos”: la inteligencia artificial se basa en predicciones sobre el futuro basadas en datos del pasado. Datos que contienen sesgos culturales, socioeconómicos o de género.

¿Estamos dispuestos a que el futuro de nuestra sociedad se construya como una mera imagen de las desigualdades del pasado?

Para evitarlo necesitamos actuar en el desarrollo y la regulación de esta tecnología.

Debemos incrementar el nivel de responsabilidad, de las empresas y las administraciones, en el desarrollo de la IA, y regular los modelos algorítmicos y el uso de datos, pensando en su utilidad para la sociedad, introduciendo criterios éticos y de interés público, para evitar nuevas discriminaciones.

la IA y las tecnologías emergentes representan un cambio de paradigma para entender la gestión pública

Si no queremos que la digitalización acelerada agudice las desigualdades, tenemos que saber convertir la digitalización en una herramienta para generar nuevas oportunidades sociales y económicas. Un compromiso que deberíamos adquirir todas las administraciones públicas, a nivel local, nacional, europeo y global.

En estos momentos, es la Unión Europea quien ha asumido el liderazgo que le corresponde, elaborando un nuevo Reglamento para regular la IA y establecer un nuevo estándar global para su supervisión. Es un reglamento muy ambicioso y no solo propone verificaciones adicionales para aquellos usos de IA considerados de “alto riesgo” sino que también incluye la prohibición de los usos “inaceptables” de la IA, como calificar a las personas en función de su credibilidad percibida, y la restricción del uso del reconocimiento facial.

La legislación que se apruebe reflejará como queremos que sean nuestras sociedades en el futuro.

En este contexto, el Ayuntamiento de Barcelona ha aprobado y está desarrollando una Estrategia de Algoritmos y Datos para el impulso de la inteligencia artificial.

Con esta medida de gobierno, el Ayuntamiento de Barcelona dispone por primera vez de un marco normativo para la aplicación de la IA en el seno de la institución. Barcelona se suma a ciudades como Ámsterdam, Nueva York, Helsinki, Toronto o Seattle en la construcción de un modelo de IA y tecnologías emergentes urbano, basado en los derechos humanos y comprometido con una sociedad digital democrática.

la inteligencia artificial y sus algoritmos están modificando nuestras pautas de comportamiento

La estrategia municipal establece herramientas y criterios para garantizar un desarrollo de la IA que respete los principios éticos y los derechos digitales. Pero también pretende ir un paso más allá, y ser proactivos. Queremos aprovechar el desarrollo de la IA para ofrecer mejores servicios a la ciudadanía y avanzar hacia una administración proactiva que dé respuestas adaptadas a las necesidades concretas de los ciudadanos.

Desde el Ayuntamiento queremos desarrollar modelos de IA abiertos, al servicio de la ciudad, para ofrecer también mejores servicios a la ciudadanía y a las empresas. Servicios más directos y personalizados.

En el Ayuntamiento de Barcelona, el uso de tecnologías basadas en la IA se encuentra aún en una fase incipiente. Algunas áreas del consistorio están desarrollando pruebas piloto para contribuir a hacer los servicios municipales más eficientes y proactivos.

Es por eso por lo que esta medida de gobierno tiene un componente eminentemente práctico: por una parte, de impulso de la IA basada en los derechos de los ciudadanos y, por otra, establece mecanismos de gobernanza y gestión, como, por ejemplo, la elaboración de un registro público de algoritmos o la implantación de las correspondientes auditorías para evaluar el riesgo.

La IA y las tecnologías emergentes representan un cambio de paradigma para entender la gestión pública: se trata de pasar de un modelo de administración reactiva a un modelo de Administración proactiva. Si la Administración conoce bien la realidad de sus ciudadanos a partir de los datos, recogidos con consentimiento previo, será capaz de anticiparse y ofrecer a la ciudadanía un servicio determinado sin esperar que sea la ciudadanía quien lo solicite.

La combinación de la gestión del “good data” y la IA debe permitir a las instituciones llegar de manera más personalizada y directa a la ciudadanía, a partir de un conocimiento más profundo. Es por eso por lo que la Administración estará en disposición de prestar servicios públicos más sensibles a la diversidad social y, a su vez, más capaces de garantizar la universalidad. ENFOQUES 17

la regulación de la inteligencia artificial es un reto de sociedad que debemos afrontar conjuntamente

Así, la aplicación de tecnologías emergentes hará posible servicios públicos más fuertes y de mejor calidad institucional y democrática, y un ahorro de recursos temporales y económicos.

La regulación de la IA es a la vez un reto y una oportunidad para las administraciones públicas. El reto de poner límites al poder del algoritmo y la oportunidad de conseguir que los servicios públicos sean más eficaces y eficientes.

Todas las administraciones públicas debemos trabajar en esta dirección y para ello debemos contar también con el sector privado, puesto que la regulación de la IA es un reto de sociedad que debemos afrontar conjuntamente. Está en juego qué sociedad queremos construir, con qué valores y con qué derechos.