04 GESPREK
SPUI 53 02 | 2020 alumni.uva.nl
tekst • Florentijn van Rootselaar beeld • Guus Dubbelman (Ghebreab), Monique Kooijmans (Schaake)
‘IEDERE BURGER MOET DIGITA AL GELETTERD EN GECIJFERD ZIJN’
Al bijna een decennium wijst Sennay Ghebreab, neuro-informaticus aan de UvA, op groeiende discriminatie en ongelijkheid als gevolg van Artificial Intelligence. Tegenwoordig wil hij ook laten zien hoe je AI kunt benutten om die ongelijkheid tegen te gaan. Marietje Schaake, directeur internationaal beleid van het Cyber Policy Center van Stanford U niversiteit, is minder optimistisch. Ze wijst op het gevaar dat kunstmatige intelligentie ongelijkheid kan laten toenemen en pleit voor democratische controle. Sennay Ghebreab, UvA-wetenschapper die als kind de oorlog in Eritrea ontvluchtte, begint met een voorbeeld: ‘Neem het algoritme voor relocatie van vluchtelingen, dat aan de universiteit van Stanford is ontwikkeld in samenwerking met de Zwitserse overheid. Vroeger ging een vluchteling in Zwitserland naar een locatie waar toevallig plek was. Tegenwoordig wordt de locatie door AI bepaald. Zo gaat een vluchteling met een medische achtergrond ergens heen waar behoefte is aan artsen of verplegers. Uit onderzoek blijkt dat dit goed werkt, zowel de vluchteling als de omgeving hebben er profijt van.’ Ook Ghebreab zelf is betrokken bij de ontwikkeling van dit soort technologie, in het Civic AI Lab, waarvan hij wetenschap pelijk directeur is. De UvA werkt hierbij samen met de VU, de stad Amsterdam en het Ministerie van Binnenlandse Zaken. In Amsterdam ligt de nadruk op onderwijs, gezondheidszorg, welzijn en mobiliteit. ‘Met AI willen we de kansengelijkheid vergroten. Zo kijken we in het project voor mobiliteit naar
vervoersarmoede. We weten veel over woonsegregatie, maar weinig over vervoerssegregatie. Waarom bewegen sommige groepen weinig door de stad terwijl ze dat wel zouden willen? Zijn bepaalde plekken niet uitnodigend? Hierbij werden we g eïnspireerd door The Atlas of Inequality die aan de A merikaanse universiteit MIT is ontwikkeld. Van drie miljoen mobiele telefoongebruikers zijn de bewegingen door meerdere Amerikaanse steden gevolgd door gebruik te maken van locatiedata. Dankzij AI kun je daar heel precies inzicht in krijgen, ook in plekken die mensen vermijden. Dat helpt om een meer inclusieve stad vorm te geven.’ Marietje Schaake, verbonden aan Stanford, na tien jaar lid te zijn geweest van het Europees Parlement: ‘Uiteraard ben ik ook voor dit soort positieve toepassingen van kunstmatige intelligentie. Maar we moeten een belangrijk inzicht niet vergeten: ook als er goede bedoelingen zijn, kunnen er onbedoeld ongelijkheden
ontstaan. Neem Amazon, waar ze met AI het HR-beleid probeerden te ondersteunen. Ze wilden dat vast op een goede manier doen, en je kunt ook niet zeggen dat ze daar niets van technologie weten. Toch bleek na jaren dat vrouwen systematisch achtergesteld werden omdat het algoritme de keuze baseerde op een analyse van eerdere cv’s van mensen die bij het bedrijf hadden gesolliciteerd. Omdat dat vaker mannen waren, had het systeem geleerd dat die de voorkeur verdienen.’ Ghebreab: ‘Vaak is het niet de AI die zorgt voor ongelijkheid, maar de omgeving waarin die is gebouwd. Als de samenleving onrechtvaardig is, is de kans groot dat dit soort technologie dat ook wordt. AI kan ons helpen om daar zicht op te krijgen, dan werkt een algoritme als een spiegel. Neem het onderzoek van de University of California in Berkeley naar een algoritme dat ziektekosten verzekeraars en instellingen voor gezondheidszorg