INTERVIEW
autonomie, met werkgeluk? Dat zijn waarden die in het geding zijn, of waar we op zijn minst aandacht voor moeten hebben.’ ‘We hebben het vaak filosofisch over de intelligentie van AI, over dystopie of utopie, alsof het science fiction is, terwijl de invloed van AI op ons dagelijkse leven er gewoon al ís. Als je een powerpoint maakt, druk je op design, en die nieuwe sheet ís er, het algoritme helpt je. Het is de vraag hoe we ons daartoe verhouden. We moeten beseffen dat AI nu al doorsijpelt in het dagelijks leven en dat we aan de leiband lopen van techreuzen. Met elke vraag die we in ChatGPT stoppen, leveren we ook data aan. De dienst lijkt gratis, maar we betalen met stukjes van onszelf.’
Route langs eettentjes ‘We weten ook niet precies in welke richting die algoritmes ons duwen. Daarom vind ik waardengedreven ontwikkeling, value driven design, zo belangrijk. Hoe worden abstracte waarden als authenticiteit vertaald in software? Het ligt vaak heel genuanceerd. Voor intern gebruik ben ik bezig met een artikel over de Franse filosoof Bruno Latour. Daarbij gebruik ik zelf wel eens ChatGPT voor vragen als “Ben ik wel goed bezig?”, maar soms komt die met antwoorden waarvan ik denk: “Maar dat zegt Latour helemaal niet!” Authenticiteit staat onder druk, dat zie ik bij studenten ook.’ Op de vraag of hij het voorbeeld kent dat Google Maps gebruikers om half zes ‘s middags soms een andere route van huis naar station voorstelt dan om drie uur ‘s middags, om ze langs eettentjes te sturen, antwoordt Smits ontkennend. ‘Maar daar zie je hoe belangrijk het is wat je in software stopt. Google gaat natuurlijk over reclame en advertentie-inkomsten. De belangrijkste waarde hier is, denk ik, winst. Hoe we moeten voorkomen dat de techbedrijven ons te veel sturen? Met regulering, met wetgeving, met het afdwingen van transparantie. Maar daarnaast is bewustwording belangrijk, cultuurverandering. Niet alleen bij burgers, maar ook bij ontwikkelaars en bedrijven. Met de AI-Richtlijn heeft de Europese Unie een belangrijke stap gezet, maar de vraag blijft wat dat echt betekent. Het blijft allemaal vrij abstract. Zou zo’n route langs eettentjes niet meer kunnen? En dan nog, wat als er bij de installatie van zo’n app eenmalig toestemming wordt gevraagd? Dan zit het erin voordat je er erg in hebt.’
‘Authenticiteit staat onder druk, dat zie ik ook bij studenten’ ChatGPT of Replika.ai gebruiken als zelfhulp. We weten ook dat mensen een relatie opbouwen met zo’n social companion, om mee te babbelen bijvoorbeeld.’ ‘Ik ben heel erg geïnteresseerd in het effect op de relatie tussen zorgaanbieder en cliënt. Ik denk dat de technologie heel behulpzaam kan zijn. Iemand met Parkinson bijvoorbeeld moet, als hij op controle komt, een heel formulier invullen. Terwijl het gesprek met de arts zou moeten gaan over de vraag waarom hij zo weinig contact heeft met zijn kleinkinderen – bijvoorbeeld omdat die te snel praten – gaat het alleen over de vraag of de tremor is toegenomen. Als die patiënt vooraf met ChatGPT had kunnen praten, was die vragenlijst al ingevuld en was de analyse al gemaakt. Dan had het echte gesprek met de arts kunnen plaatsvinden, de ontmoeting. In die zin geloof ik in technologie. Niet dat iedereen maar een abonnementje moet nemen bij ChatGPT, en via een zorginstelling een social agent moet krijgen. Nee, want zo’n ding moet zo ontworpen worden dat hij aansluit bij de visie en de zorgprincipes van de instelling. Dat maakt heel veel uit.’
Kop koffie Maakt deze technologie mensen, die toch al steeds individualistischer worden, niet nóg individualistischer? Smits knikt. ‘Dat is natuurlijk ook de klassieke vraag bij het begrip zelfredzaamheid. Als dat betekent dat mensen in staat zijn om hulp te vragen als ze die nodig hebben, als ze hulp kunnen accepteren, dan is het een krachtig iets. Maar als zelfredzaamheid wordt platgeslagen tot het idee dat je jezelf maar moet kunnen redden in je eentje, dan vind ik het heel erg. Als we de social companion zo kunnen ontwerpen dat hij toeleidt naar anderen, dan kun je hem functioneel inzetten. Voor mensen met psychische problemen die op een wachtlijst staan, biedt zo’n companion mogelijkheden. Maar je moet hem zo ontwerpen dat hij bijvoorbeeld zegt: “We hebben nou drie beurtwisselingen gehad en we komen er nu niet uit. Zou je niet even een kop koffie gaan drinken met je buurvrouw?” Dan ben je een heel ander soort hulp aan het vormgeven.’
Zelfhulp
Een verkapte generator
‘Het is allemaal best verontrustend’, geeft Smits toe. ‘Maar er staan ook positieve verwachtingen tegenover. Samen met het Leger des Heils ontwikkelen we hier in Ede een zogeheten social companion, wat een echte metgezel zou moeten zijn. Vroeger hadden we een chatbot rechts onderin het scherm. Verschrikkelijk. Daarna kwam de social agent, die al ietsje slimmer was. Maar zo’n social companion zou mensen echt kunnen helpen, bijvoorbeeld mensen met een depressie – en er zíjn al dergelijke apps! We weten dat jongeren
Wat moeten studenten leren bij hun omgang met AI? Wat moeten wíj leren? ‘Studenten, jongeren, weten vaak minder over AI dan we denken, ze zijn vaak naïever. We leren ze in Ede hoe ze moeten omgaan met prompten en hoe ze kunnen checken of iets echt waar is. Maar het lijkt vaak of ze AI als verkapte generator zien die ze een trucje kunnen laten doen, en de echte meerwaarde niet zien. Als docent maak ik soms een aparte bot, met wie studenten een socratische discussie moeten voeren. Die bot geeft dan geen keurige ant-
03 2025
Mathijs Remijn in samenwerking met René Bogaarts
11