HVORDAN SIKRER VI, AT TEKNOLOGI ER ANSVARLIG?

Søgemaskinen ChatGPT er blevet mødt med alt fra vild begejstring til dyb bekymring. På DTU opfordrer professor Brit Ross Winthereik til, at vi altid møder ny teknologi med et åbent sind og en analytisk tilgang for at vurdere potentialet for at bruge den ansvarligt.

q: Hvorfor tror du, folk reagerer så kraftigt på ChatGPT?

a: Jeg tror bl.a., det skyldes, at ChatGPT interagerer med os på en anden måde end de søgemaskiner, vi kender, ved at personliggøre sit svar i formfuldendte sætninger med noget, der kan forveksles med argumentation.

Nogle opfatter den som kontroversiel, fordi den bruger data, som jo er frit tilgængelig på internettet, men som samtidig ikke er tiltænkt at skabe profit for en virksomhed. Virksomheden bag ChatGPT har brudt med en samfundskontrakt ved at udnytte noget fælles for egen vindings skyld.

Samtidig bliver der indhentet data om dig som bruger på en anden måde end de søgemaskiner, vi allerede kender, fordi du som noget nyt giver noget af dig selv i form af tilknytning til nogle idéer eller tanker, som du deler netop på grund af måden, ChatGPT interagerer med dig på.

Vi ved heller ikke, om den er designet til at påvirke brugeren på bestemte måder – om den f.eks. tenderer mod at være racistisk og kvindefjendsk ganske som mange andre softwaresystemer, der er baseret på maskinlæring, fordi de forstørrer elementer, der er meget af i de data, systemerne trænes på.

q: I stedet for at stirre os blinde på enkelte produkter opfordrer du til, at vi generelt stiller krav til, at teknologi er ansvarlig. Men hvordan definerer du ’ansvarlig teknologi’?

a: Om en teknologi er ansvarlig, afhænger helt af samspillet mellem hvad den er skabt til og hvordan den bliver brugt. Altså lever den op til de mål, der er sat, eller den virker på helt andre måder i praksis? En producent kan stræbe efter at skabe ansvarlig teknologi, men man kan ikke sætte prædikatet ’ansvarlig’ og ’uansvarlig’ på teknologier én gang for alle. Derfor er det meget vigtigt at følge konkrete virkninger nøje, så vi f.eks. opdager, hvis teknologier trods gode intentioner har uhensigtsmæssige konsekvenser. q: Hvordan vurderer man, om en teknologi er ansvarlig? a: Første skridt er at beskrive teknologien i kontekst. Hvordan er den en del af den større sammenhæng af infrastrukturer, forretningsmodeller og kulturelle værdisæt? En uansvarlig tilgang vil være at sige ’Åh, nu er der kommet en teknologi, der kommer til at revolutionere verden, så vi må hellere reagere’ og så skynde sig at tage den i brug eller lave forbud uden at undersøge den nærmere. Skridt nummer to er at analysere effekterne: Hvad sker der i praksis? Indfrier teknologien de løfter, som den siger, at den vil? Hvis den gør noget andet, hvad er de andre ting så? Og hvad skal egentlig være på plads, for at der er tale om en god teknologi? q: Er ansvarlig teknologi lig med nødvendig teknologi? a: Vi kan sagtens få alle mulige teknologier til at løse ting for os, men hvor vil vi hen som mennesker? Hvad vil vi gerne have trænet? Det er jo sådanne spørgsmål, vi også bliver nødt til at stille os selv i den sammenhæng, vi indgår i, for at kunne afgøre, om det er nødvendigt og gavnligt at omfavne en bestemt teknologi.

Tredje skridt er at eksperimentere med teknologien.

Hvad er grænsen for dens kunnen? Er der nogen eller noget, den ekskluderer?

Det er også vigtigt at vurdere, om de værdier, teknologien repræsenterer, harmonerer med egne værdier – i denne her organisation, skole, sektor eller dette land. Hvis ikke kan man jo sige nej og vælge, at man ikke vil promovere den eller sætte nogle hårde begrænsninger på brugen af den.

Når det drejer sig om offentlig digital infrastruktur, som er mit forskningsområde, handler det om at sikre, at teknologien understøtter det samfund, vi ønsker.

Som én skrev i fagbladet ’Gymnasieskolen’, så går man jo ikke ind i et fitnesscenter med en gaffeltruck for at løfte vægte. Man løfter vægtene selv, fordi man gerne vil udvikle sine muskler. Han mente ikke, at chatbots hjælper læring på vej, så derfor vil det være dumt at bruge dem i skolen.

Hvor vil vi hen som mennesker? Det bør vi debattere, når vi skal afgøre, om en teknologi er gavnlig, mener professor Brit Ross Winthereik.

Debatten har siden fået flere nuancer, idet man flere steder har besluttet på sigt at tillade ChatGBT i undervisningen og i forbindelse med afleveringer. Efter min mening er det en ansvarlig omgang med chatbots at lægge en linje ovenfra i forhold til brug for så systematisk at samle op på erfaringerne gennem dialog med undervisere og studerende.

Det vil også være en god idé at benytte lejligheden til at udbrede en basal teknologiforståelse ved at undervise i, at al teknologi har indbyggede præferencer, værdier, standarder, politik og historik. q: Er regulering nødvendig for at sikre en ansvarlig teknologibrug? a: Jeg kan ikke komme i tanker om teknologier på infrastruktur- eller samfundsniveau, der ikke er underlagt regulering. Når vi taler om digitale teknologier, er retten til privatliv noget, der bliver skal reguleres og bliver det.

Big Tech har vist sig notorisk svær at gøre til genstand for regulering, fordi de giver services væk gratis og tager data tilbage. Det er deres for- retningsmodel. Det forsøger man at styre fra EU’s side med bl.a. GDPR og anden regulering. Lovgivningen synes desværre altid at halte bagefter virkeligheden, men det er nok dens natur.

Jeg er fortaler for, at vi forsker mere i samspillet mellem mennesker og automatiserede systemer, så vi kan træffe bedre beslutninger på samfundsniveau. Det er vigtigt, at vores demokratiske institutioner og tilliden til myndighederne ikke eroderer, fordi vi synes, noget er smart i en fart. Vi skal undersøge de praktiske effekter grundigt.

Brit Ross Winthereik, professor, browi@dtu.dk

Blå bog

• Ph.d. i Science and Technology Studies fra Erasmus Universiteit Rotterdam.

• Digital vismand ved Akademiet for de Tekniske Videnskaber 2018-22.

• Professor på DTU Management i divisionen for Responsible Innovation & Design.

• Forsker bl.a. i digital eksklusion og inklusion for at forstå, hvorfor nogle borgere oplever problemer med samfundets digitale systemer, og hvordan de problemer kan overvindes.

1. PÅ TUR TIL EN VIRTUEL VERDEN

En rummission sætter mandskabet under stort pres. Derfor er der stort fokus på at sikre astronauternes fysiske og mentale velvære.

Virtual reality (VR) er et veldokumenteret redskab her på jorden til at stimulere mentalt velvære, men det har aldrig været anvendt i rummet. Et konsortium ledet af DTU vil levere et VR-system, der kan transportere Andreas Mogensen til fredfyldte steder, som f.eks. en bakketop ved solnedgang eller et rislende vandløb i en skov. Formålet er at finde måder at øge den mentale trivsel for astronauter på lange missioner.

Det er en udfordring at udvikle udstyr, der kommer til at virke i rummet. De tilgængelige VR-systemer gør nemlig brug af tyngdekraften til at sikre, at det univers, brugeren træder ind i, vender den rigtige vej og bliver vist, uden at billederne ’hakker’, når man f.eks. drejer hovedet.

Der ligger derfor et stort arbejde i at udvikle et system, der virker lige så godt, når tyngdekraften er fraværende, så man undgår at gøre astronauterne søsyge. Hvis det fungerer efter hensigten, vil det til gengæld åbne for bredere anvendelse af VR i rummet til træning, oplæring og underholdning.