ATLE O. SØVIK og ASLE EIKREM
VIDUNDERLIGE NYE VERDEN?
Kunstig intelligens, etikk og menneskesyn
VIDUNDERLIGE NYE VERDEN?
ATLE OTTESEN SØVIK OG ASLE EIKREM
VIDUNDERLIGE NYE VERDEN?
Kunstig intelligens, etikk og menneskesyn
Copyright © 2025 by Vigmostad & Bjørke AS All Rights Reserved
1. utgave 2025 / 1. opplag 2025
ISBN: 978-82-450-5878-9
Grafisk produksjon: John Grieg, Bergen
Grafisk design ved forlaget
Omslagsdesign ved forlaget
Omslagsfoto: Shutterstock, © Gilmanshin, © BreizhAtao
Spørsmål om denne boken kan rettes til: Fagbokforlaget
Kanalveien 51 5068 Bergen
Tlf.: 55 38 88 00 e-post: fagbokforlaget@fagbokforlaget.no www.fagbokforlaget.no
Materialet er vernet etter åndsverkloven. Uten uttrykkelig samtykke er eksemplarfremstilling bare tillatt når det er hjemlet i lov eller avtale med Kopinor.
Vigmostad & Bjørke AS er Miljøfyrtårn-sertifisert, og bøkene er produsert i miljøsertifiserte trykkerier.
Forord
Denne boken er skrevet i samarbeidets ånd. Å tenke sammen er en kunst der ulike utgangspunkt og saklig uenighet gir mulighet til å tenke nytt. Evnen til å tenke nytt er nettopp det utviklingen av kunstig intelligens krever av oss.
Vi vil takke alle som har brukt tid på å lese og kommentere manusutkastene våre: Andrè Sevenius Nilsen, Aksel Braanen Sterri, Michael Mørch, Simon Balle, Martin Søvik og Lars Moe. En spesiell takk går til Svein Jåvold, som har gitt oss mange og viktige teoretiske impulser til denne boken, særlig om mediering, systemdynamikk og anerkjennelse. Takk også til de øvrige deltakerne i forskergruppen TechPhil, hvor mange av bokens temaer har vært gjenstand for produktiv diskusjon.
Takk til Fagbokforlagets redaktør Per Robstad, som er alt man kan ønske seg i en redaktør: dyktig, effektiv, morsom og inspirerende.
Til slutt vil vi takke våre familier, som alltid er til stede som grunnvoll og støttespillere i våre liv.
Kapittel
Kapittel
VIDUNDERLIGE NYE VERDEN?
Kapittel 1
Innledning
Mange av de største omveltningene i verdenshistorien har kommet som resultat av bredt anvendbare teknologiske oppfinnelser, som ilden, hjulet, kruttet, dampmaskinen, elektrisiteten og internett. Kunstig intelligens er den mest allsidige teknologien som noensinne er oppfunnet. Mens teknologi vanligvis forstås som et middel til å nå spesifikke mål, fremstilles kunstig intelligens ofte som et middel til å nå alle slags mål. Den er i ferd med å endre måten vi leker, lærer og arbeider på, hvordan vi finner partnere, hva som produseres, hva vi kjøper og selger, hvem som får hus- og billån, hvordan vi orienterer oss i fysiske omgivelser, hvordan vi forflytter oss, hvordan vi diagnostiseres når vi blir syke, hvilke medisiner vi får, hvordan vi lager musikk, hvilken musikk vi lytter til og hvilke tv-serier vi ser på, hvordan vi forurenser, hvordan vi forsøker å forhindre forurensning, hvordan vi kriger, og hvordan det blir fred. Majoriteten av all kommunikasjon i verden i dag skjer gjennom maskiner som «tenker».1 Det er derfor grunn til å tro at vi står overfor en av de største omveltningene i menneskets historie, om ikke den største.2
Kunstig intelligens kan gjøre verden bedre. Et lands samlede velferd avhenger først og fremst av hvor mange effektive arbeidstimer som er tilgjengelig.3 Med god politisk styring kan kunstig intelligens levere ekstremt effektive arbeidstimer til svært lav kostnad, og gi velferdsøkning til alle innbyggere. Sjefen for det norske oljefondet, Nikolai Tangen, uttalte til VG 3. mai 2025: «Jeg har aldri før sett en slik mulighet. Vi har aldri tidligere sett at en ny teknologi kan gi slike muligheter».4
Samtidig har kunstig intelligens et enormt destruktivt potensial. Mennesker med onde hensikter kan få avansert hjelp fra kunstig intelligens til å realisere sine planer: cyberkriminalitet, narkotikasmugling, polarisering, overvåkning, miljøødeleggelser eller terrorangrep. Det er helt avgjørende for menneskehetens
fremtid at vi skjerper vår etiske beredskap i møte med den teknologiske endringen vi nå står midt oppe i. Denne boken er et lite bidrag til denne store og viktige samtalen.
Hva vil vi med denne boken?
Det overordnede perspektivet i denne boken er etisk. Formålet er å stimulere leseren til å reflektere grundig over hva som er etisk godt, og hvordan vi som individer og samfunn bør forholde oss til kunstig intelligens. Hva som er etisk godt å gjøre, er helt avhengig av hva som er sant om den situasjonen vi står i når vi tar våre valg. Om det er rett eller galt å gi barn vaksine, avhenger av om det er sant at den aktuelle vaksinen er helsefremmende eller skadelig. Våre etiske refleksjoner vil derfor baseres på relevante fakta om kunstig intelligens. Menneskers vurderinger av hva som er rett eller galt, henger også sammen med hvordan man ser på livet generelt, og særlig menneskesynet. Diskusjonen rundt kunstig intelligens setter vår forståelse av oss selv og vår tilværelse på spissen. Hvilke egenskaper må kunstig intelligens for eksempel ha for å kunne tilskrives rettigheter eller holdes ansvarlig – krever det forståelse, følelser, sårbarhet, fri vilje eller evne til å ta ansvar? Og hva lærer svaret vi gir på dette spørsmålet oss om oss selv som mennesker? Kunstig intelligens, etikk og menneskesyn er de tre brennpunktene som gir denne boken sin undertittel.
Bokens kapitler er strukturert slik at de ofte innledes med en redegjørelse for en endring som har skjedd som følge av implementering av kunstig intelligens i vår verden, eller en mulig endring som snart kan skje. Deretter identifiseres en spesifikk problemstilling knyttet til dette, før vi til slutt diskuterer ulike svar på hvordan problemet bør løses sett fra et etisk ståsted. Noen steder krever tematikkens art at vi avviker noe fra denne generelle fremgangsmåten – for eksempel ved at flere mindre problemer diskuteres.
Forfatterne av denne boken har hørt og lest utallige diskusjoner om kunstig intelligens hvor det stilles mange etiske spørsmål, men hvor få kommer med forslag til svar. Det er forståelig, all den tid bruken av kunstig intelligens reiser mange vanskelige spørsmål. Skal diskusjonen gå fremover, er det imidlertid ofte en fordel om faktiske løsningsforslag blir lagt på bordet. Vi tilstreber derfor i stor grad å komme med forslag til løsninger på problemstillingene vi reiser. Det betyr naturligvis ikke at vi har rett. Men i det minste får du som leser noe konkret å være enig eller uenig i, og det tror vi er bra for den videre refleksjonsprosessen.
Én vanlig måte å utføre en etisk vurdering på er å vurdere ulike handlingsalternativer ut fra hvilke konsekvenser de har. For hver av konsekvensene kan man spørre hvor høy positiv eller negativ verdi den har, hvor sannsynlig det er at konsekvensen vil inntreffe, hvor mange konsekvensen gjelder for, og hvor kortsiktig eller langsiktig den er.5 Vi skal snart se nærmere på alternative måter å forholde seg etisk til en problemstilling på.
Våre handlinger er imidlertid sjelden utelukkende gode eller klanderverdige, men utgjør forsøk på å øke sjansene for at handlingene våre får ønskede konsekvenser og redusere sjansene for uønskede konsekvenser. Dette er en modell for kvalitetssikring som mange kjenner fra arbeidslivet: Hvordan kan vi realisere målene våre og redusere risikoer? Et mål er en positiv konsekvens som har en viss sannsynlighet for å inntreffe, mens en risiko er en negativ konsekvens med en viss sannsynlighet for å skje. Vi ønsker at mest mulig positivt og minst mulig negativt skal skje. Denne etiske vurderingsmodellen er nyttig å kjenne til, ettersom det ofte ikke er slik at vi bare kan velge A eller B; ofte er enten A eller B gitt, og vi må forsøke å gjøre det beste ut av situasjonen vi står i. Det er ikke opp til noen av oss å velge om internett skal eksistere, og sannsynligvis lar heller ikke utviklingen av kunstig intelligens seg helt stoppe, fordi insentivene for å utvikle den er så ekstremt sterke. Men det er mye vi kan gjøre for å øke sjansene for at kunstig intelligens gir oss en bedre verden og redusere risikoene for at det går galt. Dette er grunnen til at de etiske diskusjonene er så viktige å ta.
Noen ganger er det viktig å diskutere hva som ville vært det etisk beste gitt at alle hadde oppført seg etisk ideelt. Andre ganger er det mer interessant å diskutere hva som realistisk sett er det etisk beste, gitt at alle ikke vil oppføre seg ideelt. For eksempel kan vi diskutere om det hadde vært etisk best om alle hadde et bærekraftig forbruk. Samtidig er det lite realistisk, og derfor vil det være nødvendig å undersøke om det finnes andre, mer realistiske tiltak for å bekjempe klimakrisen.
Det vil ofte være omstridt og vanskelig å vite hva som er realistisk, og noen ganger er det viktig å kjempe for mål som kan synes lite realistiske, eller å ta valg som gjør at ting kan bli mer realistisk en gang i fremtiden. Kampen for frigjøring av slaver, kvinner og homofile var lett å avfeie som urealistisk i sin tid. Vi bør finne løsninger som både fører til umiddelbar bedring, men også øker sannsynligheten for større forbedring på lengre sikt, i stedet for å ofre de langsiktige idealene helt. Dette bør vi huske på når utfordringene er klima, kunstig intelligens eller andre utfordringer vi står overfor i dag.
Bokens oppbygning
Boken har tre hoveddeler. I første del gir vi en generell presentasjon av kunstig intelligens, etikk og filosofi. Her redegjør vi for hva kunstig intelligens er, hvordan vi generelt mener det er klokt å nærme seg utfordringene kunstig intelligens gir oss fra et etisk ståsted, samt hvilke filosofiske forutsetninger tilnærmingen vår har. Alt dette er det greit å være klar over før vi går i gang med de konkrete etiske og filosofiske diskusjonene. I disse generelle innføringene vil noe være kjent for noen, men neppe alt for alle. Er du blant dem som har tenkt å hoppe over etikk-kapitlet fordi du tenker at etikk bare er en klamp om foten vi ikke har råd til å ta hensyn til i konkurransen som utspiller seg på de internasjonale markedene, håper vi du i det minste leser seksjonen som har tittelen «Hvorfor det er irrasjonelt å ikke bry seg om etikk».
Andre del tar en rekke ulike etiske problemstillinger opp til diskusjon. Her finner leseren diskusjoner av alt fra diskrimineringsfarene ved bruk av kunstig intelligens, overvåkningskapitalisme, sosiale medier, selvkjørende biler, autonome våpen, bruk av ChatGPT i skolen, fremtidens arbeidsmarked til transhumanisme, klimakamp og datakolonialisme. Tredje, og siste, del fokuserer på menneskesyn gjennom å diskutere hvorvidt maskiner kan få ulike menneskelige egenskaper. Merk at vi kan lære mye interessant om mennesket gjennom slike diskusjoner, uavhengig av hvor realistisk menneskelignende maskiner i fremtiden er. Spørsmålene får oss til å tenke gjennom mange sider ved menneskets egenskaper. Boken avsluttes med noen utblikk mot fremtiden – våre dypeste drømmer og verste mareritt.
Boken tar for seg mange store temaer, noe som naturlig nok går på bekostning av dybden. Vi prioriterer bredde fordi vi oppfatter at mange ønsker seg en bedre oversikt over feltet. Som hovedregel legger vi vekt på det vi mener er viktigst å reflektere over. Samtidig henger kapitlene sammen og utdyper ofte hverandre, slik at helheten likevel gir en grundig presentasjon av feltet. Leseren kan også fordype seg i detaljer ved å følge litteraturhenvisningene i fotnotene.6
Blant dem som forsker på kunstig intelligens og etikk, er det vanlig å skille mellom problemstillinger som ligger lenger inn i fremtiden – for eksempel om maskiner kan få superintelligens – og problemstillinger som er aktuelle her og nå, som sosiale medier. En begrunnelse for å rette oppmerksomheten mot nåtiden er at det er bedre å slokke branner som pågår enn dem som kanskje kommer senere.7 Samtidig befinner vi oss i en fase av utviklingen og implementeringen av kunstig intelligens der ting skjer raskt. Det som virket urealistisk for kort tid siden, er plutselig en realitet vi må forholde oss til, eller har blitt et
mer plausibelt fremtidsscenario. Historisk har etikere ofte kommet halsende etter teknologien. Vi ser derfor en verdi i å være litt i forkant og opparbeide etisk beredskap som kan hjelpe oss til å ta gode valg når krisene oppstår, og forsøke å unngå dem man kan.8 Det er mulig både å slokke branner nå, etablere god brannsikring og forberede seg på en mulig storbrann i fremtiden.
Kunstig intelligens (KI) er i ferd med å endre verden i et forrykende tempo. Den nye teknologien påvirker allerede hverdagsliv og forbrukervaner, måtene vi arbeider, lærer og kommuniserer på, hvordan vi tar medisinske beslutninger, fører krig og håndterer klimaendringer. Innflytelsen vil sannsynligvis bare fortsette å vokse – med både positive og negative konsekvenser.
KI påvirker ikke bare hva vi gjør – den endrer også hvordan vi forstår oss selv, hva vi ønsker, og hvorfor vi ønsker det vi gjør. Den påvirker hva vi anser som sant, godt og vakkert. Teknologien er ikke nøytral; men verdiladet. Og miljøene som lader den med verdier har ikke nødvendigvis mål om å skape en mer rettferdig verden. Derfor er det avgjørende å forstå hvordan KI påvirker både enkeltmennesker og samfunn – og hvilken fremtid den leder oss mot.
Hvilke verdier skal styre utviklingen av KI? Hvordan bevarer vi personvern, rettferdighet og demokratiske prosesser? Kan maskiner utvikle forståelse, følelser eller moralsk ansvar – og bør de i så fall få rettigheter? Dette er noen av de etiske og filosofiske spørsmålene forfatterne av denne boken utforsker. Gjennom en grundig analyse av KI fra et etisk og filosofisk perspektiv undersøker de hvordan teknologien utfordrer våre verdier, beslutningsprosesser og forståelse av mennesket. Ved å kombinere teoretiske refleksjoner med konkrete eksempler og løsningsforslag, tilbyr boken et originalt, forskningsbasert grunnlag for refleksjon og debatt om KIs rolle i samfunnet –både i dag og i fremtiden.
Atle Ottesen Søvik og Asle Eikrem er begge professorer i systematisk teologi ved MF vitenskapelig høyskole.
ISBN 978-82-450-5878-9