Teknologiens makt
Elisabeth Austad Asser
Teknologiens makt
Hvordan kunstig intelligens
forfører, frister og utøver makt – og hva vi kan
gjøre med det
© CAPPELEN DAMM AS, Oslo, 2025
ISBN 978-82-02-85314-3
1. utgave, 1. opplag 2025
Materialet i denne publikasjonen er omfattet av åndsverklovens bestemmelser. Uten særskilt avtale med Cappelen Damm AS er enhver eksemplarfremstilling og tilgjengeliggjøring bare tillatt i den utstrekning det er hjemlet i lov eller tillatt gjennom avtale med Kopinor, interesseorgan for rettighetshavere til åndsverk. Enhver bruk av hele eller deler av utgivelsen som input eller som treningskorpus i generative modeller som kan skape tekst, bilder, film, lyd eller annet innhold og uttrykk, er ikke tillatt uten særskilt avtale med rettighetshaverne.
Bruk av utgivelsens materiale i strid med lov eller avtale kan føre til inndragning, erstatningsansvar og straff i form av bøter eller fengsel.
Omslagsdesign: Gisle Vagstein / Deturia design
Sats: Bøk Oslo AS Trykk og innbinding: Livonia Print SIA, Latvia
Papiret i Cappelen Damms bøker er hentet fra bærekraftig skogsvirke. Ingen av forlagets produkter bidrar til avskoging eller forringelse av skog. Cappelen Damm arbeider for å redusere miljøbelastningen fra våre bøker så mye som mulig.
Les mer om Cappelen Damms miljøarbeid ved å scanne QR-koden:
www.cda.no akademisk@cappelendamm.no
Innhold
Kapittel
1 Mennesket og teknologien
Det er mandag morgen og du våkner opp i et kvadratisk rom, en kube der vegger og tak består av enorme skjermer. Du våkner fordi skjermene gradvis har begynt å lyse opp i takt med at de viser en soloppgang i en varm, lun og nyvåken skog. Du hører lyden av lett vind, og vakker fuglesang blir stadig tydeligere. Fordi madrassen din står midt i kuben, våkner du til en følelse av at du befinner deg i soloppgangen ute i skogen.
Du strekker deg forsiktig og vet at det er signalet som skal til for at kjøkkenluken i den ene skjermveggen åpner seg. Der står frokostjuicen klar – nøye blandet for å dekke kroppens behov, basert på blodverdiene som ble målt mens du sov. Du inntar væsken idet soloppgangen forsvinner fra skjermene rundt deg og brått erstattes med punktvis informasjon om hvor godt du har sovet og hvordan kroppen din har restituert etter gårsdagens arbeid, og med en beskjed om at du må tjene fem ekstrapoeng på jobb i dag fordi du presterte under ditt vanlige nivå på fredag.
Du sukker, sveiper informasjonen bort med hånden, og scroller i stedet gjennom nyhetsbildet som KI-agenten automatisk har filtrert ut for deg. I dag er nyhetsstrømmen fylt av helsenyheter der
hovedsaken er at KI-agenter endelig har lykkes med å fremstille blod identisk med blodet til toåringer, noe som ved blodoverføring kan forlenge levealderen til et 50 år gammelt menneske med over hundre år. Men bare for dem som har medlemskap i overklassen, selvsagt.
Det er tid for å gå på jobb. Du tar på deg arbeidstøyet: svart treningstights og -genser. Den førerløse bussen bringer deg til arbeidsplassen. Du setter deg på ergometersykkelen idet KI-sjefen din dukker opp på den enorme skjermen foran deg. Han ønsker deg velkommen, minner om de fem ekstra poengene du må levere i dag og avslutter som vanlig med en motivasjonstale som du raskt sveiper bort. Du ber i stedet skjermen om å vise store, brede landeveier ved kysten i Normandie i Frankrike som du kan sykle på. Du begynner å tråkke. Jobben din er å generere strøm.
Dette fremtidsscenariet er inspirert av en «Black Mirror»episode på Netflix fra 2011. Dersom du skulle gjette omtrent hvilket år dette er, ville du kanskje sagt sånn cirka 2045?
La oss gjøre et motsatt tankeeksperiment: Se for deg en person som i året 1990 falt i koma og som på mirakuløst vis våkner opp i vår tid i 2025, 35 år senere. Da han sovnet i 1990, midt i glasnost, den første Gulfkrigen, med Gro Harlem Brundtland som statsminister og til lyden av Nirvanas «Smells like Teen Spirit», var telefoner fremdeles noe som var kablet fast i husveggen. Musikk ble spilt på CD’er på stereoanlegg, regninger ble betalt via giroblanketter som ble sendt i posten. Når du skulle levere selvangivelsen, måtte du sette av minst en uke for å sortere og sjekke at alt av lønnsslipper og kontoutskrifter stemte. Skulle du ringe en du ikke kjente nummeret til, slo du opp i den store tykke telefonkatalogen med ark tynne som silkepapir.
For litt over tretti år siden, på begynnelsen av 1990-tallet, var det ingen internettlinje som pulserte gjennom hverdagen til noen. Mobil-
telefonen var forbeholdt noen svært få forretningsfolk. Og de var skikkelig store og tunge, umulige å få plass til i en vanlig dameveske. Så når denne personen fra 1990-tallet våkner opp i 2025, er det en ganske så annerledes verden han våkner opp i. Det første han sannsynligvis legger merke til er at alle menneskene går med bøyd nakke og ser intenst på noen små firkanter de holder i hendene – dersom de ikke da står for seg selv og snakker rett ut i luften tilsynelatende til seg selv, med noen hvite klumper i ørene. Enda mer merkelig vil det sannsynlig oppleves for denne personen å få vite at alt av brev, kort og det meste av papir for lengst er fjernet og nå finnes inne i disse små firkantene som alle går med i lomma. Penger bruker så godt som ingen lenger, alle bare vifter med denne firkanten når det skal betales i kassen. Og når du handler i butikkene, må du ta jobben som kassemedarbeider selv.
Sannsynligvis er følelsen av fremmedhet som denne personen fra 1990-tallet føler når han våkner i 2025, ganske lik den form for fremmedhet som vi opplever når vi prøver å forestille oss hvordan det er å våkne i en skjerm-kube fylt av kunstig soloppgang og få servert en blodverdibasert frokostjuice, der vi har en digital algoritme som sjef på jobben og vi selv ikke duger til annet enn å sykle på ergometersykler for å generere strøm.
Poenget med disse to scenarioene er å vise hvordan de teknologiene vi kontinuerlig tar i bruk ikke bare gjør ting enklere for oss og gir oss nye muligheter, men at de samtidig naturlig endrer vår oppfatning av hva som er naturlig og mulig. Koma-scenariet viser hvordan de teknologiene vi som mennesker og samfunn kontinuerlig har tatt i bruk siden 1990-tallet ganske stille, men likevel svært raskt, har omskrevet selve rammene for hvordan vi forholder oss til verden. Og hvordan vi forholder oss til det å være et menneske i verden.
I dag er vi ikke avhengige av å kunne stjernehimmelen, av kartbøker eller av å være velsignet med en god stedsans for å finne frem til et sted vi er i tvil om hvor er. I dag er det helt normalt at alt dette er byttet ut med en stemme i bilen som forteller oss hvor vi skal. GPS-en har forandret hvordan vi orienterer oss i den fysiske verden. Strømming har endret hvordan vi forholder oss til musikk. I dag er det bare de spesielt interesserte som eier en LP-plate, CD eller en kassett. Vi strømmer musikk fra en serverpark som befinner seg på et sted vi som regel ikke aner hvor er eller har noe forhold til.
Teknologi generelt – og kunstig intelligens (KI) spesielt – former ikke bare arbeidsmåter og vaner, men også våre forestillinger om hva som er naturlig, ønskelig og mulig.
Med det i mente blir avstanden til fremtidsscenarioet 2045 kortere. Ikke at vi tror at utviklingen vil bli akkurat som i en Black Mirror-episode, men i hvert fall at vi får en anelse av hvor raskt den teknologiske utviklingen går, og at den griper inn i stadig flere områder av våre liv. Fordi det går så fort, er det ikke usannsynlig at måten vi lever på vil endre seg minst like mye for oss de neste 20 årene, som den har gjort de siste 30.
Vi skal dvele litt ved det siste poenget i scenarioet. I 2045 er jobben din å generere strøm. Alt som en gang var ansett som en del av nyttige, menneskelige ressurser i arbeidslivet, som evnen til å tenke, skape og beslutte, er overlatt til maskinene. Vi er redusert til fysiske kropper som kan generere strøm, som en slags siste rest av nytte i en verden der teknologien har overtatt alt annet.
Scenariet er grotesk, men det peker på et grunnleggende trekk ved all teknologi: den er aldri bare et nøytralt verktøy. Hver ny teknologi rammer inn både hvordan vi forstår og forholder oss til verden. Det vil si: hvordan vi lever. Derfor er ikke det viktigste
spørsmålet hvordan teknologi fungerer, men hva den gjør med våre liv og vårt samfunn.
Når vi tar i bruk nye teknologier, blir de en del av måten vi lever på. De former oss gjennom å endre våre vaner og forestillinger, og de flytter grensene for hva som oppleves som naturlig, mulig og ønskelig.
Nettopp dette er utgangspunktet for denne boken: å undersøke hva teknologi gjør, hvordan den virker inn på våre liv. Vi skal se nærmere på hvilke verdier som er i spill når kunstig intelligens – kanskje den kraftigste teknologien vi har stått overfor siden atombomben – trenger seg inn i hverdagen vår.
Vi starter med å se nærmere på hva som gjør vår teknologiske tid grunnleggende annerledes enn tidligere epoker.
Når teknologi gir oss alt
Vi tenker kanskje på teknologi som noe moderne, som smarttelefoner, satellitter, høyhastighetstog, CRISPR-teknologi og genmodifisering. Men teknologi er jo ikke noe nytt for oss mennesker. Vi har til alle tider vært avhengige av ulike teknologiske verktøy for å overleve.
Når vi slo gnister med flintstein for å få fyr på bålet for ti tusen år siden, var det også teknologi. Teknologi er en del av vår natur.
Selv om teknologisk utvikling alltid har vært en del vår menneskelige historie, er det likevel noe som er fundamentalt annerledes i dag sammenlignet med den verden våre forfedre forholdt seg til. Og denne forskjellen handler om utviklingshastighet.
Både fremstillingen av teknologi og vår menneskelige evne til å lære oss å ta den i bruk, går ekstremt mye raskere i dag enn den har gjort noen gang tidligere i historien.