Shoshana Zuboff : Overvåkingskapitalismens tidsalder by Forente Forlag

OvervaĚ&#x160;kningskapitalismens tidsalder.indd 2

15/09/2020 13:23

shoshana zuboff

OVERVÅKINGSKAPITALISMENS TIDSALDER Kampen for en menneskelig framtid ved maktens nye frontlinje

Oversatt av Lars Nygaard

Overvåkningskapitalismens tidsalder.indd 3

15/09/2020 13:23

Overvåkingskapitalismens tidsalder. Kampen for en menneskelig framtid ved maktens frontlinje Originalens tittel: The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power © Shoshana Zuboff, 2019 Utgitt etter avtale med: Perseus Books c/o Sebes & Bisseling Literary Agency Norsk utgave: © Spartacus Forlag AS, 2020 Utgitt med støtte fra Institusjonen Fritt Ord. Kjøpt inn av Kulturrådet. Omslagsdesign: Lukas Lehner / Punktum forlagstjenester Sats: Punktum forlagstjenester Satt med Garamond Premier 11/14 Papir: Munken Print Cream 80 g Trykk: Scandbook Printed in EU ISBN 978-82-430-1348-3 Det må ikke kopieres fra denne bok i strid med åndsverkloven eller i strid med avtaler inngått med KOPINOR. Spartacus Forlag AS Pb. 6673 St. Olavs plass, 0129 OSLO spartacus.no Utdrag fra W.H. Auden er hentet fra Sonettar frå Kina, Samlaget, 1997. Gjendiktet av Per Olav Kaldestad. Utdrag fra Homer er hentet fra Odysseen, Gyldendal norsk forlag, Oslo, 1996. Gjendiktet av Peter Østbye. Utdrag fra Johann Wolfgang von Goethes «Trollmannens lærling» er hentet fra Fremmede toner. Et utvalg av verdenslyrikken i norsk gjendiktning. Grøndahl Dreyer, 1993. Gjendiktet av André Bjerke.

Overvåkningskapitalismens tidsalder.indd 4

15/09/2020 13:23

Denne boken er tilegnet fortiden og fremtiden: Til minne om min elskede, Jim Maxmin. Til minne om min modige venn Frank Schirrmacher. Til mine barn, Chloe Sophia Maxmin og Jacob Raphael Maxmin â&#x20AC;&#x201C; jeg skriver for fremtiden og den moralske styrken i generasjonen dere tilhĂ¸rer.

OvervaĚ&#x160;kningskapitalismens tidsalder.indd 5

15/09/2020 13:23

Kulsne notid, dyster og full av dur, me vaknar med sukk etter antikkens Syd, ein varm naken tidsalder med instinktiv positur, ein smak av glede, ein uskuldig dyd. Om natta i hyttene drøymer me om å ta del i Framtidas ball: Kvar rituelle labyrint har sin musikalske plan, og musikalske hjarto vil følgja dei feilfrie faktene feilfritt og fint. Me misunner bekker og hus som er stø, men, fulle av tvil, bundne til mistak, var me aldri nakne og i ro lik ei stor dør og vil aldri bli så feilfrie som urkjelda: Me lever i fridom, det er alt me har, eit fjellfolk bufast her imellom fjella. W. H. AUDEN Sonettar frå Kina, XVIII

Overvåkningskapitalismens tidsalder.indd 6

15/09/2020 13:23

DEFINISJONEN O-ver-våk-ings-ka-pi-ta-lis-me, subst. 1. En ny økonomisk verdensorden der menneskets tilværelse betraktes som et fritt tilgjengelig råmateriale for hemmelige kommersielle metoder for innhentning, forutsigelse og salg. 2. En parasittær økonomisk logikk der produksjonen av varer og tjenester er underlagt en ny verdensomspennende struktur av atferdstilpassing. 3. En uregulert mutasjon av kapitalismen kjennetegnet av en konsentrasjon av rikdom, kunnskap og makt uten presedens i historien. 4. Den grunnleggende rammen for en overvåkingsøkonomi. 5. En like stor trussel mot menneskets natur i det 21. århundret som industrikapitalismen var mot naturen i de forrige århundrene. 6. Utgangspunktet for en ny instrumentær makt som etablerer dominans over samfunnet og skaper voldsomme utfordringer for det frie markedet. 7. En bevegelse som arbeider for å gjennomføre en ny kollektiv orden med utgangspunkt i absolutt visshet. 8. En ekspropriering av avgjørende menneskerettigheter, altså et kupp ovenfra, der folkets suverenitet blir styrtet.

Overvåkningskapitalismens tidsalder.indd 7

15/09/2020 13:23

OvervaĚ&#x160;kningskapitalismens tidsalder.indd 8

15/09/2020 13:23

Innhold Innledning KAPITTEL 1 Hjemme eller fordrevet i den digitale framtiden

del I: overvåkingskapitalismens grunnlag KAPITTEL 2 9. august 2011: Overvåkingskapitalismen settes i scene

KAPITTEL 3 Atferdsoverskuddet oppdages

KAPITTEL 4 Vollgraven rundt slottet

118

KAPITTEL 5 Utviklingen av overvåkingskapitalismen

151

KAPITTEL 6 Kapret: kunnskapsfordelingen i samfunnet

203

del II: overvåkingskapitalismens frammarsj Kapittel 7 Virkelighetsbransjen

226

KAPITTEL 8 Gjengivelse: fra tilværelse til data

263

KAPITTEL 9 Gjengivelse fra dypet

288

Overvåkningskapitalismens tidsalder.indd 9

15/09/2020 13:23

KAPITTEL 10 De skal danse

332

KAPITTEL 11 Retten til framtiden

373

del III: instrumentær makt i en tredje modernitet

KAPITTEL 12 To typer makt

396

KAPITTEL 13 Den andre og den instrumentære maktens opphav

424

KAPITTEL 14 Visshet som utopi

449

KAPITTEL 15 Det instrumentære kollektivet

469

KAPITTEL 16 Livet i svermen

502

KAPITTEL 17 Retten til fristeder

537

konklusjon KAPITTEL 18 Et kupp ovenfra

558

Takk

592

Noter

597

716

Overvåkningskapitalismens tidsalder.indd 10

15/09/2020 13:23

KAPITTEL 1

HJEMME ELLER FORDREVET I DEN DIGITALE FRAMTIDEN

Ham har jeg sett på en ø, hvor han felte mangen en tåre fjernt i Kalypsos palass, den deilige nymfe som holder helten tilbake med tvang, så han ikke kan nå sitt hjemland. Homer, Odysseen

I. De eldste spørsmålene «Vil vi ende opp med å jobbe for en intelligent maskin alle sammen, eller vil vi ha intelligente mennesker til å styre maskinen?» Det spørsmålet fikk jeg i 1981 fra en ung direktør for en papirfabrikk, en gang mellom den frityrstekte mallen og pekankaken på min første kveld i den lille sørstatsbyen der den gigantiske fabrikken hans lå, og der jeg med visse mellomrom skulle bo de neste seks årene. På denne regntunge kvelden fikk ordene hans hjernen min til å spinne raskere og overdøve regndråpenes raske drypp drypp drypp på markisen over bordet vårt. Jeg gjenkjente de eldste av alle politiske spørsmål: Hjemme eller forvist? Fyrste eller undersått? Herre eller slave? Det er tidløse spørsmål om kunnskap, autoritet og makt som umulig lar seg besvare én gang for alle. Historien stanser aldri; i enhver tidsalder må en ny generasjon selv ta i bruk både vilje og fantasi når vi blir møtt av nye trusler. Direktørens stemme var tynget av like deler iver og frustrasjon, kanskje fordi det ikke var andre å spørre: «Hva blir det til? Hvilken

Overvåkningskapitalismens tidsalder.indd 13

15/09/2020 13:23

overvåkingskapitalismens tidsalder

vei skal vi gå? Jeg vil vite det nå. Det er ingen tid å miste.» Jeg ville ha svar selv også, så jeg begynte på det prosjektet som for tredve år siden resulterte i min første bok, In the Age of the Smart Machine: The Future of Work and Power. Det prosjektet skulle bli første kapittel i et livslangt forsøk på å finne svar på spørsmålet: «Kan den digitale framtiden bli et hjem for oss?» Den lune kvelden i sørstatene ligger mange år tilbake i tid, men de eldste spørsmålene er mer påtrengende enn noen gang. Den digitale virkeligheten innhenter og omdefinerer alt som har vært så kjent, før vi i det hele tatt har fått tid til å tenke oss om. Vi hyller nettverkssamfunnet som har åpnet for nye muligheter på så mange områder, men etter hvert som følelsen av en forutsigbar framtid forsvinner, skaper det samtidig helt nye kontinenter av frykt, fare og vold. Når man i dag stiller de eldste spørsmålene, blir milliarder av mennesker fra samtlige sosiale grupper, generasjoner og samfunn svar skyldig. Informasjons- og kommunikasjonsteknologi er mer utbredt enn elektrisitet og når nå tre av verdens syv milliarder mennesker.1 På 1980-tallet var dilemmaene som knytter seg til kunnskap, autoritet og makt, begrenset til arbeidsplassen. Slik er det ikke lenger. I dag har de slått rot i hverdagslivet og er med på å påvirke stort sett alle former for sosial aktivitet.2 For bare et øyeblikk siden virket det fortsatt meningsfullt å være mest bekymret for utfordringene en informasjonsbasert arbeidsplass eller et informasjonssamfunn innebærer. Nå har det blitt nødvendig å stille de eldste spørsmålene innen en bredest mulige ramme – noe som best kan defineres som «sivilisasjonen» eller mer konkret informasjonssivilisasjonen. Vil det være mulig for oss å kalle den framvoksende sivilisasjonen for et hjem? Levende vesener orienterer seg alltid i forhold til et hjem. Det er det utgangspunktet som hver eneste art stikker ut kursen fra. Uten noe å orientere seg etter er det umulig å navigere i ukjent farvann. Det blir jeg minnet om hver vår, når det samme fulgeparet vender tilbake fra den lange reisen sin til redet under vinduet vårt. De gjennomtrengende skrikene forteller om hjemkomst, fornyet sammenheng og trygghet. Når vi skal sove, forteller de oss at også vi er på det riktige

Overvåkningskapitalismens tidsalder.indd 14

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

stedet. Havskilpadder svømmer ut i havet etter å ha blitt klekket, og de tilbakelegger mange tusen kilometer, noen ganger i ti eller tyve år. Når de så er klare til å legge egg selv, finner de veien tilbake til nøyaktig den samme stranden der de i sin tid ble født. Noen fuglearter flyr hvert år mange tusen kilometer og mister opptil halvparten av kroppsvekten for å kunne pare seg på fødestedet sitt. Fugler, bier, sommerfugler … reder, hull, trær, sjøer, kuber, bakker, kyster og huler … nesten hvert eneste levende vesen har en eller annen variant av denne dype forbundetheten med et sted der livet har blomstret opp, et sted av den typen vi kaller hjem. Det ligger i menneskets natur at hver eneste reise, hver eneste hjemløshet setter i gang leting etter et hjem. Nostos, det å finne hjem, er et av våre dypeste behov; det framgår tydelig av den prisen vi er villige til å betale for det. Det er snakk om en universell, felles lengsel etter enten å vende tilbake til det stedet vi har forlatt, eller å finne fram til et nytt hjem, der våre håp for framtiden kan bygge rede og vokse. Vi gjenforteller fortsatt Odyssevs’ reiser og minnes hva menneskelige vesener vil holde ut for å kunne nå tilbake til egen kyst og gå inn sin egen dør. Siden vi har større hjerner enn fugler og havskilpadder, vet vi at det å vende tilbake til det samme stedet ikke alltid er mulig eller for den saks skyld ønskelig. Hjemme trenger ikke alltid å være en bestemt bolig eller et bestemt sted. Vi kan velge form og beliggenhet, men ikke betydning. Hjemme er det stedet vi kjenner og selv er kjent, der vi elsker og selv er elsket. Hjemme er å beherske, å bli hørt, forbindelser og fristed, både frihet og blomstring … både tilfluktssted og framtid. Når følelsen av et hjem begynner å forsvinne, framtvinger det en uutholdelig lengsel. På portugisisk finnes det et ord for denne følelsen: saudade, som sies å fange inn den hjemlengselen og lengselen som oppstår når emigranter har vært skilt fra hjemlandet i flere hundre år. I dag har omveltningene i det nye århundret forvandlet denne intense angsten og følelsen av oppbrudd til en historie om oss alle sammen.3

Overvåkningskapitalismens tidsalder.indd 15

15/09/2020 13:23

overvåkingskapitalismens tidsalder

II. Til minne om et hjem I 2000 samarbeidet en gruppe dataforskere og ingeniører ved Georgia Institute of Technology om et prosjekt de kalte «Det intelligente hjem».4 Det var tenkt som et «levende laboratorium» og utviklet for å studere «datastyring overalt». De forestilte seg «en symbiose mellom menneske og hjem» der både levende og mekaniske prosesser ville bli fanget inn av et avansert nettverk av «intelligente sensorer» som enten var innebygget i huset eller plassert i minidatamaskiner festet til beboerne. Planen var basert på et «automatisert trådløst samarbeid» mellom plattformen med de personlige opplysningene fra beboerne og en annen plattform med opplysninger om omgivelsene, hentet fra sensorene. Prosjektet var basert på tre hypoteser: For det første forventet forskerne og ingeniørene at de nye datasystemene ville føre til et helt nytt kunnskapsområde. For det andre antok man at rettighetene til denne nye kunnskapen, og muligheten til å utnytte den til å forbedre livet, utelukkende ville tilhøre beboerne. For det tredje antok forskergruppen at det intelligente hjemmet tross alle sine digitale trolldomskunster fortsatt ville innta en plass i rekken som en moderne inkarnasjon av de eldgamle konvensjonene der et «hjem» er et privat tilfluktssted bak fire vegger. Alt sammen kom til uttrykk i prosjektbeskrivelsen. Den framhevet tillit, enkelthet, individets suverenitet og hjemmet som et ukrenkelig privatområde. Informasjonssystemet skulle være et «lukket kretsløp» med bare to knutepunkter, utelukkende kontrollert av beboerne. Ettersom hjemmet «kontinuerlig [ville] overvåke beboernes oppholdssted og aktiviteter […] og til og med løpende registrere deres helsetilstand», konkluderte forskerne med at «det er tydelig behov for å gi beboerne kjennskap til og kontroll over disse opplysningene». Samtlige opplysninger skulle kun lagres på beboernes bærbare datamaskiner. I 2018 ble det globale markedet for «smarte hjem» vurdert til en verdi på 36 milliarder dollar og anslått til å nå en verdi på 151 milliarder i 2023.5 Tallene avslører et jordskjelv under overflaten. Man trenger

Overvåkningskapitalismens tidsalder.indd 16

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

bare å tenke på ett enkelt produkt til smarte hjem: Nest-termostaten, som er utviklet av et firma eid av Alphabet, som er Googles holdingselskap, og som i 2018 fusjonerte med Google.6 Nest-termostaten gjør mange av de samme tingene som man i sin tid forestilte seg i prosjektet «Det intelligente hjem». Den samler inn data om brukerne og omgivelsene. Den bruker bevegelsessensorer og databehandling til å «lære» hvordan beboerne i et hjem oppfører seg. Apper tilknyttet Nest kan samle inn data fra andre produkter som biler, ovner, skrittellere og senger.7 Slike systemer kan for eksempel, hvis de oppdager en unormal bevegelse, skru på lyset, sette i gang video- og lydopptak og varsle hjemmets eiere eller andre. På grunn av fusjonen med Google vil termostaten, i likhet med andre produkter fra Nest, få innebygget Googles muligheter for kunstig intelligens, blant annet den digitale personlige «assistenten».8 Akkurat som det intelligente hjemmet vil termostaten og beslektede enheter skape enorme mengder ny kunnskap og dermed også ny makt – men for hvem? Siden termostaten har en trådløs nettverksforbindelse, vil alle disse personlige dataene bli lastet opp til Googles servere. Hver enkelt termostat har tilknyttet en «personvernpolitikk», en «tjenestevilkårsavtale» og en «sluttbrukerlisens». Innholdet avslører de negative konsekvensene for privatliv og sikkerhet som følger av å dele følsomme opplysninger om enkeltpersoner og husholdninger med andre intelligente enheter, ukjente personer og tredjeparter for framskrivningsanalyser og salg til andre uspesifiserte parter. Nest påtar seg bare et beskjedent ansvar for sikkerheten til de opplysningene som samles inn, og ikke noe ansvar i det hele tatt for bruken de andre firmaene i økosystemet vil gjøre av dataene.9 I en detaljert analyse kom to forskere fra University of London fram til at hvis man skulle bevege seg inn i Nests økosystem av sammenkoblede anordninger og apper, som igjen kommer med hver sine like obskure og omfattende betingelser, ville bare det å kjøpe en enkelt termostat til hjemmet gjøre det nødvendig å gjennomgå opp mot tusen såkalte kontrakter.10 Hvis kunden skulle ønske å avvise Nests betingelser, vil det medføre store problemer for funksjonalitet og sikkerhet, blant annet vil man miste tilgang til nye sikkerhetsoppdateringer. Konsekvensene

Overvåkningskapitalismens tidsalder.indd 17

15/09/2020 13:23

overvåkingskapitalismens tidsalder

kan bli alt fra frosne rør og upålitelige brannalarmer til et nettverk i hjemmet det er lett for andre å hacke seg inn på.11 I 2018 var de hypotesene som lå til grunn for prosjekt «intelligente hjem», blåst bort. Hvor ble de av? Hva slags vind var det? Som så mange andre visjonære prosjekter var det intelligente hjemmet basert på en forestilling om en digital framtid som gjør enkeltpersoner i stand til å leve et bedre liv. I år 2000 var det helt naturlig med en forpliktelse om den individuelle tilværelsen som noe privat. Skulle et enkeltindivid velge å speile tilværelsen digitalt, ville hun fortsatt ha enerett til dataene dette ville generere, og dessuten enerett til å bestemme den eventuelle bruken av dem. I dag har denne retten til privatliv, kunnskap om og bruk av informasjon blitt overtatt av et dristig markedsorientert system basert på ensidige krav til andres tilværelse og den kunnskapen som kan hentes ut. Hva innebærer denne fullstendige omveltningen for oss selv, barna våre, demokratiene våre og for selve muligheten for en menneskelig framtid i en digital verden? Disse spørsmålene skal jeg forsøke å svare på i denne boken. Det handler om en digital drøm som gradvis har blitt endret til et mareritt, en rask mutasjon til en altetende og helt ny kommersiell strategi som jeg kaller overvåkingskapitalisme.

III. Hva er overvåkingskapitalisme? Overvåkingskapitalisme stiller ensidig krav til den menneskelige tilværelsen som et gratis råmateriale som kan omsettes til atferdsdata. Noen av disse dataene brukes til forbedring av produkter eller tjenester. Resten betegnes som atferdsoverskudd, eid av bedriften og brukt i avanserte produksjonsprosesser, kjent som «maskinintelligens» og bearbeidet til forutsigelsesprodukter for å beregne hva vi vil gjøre nå, snart og senere. Til slutt blir disse produktene solgt videre på en ny type marked for atferdsforutsigelse som jeg kaller atferdsmarkedet. Siden mange bedrifter gjerne vil vite hva vi kommer til å gjøre, har slike manøvrer gjort overvåkingskapitalistene kolossalt rike. Som vi skal se i de følgende kapitlene, medfører konkurransedynamikken på disse nye markedene at overvåkingskapitalistene

Overvåkningskapitalismens tidsalder.indd 18

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

anskaffer seg stadig mer avanserte hjelpemidler for å samle inn atferdsoverskudd: stemmer, personligheter og følelser. Til slutt fant overvåkingskapitalistene ut at de beste atferdsdataene kan samles inn når man griper inn i tingenes tilstand ved å styre, lokke, vri og drive atferd i retning av lønnsomme resultater. Utviklingen fra at automatiserte maskinprosesser nå ikke bare kjenner atferden vår, men også i betydelig grad former den, er resultatet av konkurransepress. På grunn av denne reorienteringen fra kunnskap til makt er det ikke lenger nok å automatisere informasjonsstrømmen om oss, målet er nå i det hele tatt å automatisere oss. I denne fasen av overvåkingskapitalismens utvikling er produksjonsmidlene underlagt stadig mer komplekse og omfattende «midler til atferdspåvirkning». Dermed avføder overvåkingskapitalismen en ny type makt jeg vil kalle instrumentarisme. Instrumentær makt kjenner og former menneskelig atferd med tanke på andres mål. I stedet for å bruke våpen og soldater påtvinger den folk sin vilje ved hjelp av en automatisert og stadig mer allestedsnærværende informasjonsarkitektur av «smarte» enheter, gjenstander og rom som er koblet til internett. I de kommende kapitlene skal vi følge framveksten og utbredelsen av disse manøvrene og den instrumentære makten de bygger på. I dag har det i praksis blitt vanskelig å slippe unna dette dominerende prosjektet. Uskyldige Pokémon Go-spillere styres til å spise, drikke og handle på de restaurantene, barene og butikkene som betaler for å delta i atferdsmarkedene. Dataoverskudd fra Facebook-profiler utnyttes nådeløst for å forme individuell atferd, enten det er å kjøpe hudkrem klokken 17.45 på fredag, klikke «ja» til et tilbud på nye joggesko mens endorfinene fra den lange løpeturen søndag ettermiddag fortsatt suser gjennom hjernen, eller stemme ved valget i neste uke. På nøyaktig samme måte som industrikapitalismen ble drevet til stadig intensivering av produksjonsmetodene, er overvåkingskapitalistene og investorene deres nå låst fast i en stadig intensivering av midlene til atferdspåvirkning, mens den instrumentære makten konsentreres. Overvåkingskapitalisme er det motsatte av den opprinnelige digitale drømmen og gjør «det intelligente hjemmet» til forhistorie. I stedet fjerner den illusjonen om et iboende moralsk aspekt ved

Overvåkningskapitalismens tidsalder.indd 19

15/09/2020 13:23

overvåkingskapitalismens tidsalder

nettverkstanken, at det å være «koblet til» på en eller annen måte per definisjon er sosialt, inkluderende og naturlig, beveger seg i retning av å demokratisere kunnskap. Å være digitalt tilkoblet har blitt et middel til andres kommersielle mål. Innerst inne er overvåkingskapitalismen parasittisk og selvrefererende. Den vekker til live Karl Marx’ gamle beskrivelse av kapitalismen som en vampyr som suger blod av arbeiderne, men nå med et uventet tillegg. I stedet for å nøye seg med arbeidet er det nå samtlige aspekter av menneskets tilværelse overvåkingskapitalismen suger blod av. Google fant opp og perfeksjonerte overvåkingskapitalismen på stort sett samme måte som General Motors for hundre år siden fant opp og perfeksjonerte den kapitalistiske ledelsesformen. Google var overvåkingskapitalismens pioner, i både teori og praksis, den viktigste investoren for forskning og utvikling og lederen med hensyn til å eksperimentere og implementere, men er i dag ikke lenger eneste aktør. Overvåkingskapitalismen spredte seg raskt til Facebook og senere til Microsoft. Det er dokumentert at også Amazon har beveget seg i denne retningen, og det er både en ytre trussel og en kilde til indre diskusjon og konflikt for Apple. Som overvåkingskapitalismens pioner slapp Google en hittil ukjent markedsoperasjon løs på de hvite flekkene på internett-kartet, der de ikke møtte nevneverdige hindre i form av lovgivning eller konkurrenter, akkurat som en invaderende art i et miljø uten naturlige fiender. Firmaets ledere klarte å utvikle systemsammenhengen mellom underavdelingene sine i et halsbrekkende tempo, der verken offentlige institusjoner eller enkeltpersoner kunne henge med. I tillegg nøt Google godt av historiske begivenheter, ettersom USAs sikkerhetsapparat etter 11. september ble stadig mer opptatt av å dyrke, etterligne og tilegne seg overvåkingskapitalismens framvoksende evner for å samle total kunnskap. Overvåkingskapitalistene forsto raskt at de sto fritt til å gjøre som de selv ville, og det gjorde de. De svøpte seg inn i moteriktig aktivisme og frigjøring for å appellere til og utnytte tidens angst, mens de viktige handlingene foregikk i kulissene. De var iført en usynlighetskappe vevet av retorikken om internetts frigjørende kraft, evnen til å skape

Overvåkningskapitalismens tidsalder.indd 20

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

forventninger til enorme inntektskilder og det ville, ubeskyttede territoriet de gikk inn for å erobre. De ble beskyttet av at det var så vanskelig å forstå de automatiserte prosessene de bruker. Uvitenheten disse prosessene skaper, avføder en følelse av uunngåelig skjebne. Overvåkingskapitalismen er ikke lenger begrenset til dramaet i konkurransen mellom internettgigantene, der atferdsmarkedene til å begynne med handlet om nettreklame. Overvåkingskapitalismens mekanismer og økonomiske imperativer har blitt standarden for de fleste nettbaserte forretninger. Til slutt medførte konkurransen også krav om utvidelse til den analoge verden, der de samme grunnleggende mekanismene som utnytter nettleserhistorikk, klikk og likes, nå blir rettet mot løpeturer i parken, samtaler over frokosten eller en jakt på parkeringsplass. Dagens forutsigelsesprodukter blir kjøpt og solgt på atferdsmarkeder. Det startet med målrettet nettreklame, men har spredt seg til mange andre sektorer, som forsikring, detaljhandel, finans samt alle slags konsulent- og handelsvirksomheter som vil ha en del av disse nye og lønnsomme markedene. Uansett om det er en «smart» enhet til hjemmet, forsikringsselskapenes såkalte atferdsgaranti eller en hvilken som helst av mange tusen andre transaksjoner, har vi endt med å betale for vår egen underkastelse. Overvåkingskapitalismens produkter og tjenester er ikke gjenstand for verdiutveksling. De etablerer ikke brukervennlig gjensidighet mellom produsent og forbruker. I stedet er de «feller» som lokker brukere inn i operasjoner for innhøsting, der vår personlige tilværelse blir dissekert og buntet sammen som et middel til andres mål. Vi er ikke overvåkingskapitalismens «kunder». Det heter seg riktignok at «hvis det er gratis, er det du som er produktet», men heller ikke det er riktig. Vi er bare kildene til overvåkingskapitalismens avgjørende inntjeningsmetode: gjenstander for og råmateriale til en teknologisk avansert og stadig mer uunngåelig operasjon for innhøsting. Overvåkingskapitalismens virkelige kunder er de bedriftene som handler på markedene for framtidig atferd. En slik logikk forvandler hverdagen vår til en løpende fornyelse av det 21. århundres utgave av en faustisk pakt. «Faustisk» fordi det er så godt som umulig å løsrive seg, selv om det vi er tvunget til å gi

Overvåkningskapitalismens tidsalder.indd 21

15/09/2020 13:23

overvåkingskapitalismens tidsalder

tilbake, vil tilintetgjøre tilværelsen vi hittil har kjent. Tenk bare på hvordan internett har blitt avgjørende for sosial interaksjon, at internett nå er gjennomsyret av kommersiell virksomhet, og at handelen nå er underordnet overvåkingskapitalismen. Avhengigheten er selve omdreiningspunktet for det kommersielle overvåkingsprosjektet. Det vi føler vi har behov for, ser ut til å stå i veien for ønsket om å unngå inntrenging utenfra. Denne konflikten fører til en følelsesløshet: Vi merker ikke lenger at vi faktisk spores, analyseres, utbyttes og manipuleres. Det gjør oss tilbøyelige til å rasjonalisere situasjonen med resignert kynisme og finne på unnskyldninger i form av forsvarsmekanismer («Jeg har ikke noe å skjule») eller finne på andre metoder til å stikke hodet i sanden. Frustrasjon og hjelpeløshet gjør at mange foretrekker uvitenhet.12 Overvåkingskapitalismen påtvinger oss et grunnleggende illegitimt valg som individer i det 21. århundre ikke burde stilles overfor, men normaliseringen gjør at vi rett og slett godtar det.13 Overvåkingskapitalismen fungerer i kraft av en asymmetri uten sidestykke når det gjelder kunnskap og dermed makt. Overvåkingskapitalistene vet alt om oss og opererer samtidig selv på en måte som er laget for å holdes i det skjulte for oss. De akkumulerer enorme felter av ny kunnskap fra oss, men ikke til oss. De forutsier framtiden vår av hensyn til andres utbytte, ikke vår velferd. Så lenge overvåkingskapitalismen får utvikle seg videre, vil det å eie påvirkningsmekanismer overskygge eierskapet til produksjonsmidlene som hovedkilde til rikdom og makt i det nye århundret. De følgende kapitlene er en detaljert studie av disse kjensgjerningene og konsekvensene de får for livet vårt, samfunnet vårt, demokratiet og den framvoksende informasjonssivilisasjonen. Jeg argumenterer for at overvåkingskapitalismen er en kraft vi har mistet kontrollen over, drevet fram av nye økonomiske incentiver, uten respekt for samfunnsmessige normer, og som undergraver individets grunnleggende rett til autonomi, selve forutsetningen for et demokratisk samfunn. Akkurat som den industrielle sivilisasjonen blomstret på bekostning av naturen, og nå truer med å legge planeten i ruiner, vil en informasjonssivilisasjon med utgangspunkt i overvåkingskapitalismen

Overvåkningskapitalismens tidsalder.indd 22

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

vokse fram på bekostning av menneskets natur og true med å koste oss selve menneskeligheten vår. Industrialismens arv, i form av klimakaos, fyller oss med fortvilelse, anger og frykt. Etter hvert som overvåkingskapitalismen blir vår tids dominerende form for informasjonskapitalisme, hvilken ny arv av skader og anger vil det skape for kommende generasjoner? Når du leser disse ordene, vil overvåkingskapitalismens rekkevidde ha vokst ytterligere, i takt med at enda flere sektorer, firmaer, entreprenører, apputviklere og investorer konsentrerer seg om denne utgaven av informasjonskapitalismen. Denne konsentrasjonen og motstanden den vil skape, vil avgjøre kampen om framtiden for mennesket. Det er maktens nye frontlinje.

IV. Noe helt nytt Blant forklaringene på overvåkingskapitalismens mange seire rangerer én høyere enn alle andre: Det er noe helt nytt. Når noe er helt nytt, er det også umulig å gjenkjenne. Når vi møter noe slikt, fortolker vi det automatisk ut fra velkjente kategorier. Dermed blir det lett å overse nettopp det som er nytt ved det. Et klassisk eksempel er forestillingen om den «hesteløse vognen» som folk falt tilbake på i møtet med bilen. Et tragisk bilde er møtet mellom urfolk og de første spanske erobrerne. Da taínoene, som holdt til i Karibia, for første gang så de svettende, skjeggete spanske soldatene komme vandrende over sanden i brokade og rustninger, hvordan kunne de ha forstått betydningen og konsekvensene av det øyeblikket? De var ute av stand til å forestille seg sin egen undergang, antok at de fremmede skapningene var guder og hilste dem velkommen med omfattende gjestfrihetsseremonier. Det er slik helt nye fenomener kan hemme forståelsen: Eksisterende synsvinkler framhever det velkjente og skjuler dermed det nye ved å redusere det til en utvidelse av fortiden. Det bidrar igjen til å normalisere det abnorme, som blir enda vanskeligere å bekjempe. En uværsnatt for et par år siden slo et lyn ned i huset vårt. Det ga meg en lærepenge om å møte ukjente fenomener. Like etter

Overvåkningskapitalismens tidsalder.indd 23

15/09/2020 13:23

overvåkingskapitalismens tidsalder

lynnedslaget drev en tykk, svart røyk opp trappen fra husets underetasje og i retning stuen. Mens vi samlet oss og ringte til brannvesenet, mente jeg at jeg hadde noen minutter til rådighet før jeg måtte løpe ut for å slutte meg til resten av familien. Først løp jeg opp og lukket alle dørene til soverommene, for å unngå røykskader. Deretter styrtet jeg ned til stuen og hentet fram så mange fotoalbum jeg klarte å bære, og satte dem i sikkerhet på en overdekket veranda. Røyken var i ferd med å innhente meg da den lokale brannsjefen dukket opp, grep meg i skulderen og rev meg ut av døren. Vi ble stående ute i det øsende regnet og så til vår forbløffelse at huset eksploderte i et flammehav. Brannen lærte meg mange ting, men en av de viktigste var at det ikke er mulig å gjenkjenne det du ikke har sett før. I krisens tidlige fase kunne jeg godt forestille meg at huset ville få røykskader, men ikke at det faktisk skulle forsvinne. Jeg tolket det som foregikk, ut fra tidligere opplevelser og forestilte meg en tung, men til syvende og sist håndterbar, omvei som før eller senere ville føre tilbake til status quo. Siden jeg ikke kunne se det helt nye, valgte jeg å lukke dørene til rom som snart ville opphøre å eksistere, og legge fotoalbumene på en veranda som også var dømt til å forsvinne. Jeg var blind overfor betingelsene som var helt ukjente for meg. I 2006 begynte jeg å undersøke det jeg har endt med å kalle overvåkingskapitalisme, ved å intervjue entreprenører og ansatte i en rekke teknologibedrifter i USA og Storbritannia. I flere år mente jeg at de uventede og foruroligende framgangsmåtene jeg dokumenterte, var avvik fra normen, i form av ledelsessvikt, manglende dømmekraft og manglende forståelse av konteksten. De dataene jeg hadde samlet inn, gikk til grunne i brannen den kvelden, og da jeg i begynnelsen av 2011 tok opp tråden igjen, forsto jeg at min gamle forestilling om en hesteløs vogn verken kunne forklare eller unnskylde det som hadde begynt å ta form. Jeg hadde mistet mange av detaljene, men de overordnede prinsippene var enda tydeligere enn før: Informasjonskapitalismen hadde slått inn på en ny kurs, en ny akkumulasjonslogikk med sine egne mekanismer, økonomiske krav og markeder. Jeg forsto at denne nye formen hadde brutt med de normene og framgangsmåtene som hittil har definert kapitalismens

Overvåkningskapitalismens tidsalder.indd 24

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

historie, og at det underveis i prosessen hadde oppstått noe som var både forbløffende og helt uten presedens. Naturligvis kan ikke et nytt fenomen i økonomiens historie sammenlignes med en brann i et hus. Selv om den mulige utviklingen for katastrofale branner var noe helt nytt for meg, var det slett ikke noe unikt. Derimot er overvåkingskapitalismen en faktor i historien som både er ny og unik. Den ligner ikke på noe annet: en ny planet med sin egen utgave av tid og rom, et døgn på 67 timer, en smaragdgrønn himmel, omvendte fjellkjeder og tørt vann. Likevel er det stor fare for at vi forsøker å lukke dører til rom som snart vil opphøre å eksistere. At overvåkingskapitalismen er noe helt nytt, har gjort det mulig for den å unngå å bli systematisk utfordret, i og med at det ut fra våre nåværende begreper ikke lar seg gjøre å forstå den fullt ut. Vi støtter oss på kategorier som «monopol» og «personvern» for å utfordre overvåkingskapitalistiske praksiser. Og selv om det er snakk om avgjørende forhold, og selv om overvåkingskapitalismens operasjoner er monopoler og truer personvernet, er ikke disse kategoriene nok for å identifisere og utfordre de avgjørende kjensgjerningene for det nye regimet. Vil overvåkingskapitalismen fortsette i sin utvikling mot å bli vår tids dominerende akkumulasjonslogikk, eller vil vi en gang komme til å betrakte den som en fugl med tenner: en skremmende, men til syvende og sist dødsdømt art i kapitalismens lange utviklingshistorie? Hvis den er dødsdømt, hva er årsaken til det? Hva må vi gjøre for å utvikle en effektiv vaksine? Enhver vaksine må begynne med et omfattende kjennskap til den fiendtlige sykdommen. Denne boken er en reise for å undersøke overvåkingskapitalismens fremmedartede, originale og til og med utenkelige inkarnasjoner. Drivkraften er en overbevisning om at hvis vi først skal kunne forstå det helt nye, for å kunne utfordre det, krever det også nye observasjoner, analyser og begreper. De følgende kapitlene vil undersøke de konkrete betingelsene som gjorde det mulig for overvåkingskapitalismen å slå rot og vokse fram, i tillegg til de «bevegelseslovene» som driver nettopp handlingene til og utvidelsen av denne markedsformen: de grunnleggende mekanismene, de

Overvåkningskapitalismens tidsalder.indd 25

15/09/2020 13:23

overvåkingskapitalismens tidsalder

økonomiske imperativene, forsyningslinjene, maktforholdene og de samfunnsmessige ordningsprinsippene. La oss lukke dører, men forvisse oss om at det er de riktige dørene.

V. Dukkeføreren, ikke dukken For å konfrontere det helt nye må vi begynner med en forståelse av at det er dukkeføreren vi er på jakt etter, ikke dukken. Den første erkjennelsesmessige barrieren er å blande overvåkingskapitalismen og den teknologien den bruker. Overvåkingskapitalismen er ikke en teknologi, det er en logikk som bruker teknologien og tvinger den til å handle. Overvåkingskapitalismen er en markedsform som er utenkelig utenfor det digitale miljøet, men den er ikke det samme som det «digitale». Som vi så i historien om det intelligente hjemmet, og som vi skal se igjen i kapittel 2, kan det digitale anta mange former, alt avhengig av den samfunnsmessige og økonomiske logikken som vekker det til live. Det er kapitalismen og ikke teknologien som setter prisen for undertrykkelse og hjelpeløshet. Det er avgjørende å forstå overvåkingskapitalismen som anvendt logikk og ikke bare som teknologi, for overvåkingskapitalistene vil nettopp ha oss til å tro at framgangsmåtene deres er uunngåelige uttrykk for teknologien de bruker. For eksempel ble offentligheten i 2009 for første gang oppmerksom på at Google lagrer søkehistorikken vår på ubestemt tid; og når data er tilgjengelige som råmateriale, er de også tilgjengelige for etterretningstjenester og politimyndigheter. Bedriftens daværende toppsjef, Eric Schmidt, sa: «Sannheten er at søkemotorer, inkludert Google, oppbevarer disse opplysningene i noen tid.»14 Sannheten er imidlertid at søkemotorer ikke oppbevarer noe som helst, men det gjør overvåkingskapitalismen. Schmidts uttalelse er et klassisk eksempel på en avledningsmanøver. Det forvirrer offentligheten ved å blande kommersielle imperativer og teknologisk nødvendighet. Den kamuflerer overvåkingskapitalismens konkrete framgangsmåte og de konkrete valgene som styrer Googles måte å

Overvåkningskapitalismens tidsalder.indd 26

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

gjennomføre søk på. Det får overvåkingskapitalismens framgangsmåte til å framstå som uunngåelig, selv om den i praksis består av nøye utarbeidede midler, finansiert med enorme summer, for kommersielle mål. Denne forestillingen om «uunngåelighet» skal vi undersøke grundig i kapittel 7. Foreløpig holder det å si at tross all den digitale nytenkingens futuristiske raffinement er de overvåkingskapitalistiske firmaenes budskap ikke til å skille fra slagordene som i sin tid ble hyllet i mottoet for verdensutstillingen i Chicago i 1933: «Vitenskapen finner – Industrien utnytter – Mennesket innordner seg.» For å kunne utfordre påstander om teknologisk uunngåelighet er det nødvendig å kunne orientere seg. Vi kan ikke vurdere retningen på informasjonssivilisasjonen uten en klar forståelse av at teknologi ikke er og aldri vil kunne bli en ting i seg selv, isolert fra økonomi og samfunn. Derfor er det heller aldri noe som er teknologisk uunngåelig. Teknologi er alltid økonomiske midler og aldri mål i seg selv; i den moderne verden er teknologiens DNA allerede strukturert etter det sosiologen Max Weber kalte «den økonomiske orienteringen». «Økonomiske mål», konstaterte Weber, er alltid tett forbundet med teknologiens utvikling og bruk. «Økonomisk handling» bestemmer målene, mens teknologien leverer «hensiktsmessige midler». Med Webers formulering: «At den såkalte teknologiske utviklingen i moderne tid i så vidt omfang har vært økonomisk orientert mot profitt, er en av teknologihistoriens grunnleggende kjensgjerninger.»15 I et moderne kapitalistisk samfunn var, er og vil teknologien alltid være uttrykk for de økonomiske målene som har satt den i verk. Det ville vært en lærerik øvelse å slette ordet «teknologi» fra ordforrådet vårt og dermed kunne konstatere hvor raskt kapitalismens mål kommer til syne. Overvåkingskapitalismen bruker mange typer teknologi, men kan ikke selv sidestilles med noen bestemt teknologi. Den opererer på mange ulike plattformer, men operasjonene er ikke identiske med plattformene. Den bruker intelligente maskiner, men kan ikke reduseres til de maskinene. Den utvikler og er avhengig av algoritmer, men den er ikke det samme som algoritmer. Overvåkingskapitalismens enestående økonomiske imperativer er de dukkeførerne som gjemmer

Overvåkningskapitalismens tidsalder.indd 27

15/09/2020 13:23

overvåkingskapitalismens tidsalder

seg i kulissene, utvikler maskinene og setter dem i arbeid. For å bruke en annen metafor er imperativene det vevet i kroppen man ikke kan se på et røntgenbilde, men som faktisk binder muskler og knokler sammen. Vi er ikke de eneste ofrene for den teknologiske illusjonen. Den er et gjennomgående tema i samfunnstenkningen og like gammel som den trojanske hesten. Likevel vil hver ny generasjon lett glemme at teknologi er et uttrykk for andre interesser. I moderne tid vil det si kapitalinteresser, og i vår tid vil det si den overvåkingskapitalen som hersker over det digitale miljøet og stikker ut kursen vår for framtiden. Formålet med denne boken er å finne fram til de overvåkingskapitalistiske lovene som setter dagens eksotiske trojanske hester i bevegelse og leder oss til eldgamle spørsmål, mens de påvirker livet vårt, samfunnet vårt og sivilisasjonen vår. Vi har stått overfor en lignende avgrunn før. «I noen tid har vi tumlet av gårde for å prøve å drive en ny sivilisasjon på gamle måter, men vi må snart se å komme i gang med å forandre verden fra grunnen av.» I 1912 beskrev Thomas Edison i et brev til Henry Ford sin visjon for en ny industrisivilisasjon. Edison var bekymret over at industrialismens muligheter for å tjene menneskehetens utvikling ville forpurres av røverbaronene og de økonomiske monopolene i ulike små kongeriker. Han angrep den amerikanske kapitalismens «sløseri» og «grusomhet»: «Produksjonen, fabrikklovene, de veldedige organisasjonene, forholdet mellom kapital og arbeid, varedistribusjonen – alt sammen er feil, det fungerer ikke.» Både Edison og Ford merket at den moderne industrisivilisasjonen, som de hadde så store forhåpninger til, var i ferd med å tippe i retning av et mørke preget av elendighet for de mange og velstand for de få. De forsto at industrisivilisasjonens moral kom til å formes av de kapitalistiske framgangsmåtene som ble dominerende. De mente at USA, og til syvende og sist resten av verden, måtte utforme en nyere og mer rasjonell kapitalisme for å kunne unngå en framtid preget av elendighet og konflikter. Alt måtte finnes opp på nytt, mente Edison: ny teknologi, ja visst, men de måtte også avspeile nye måter å forstå og møte befolkningens behov på; en ny økonomisk modell som skulle gjøre disse nye framgangsmåtene lønnsomme, en ny

Overvåkningskapitalismens tidsalder.indd 28

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

samfunnskontrakt til å holde alt sammen. Det var et nytt århundre, men verken sivilisasjonenes langsomme kvern eller kapitalismens utvikling fulgte kalenderen eller klokken. Året var 1912, og likevel nektet 1800-tallet å slippe taket. Det samme kan man si om vår tid. Mens jeg skriver dette, nærmer vi oss avslutningen på det andre tiåret av det 21. århundre, men de økonomiske og samfunnsmessige motsetningene fra forrige århundre river og sliter i oss. Disse motsetningene er den scenen overvåkingskapitalismen gjorde sin entré på – det var der den oppnådde stjernestatus som forfatter av et nytt kapittel i den lange fortellingen om kapitalismens utvikling. Det er denne dramatiske sammenhengen vi på de første sidene i del I vil vende oss mot; det stedet vi må stille oss for å kunne se emnet i den riktige sammenhengen. Overvåkingskapitalismen er ikke et tilfeldig resultat av innsatsen til overambisiøse ingeniører, men snarere en uregjerlig kapitalisme som på listig vis har lært seg å utnytte sine historiske betingelser for å sikre og forsvare sin suksess.

VI. Disposisjon, temaer og kilder Boken er tenkt som en innledende kartlegging av et ukjent territorium, en første ekspedisjon som jeg håper vil bane vei for andre oppdagelsesreisende. For å forstå overvåkingskapitalismen og konsekvensene av den har det vært nødvendig å bevege seg over mange fagdisipliner og historiske perioder. Målet har vært å utvikle begrepene og forståelsesrammene som gjør det mulig å se mønsteret i det som hittil har framstått som atskilte begreper og fenomener samt fragmenterte formuleringer og framgangsmåter. Etter hvert som vi trekker opp linjer på kartet, trår dukkeføreren fram i kjøtt og blod. Mange av punktene på kartet er nødvendigvis plassert på bakgrunn av raske bevegelser i en kaotisk tid. For å skape mening i aktuelle utviklinger har jeg som metode valgt å isolere det underliggende mønsteret i virvaret av tekniske detaljer og næringslivsfloskler. Hvis det virker etter hensikten, vil kartet og begrepene belyse alt dette nye

Overvåkningskapitalismens tidsalder.indd 29

15/09/2020 13:23

overvåkingskapitalismens tidsalder

og la oss forstå den raske utviklingen av begivenheter mens overvåkingskapitalismen fortsetter på sin vei mot økonomisk og samfunnsmessig herredømme, på en mer sammenhengende måte. Overvåkingskapitalismens tidsalder har fire deler. Hver av dem består av fire eller fem kapitler samt et avsluttende kapittel i form av en coda for å oppsummere og sette innholdet i perspektiv. Del I tar for seg overvåkingskapitalismens grunnlag, opprinnelse og tidlige utvikling. Vi begynner i kapittel 2 med å beskrive scenen som overvåkingskapitalismen gjorde sitt inntog på, og den første suksessen. Det er viktig, for jeg frykter at vi i altfor lang tid har nøyd oss med overfladiske forklaringer på den raske veksten og generelle aksepten for framgangsmåtene overvåkingskapitalismen karakteriseres av. For eksempel har vi godtatt forestillinger om «det nyttige» eller det at mange av tjenestene er «gratis». Derfor undersøker kapittel 2 de samfunnsmessige betingelsene som brakte digitaliseringen inn i hverdagslivet vårt og gjorde det mulig for overvåkingskapitalismen å slå rot og vokse. Jeg beskriver «sammenstøtet» mellom individualiseringsprosessen, som har pågått i flere hundre år, og den nyliberale markedsøkonomien, som har vært under utvikling i flere tiår, som underminerer selvtilliten vår og mulighetene for selvbestemmelse. Smerten og frustrasjonen ved denne motsetningen er den grunnbetingelsen som sendte oss vaklende til internett for å finne sammenheng og til slutt fikk oss til å underkaste oss overvåkingskapitalismens drakoniske krav om å gi noe tilbake. Del I fortsetter med en nærmere studie av den første fasen av overvåkingskapitalismen hos Google, med det som skulle bli de grunnleggende mekanismene, økonomiske incentivene og «bevegelseslovene». Tross teknologiske nyvinninger og talenter skyldes suksessen til Google først og fremst de radikale samfunnsmessige reaksjonene som bedriften utropte til kjensgjerninger – først og fremst å la være å ta hensyn til grensene for menneskets private tilværelse og det autonome individets moralske integritet. Overvåkingskapitalistene tok seg til rette: De invaderte når de ville og overtok individets rett til å ta beslutninger. Det ble avløst av ensidig overvåking og profittorientert innhøsting av menneskelige erfaringer. Dette var bare mulig fordi

Overvåkningskapitalismens tidsalder.indd 30

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

ingen vedtok lover mot det, blant annet på grunn av sammenfallende interesser mellom de første overvåkingskapitalistene og statlige etterretningstjenester, men også fordi bedriften forsvarte sine nye territorier iherdig. Med tiden fikk Google etablert en strategi som lot de overvåkingskapitalistiske operasjonene bli den dominerende formen for informasjonskapitalisme og tiltrakk dermed nye konkurrenter som var ivrige etter å delta i kappestriden om overvåkingsinntektene. Derfor kan Google og de nye konkurrentene nyte godt av en historisk sett enestående skjevfordeling av makt og kunnskap. Denne utviklingen medfører en privatisering av kunnskapsfordelingen i samfunnet, og det vil i dag si samfunnsordenens bærende akse. Del II følger overvåkingskapitalismens vandring fra internett til den virkelige verden, som en konsekvens av konkurransen om atferdsprodukter med enorm treffsikkerhet. Her undersøker vi den nye virkelighetsbransjen, etter hvert som det kommer krav til alle aspekter av den menneskelige tilværelsen som råmateriale som blir bearbeidet til atferdsdata. Mye av dette nye arbeidet utføres under betegnelser som «personlig tilpasning», i praksis kamuflasje for aggressiv innhøsting av hverdagslivets mest intime aspekter. Etter hvert som konkurransen intensiveres, går det opp for overvåkingskapitalistene at det ikke er nok å innhente alle data fra et menneskes tilværelse. De mest forutsigbare leveransene av råmateriale kommer ved at man griper inn i tilværelsen vår og påvirker atferden vår på måter overvåkingskapitalistene kan tjene penger på. Nye automatiserte systemer blir utviklet til å påvirke og endre menneskets atferd i et omfang der produksjonsmidlene blir underlagt en ny og mer kompleks metode for atferdspåvirkning. Vi ser disse nye systemene i praksis i Facebooks «smitte»-eksperimenter og i «spillet» med utvidet virkelighet, Pokémon Go, som opprinnelig stammer fra Google. For bare noen tiår siden ble påvirkning av atferd i stor skala fordømt som en uakseptabel trussel mot individets autonomi og den demokratiske samfunnsordenen. I dag er det lite motstand, i høyden litt diskusjon, når samme praksis rutinemessig brukes under marsjen mot overvåkingsprofitt. Og jeg betrakter overvåkingskapitalismens operasjoner som en utfordring av den grunnleggende retten til en framtid, som omfatter individets evne til å forestille seg, ønske, love 31

Overvåkningskapitalismens tidsalder.indd 31

15/09/2020 13:23

overvåkingskapitalismens tidsalder

og bygge opp en framtid. Det er en av grunnbetingelsene for den frie viljen og ikke minst de indre ressursene der vi henter viljen til å ville. Jeg forsøker å svare på spørsmålet: Hvordan kunne de slippe unna med det? Del II slutter med overveielser over fortid og framtid. Hvis industrikapitalismen har forstyrret naturen omkring oss, hva slags ødeleggelser kan overvåkingskapitalismen utrette på den menneskelige naturen? Del III undersøker den instrumentære makten som kommer til uttrykk i en allestedsnærværende, nettverksforbundet datainfrastruktur, det jeg kaller Den store andre, og den nye og dypt antidemokratiske forestillingen om samfunnet og samfunnsmessige sammenhenger som følger av dette. Jeg argumenterer for at instrumentarismen er en helt ny type makt, som til en viss grad har unndratt seg forståelse på grunn av «hesteløs vogn»-syndromet. Den instrumentære makten har blitt sammenlignet med gammeldags totalitarisme, noe som tilslører det som er nytt og farlig med den. Totalitarisme var basert på å gjøre staten om til et prosjekt for totalt herredømme. Den instrumentære makten og materialiseringen av den i Den store andre markerer markedets forvandling til et prosjekt basert på total visshet, noe det er umulig å forestille seg utenfor det digitale miljøet og overvåkingskapitalismens logikk. Som et ledd i analysen av og innføringen av begreper for den instrumentære makten undersøker jeg den intellektuelle opprinnelsen i tidlig teoretisk fysikk og senere i arbeidet til den radikale behavioristen B.F. Skinner. Del III følger overvåkingskapitalismens overgang til en ny fase. Det første var å bevege seg fra den virtuelle til den virkelige verden. Den neste er å fokusere på samfunnet som det nye målet for innhøsting og kontroll. Man forestilte seg industrisamfunnet som en velfungerende maskin, og nå forestiller man seg det instrumentære samfunnet som en etterligning av maskinenes læringssystemer: en kollektiv bevissthet der hvert enkelt element lærer og opererer i overensstemmelse med alle andre. Her er den individuelle maskinens «frihet» underlagt systemets kunnskap som helhet. Instrumentær makt er et forsøk på å organisere og forme samfunnet for å oppnå en tilsvarende samfunnsmessig samordning, der gruppepress og datagenerert kunnskap avløser politikk og demokrati og utsletter det individuelle livets opplevde

Overvåkningskapitalismens tidsalder.indd 32

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

virkelighet og samfunnsmessige funksjon. De yngste medlemmene av samfunnet opplever allerede mange av disse destruktive mekanismene som avhengighet av sosiale medier, det første verdensomspennende eksperimentet med mennesket som sverm. Jeg vurderer implikasjonene av disse tendensene i forhold til en annen grunnleggende rettighet: retten til fristeder. Behovet for et uangripelig sted der man kan søke tilflukt, har helt siden antikken eksistert blant mennesker i siviliserte samfunn, men er nå under angrep av den overvåkingskapitalen som skaper en verden «uten utgang». Det vil ha dyptgående konsekvenser for menneskets framtid ved maktens nye frontlinje. I siste kapittel konkluderer jeg med at overvåkingskapitalismen på overraskende vis skiller seg fra markedskapitalismens historie ved å kreve ubegrenset frihet og total kunnskap, slik at den også opphever kapitalismens motsetningsforhold mellom befolkning og samfunn for å påtvinge oss en totalitær, kollektivistisk forestilling om tilværelsen som sverm, der overvåkingskapitalistene og datapresteskapet deres har overblikk og kontroll. Overvåkingskapitalismens raskt voksende instrumentære makt overskrider de historiske normene for hva kapitalistiske selskaper kan kreve herredømme over, både menneskelig, samfunnsmessig og politisk. Derfor lar overvåkingskapitalismen seg best beskrive som et kupp ovenfra som ikke går ut på å oppløse staten, men derimot å oppløse befolkningens suverenitet, og som utgjør en betydelig kraft i den skremmende bevegelsen mot en destabilisering som nå truer de liberale demokratiene i Vesten. Det er bare folket som kan snu denne utviklingen, først ved å sette navn på det nye og deretter ved å mobilisere nye former for kollektiv handling: den avgjørende motstanden som etablerer den blomstrende menneskelige framtiden som det primære målet for informasjonssivilisasjonen vår. Hvis den digitale framtiden skal bli et hjem for oss, må det være oss som gjør den til det. Metodene mine kombinerer samfunnsforskerens forkjærlighet for teori, historie, filosofi og kvalitative studier med essayistikken; denne tilnærmingen er uvanlig, men bevisst. Som essayist bruker jeg iblant erfaringer fra min egen tilværelse. Det er fordi tendensen til mental følelsesløshet forsterkes når vi betrakter disse avgjørende spørsmålene

Overvåkningskapitalismens tidsalder.indd 33

15/09/2020 13:23

overvåkingskapitalismens tidsalder

som abstraksjoner med forbindelse til teknologiske og økonomiske krefter utenfor vår egen rekkevidde. Vi kan først ta inn over oss konsekvensene av overvåkingskapitalismen når vi kan følge arrene de danner i dagliglivet vårt. Som samfunnsforsker har jeg alltid hatt sans for teoretikere som selv opplevde helt nye fenomener. Ved å lese i dette perspektivet fikk jeg ny forståelse for det intellektuelle motet og de banebrytende erkjennelsene i de klassiske tekstene, der forfattere som Durkheim, Marx og Weber på dristig vis teoretiserte over industrikapitalismen og industrisamfunnet allerede mens disse fenomenene var under utvikling, på 1800-tallet og begynnelsen av 1900-tallet. Det samme gjelder tenkere fra midten av 1900-tallet, som Hannah Arendt, Theodor W. Adorno, Karl Polanyi, Jean-Paul Sartre og Stanley Milgram, som forsøkte å sette ord på samtidens ufattelige totalitarisme og å forstå de mange konsekvensene den hadde for menneskeheten. Det foreliggende arbeidet er også dypt inspirert av erkjennelsene hos visjonære forskere, teknologikritikere og engasjerte journalister som har jobbet så hardt for å belyse sentrale punkter på det kartet som nå begynner å trå fram. De siste syv årene har jeg rettet oppmerksomheten mot de ledende overvåkingskapitalistiske bedriftene, med sine voksende økosystemer av kunder, konsulenter og konkurrenter, og hvordan alt sammen påvirkes av den større sammenhengen mellom teknologi og informatikk som karakteriserer tidsånden i Silicon Valley. Det fører til enda et viktig skille. På samme måte som overvåkingskapitalisme ikke er ensbetydende med teknologi, kan ikke den nye akkumuleringslogikken reduseres til en enkelt bedrift eller gruppe av bedrifter. De fem ledende internettbedriftene – Apple, Google, Amazon, Microsoft og Facebook – betraktes ofte som en samlet blokk med ensartede strategier og interesser, men når det kommer til overvåkingskapitalisme, er det ikke tilfellet. For det første er det nødvendig å skille mellom kapitalisme og overvåkingskapitalisme. Som jeg drøfter mer detaljert i kapittel 3, defineres grensen blant annet gjennom formålene med og metodene for datainnhøsting. Når et firma samler inn atferdsdata med tillatelse og bare gjør det for å forbedre produkter eller tjenester, er det

Overvåkningskapitalismens tidsalder.indd 34

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

kapitalisme, ikke overvåkingskapitalisme. Alle de fem ledende selskapene praktiserer kapitalisme, men ikke alle er rendyrkede overvåkingskapitalister, i hvert fall ikke ennå. Apple har for eksempel foreløpig trukket en strek i sanden og lovet å avstå fra mange av de framgangsmåtene jeg regner til det overvåkingskapitalistiske regimet. Firmaets handlemåte er ikke perfekt, og streken er noen ganger uklar. Dessuten kan Apple godt komme til å ombestemme seg. Amazon var en gang stolt av å være kundeorientert og bruke datainnsamling til å forbedre sine tjenester. De to selskapene har inntekter fra både fysiske og digitale produkter og opplever derfor ikke det samme økonomiske presset som de rene databedriftene for å skape overvåkingsinntekter. Som vi imidlertid skal se i kapittel 9, later det til at Amazon nå – med sin nye vektlegging av «personlig tilpasning» av tjenester og tredjepartsinntekter – beveger seg i retning av overvåkingskapitalisme. Om en bedrift har gått helt over til overvåkingskapitalisme eller ikke, sier ingenting om andre viktige spørsmål om bedriftens aktiviteter, enten monopolistiske og konkurransebegrensende framgangsmåter i Amazons tilfelle eller Apples regler for prisfastsettelse, skatteprinsipper og medarbeiderpolitikk. Det er heller ikke noen garanti for framtiden. Tiden vil vise om Apple gir etter for overvåkingskapitalismen eller faktisk utvider ambisjonene om å vise vei til en menneskelig framtid der vi lever opp til idealene om individets autonomi og det demokratiske samfunnets mest grunnleggende verdier. En viktig konsekvens av dette skillet er at selv når samfunnet forholder seg til skadevirkningene på grunn av teknologifirmaenes virksomhet, det være seg i forbindelse med monopolvirksomhet eller personvern, hindrer ikke dette i seg selv at selskapene kan fortsette utviklingen av overvåkingskapitalisme. For eksempel vil krav om å splitte Google eller Facebook av monopolmessige årsaker godt kunne føre til etableringen av mange flere overvåkingskapitalistiske bedrifter, bare i mindre skala. På samme måte vil ikke et inngrep mot duopolet til Google og Facebook når det gjelder nettannonser redusere overvåkingskapitalismens utbredelse. Markedet for nettannonser vil bare fordeles mellom fem eller femti overvåkingskapitalistiske selskaper i

Overvåkningskapitalismens tidsalder.indd 35

15/09/2020 13:23

overvåkingskapitalismens tidsalder

stedet for to. Gjennom hele boken er oppmerksomheten rettet mot de aspektene av overvåkingskapitalismens operasjoner som er nye, og som bør møte motstand og føre til inngrep hvis vi skal klare å begrense og beseire denne markedsformen. Jeg skriver mest om Google, Facebook og Microsoft. Formålet er ikke en uttømmende kritikk av de bedriftene som sådann. I stedet betrakter jeg dem som petriskåler der det er mulig å undersøke overvåkingskapitalismens DNA. Som tidligere antydet er målet mitt å kartlegge en ny logikk og en ny virkemåte, ikke et enkelt firma eller noen bestemt teknologi. Jeg beveger meg fram og tilbake over grensene mellom disse og andre bedrifter for å gjøre kartet mer konkret, akkurat som tidligere observatører beveget seg på kryss og tvers over mange ulike eksempler for å få oversikt over logikken for moderne kapitalisme og masseproduksjon. Samtidig er det en kjensgjerning at overvåkingskapitalismen er funnet opp i USA: i Silicon Valley og hos Google. Dermed er det en amerikansk oppfinnelse som, akkurat som masseproduksjon, har blitt en verdensomspennende virkelighet. Derfor er store deler av boken konsentrert om utviklingen i USA, selv om konsekvensene angår hele verden. Under studiene av overvåkingskapitalistiske framgangsmåter hos Google, Facebook, Microsoft og andre bedrifter har jeg tatt utgangspunkt i intervjuer, patenter, kvartalsregnskaper, taler, møter, videoer, selskapsprogrammer og -regler. Dessuten har jeg mellom 2012 og 2015 intervjuet 52 it-eksperter fra 19 ulike bedrifter med til sammen 586 års erfaring innen etablerte høyteknologiske konserner og nye bedrifter, først og fremst i Silicon Valley. Disse intervjuene ble gjennomført i forbindelse med utviklingen av min «empiriske» forståelse av overvåkingskapitalismen og dens materielle infrastruktur. På et tidlig tidspunkt begynte jeg å henvende meg til et begrenset antall høyt respekterte informatikere, ledende programvareutviklere og eksperter på «tingenes internett». Etter hvert som forskerne presenterte meg for kollegene sine, ble intervjumaterialet større. Disse intervjuene – som ofte var mange timer lange – ble gjennomført under løfte om fortrolighet og anonymitet, men min takknemlighet overfor de intervjuede er dypt personlig.

Overvåkningskapitalismens tidsalder.indd 36

15/09/2020 13:23

Hjemme eller fordrevet i den digitale framtiden

I løpet av boken vil man kunne lese utdrag av W.H. Audens Sonnets from China samt hele sonett nummer XVIII. Jeg setter stor pris på denne diktsyklusen, som er en bevegende studie av menneskehetens mytiske historie, den tidløse kampen mot vold og undertrykkelse og menneskeåndens grenseoverskridende kraft og uopphørlige krav på framtiden.

Overvåkningskapitalismens tidsalder.indd 37

15/09/2020 13:23