Olof Sundin
Källkritik
MÄNNISKOR, TEKNIK OCH SAMHÄLLE
Innehåll
1. Inledning: Kan det verkligen stämma?
– Kan det verkligen stämma?
Inlägget jag ser framför mig på min mobilskärm handlar om att Golfströmmen kan upphöra inom enbart några år. Inlägget länkar till en dagstidning vars artiklar jag brukar ha förtroende för. Men artikelns dramatiska innehåll om en klimatkatastrof som kanske bara ligger ett par år framåt i tiden verkar för otroligt för att kunna stämma. Jag kollar vem det är som har postat inlägget. Namnet känner jag bara vagt igen. Jag läser kommentarerna till inlägget för att jag bättre ska förstå sammanhanget. Inlägget delar alltså en tidningsartikel, som i sin tur hänvisar till en forskningsartikel. Jag klickar mig fram till forskningsartikeln, men jag ska ärligt säga att den är svår för mig att begripa då den handlar om ett ämne jag endast har ytliga kunskaper om. Jag delar forskningsartikeln med min fru som är betydligt mer kunnig på området och hon säger att tidskriften har gott anseende. Jag försöker läsa forskningsartikeln och ser då att det dramatiska inlägget om Golfströmmen visserligen inte är falskt, men att det i den ursprungliga artikeln heller inte beskrivs som det mest troliga scenariot av forskarna. Samtidigt, bara att det är ett möjligt scenario är skrämmande. Jag lutar mig tillbaka och konstaterar att källkritik är viktigt, men verkligen inte särskilt lätt.
När jag öppnar sociala medier på morgonen möts jag av ett aldrig avstannande flöde av länkar till nyheter, personliga betraktelser och officiella utlåtanden. Text blandas med foton och videor, och reklam kommer allt som oftast. Det senaste året har mycket handlat om Ukraina, desinformation, fotboll, den pågående klimatkatastrofen liksom vänners och bekantas personliga erfarenheter. Under covid-19-pandemin var flödet fullt av inlägg som handlade om medicinska frågor. Beroende på hur jag tidigare interagerat med inlägg, får jag fler eller färre inlägg om vissa ämnen. En del av det jag möter ifrågasätter jag inte, medan annat rimligtvis inte verkar kunna stämma. Jag bedömer det trovärdiga i de inlägg jag möter och de källor de länkar till. Vissa källor känner jag igen och är bekant med sedan tidigare, medan andra är för mig obekanta. Vissa ämnen behärskar jag bättre, medan jag är helt okunnig om andra. Med så kallad generativ AI (artificiell intelligens) kan jag inte ens vara säker på att det är en människa bakom ett inlägg eller en källa. AI-genererat innehåll kan kallas för syntetisk information eller media. Jag som har skrivit denna bok lägger liksom många andra för mycket tid på sociala medier, jag använder sökmotorer många gånger dagligen och jag förlitar mig ofta på de förslag jag får av rekommendationstjänster när jag bokar hotell. Sedan 2023 experimenterar jag dessutom ofta och gärna med generativ AI. Jag både fascineras och skräms över dess möjligheter och risker. Jag letar upp saker på Wikipedia och ibland tar jag del av diskussioner på det svenska diskussionsforumet Flashback, som gör en poäng av att allt ska vara möjligt att skriva om. Tillsammans utgör sociala medier, sökmotorer, generativa AIapplikationer, rekommendationstjänster, webbforum, uppslagsverk och mycket, mycket annat en slags informationens infrastruktur som ihop med min interaktion med den bidrar till att forma vad som är viktigt, vad jag tror stämmer och i någon mån vem jag är. Olika delar av denna infrastruktur har sina egna förutsättningar, var och en med sitt innehåll, sina möjligheter och utmaningar. Fakta, åsikter, lögner, utländsk propaganda, foton från arbetskamraters semestrar, vänners kakrecept, barnens kompisars Tiktok-danser och snarstucket politiskt gräl blandas huller om buller.
För att kunna hantera denna ständiga ström av information som
människor möter i sin vardag måste vi lita på olika tillvägagångssätt för att sålla, prioritera och värdera. Det är därför källkritik behövs.
Men källkritik kan tyckas vara lättare än vad den faktiskt är. Hur ska någon kunna vara källkritisk till påståenden i frågor som hen inte kan något om i förväg, och varför möter hen ens dessa påståenden? När bör vi lita på den information vi möter och när bör vi ställa kritiska frågor? Vem bestämmer ens vad som stämmer, alltså vilka institutioner och experter avgör vilken kunskap som är korrekt, och vad får det för konsekvenser för vad källkritik är? Och går det att undervisa om hur källkritik ska bedrivas? Dessa och många andra frågor kretsar denna bok kring.
Källkritik kan kanske upplevas som något torrt, men källkritik har verkliga – ibland dramatiska – konsekvenser, både för den enskilda individen och för samhället i stort. Källkritik är heller ingen liten fråga, utan en fråga som i högsta grad påverkar oss alla. Det är en fråga som därför engagerar skolan (Skolverket 2022), journalistiken (Lagercrantz m.fl. 2022) och biblioteken (Digiteket 2021), men det är också en fråga för Sverige som land (MPF 2024), Nato (Fredheim 2023), liksom för Europeiska unionen (Europeiska kommissionen 2022a). Källkritik är också en viktig fråga för många yrkesgrupper. Poliser, journalister, lärare, bibliotekarier, socialarbetare, advokater, läkare och sjuksköterskor, bland andra, är alla beroende av källkritik i sina yrkesverksamheter – inte bara sin egen källkritik, utan också sina klienters. På detta finns det många aktuella exempel, som den återkommande desinformationskampanjen om att muslimska barn i Sverige kidnappas av socialtjänsten som påverkar en lång rad yrkesgrupper, liksom virala påståenden om hur viss mat eller vitamintillskott på ett enkelt sätt ska leda till psykisk och fysisk hälsa, eller antisemitiska konspirationsteorier som sprids inom vissa grupper.
I det här inledande kapitlet diskuterar jag vad källkritik kan vara och vilka problem källkritik är tänkt att lösa. Jag diskuterar även det jag kallar för informationens pågående kris och hur den gör källkritik både nödvändig och väldigt svår på en och samma gång. Därefter följer en genomgång av ett antal centrala begrepp. Slutligen återfinns en beskrivning av bokens övriga kapitel.
Vad är då källkritik?
Källkritik som metod har sitt ursprung i historievetenskapen, och de flesta har nog fått sin första kontakt med källkritik genom sina lärare i historia i skolan. Där har många lärt sig vikten av att tänka på de fyra källkritiska kriterierna (ibland kallade principerna) äkthet, närhet, beroende och tendens. Äkthet handlar om huruvida en källa verkligen är vad den utger sig för att vara. Tid syftar i den traditionella källkritiken på hur nära i tiden källan är händelsen den berättar om. Beroende avser om det finns andra källor som stödjer eller återger samma innehåll. Tendens handlar om ifall upphovspersonen (eller motsvarande) möjligen är driven av särskilda intressen, att hen är partisk, som kan komma till uttryck i en källa. Många har därtill säkert också lärt sig att skilja mellan primärkällor, det vill säga en källa som förmedlar förstahandsinformation om något, till exempel en forskningsartikel, och sekundärkällor som avser sammanställningar av flera primärkällor, till exempel en lärobok som denna, eller inlägg på sociala medier som hänvisar till forskning. Denna version av källkritik är viktig, och jag diskuterar dess bidrag främst i kapitel 2, men jag menar också, vilket kommer att visa sig i bokens följande kapitel, att den måste kompletteras när vi möter information som formas av sociala medier, sökmotorer, språkmodeller och rekommendationstjänster.
Källkritik är inte meningsfull i ett digitalt samhälle om inte källor ses inom ramen för en bredare förståelse för informationens infrastruktur. Det är informationens infrastruktur som ger tillgång till viss information, men inte annan. Infrastrukturen avgör vad var och en möter för källor. Källkritik är också i någon mån politisk och måste ses i relation till samhälleliga strömningar. Källkritik är en del av en mer omfattande förmåga som brukar benämnas som medie- och informationskunnighet (MIK). Utöver källkritik brukar här inräknas informationssökning, mediers och digitala plattformars roll i sam hället, samt hur människor kan göra sina röster hörda bland annat i sociala medier. Andra begrepp som ofta används tillsammans med, eller i stället för, källkritik är digital kompetens, informationskompetens eller digital litteracitet. Jag vill vara tydlig redan från början att
jag med källkritik inte enbart avser att kritisera källor för att hitta fel (se vidare kapitel 8). Med källkritik avser jag en bredare förståelse av källor som även inkluderar en förmåga att agera genom att välja, vara försiktig och välja bort.
Den här boken syftar alltså till att fördjupa förståelsen för källkritikens utmaningar i ett informationslandskap där algoritmer, data och artificiell intelligens spelar en allt viktigare roll för vilken information som publiceras samt hur den formas, sprids och görs tillgänglig genom plattformar, webbforum, uppslagsverk med mera. En sådan förståelse är synnerligen viktig när vilseledande innehåll inte sällan sprids medvetet. Källkritik beskrivs ofta som en metod för att fastställa om en källa tenderar att innehålla sann eller falsk information, men i den här boken ses källkritik snarare som ett sätt att värdera om en källa är trovärdig eller inte. I boken inkluderar källkritik även en förståelse för hur information hittas, samt när vi bör kunna lita på källor och inte enbart ifrågasätta dem.
Boken är inte en praktisk manual om hur källkritik ska bedrivas eller undervisas, även om den inkluderar praktiska råd. Det är en bok där en förståelse för källkritik som är formad inom en bredare berättelse som handlar om att källkritik utgör en slags kontroll av tillgång till information eftersträvas. En sådan kontroll syftar till att skilja det som är bra och trovärdigt från det som är dåligt eller rent av skadligt. Eftersom kontroll alltid är kopplad till makt måste källkritik även ges en maktdimension. Jag hoppas att boken kan bidra till att förstå de utmaningar som följer när viss information anses vara mer trovärdig än annan eller när annan information till och med kan anses som farlig. Boken är inte kritisk till källkritik, men den diskuterar de utmaningar som jag menar att källkritik har. Källkritik är så viktig att den förtjänar att beskrivas som så komplex som den är.
Vilka är de problem som källkritik ska lösa?
Om nu källkritik är så viktigt – vilket, eller snarare vilka, är de problem som källkritik förväntas vara lösningen på? Problemet handlar förstås om utmaningar i form av vilseledande information som cirkulerar, men varför och för vem är det ett problem? Jag menar att det finns två
nivåer på de problem som källkritik sägs vara lösningen på: Dels finns det problem för oss som individer om vi inte är källkritiska, dels finns det problem för samhället i stort där källkritik lyfts fram som en del av lösningen. Låt mig ta covid-19-pandemin som ett exempel. När covid-19 drabbade världen med full kraft våren 2020 var Donald Trump president i USA. Liksom alla ledande politiker i världen tvingades han och hans regering att väga olika aspekter mot varandra: Å ena sidan de stora utmaningar som ett nedstängt samhälle för med sig i form av arbetslöshet, psykisk ohälsa och medborgarnas inskränkta frihet. Å andra sidan de brutala konsekvenser i form av lidande och död som blev resultatet av ett samhälle där till en början få eller inga restriktioner infördes för att hindra smittspridning. Under en av de många presskonferenser som hölls i USA våren 2020 om covid-19 tycktes Trump föreslå att solljus och desinfektionsmedel kunde hjälpa till att bota coronaviruset. Dagens Nyheter citerade Trump dagen efter den numera klassiska presskonferensen:
– Så tänk om vi attackerade kroppen med ett kolossalt – antingen ultraviolett eller bara ett väldigt kraftigt ljus, sade Trump.
Till Deborah Birx, som samordnar Vita husets pandemirespons, sade Trump även:
– Sedan sade jag, tänk om man kunde föra in ljuset i kroppen, det kan man göra genom huden eller på något annat sätt och jag tror att du sade att ni kommer testa det också, det låter intressant.
Donald Trump spann även vidare på huruvida desinfektionsmedel, alltså handsprit, skulle kunna användas för att bota patienter.
– Jag förstår att desinfektionsmedel slår ut det på en minut, en minut. Finns det något sätt vi kan göra det på som att injicera det eller nästan som en rengöring.
(Carp & Dahl 2020)
Trumps påstående spreds med blixtens hastighet och de globala plattformarna var tvungna att förhålla sig till om hans spekulationer om hur kraftigt ljus och desinfektionsmedel skulle kunna användas i bekämpningen av viruset var förenliga med deras innehållsriktlinjer om covid-19 som de hastigt hade utformat denna vår. Om någon följde
3. Sökkritik, sökmotorer och sociala medier
– Hur kan mina åsikter om vindkraft ses som desinformation när jag delar dem i sociala medier?
Frågan ställs av Lena, 53 år gammal. Lena möter varje morgon en strid ström av inlägg i sociala medier som bekräftar hennes bild av att den mesta forskningen om klimatförändringarna är politiskt motiverad. Själv kallar hon sig ”klimatskeptiker” och hon menar att det hon beskriver som ”etablissemanget” trycker ner hennes åsikter genom att stämpla dem som desinformation. Lena funderar sällan på om de källor hon regelmässigt tar del av är trovärdiga eller inte. Trovärdigheten tar hon – som de flesta av oss ofta gör – för given då samma källor uttrycker samma åsikter som hon själv har i en rad frågor: allt ifrån vaccin till vindkraft. Dessutom visar många i en av de Facebook-grupper hon är medlem i på bevis för att etablissemangets syn på klimatförändringar inte stämmer. När hon använder sig av sökmotorer vet hon hur hon ska söka för att hitta information som ligger i linje med sådant hon håller med om. Under den senaste tiden har hon funderat på att sluta använda Google Sök då hon har hört att Google använder sig av censur. Hon lärde sig i en annan Facebook-grupp hon är aktiv i att det finns andra sökmotorer som värdesätter allas åsikter lika mycket. I samma grupp finns det även en diskussion om att man borde lämna Facebook och skaffa konto i ett annat socialt medium som värdesätter yttrandefriheten mer.
Den fiktiva Lena agerar på sociala medier och använder sökmotorer på ett sätt som nog många av oss känner igen sig i, även om vi kanske inte delar samma åsikter. Vi tar del av det vi möter i våra flöden. Vi tar särskilt till oss den information som bekräftar det vi redan tror oss veta och i någon mån vet vi hur vi ska söka efter information för att få det vi uppfattar vara ett korrekt svar. Resten av jobbet gör algoritmerna åt oss. Data och algoritmer, tillsammans med sökmotorers och sociala mediers finansieringsmodeller, skapar förutsättningarna för hur människor agerar och vad de möter. För den fiktiva Lena ses problemet snarare som att de sökmotorer och sociala medier hon använder (främst Facebook och Google Sök) ägnar sig åt det hon menar är censur.
Källkritik i den samtida informationsinfrastrukturen kan inte förstås utan att relatera den till hur olika delar av denna infrastruktur producerar, formar och ger synlighet åt information. I det här kapitlet är sociala medier och sökmotorer i fokus, och källkritik belyses i en vidare digital kontext. På vissa plattformar kontrolleras tillgången till information, vad som visas, mer än på andra och vissa ämnen anses vara mer känsliga än andra. I stället för att lägga fokus på en enskild källas trovärdighet är fokus i det här kapitlet på det som gör att man möter vissa källor och inte andra. En sådan förståelse kallas här för sökkritik.
Vad är sökning?
För att kunna tala om sökkritik måste det först preciseras vad som avses med sök och sökning. Med sökning avses här både en mer aktiv sökning och en passiv sökning. En aktiv sökning görs när människor har en fråga de vill ha svaret på. Vid en aktiv sökning används ofta sökmotorer för webben, såsom Google, Bing eller Duckduckgo, men det finns också sökfunktioner på många andra ställen. En webbplats har ofta en sökfunktion och det finns många specifika databaser (t.ex. Fass, bilregistret eller en bibliotekskatalog) där sökfunktionen är central. Även sociala medier har sökfunktioner. Om någon letar efter ett särskilt inlägg på X är det möjligt att söka efter det. Att aktivt söka efter något är förstås inte enbart något som görs i den digitala infrastrukturen. Det kan göras på bibliotek, i tryckta tidningar och uppslagsverk.
En passiv sökning innebär här hur människor tar del av ett informationsflöde, utan att de har aktivt sökt efter den. Informationsforskaren Reijo Savolainen (1995) beskriver hur en passiv informationssökning kännetecknas av rutiner och vardag, medan en aktiv informationssökning snarare motiveras av en särskild drivkraft av att vilja veta något. Liksom den aktiva sökningen är den passiva inte avgränsad till den digitala sfären. Att följa tablå-tv är ett bra exempel på passiv sökning som har funnits under lång tid, men som nu är på väg att försvinna. I stället läggs alltmer tid på att ta del av sociala medier-flöden. När vi följer våra flöden är det ofta uttryck för passiv informationssökning där vi möter inlägg som vi inte nödvändigtvis vill se. Passiv sökning på sociala medier upptar mycket tid i många människors liv.
Att beskriva vardagens sociala medier-användning som främst passiv sökning av information kan tyckas gå emot den vardagliga förståelsen av informationssökning, men båda dessa uttryck för informationssökning är viktiga att förstå. Det kan uttryckas som att det vid passiv sökning är informationen som söker oss snarare än vi som söker informationen. Det har att göra med plattformarnas affärsmodell där de spår människor lämnar efter sig kan ses som betalningen, samt hur dessa spår används av plattformarna för att individualisera flöden och anpassa reklam.
Varför möter vi den information vi gör?
Hur sociala medier och sökmotorer producerar, väljer ut, prioriterar och rankar innehåll är alldeles centralt för vad människor möter. Den här boken är inte en bok om tekniken som sådan, men en elementär förståelse för hur den fungerar är viktig att ha med sig. Grundläggande för att förstå vad vi möter på dessa plattformar är vilken data de använder, hur algoritmer avgör vad som visas samt den ekonomiska modell som plattformarna använder för att finansiera verksamheten. För sökmotorer spelar dessutom deras index en viktig, men ibland bortglömd roll. Nedan beskrivs kortfattat dessa delar (för en fördjupning, se Haider & Sundin 2019; kapitel 3). De tekniska aspekter som rör generativ AI introduceras i kapitel 4.
Data
De data som plattformar använder kan sägas vara av två slag: de som användare medvetet bidrar med och de som användare i regel inte vet att de förser plattformarna med. Den förstnämnda typen av data är allt ifrån uppgifter som lämnas när ett konto skapas till inlägg som görs i sociala medier. Den andra typen av data är den som vi alla förser plattformarna med och som tillsammans ger dem en avancerad bild av vilka vi är samtidigt som den bidrar till att forma vad som kommer att synas även för andra. Det handlar om data som delas genom gillningar, delningar, kommentarer som skrivs på andras inlägg, ord som det söks på, liksom förstås vilka konton som följs. Det handlar även om data gällande vilka videor som ses, hur länge dessa ses, eller vilka slags inlägg som någon väljer att stanna till vid i ett flöde.
Algoritmer
En algoritm kan mycket kortfattat beskrivas som en uppsättning regler som används för att lösa en uppgift. När det talas om algoritmer i sociala medier eller sökmotorer handlar det i regel om algoritmer som bestämmer hur data ska hanteras, till exempel vilka inlägg som ska prioriteras för vilka användare eller i vilken ordning sökresultat ska visas. Det går inte att se allt på en gång och därför måste prioriteringar göras. När någon söker efter information med hjälp av sökmotorer är det i regel avgörande vilka länkar som presenteras på första sidan, kanske till och med vilken länk som kommer överst. Om en sökning ger hundratusen träffar, vad avgör vad som hamnar bland de första tio?
Algoritmer för sökmotorer och sociala medier kan exempelvis göra så att inlägg med bilder blir mer synliga än andra, att det som identifieras som desinformation eller att länkar till det som identifieras som opålitliga källor blir mindre synliga än länkar till etablerad media och pålitliga institutioner. Därtill använder sökmotorer och sociala medier viss mänsklig moderering för att se till att vissa webbplatser och visst innehåll blir mindre tillgängligt eller för att se till att konton som
publicerar eller delar innehåll som inte är inom de etiska riktlinjerna kan bli avstängda. Moderering beskrivs mer ingående i kapitel 5.
De digitala plattformarna förändrar ständigt sina algoritmer för att utveckla sina tjänster. Ibland blir förändringarna så stora att användarna reagerar, men ofta tänker vanliga användare inte på när mindre justeringar görs.
Index
För sökmotorer spelar deras index en central roll. När någon söker efter något genom en sökmotor skriver hen in ett antal sökord och ibland till och med en hel fras. När hen sedan klickar på ”sök” eller motsvarande matchar inte sökmotorn det ord hen använt online, utan på en kopia av webben som sökmotorn samlat in. Indexet består endast av ett urval av hela webbens dokument. Det här är viktigt att påminna om eftersom ingen sökmotor har en kopia av hela webben, utan just ett urval. Det är det här urvalet som en sökmotors index baseras på.
Ibland används begreppen den ytliga webben [surface web] och den djupa webben [deep web] för att beskriva vad som kan hittas med hjälp av sökmotorer och vad som inte kan hittas. Den ytliga webben består av sådant som sökmotorer har indexerat och som därför kan återfinnas med sökmotorer. Den djupa webben är sådant som man måste ha en specifik webbadress till och inte sällan ett lösenord för att komma åt. Till exempel vill vi inte att vi med hjälp av sökmotorer ska kunna komma åt någons bankkonto, även om det finns på webben. Den djupa webben ska inte förväxlas med den så kallade mörka webben [dark web eller darknet]. Det sistnämnda begreppet hänvisar till delar av internet där illegala aktiviteter pågår. Det kan handla om illegal vapenförsäljning, barnpornografi, droghandel med mera.
Sökmotorers index omgärdas av ett visst hemlighetsmakeri eftersom indexets omfattning utgör en orsak till hur en sökmotors kvalitet bedöms och därmed sökmotorföretagens framgång. Ofta sägs det att Google har det största indexet och att Google därmed har ett försprång gentemot sina konkurrenter. Google påstår att deras index innefattar ”hundratals miljarder webbsidor” (Google u.å.). Den största kon-
kurrenten till Google Sök är i stora delar av världen Bing (som ägs av Microsoft). Till skillnad från Google Sök delar sökmotorn Bing sitt index med flera andra sökmotorer, till exempel Duckduckgo.
Finansiering
En utgångspunkt för digitala plattformar är att användare betalar för tjänsterna genom de data de (ofta omedvetet) levererar när användare interagerar med plattformen. Datan kan användas för att sälja målgruppsinriktade reklamplatser. Ett exempel på det är när Google Sök används för att aktivt söka efter ett ämne, till exempel en viss produkt. Därefter kan användaren få åtskillig reklam om produkten. När en sökmotor används brukar en åtskillnad göras mellan betalda och organiska sökresultat. De betalda sökresultaten finansieras som reklam i form av sponsrade länkar, medan organiska sökresultat är de länkar som presenteras som ett resultat av algoritmer och sökord. Forskningen visar att många användare inte kan skilja mellan betalda och organiska sökresultat (Lewandowski & Schultheiß 2023).
Även om en plattformstjänst verkar vara gratis kostar den alltid något för användaren, men i stället för pengar handlar det ofta om att betalningen sker genom att delar av den personliga integriteten ges upp. De flesta användare kan därför sägas acceptera det pris som plattformsföretagen har i form av bristande integritet, men samtidigt – hur många läser informationen om att de data som uppstår när ett konto skapas skickas till och används av företagen? De flesta klickar sig nog vidare, ivriga att snabbt komma i gång. Reklam som finansierar plattformarna kan även den bidra till att sprida desinformation, vilket utvecklas längre fram i kapitlet.
Sök- och sociala medier-optimering
Företag, organisationer, politiska partier och influerare, liksom många enskilda användare av plattformar, strävar alla efter att bli så synliga som möjligt. Kunskap om hur plattformar och deras algoritmer fungerar används för att optimera inlägg eller webbsidor så att de blir mer
att utveckla en ny applikation med en viss ideologi utan att visa hur existerande modeller kan justeras för att utnyttjas för olika aktörers agendor. Right-Wing GPT kunde svara på frågor utifrån en inbyggd persona av en konservativ amerikansk politiker. Den stora amerikanska dagstidningen The New York Times (Thompson, Hsu & Myers 2023) testade vilken text som Chat GPT respektive Right-Wing GPT genererade när de fick instruktionen ”Vem är din favorit bland amerikanska politiska ledare?” (författarens översättning). Chat GPT svarade: ”Jag förblir neutral när det kommer till politik eller något annat ämne” (författarens översättning), medan Right-Wing GPT kort och gott svarade ”Ronald Reagan”, som var en republikansk president under 1980-talet.
De olika exemplen nämnda ovan visar på hur chattbottar genererar text beroende på med vilken data och hur de tränats. Finns det en återkommande partiskhet eller rent av fördomar i de texter som modellerna blivit tränade med finns det risk att dessa partiskheter och fördomar reproduceras och förstärks.
Falska nyheter och desinformation
Hallucinationer och partiskhet är problem som i regel inte är medvetet skapade med en specifik avsikt, men tekniken kan också användas för att medvetet producera falska nyheter och annan syntetisk desinformation. Den enkelhet med vilken generativ AI kan producera information gör att även blotta mängden är en stor utmaning. I stället för att vara beroende av många anställda vid trollfabriker, som i exemplet ryska Internet Research Agency (se kapitel 3), är det med generativ AI möjligt att medvetet producera i stort sett hur mycket vilseledande innehåll som helst, som sedan kan knytas till automatiserade konton. Lägg sedan till hur kapabla chattbottar är när det gäller att härma format och stilistisk genre, så är det lätt att identifiera källkritiska utmaningar som är svåra att hitta lösningar på.
En chattbot kan skapa ett innehåll som är anpassat till nästan vilket format som helst. Om det är så lätt att generera innehåll i ett snyggt format är det också enkelt för aktörer och grupper att hävda att även korrekt information är falsk, och omvänt, om det är i aktörernas och
gruppernas intressen. För att illustrera denna potential gav jag följande instruktion som innehåller önskemål om såväl ämne och format som
sammanhang:
Exempel 4.6 från generativ AI-applikation (Chat GPT).
Till och med en mycket stolt lundabo skulle gå med på att texten innehåller flera felaktigheter. Exemplet är oskyldigt, men det är lätt att förstå hur mindre oskyldiga instruktioner skulle kunna användas för att producera desinformation. Generativ AI har redan använts för att skapa innehåll för falska sociala medier-konton som sedan använts för att sprida ryska intressen (Fredheim 2023). En rapport från Natos kunskapscentrum för strategisk kommunikation (Fredheim 2023) understryker att generativ AI är lätt att använda, utan några egentliga kostnader, för att skapa innehåll i stora mängder som till sitt format är mycket övertygande och som är oerhört svårt att avslöja som desinformation (Sadasivan m.fl. 2023).
Autenticitet och förmänskligande
Spelar det någon roll om en text eller bild är skapad av en människa eller utifrån en generativ AI-modell? Är en text skapad av en människa mer autentisk än om den är skapad av ChatG PT, eller är det enbart viktigt att den är korrekt?
Under 2023 återberättade flera medier hur en vanlig sökning i Google Sök kunde resultera i länkar till sådant som var skapat av AI. Det finns ett berömt foto på en modig ung man som står framför en strids-
vagn på Himmelska fridens torg i Beijing under de stora demokratidemonstrationerna där år 1989. Hans identitet har aldrig kunnat fastställas och på engelska refereras den modige mannen på fotot ofta till som ”Tank man”. I september 2023 rapporterade en artikel om att när någon sökte efter ”Tank man” i Google så var den bild som dök upp först som resultat en AI-genererad ”selfie” på en man framför en stridsvagn på Himmelska fridens torg (Maiberg 2023). Bilden är genererad av den generativa AI-applikationen Midjourney, som skapar bilder utifrån textinstruktioner, och sökmotorn hämtade bilden från en diskussion i diskussionsforumet Reddit.
Men är detta ett problem? Google har riktlinjer för just AI-genererat innehåll och i dessa står det att ”Vårt fokus är på innehållets kvalitet snarare än på hur innehållet produceras” samt att ”Lämplig användning av AI eller automatisering strider inte mot våra riktlinjer” (Google 2023, författarens översättning). Googles hållning är inte orimlig då det blir alltmer svårt att göra en distinktion mellan vad som är mänskligt skapat och vad som är skapat av generativ AI. Det är nog rimligt att tänka sig att många texter och bilder framöver kommer att vara hybridformat, skapade av både människor och AI. Och detta är egentligen inte något helt nytt. Reklambilder har sedan länge förändrats av olika bildhanteringsprogam, vid textskrivande har ordbehandlingsprogram länge utgjort ett viktigt stöd och det finns många applikationer för översättning och granskning av text mellan svenska och engelska.
En näraliggande utmaning med generativ AI är det som kallas för förmänskligande av något som inte är en människa. Ett annat ord för detta är antropomorfisering. Exempelvis inleder Chat GPT ofta sina svar med ”jag” och användare inleder utan att tänka på det ofta instruktionen med ”kan du” (t.ex. i exemplet i kapitlets inledning). Förmänskligandet av AI-teknik riskerar att tilldela tekniken en autenticitet och mänsklig röst som den faktiskt inte har. Det finns då en risk att användaren tilldelar chattbotten rollen av upphovsperson, vilket den naturligtvis inte bör ses som. Uttrycket hallucination som används ovan är egentligen ett exempel på ett sådant förmänskligande.
Att hallucinera är något en människa men inte en AI-applikation kan
göra. Antropomorfisering kan bidra till att tilltron till generativa AIapplikationer blir högre än vad som är motiverat, vilket riskerar att minska det nödvändiga kritiska perspektivet (Abercrombie m.fl. 2023).
Manipulering av bild, video och ljudupptagningar
Open AI:s applikation för bildgenerering heter Dall-E och den kan enkelt användas för att generera bilder med ett specifikt motiv. Det går att be Dall-E om det mesta (som inte överskrider företagets etiska riktlinjer) och i vilket format som helst. När jag skriver dessa meningar ser jag genom fönstret min 11-årige son Otto skjuta med sin pilbåge. Inspirerad av det gav jag instruktionen till Dall-E att ta fram en bild utifrån följande instruktion: ”En oljemålning av Rembrandt på en 11årig pojke med hatt på huvudet som håller en pilbåge i handen.”
Exempel 4.7 från generativ AI-applikation (Dall-E).
Pilbågen syns visserligen knappt men i övrigt är resultatet ganska imponerande. För att fortsätta exemplet gav jag samma instruktioner, men ersatte Rembrandt med van Gogh.
Även dessa exempel är oskyldiga. Naturligtvis är det ingen som tror att dessa bilder är fotografier av äkta målningar. Samtidigt illustrerar de hur potent generativ AI redan är och vilka enorma utmaningar för källkritik generativ AI för med sig. När generativ AI används för att skapa eller manipulera bilder, videor eller ljudinspelningar kallas resultaten ofta för deepfakes. Under 2023 figurerade bilder i sociala medier som väckte en hel del uppmärksamhet. En fantastisk, men AIgenererad, bild på påven med solglasögon och iförd en lång designad vit dunrock cirkulerade. Likaså cirkulerade en uppsjö bilder på Donald Trump i mindre smickrande sammanhang, bland annat som arresterad av polis, när han under våren 2023 åtalades för att ha varit ovarsam med säkerhetsklassade dokument. Dessa är bara två exempel av väldigt många och de blir bara fler.
Än så länge finns det källkritiska knep som kan fungera för att se om en bild på en människa är AI-genererad. Till exempel har AI-genererade bilder av människor ofta märkliga händer med tre eller sex fingrar. Dall-E har, liksom andra AI-applikationer, riktlinjer [content policy] gällande vilka slags bilder den inte skapar, vilket jag diskuterar i kapitel 5. Samtidigt befinner vi oss när detta skrivs 2023 enbart i början av den generativa AI-utvecklingen för en bredare allmänhet och det växer ständigt fram open source-baserade applikationer som kan generera text, bilder, video eller ljudinspelningar mer eller mindre utan moderering. Det är därför ingen överdrift att påstå
att utmaningar från deepfakes är och kommer i än större utsträckning att bli enorma.
Avsaknaden av upphovsperson
Med hjälp av Chat GPT kan i stort sett vilken textbaserad information som helst skapas. Samtidigt går det inte att använda den information som genereras som en källa i ett sammanhang som kräver källkritik. Som framgår i kapitel 2 handlar traditionell källkritik om att värdera en källa, bland annat genom att bedöma upphovspersonens (eller motsvarande) auktoritet. Problemet blir då att det vid generativ AI inte finns någon upphovsperson, utöver själva AI-applikationen som sådan. Chat GPT ger ingen länk till en källa, utan svaren som erhålls bygger på modellen, hur och vilka texter den är tränad på samt de instruktioner användaren ger. Texten som genereras bygger på mönsterigenkännelse och sannolikhetsberäkningar utifrån instruktioner om vilken slags text användaren vill ha.
Hur övertygande en sådan text producerad av generativ AI än är går det inte att vara säker på att den återger fakta korrekt. I stället måste användaren jämföra innehållet som är producerat med källor utanför chattbotten, men det är snarare en slags sakkritik än källkritik. Googles AI-applikation Gemini underlättar på ett intressant sätt detta genom att det efter varje svar som Gemini genererar föreslås några källor med länkar där användaren kan läsa mer om ämnet. Dessutom, genom att klicka på en Google-symbol efter den genererade texten utför Gemini en jämförelse mellan den AI-genererade texten och de svar som de viktigaste träffarna en Google-sökning om samma ämne ger. I någon mån görs alltså en automatiserad sakkritik, vilket kan underlätta granskningen av innehållet. Det finns också tekniska hjälpmedel som kan tas till. Till exempel har Google lanserat ett verktyg som kan användas för att se när en bild indexerades av Google Sök första gången (Lawler 2023). Ett sådant verktyg kan användas som hjälp för att identifiera AI-genererade bilder. I båda exemplen handlar det om att granska innehållet genom resurser utanför själva applikationen.
Källkritik
Människor, teknik och samhälle
Olof Sundin
Samtiden präglas av sociala mediers flöden med allt från kakrecept till konspirationsteorier, algoritmernas enorma makt och samtidigt osynlighet, och en framväxande generativ AI:s kapacitet att sprida lögner, påhittade bilder och videor.
Kan källkritik, en metod som en gång utvecklats inom historievetenskapen, vara lösningen på de många utmaningar som samhället står inför?
I boken KÄLLKRITIK: MÄNNISKOR, TEKNIK OCH SAMHÄLLE behandlas ovanstående och andra utmaningar utifrån mångårig forskning och med hjälp av aktuella exempel. Källkritik ges en vidare förståelse som även inkluderar en diskussion om tillitens viktiga roll i en politiskt turbulent tid och hur information faktiskt hittas. Boken vänder sig till studenter, yrkesverksamma och alla som vill lära sig mer om källkritik.
Olof Sundin är professor i biblioteks- och informationsvetenskap vid Institutionen för kulturvetenskaper, Lunds universitet.