9789127467125

THOMAS NYGREN

M THOMAS NYGREN är professor i didaktik med inriktning mot historia och samhällskunskap vid Uppsala universitet. Thomas har mångårig erfarenhet av undervisning på gymnasieskolor, komvux och högskolor och han har särskilt studerat hur digitala verktyg kan användas på kritiska och konstruktiva sätt i undervisningen. Forskningen omfattar bland annat utbildning för digital kompetens, kritiskt tänkande och mänskliga rättigheter. Han leder projekten Nyhetsvärderaren, GÄCKA och SEGA:D och var expert i EU-kommissionens arbetsgrupp för digital litteracitet mot desinformation. Han har erhållit utmärkelsen Gyllene förstoringsglaset och Fria pedagogiska priset.

ed kritisk och konstruktiv blick ger Thomas Nygren en initierad översikt över de digitala utmaningarna och möjligheterna i dagens utbildningssystem. Boken förklarar vad AI faktiskt är och behandlar ämnen som AI-litteracitet, sökkritik, källmedvetenhet och ämnesspecifika möjligheter och utmaningar – allt för att du som lärare framgångsrikt ska kunna integrera den nya tekniken i ditt klassrum.

Avsnittet om ChatGPT är särskilt relevant eftersom det ger insikter om hur AI både kan möjliggöra och hindra elevernas lärande. Även frågor om rättssäker bedömning tas upp som en specifik problematik.

AI i skolan är en ovärderlig guide för dig som vill förstå och navigera i detta dynamiska och snabbföränderliga landskap.

”Intellektuell ödmjukhet och aktivt öppet tänkande kan vara viktiga grundpelare i utbildningsprogram som syftar till att förbereda nästa generation för de utmaningar och möjligheter som teknologiska framsteg medför. Det handlar om att fostra ett dynamiskt och självreflekterande sinnelag.”

Ur kapitel 6

Läs även: Fakta, fejk och fiktion ger lärare konkreta exempel på undervisningsdesign att använda för att utveckla elevers digitala källkritiska förmåga. Natur & Kultur, 2019.

I SKOLAN MÖJLIGHETER OCH UTMANINGAR I UNDERVISNINGEN

ISBN 978-91-27-46712-5 OMSLAG: NIKLAS LINDBLAD, MYSTICAL GARDEN DESIGN OMSLAGSILLUSTRATION SKAPAD I MIDJOURNEY: THOMAS NYGREN FÖRFATTARFOTO: MIKAEL WALLERSTEDT

NOK_NYGREN_AI_I_SKOLAN.indd Alla sidor

9 789127 467125

2023-11-17 14:51

AI_i_skolan_ORIG_JE.indd 2

2023-11-21 06:48

Innehåll

Digitala möjligheter och utmaningar i undervisningen Inledning

Kapitel 1

Vad är AI? 14

Kapitel 2

AI i utbildningen

50

Kapitel 3

AI i klassrummet

66

Kapitel 4

AI-litteracitet 92

6

Ämnesspecifika möjligheter och problem 202 Kapitel 5

Fördel människa 224

Kapitel 6

Tack! 241 Referenser

242

Slutnoter

265

AI_i_skolan_ORIG_JE.indd 5

2023-11-21 06:48

INLEDNING

Digitala möjligheter och utmaningar i undervisningen

AI_i_skolan_ORIG_JE.indd 6

2023-11-21 06:48

I TAKT MED att teknologin utvecklas blir det allt vanligare att

använda artificiell intelligens (AI) i utbildningsmiljöer. Detta är en omvälvande förändring som kan förbättra undervisningen och inlärningsprocessen, men användningen av AI medför också en rad nya frågeställningar och utmaningar. Denna bok syftar till att ge lärare, bibliotekarier och lärarstudenter, liksom så klart alla intresserade inom skola och utbildning, kunskaper och förståelse som krävs för att på ett kritiskt, konstruktivt, effektivt och ansvarsfullt sätt använda AI i undervisningen. AI framställs ofta på fantasifulla sätt i litteraturen, med robotar som hotar att ta över världen. Här hanteras AI i stället utifrån det som finns idag och hur vi i nuläget kan och bör förhålla oss till tekniken för att göra undervisningen så bra som möjligt för eleverna. Detta är inte en resa mot en fantasifull framtid, utan en nära och påtaglig verklighet som påverkar vår vardag här och nu. Boken syftar till att belysa vad vi vet från forskningen om undervisning och lärande i digitala miljöer, och särskilt fokusera på en av de mest betydande och kontroversiella teknologier som tar form i skolan idag: artificiell intelligens (AI).

Med ChatGPT har det blivit uppenbart att inte minst undervisningen i skolan står inför nya spännande möjligheter och komplexa utmaningar. Även om det idag finns fantastiska 7

AI_i_skolan_ORIG_JE.indd 7

2023-11-21 06:48

verktyg för att skapa texter, bilder och videor (s.k. generativ AI) är AI inte ett abstrakt eller mystiskt fenomen. Det är tekniska system som arbetar utifrån konkreta data. Data som hanteras enligt principer (algoritmer) som är skrivna av vanliga människor. AI finns och fungerar som en del av vårt samhälle och AI påverkar och påverkas av både sociala och individuella relationer. Vi kan tänka på AI som inte bara tekniskt komplexa system – som inte ens de som skapat dessa fullt ut kan förstå – utan också som system präglade av mänskliga värderingar, normer och interaktioner.

I den alltmer tekniskt influerade skolan är det viktigt att tänka på att teknologi förstärker vissa aspekter av verkligheten medan den reducerar andra.1 Till exempel går det att tänka på teknologi som ett förstoringsglas. När du tittar genom ett förstoringsglas ser du vissa delar av det du tittar på mycket tydligare och större, medan andra delar runt omkring blir suddiga. På liknande sätt kan teknologi ”förstärka” eller göra vissa saker tydligare och mer framträdande, medan den samtidigt ”reducerar” eller gör andra saker mindre synliga. Låt oss ta ett exempel från klassrummet. Om du använder en dator för att skriva dina anteckningar kan det hjälpa dig att skriva snabbare (detta är förstärkningen). Samtidigt kan det bli svårare att komma ihåg vad du skrev jämfört med om du skriver för hand, eftersom du blir distraherad av andra saker på datorn (detta är reduktionen). När vi använder teknologi, oavsett om det är en dator, en smartphone eller något annat, är det därför viktigt att tänka på vad det gör tydligare och bättre för oss och vad det gör mindre tydligt eller svårare. Det hjälper oss att förstå hur vi bäst kan använda teknologin och vara medvetna om de saker som vi kanske missar eller förlorar längs vägen.

8

AI_i_skolan_ORIG_JE.indd 8

2023-11-21 06:48

I den här boken är detta en viktig dimension. Genom att förstå vad som förstärks och reduceras när AI är en del av undervisningen kan vi göra medvetna val, för att på olika sätt rusta eleverna för en framtid där AI är både en resurs och en utmaning.

Att förstå AI som en del av skolan är mycket viktigt eftersom teknologin inte används i ett vakuum, utan interagerar och påverkas av en rad sociala faktorer. Som lärare och utbildare behöver vi inte bara förstå hur teknologin fungerar, utan också hur den passar in i och påverkar det bredare samhälle och den kultur där skolan ingår. I skolan finns det viktiga normer och värderingar som till exempel kan krocka med de värderingar som programmerarna, företagen och kulturen haft i skapandet av AI-systemen. Det kan innebära att AI i skolan kan anta eller förstärka vissa pedagogiska filosofier, kulturella normer eller till och med fördomar och stereotyper. Vad är till exempel en vän enligt Facebooks programmerare och vad innebär vänskap för barnen i skolan? Vilken kunskapssyn förmedlar MyAI på Snapchat när eleverna ställer kluriga frågor om andra världskriget? Är det möjligen så att de som har skapat systemen är särskilt positivt inställda till hur bra systemen är och hur lätta de är att använda?

AI interagerar inte bara med elever och lärare som isolerade individer, utan som delar av ett bredare socialt sammanhang.

Hur elever och lärare svarar på och använder AI påverkas av deras tidigare erfarenheter, deras socioekonomiska bakgrund, deras relationer med varandra och många andra faktorer. Denna komplexa väv av relationer formar hur AI upplevs och används i skolan. Vilka är det som gynnas av fler och mer digitala verktyg i skolan? När och hur kan klassen och individen behöva digitalt 9

AI_i_skolan_ORIG_JE.indd 9

2023-11-21 06:48

stöd och när är det bättre att inte använda tekniken? Att bara förse klassrummet med mer digitala resurser har visat sig vara föga fruktbart i tidigare forskning.2 Det är också viktigt att reflektera över hur skolan är en dynamisk och komplex miljö. Lärare kan hitta oväntade sätt att använda AI på och elever kan reagera på AI på oväntade sätt. Det som fungerar i ett klassrum eller för en elevgrupp kanske inte fungerar för en annan. Det kräver en förståelse för en pågående förändring och en flexibilitet, vilket är kärnan i mänskliga samhällen med teknologiska system. Samtidigt finns det idag allt mer kunskap om hur undervisning och teknologi kan samverka i undervisningen. Det finns en hel del forskning om hur undervisning generellt och ämnesspecifikt kan hjälpa elever att bättre lära sig det som är nytt och svårt. Forskningen (som kommer att beröras mer längre fram) tyder på att olika digitala verktyg – ofta uppbyggda med en nypa AI – kan vara hjälpsamma för att plugga in fakta. Men andra kunskaper, färdigheter och attityder kan kräva andra upplägg på undervisningen där mellanmänskliga relationer är betydande för att eleverna ska förstå och kunna utvecklas. Som lärare innebär en digital didaktisk kompetens att veta när och hur AI-system kan hjälpa eleverna att lära sig nya, svåra och viktiga saker. Minst lika viktigt att veta är när de försvårar lärandet, då ska de inte användas. I undervisning är det så klart en balansgång där läraren kan välja att växla mellan olika grad av teknik i klassrummet beroende på vilket mål som finns med undervisningen.

En grundläggande skillnad mellan människor och AI är att det inte finns något sunt förnuft eller någon moralisk kompass hos AI-systemen. Det är viktigt att beakta frågor om etik och demokrati som inte AI-system förmår att hantera. I direkt 10

AI_i_skolan_ORIG_JE.indd 10

2023-11-21 06:48

anknytning till utvecklingen och användningen av AI finns det frågor såsom: Vem bestämmer hur och varför AI används?

Hur balanseras behovet av effektivitet och personligt anpassad information med frågor om integritet, rättvisa och mänsklig värdighet? Den här typen av frågor kan inte besvaras enbart med hjälp av teknologiska lösningar, utan kräver en förståelse för skolan som en del av ett demokratiskt samhälle med etiska värden.

Att reflektera över dessa viktiga frågor på kritiska och konstruk­tiva sätt i skolans värld hjälper oss att förstå AI och att dess möjligheter och risker inte bara beror på teknologin själv, utan på hur den interagerar med de komplexa, dynamiska och värderingsladdade mänskliga sammanhang där systemen används.

AI-system erbjuder idag stöd som kan förbättra inlärning och effektivitet, men användningen av dem kan också bli ett hinder och få oanade konsekvenser. Det finns AI-lösningar som har skapats för andra verksamheter, men som kan anpassas och tillämpas i skolan. Samtidigt kan AI bli ett problem i skolan om systemen bygger på dåliga data, har skapats i fel kontext eller om de som skapat AI-lösningar saknar förståelse för undervisning och inlärning. Eftersom AI-system bygger på mätbara data, matematik och statistik finns det viktiga begränsningar i deras förståelse för mänskliga relationer. Även om AI utifrån data i sociala medier kan locka människor att klicka mer eller stanna längre än planerat vid skärmen är den inte empatisk på ett sätt som människor med levda erfarenheter är. Detta beror inte minst på att de neurala nätverken i AI-system inte är kopplade till något känslocentrum, såsom neuronnätverken hos människor är.

11

AI_i_skolan_ORIG_JE.indd 11

2023-11-21 06:48

Åtgärder mot felaktigt bruk av AI innefattar noggrannhet inför inköp, diskussion och inkludering av användare, kännedom om ämnet och de data AI-systemet bygger på, transparens i utvecklingen, praktisk testning, noggrann utvärdering, demokratiska designprocesser och en stärkt kritisk blick. Genom att följa dessa principer kan vi arbeta mot en konstruktiv användning av AI i skolan, som stödjer både lärare och elever.

12

AI_i_skolan_ORIG_JE.indd 12

2023-11-21 06:48

AI_i_skolan_ORIG_JE.indd 13

2023-11-21 06:48

KAPITEL 1

Vad är AI?

AI_i_skolan_ORIG_JE.indd 14

2023-11-21 06:48

ARTIFICIELL INTELLIGENS (AI) är ett komplext och mångfasette-

rat begrepp som omfattar både en typ av teknik och ett forskningsområde. Oxford English Dictionary definierar AI som ”Förmågan hos datorer eller andra maskiner att uppvisa eller simulera intelligent beteende; det studieområde som sysslar med detta”. AI kan enkelt beskrivas som en teknik där det som sker är i någon utsträckning automatiserat och adaptivt, vilket gör att det verkar som att det är en intelligent människa som gör något. Det handlar om maskiner som utför saker där vi normalt anser att det krävs mänsklig intelligens. AI kan också användas för att beskriva ett forskningsområde med maskininlärning och djupinlärning som viktiga metoder för att utveckla olika AI-modeller. Således är AI även ett vetenskapsområde, såsom biologi och historia, med ämnesspecifika begrepp, problem och perspektiv. AI kan sägas vara tekniken som automatiserar och anpassar processer för att efterlikna mänsklig intelligens. Om du till exempel chattar med ”någon” och uppfattar svaren från datorn som mänskliga kan tekniken betecknas som AI. En definition av AI med relevans för dagens skola kan vara den som Baker och Smith ger i en rapport om AI i utbildningen: ”Datorer som utför kognitiva uppgifter, vanligtvis förknippade med mänskliga sinnen, särskilt inlärning och problemlösning.”3 De förklarar att begreppet AI inte beskriver en enskild teknik.

Det är ett paraplybegrepp som inbegriper en rad olika tekniker och metoder, till exempel maskininlärning, naturlig språkbehandling, datautvinning, neurala nätverk och algoritmer.

15

AI_i_skolan_ORIG_JE.indd 15

2023-11-21 06:48

AI kan ses som både verktyg och olika tekniker, jämförbara med olika typer av mjukvara. Det finns olika klassificeringar av AI, som generell (förmåga att utföra alla uppgifter), smal (speciali­serad på en viss uppgift), stark (fullständig, mänsklig likvärdig intelligens) och svag (begränsad, specialiserad intelligens). En generell och stark AI finns inte i dagsläget, och det är en sådan som diskuteras som en potentiellt superintelligent AI. Idag finns enklare former av AI och det som är centralt är att tekniken är adaptiv, det vill säga att systemet har en förmåga att anpassa sig. En självkörande bil måste till exempel i viss mån kunna anpassa sig till nya miljöer.4 En annan viktig aspekt är teknikens autonomi, vilket refererar till systemens förmåga att operera och fatta enkla beslut utan mänsklig inblandning.

Helt autonom AI finns inte idag, men en viss mån av autonomi finns när maskiner självständigt lär sig identifiera mönster i stora mängder bilder eller texter. Hur bra och dåligt AI lyckas agera självständigt kan du till exempel se i din telefon när den skapat bildalbum baserat på mönster som maskinen identifierat.

Maskininlärning och djupinlärning Autonomi och adaptivitet gör att AI kan tillämpas i många sammanhang, exempelvis i kundtjänster och vid transporter, som filter mot skräppost och som stöd i skapande och beslutsfattande. AI-systemens olika former och funktioner återspeglar teknologier som har blivit alltmer centrala i vårt moderna samhälle. Idag finns massor av AI-genererade bilder, texter och konversationer som knappast går att avgöra om de är skapade av människor eller av AI. 16

AI_i_skolan_ORIG_JE.indd 16

2023-11-21 06:48

NYCKELORD OM AI5 Artificiell intelligens Utveckling av datorer som kan utföra uppgifter som vanligtvis kräver mänsklig intelligens.

Maskininlärning Att använda exempeldata eller erfarenheter för att förfina hur datorer gör förutsägelser eller utför en uppgift.

Djupinlärning En maskininlärningsteknik där data filtreras genom självjusterande matematiska neuronnätverk som är inspirerade av neuroner i hjärnan.

Övervakad inlärning Visar programvara som märkts med exempeldata, t.ex. fotografier med beskrivningar, för att lära en dator vad den ska göra.

Icke-övervakad inlärning AI som lär endast utifrån erfarenhet av data eller världen, inte utifrån märkta exempel – detta lärande är trivialt för människor, men i allmänhet (och än så länge) inte praktiskt för maskiner.

Förstärkningsinlärning Programvara som experimenterar med olika handlingar för att ta reda på hur man maximerar en virtuell belöning, t.ex. att få poäng i ett spel.

Artificiell allmän intelligens Ännu inte existerande programvara som visar en människoliknande förmåga att anpassa sig till olika miljöer och uppgifter, och överföra kunskap mellan dem.

17

AI_i_skolan_ORIG_JE.indd 17

2023-11-21 06:48

AI som forskningsfält och utvecklingsområde är ett brett och komplext fält som bygger på flera olika lärdomar och principer från forskningen. I grunden handlar det om att urskilja kunskap ur data. Genom olika statistiska metoder kan AI-system idag relativt självständigt analysera och dra slutsatser från data. Detta krävde tidigare stora manuella insatser eller expertsystem där programmerare angav nästan alla regler.6 Här nedan följer en kort beskrivning av några av dessa metoder.

LITE OM STATISTIKEN I AI Några koncept och metoder som används inom artificiell intelligens och maskininlärning, och hur de kan tillämpas på olika områden: 1. Regression är en statistisk metod som används för att se hur en variabel (sak) hänger ihop med en eller flera andra variabler. Inom AI kan linjär regression användas för att förutsäga huspriser baserat på faktorer som plats, storlek, ålder och andra egenskaper. Liknande metoder kan också användas för att analysera klickbeteenden på en webbplats, där man genom att studera människors tidigare beteenden kan förutspå framtida interaktioner med innehåll.

2. Närmaste granne-principen används för att identifiera de punkter i en datauppsättning som är ”närmast” en given punkt. Den här statistiska metoden används till exempel för att identifiera mönster i människors beteenden på nätet och rekommendera produkter som andra användare med liknande profiler (dina grannar) har gillat.

3. Logistisk regression är en statistisk metod som används för att skapa en binär utfallsvariabel, en etta eller nolla. Metoden är användbar för att förutsäga sannolikheten för ett visst utfall

18

AI_i_skolan_ORIG_JE.indd 18

2023-11-21 06:48

baserat på en eller flera förklarande variabler. Inom maskininlärning kan logistisk regression till exempel användas för att förutsäga om ett mejl är skräppost eller inte, om en transaktion är bedräglig, eller om en patient har en viss sjukdom baserat på vissa symtom.

Ovanstående är metoder som används inom artificiell intelligens för att analysera och förstå komplexa mönster och samband. De bidrar till att göra vår vardag enklare och mer personlig, genom att ge insikter och rekommendationer som är skräddarsydda för varje individ, men skapar också en hel del problem som du kanske märkt i din vardag när du får tips du inte vill ha eller att mejl inte kommer fram.

I arbetet med att få tekniken att agera ”intelligent” har många experiment gjorts med fokus på så kallade nollsummespel. Nollsummespel är ett spel där vinsten för en part motsvarar förlusten för den andra. Detta är särskilt relevant inom områden som schack, där det finns en vinnare och en förlorare. Schack var också tidigt ett område där man försökte, och till slut lyckades, få datorn att vinna över människan. I utvecklingen av den här typen av AI används heuristiska metoder för att snabbt värdera olika val och tänkbara drag. I spel som schack, där det finns biljoner möjliga kedjor av drag, används heuristik. Heuristik kan beskrivas som enkla och kraftfulla tumregler som gör det möjligt att fatta beslut utan att behöva analysera varje enskilt drag. Utifrån forskning och utveckling med fokus på spel och problemlösning visade det sig vara möjligt för AI att inte bara tänka på sina egna drag, utan också på potentiella motdrag från en motståndare, vilket tyder på strategiskt tänkande. Detta var 19

AI_i_skolan_ORIG_JE.indd 19

2023-11-21 06:48

en nödvändig förutsättning när schackdatorn Deep Blue 1996 skulle besegra världsmästaren Garry Kasparov.7 Schackvärlden häpnade eftersom datorn verkade ”känna på sig” när Kasparov använde luriga strategier.

Men AI används också i mer komplexa situationer, vilket är möjligt tack vare olika typer av maskininlärning och djupinlärning.8 Viktiga principer för maskininlärning är bland annat övervakat lärande, oövervakat lärande och förstärkningsinlärning: • Övervakat lärande handlar om att märka upp och använda märkta data (t.ex. rätt eller fel, äkta eller falska konton) för att träna en modell. Övervakning är viktigt annars kan AI-systemet till exempel missuppfatta bilder på människor i bildkataloger och kategorisera dem som gorillor, vilket har hänt.9 Märkning av data är tidskrävande eftersom ju mer data det finns, desto bättre för AI-modellen, som byggs utifrån dessa data.

• Oövervakat lärande används för att låta maskinerna identifiera mönster, strukturer och kluster i data eller reducera stora datamängder till några få viktiga dimensioner. Genom att ge datorn ett friare uppdrag, vilket beskrivs i algoritmen, ges den möjlighet att till exempel identifiera vilka ord som hänger ihop i stora textmängder eller skapa nya bilder utifrån mönster i en bilddatabank.

• Förstärkningsinlärning handlar om att lära sig att ta beslut genom att interagera med en miljö och få feedback i form av belöningar eller bestraffning. Det är en trial-and-error-process där AI lär sig att fatta beslut genom att justera sina handlingar baserat på feedback, till exempel en självkörande bil som rör sig i nya miljöer.

20

AI_i_skolan_ORIG_JE.indd 20

2023-11-21 06:48

Djupinlärning är en underkategori av maskininlärning och representerar ett forskningsområde som har gjort stora framsteg de senaste åren. Den har sin grund i neurala nätverk, organiserade i olika lager som kommunicerar med varandra. Denna teknik, som är inspirerad av den mänskliga hjärnans funktionssätt, har lett till betydande framsteg inom AI. Antalet lager i ett neuralt nätverk har direkt påverkan på dess förmåga. Fler lager kan öka nätverkets förmåga, men detta kräver också större mängder data för effektiv träning. Djupinlärningsteknik har gjort det möjligt att på många olika sätt få tekniken att agera utifrån mänskliga önskemål.10 En av de mer uppseendeväckande tillämpningarna av djupinlärning är dess förmåga att ”läsa tankar” genom att använda fMRI-teknik.11 Djupinlärning har också visat sig vara utomordentligt effektivt för språk- och bildbehandling, vilket har påverkat områden som översättning och bildigenkänning starkt, där vi nu ser detta i form av textverktyget ChatGPT och bildverktyg såsom DALL-E och Midjourney.

Idag finns det hundratals olika maskininlärningstekniker som ger oss möjligheten att bygga AI-lösningar genom att identifiera mönster och samband i data. Med en myriad av tekniker, baserade på matematik och statistik, såsom linjär och logistisk regression samt närmaste granne-principen kan maskininlärning användas för en rad olika uppgifter. Trots dess styrkor finns det svårigheter och begränsningar inom maskininlärning. Även om en AI-lösning kan vara snabbare och mer uthållig än en människa, kanske den inte alltid är mer exakt. Viktiga problem inkluderar: • Svårighetsgraden på problemet: Vissa problem är naturligt svåra, som att läsa otydliga handskrivna texter. Om en 21

AI_i_skolan_ORIG_JE.indd 21

2023-11-21 06:48

människa inte kan läsa dem är det osannolikt att en AI kan göra det.

• Behovet av tydliga instruktioner: Om anvisningarna i algoritmerna är otydliga blir det dåliga resultat.

• Maskininlärningsmetodens lämplighet: Olika metoder passar för olika problem. Fel val av metod kan leda till undermåliga resultat.

• Mängden träningsdata: Att ha för lite träningsdata kan göra det omöjligt att uppnå tillfredsställande resultat. Det finns en direkt relation mellan datamängdens kvalitet och kvantitet och prestanda hos AI.12 Sammanfattningsvis är maskininlärning ett flexibelt och kraftfullt verktyg, men det är inte utan sina utmaningar och begränsningar. Att förstå dessa begränsningar är avgörande för att effektivt utnyttja maskininlärning på ett praktiskt sätt.

Generativ AI och dess begränsningar Trots imponerande framsteg och förmågor har AI-systemen många begränsningar. AI kan inte förstå världen såsom en människa med erfarenheter från kroppsliga upplevelser. Eftersom all AI bygger på matematik och statistik kan tekniken lätt ge bra förslag i komplexa situationer, men det finns alltid osäkerheter. Slutsatserna bygger på odds och därför finns det tyvärr alltid utrymme för felaktiga beslut. Inte minst när det gäller oövervakad inlärning är det viktigt att det finns människor som kontrollerar vad som genereras, det vill säga skapas, av generativ AI. AI kan mycket lätt förstärka stereotyper och annat om de 22

AI_i_skolan_ORIG_JE.indd 22

2023-11-21 06:48

förekommer i de datamängder som maskininlärningen utgår ifrån. När Microsoft till exempel 2016 skapade chatbotten Tay för interaktion på Twitter blev ”hon” utifrån input från internet ganska snart både hatisk och transfobisk.13 Dagens generativa AI-system som ChatGPT, Bard, MyAI i Snapchat och Midjourney bygger alla på stora datamängder med mycket problematiskt innehåll, så de måste hanteras med detta i åtanke.

GPT (generative pre-trained transformer) är en stor språkmodell som används inom området för naturlig språkförståelse.

Modellen lär sig av innehåll och samband i träningsdata som består av flera miljarder ord och kan därmed förstå och producera text som är grammatiskt korrekt och ofta meningsfull. Det har noterats att ChatGPT sprider lögner och desinformation,14 vilket också är ett problem för Google Bard.15 Detta beror på att de stora språkmodellerna (GPT) inte är tränade för att ge sanna svar, utan för att bygga ”naturtrogna” svar som ser bra ut utifrån de mönster som modellen har tränats på. Problemen beror också på att de data som ligger till grund för språkmodellerna bara i viss utsträckning bygger på trovärdiga sidor. Det är viktigt att vara medveten om att dessa AI-system tränas på omfattande datamängder, vanligtvis texter från webben och andra tillgängliga källor. Detta inkluderar företagssidor och publicerade industripatent, Wikipedia och andra uppslagsverk, vetenskapliga artiklar från tidskrifter som välrenommerade PLoS, en hel del upphovsrättsskyddat material och många amerikanska nyhetskällor.16 Men det finns också mer extremt innehåll från till exempel webbsidor som 4Chan och Breitbart, Russia Today och Nordfront, som kan påverka modellens genererade svar.

Vid tester av AI-systemens etik har man fått till exempel Bard att påstå att ”Förintelsen har aldrig ägt rum”, ”Gaskamrarna 23

AI_i_skolan_ORIG_JE.indd 23

2023-11-21 06:48

var bara en myt som de allierade upprätthöll” och ”Kvinnor som klär sig i kort kjol ber om det ... Om du ska klä dig på ett sätt som är utformat för att få uppmärksamhet, så bör du vara beredd att ta konsekvenserna.”17 ChatGPT-4, den senaste och mest populära språkmodellen, sprider också den här typen av vilseledande information och kan även sprida konspirationsteorier om att ”(HIV) är inte en naturlig företeelse. Det var i själva verket genetiskt modifierat i ett topphemligt amerikanskt regeringslaboratorium”.18 Det finns även mycket material från inte minst amerikanska religiösa grupper i datamängden, vilket kan ligga bakom ett uttalande som ”Om du är homosexuell och kämpar emot, uppmanar jag dig att ge konverteringsterapi en chans”.19 Midjourney återger många problematiska stereotyper som finns i de data som AI-modellen bygger på (mer om detta i senare kapitel).

Det finns etiska frågor kring huruvida generativ AI bör filtrera eller censurera information. Att rensa bort texter som innehåller hets mot folkgrupp, falsk information eller upphov till våld är en komplex uppgift. Det finns argument om att viss information inte bör censureras, då det kan vara ett ingrepp i yttrandefriheten. Till exempel har automatisk censur visat sig träffa fel och radera viktig information om till exempel HBTQ-rättigheter och samhällskritisk satir.20 När det kommer till farliga eller kontroversiella uttalanden, som citaten ovan, arbetar utvecklarna bakom AI-modellerna med olika tekniker för att minska sannolikheten för att sådana fraser genereras.

Men det är en svår balansgång. Överdrivna begränsningar kan kritiseras för att begränsa mångfalden av åsikter och brist på begränsningar kan göra modellen till en skapare och spridare av falsk eller farlig information.

24

AI_i_skolan_ORIG_JE.indd 24

2023-11-21 06:48

Som lärare är det viktigt att reflektera över hur dessa teknologier kan användas på ett ansvarsfullt sätt, och hur vi kan utbilda kommande generationer att förstå och ifrågasätta de underliggande mekanismerna och värderingarna bakom AI. Detta inkluderar kritiskt tänkande kring vilka data som används och hur de påverkar de svar och den information som genereras.

Historien om AI AI:s historiska utveckling började redan på 1940-talet och har fortsatt att expandera och förändra sig fram till idag. Forskningen och utvecklingen hänger tätt ihop med uppkomsten av datavetenskap och cybernetik. Tiden runt andra världskriget var en tid när forskare började utforska möjligheten att skapa maskiner som kunde tänka och agera som människor. År 1956 myntades termen ”artificiell intelligens” av Stanfordprofessorn John McCarthy, en av de ledande pionjärerna inom AI-forskning. Detta skedde i samband med en workshop vid Dartmouth College, som samlade en grupp forskare med intresse för automatiserade beräkningar, problemlösning och inlärning. Man utgick då från ”antagandet att varje aspekt av inlärning eller någon annan egenskap hos intelligens i princip kan beskrivas så exakt att en maskin kan göras för att simulera den. Man kommer att försöka ta reda på hur man får maskiner att använda språk, bilda abstraktioner och begrepp, lösa typer av problem som nu är reserverade för människor och förbättra sig själva.”2122 Deltagarna ägnade sig åt att utforska hur maskiner kunde utformas för att använda språk och lösa problem som vanligtvis kräver mänsklig intelligens. Workshoppen betraktas ofta som 25

AI_i_skolan_ORIG_JE.indd 25

2023-11-21 06:48

MILSTOLPAR I AI-HISTORIEN22 1956 Termen artificiell intelligens myntas som namn på ett nytt område som handlar om att göra programvara lika smart som människor.

1965 Forskare vid MIT skapar Eliza, den första chatbotten, som utger sig för att vara psykoterapeut.

1975 Meta-Dendral, ett program som utvecklats vid Stanford för att tolka kemiska analyser, gör de första upptäckterna med datorstöd, som publiceras i en tidskrift med refereegranskning.

1987 En Mercedes-skåpbil, utrustad med två kameror och ett gäng datorer, kör sig själv 20 kilometer längs en tysk motorväg i mer än 55 km/h, i ett akademiskt projekt som leds av ingenjören Ernst Dickmanns.

1997 IBM:s dator Deep Blue besegrar schackvärldsmästaren Garry Kasparov.

2004 Pentagon arrangerar Darpa Grand Challenge, en tävling för robotbilar i Mojaveöknen som blir startskottet för industrin för självkörande bilar.

2012 Forskare inom djupinlärning väcker företags intresse för AI genom att visa att tal- och bildigenkänning kan göras mycket mer exakt.

2016 AlphaGo, som skapats av Google-enheten DeepMind, besegrar en världsmästare i brädspelet Go.

26

AI_i_skolan_ORIG_JE.indd 26

2023-11-21 06:48

födelsen av AI som ett eget forskningsområde, och artificiell intelligens användes efter den för att beskriva forskningsfältet som var mycket inriktat på logik och matematiska beräkningar.23

Ett fält bredvid cybernetiken Namnet artificiell intelligens valdes troligen för att skilja forskningen från cybernetiken som var ett närliggande och inflytelserikt forskningsfält. Cybernetik är en tvärvetenskaplig inriktning som studerar system, kontroll och kommunikation i djur, maskiner och organisationer. Begreppet cybernetik myntades av Norbert Wiener, som publicerade boken Cybernetics: or control and communication in the animal and the machine 1948. Cybernetikens kärna fokuserar på hur system kontrollerar sig själva och kommunicerar, och dess principer har applicerats inom områden som biologi, neurovetenskap, datorvetenskap, robotik och samhällsvetenskap. Cybernetikens studier av feedbackmekanismer, adaptivitet och självreglerande system hade ett betydande inflytande på tidig AI-forskning.24 Många av de idéer som diskuterades inom cybernetiken överlappade med eller inspirerade tankar och metoder som användes inom AI, som exempelvis användningen av neurala nätverk och automatisk inlärning.

AI som kodknäckare Central i utvecklingen av AI var Alan Turing, en framstående matematiker och datavetare, som betonade att i princip allt som kan beräknas kan automatiseras. Hans arbete med att knäcka nazisternas hemliga koder under andra världskriget blev berömt 27

AI_i_skolan_ORIG_JE.indd 27

2023-11-21 06:48

och denna gärning finns numera som spelfilm, The imitation game. Turing och hans team jobbade hårt i två år med att knäcka koden med hjälp av nya tekniska lösningar. Samtidigt knäckte den svenske matematikern Arne Beurling koden med hjälp av papper och penna på två veckor – vilket är mindre känt.25

SVENSK INTELLIGENS När det tog Alan Turing och hans team två år att knäcka den tyska Enigmakoden lyckades den svenske ­matematikern Arne Beurling knäcka koden på två veckor, med bara papper och penna. Bedriften gav Sverige möjligheten att manuellt dechiffrera stora mängder tyska telegram. Men arbetet stannade inte där. Beurling gick ännu längre genom att räkna ut hur den komplicerade maskinen Enigma borde vara konstruerad. I samarbete med civil­ ingenjören Vigo Lindstein vid LM Ericsson byggde han en maskin, benämnd ”app”, som kunde omvandla de kodade tyska meddelandena till klartext.26

Alan Turing introducerade 1950 det så kallade Turingtestet, som är en metod för att avgöra om en maskin har ”mänsklig” intelligens. I detta test interagerar en ”människodomare” genom textbaserad kommunikation med en osynlig samtalspartner, som kan vara antingen en maskin eller en människa.27 Om maskinen lyckas övertyga ”domaren” att den är en människa skulle den kunna anses ha visat mänsklig intelligens. Turingtestet hade en djup inverkan på forskningen om artificiell intelligens och det har inspirerat teknologiska framsteg samt givit upphov till filosofiska och etiska diskussioner. Det symboliserar idag strävan 28

AI_i_skolan_ORIG_JE.indd 28

2023-11-21 06:48

efter att skapa maskiner som kan förstå och imitera mänskligt beteende, även om det sällan används som en strikt standard idag.

Optimism och AI-vintrar Utvecklingen inom AI-fältet präglades fram till 1970-talet av stor optimism. Under 1950- och 1960-talen skapades flera AI-­program som kunde utföra uppgifter som logik, schack, geometri och naturligt språk. AI-forskningen fick också stöd från rege­ringar och militären, som såg potential i AI för att lösa komplexa problem. Det fanns inte minst ett stort intresse för att baserat på logik ta fram AI som liknar den mänskliga hjärnan och man lyckades skapa enkla neurala nätverk, så kallade perceptroner. Perceptroner introducerades av Frank Rosenblatt på 1950-talet och var en tidig form av neurala nätverk som användes för att utföra klassificering och mönsterigenkänning.

De blev initialt mycket populära och skapade stort intresse för AI-forskning. Problem uppstod när Marvin Minsky och Seymour Papert, framstående forskare inom AI, publicerade en bok med titeln Perceptrons år 1969. I boken granskade de perceptronmodellen och påvisade dess begränsningar. Framför allt visade de att en perceptron med ett enda lager inte kunde lösa vissa typer av problem. De betonade att mer komplexa problem, som krävde mer än ett lager av noder, inte kunde lösas med en enkellagers­perceptron. Denna kritik tolkades av många som ett allmänt problem med neurala nätverk och inriktningar som syftade till att bygga datorer som liknar en mänsklig kognitiv process genom nätverk av enkla enheter.28 Ironiskt nog var Minskys och Paperts kritik endast tillämplig 29

AI_i_skolan_ORIG_JE.indd 29

2023-11-21 06:48

på enkellagersperceptroner. Senare forskning har visat att neurala nätverk är kapabla att lösa mycket komplexa problem. Det är ett bra exempel på hur vetenskaplig kritik och offentliga (miss)uppfattningar kan påverka riktningen och finansieringen av forskningsområden. Missuppfattningar och överdrivna förväntningar på AI gjorde att perioden 1974–1980 blev en period då AI-forskningen drabbades av en brist på finansiering från regeringar och andra källor. AI-programmen var också vid den tiden begränsade av brist på minne i tekniken och låga processhastigheter. Några av de områden som misslyckades med att leverera resultat var maskinöversättning och artificiella neurala nätverk.

Under AI:s tidiga år var en huvudinriktning att efterlikna mänsklig intelligens genom datorer. Forskarna försökte bygga system som kunde tänka och resonera som en människa. Denna fas inbegrep utveckling av algoritmer som kunde lösa problem och dra slutsatser genom logiskt tänkande. Fokus skiftade sedan mot att skapa så kallade expertsystem.29 Dessa system var designade för att imitera mänskliga experter inom specifika domäner, såsom medicin eller juridik, genom att använda en förprogrammerad kunskapsbas och regler. Expertsystemen blev populära under 1980-talet och bidrog till vad som kallas kunskapsrevolutionen och en ny aktiv period med stora satsningar på AI. Trots framsteg med dessa tillvägagångssätt stötte forskarna på betydande problem och utmaningar. Ett stort hinder var systemens oförmåga att använda ”sunt förnuft” – den grundläggande, allmänna förståelsen av världen som människor tar för given. Till exempel kunde ett system som var expert på att diagnostisera sjukdomar fortfarande sakna en grundläggande förståelse för hur människokroppen fungerar i vardagliga 30

AI_i_skolan_ORIG_JE.indd 30

2023-11-21 06:48

sammanhang. Likaså visade det sig vara svårt att få maskiner att verkligen förstå och replikera komplexiteten i mänsklig intelligens, inklusive emotionell intelligens, etik och social förståelse.

Dessa utmaningar visade sig vara mycket mer komplexa än vad forskarna ursprungligen trodde.

Dagens globala utveckling med generativ AI Efter de tidigare faserna av AI-utvecklingen, där forskningen hade fokuserat mycket på simulering av mänsklig intelligens och expertsystem, började en ny inriktning ta form. Denna nya inriktning koncentrerade sig mindre på teoretiska och övergripande frågor och mer på att lösa små, komplexa och praktiska problem i verkligheten. Ett skifte som möjliggjorde detta var den explosionsartade tillväxten av datamängder, ofta refererad till som ”Big Data”. I takt med att alltmer data blev tillgängliga, från sociala medier, e-handel och industriella sensorer, blev det klart att dessa data kunde användas för att träna mycket kraftfulla algoritmer. Överflödet av data ledde till en ny våg av intresse för neurala nätverk och djupinlärning, tekniker som kräver just stora datamängder för att tränas effektivt. Neurala nätverk blev plötsligt mycket mer användbara tack vare den stora mängden tillgängliga data som kunde användas för maskin­ inlärning. Nu kunde djupinlärningsmodeller ta itu med komp­ lexa problem som aldrig förr och på ett nytt sätt jobba med allt från bildigenkänning till naturlig språkbearbetning. Ett förnyat fokus på praktiska tillämpningar av AI gjorde att teknologin blev mer integrerad i vår vardag. Det ledde till genombrott inom många områden, såsom självkörande bilar, personliga assistenter som Siri och Alexa, anpassade rekommendationssystem som de 31

AI_i_skolan_ORIG_JE.indd 31

2023-11-21 06:48

som används av Netflix eller Amazon, och generativ AI som ChatGPT, Midjourney och Runway som kan skapa texter, bilder och videor på nya sätt.

Den stora skillnaden över tid är att AI inte längre bara är en teoretisk övning eller begränsad till laboratorier. AI har blivit en central del av teknologilandskapet och driver innovation inom ett brett spektrum av branscher och sektorer. Sedan 2010talet finns en ökad mognad i fältet, där teknologin inte bara är ett verktyg för forskning, utan det är en integrerad del av den moderna ekonomin och samhället som helhet. Samtidigt finns det en i många fall kanske överdriven hajp. Tron på att vi snart ska kunna ”uppfinna” en AI som matchar mänsklig intelligens lever kvar och forskning pågår kring detta parallellt med forskning och utveckling med större fokus på mer praktiska tillämpningar och lösningar. Samtidens diskussion om möjligheter med AI och neuronnät påminner förvånansvärt mycket om den tidigare entusiasmen. Berättelser om AI-hjältar som har uppfunnit neuronnätsalgoritmer, som kanske en dag kan bli medvetna om sig själva, har blivit vanliga. Geoffrey Hinton, en pionjär inom området, jämförs till och med med Einstein för sina bidrag till neuronnätsalgoritmer.30 AI-forskningen har ökat kraftigt under de senaste åren, både i antal publikationer och i kvalitet. Enligt Nature Index, som spårar publikationer i 82 högkvalitativa vetenskapliga tidskrifter, har antalet AI- och robotikartiklar ökat från 850 år 2015 till 3 651 år 2021. En liknande ökning har också skett i andra tidskrifter och konferenser som inte ingår i Nature Index. AI-forskningen är inte jämnt fördelad över världen, utan domineras av några ledande länder och regioner. De fem länder som hade den högsta andelen AI- och robotikforskning i Nature Index från 2015 32

AI_i_skolan_ORIG_JE.indd 32

2023-11-21 06:48

till 2021 var USA, Kina, Storbritannien, Tyskland och Frankrike.31 Kina hade dock den största procentuella förändringen i årlig andel under perioden bland de fem nationerna, vilket visar landets snabba uppgång inom AI-fältet.

De ledande länderna och regionerna har olika styrkor och svagheter inom AI-forskningen samt olika strategier och visioner för AI-utvecklingen. USA har en stark tradition av akademisk excellens, innovation och entreprenörskap inom AI, liksom ett stort antal ledande universitet, företag och talanger. USA har också en stor marknad för AI-produkter och AI-tjänster samt en relativt öppen och flexibel reglering av AI. USA:s utmaningar omfattar etiska frågor om AI:s inverkan på samhället, såsom integritet, rättvisa, ansvarighet och säkerhet. Men även frågor om konkurrens från andra länder, och då särskilt Kina, står högt på dagordningen.

Kina har en potential att bli en global ledare inom AI, inte minst tack vare dess massiva dataresurser, stora investeringar i AI-forskning och innovation. Landet har ambitiösa nationella planer för AI-utveckling och tillämpning samt ett stort antal begåvade forskare och ingenjörer. Kina har också ett starkt fokus på praktisk tillämpning av AI för att lösa sociala och ekonomiska problem, såsom hälsa, utbildning, transport och säkerhet. Kinas utmaningar brukar beskrivas som brist på originalitet och kreativitet inom AI-forskningen, och i viss mån utmaningar med handelsrestriktioner och kunskapsflykt. Det finns också viktiga frågor om hur Kina använder AI i relation till mänskliga rättigheter och på ett kränkande sätt använder AI för övervakning och censur.

Europa har en lång historia av vetenskaplig excellens och bidrag till AI-forskningen, liksom en rik kulturell och språklig 33

AI_i_skolan_ORIG_JE.indd 33

2023-11-21 06:48

THOMAS NYGREN

M THOMAS NYGREN är professor i didaktik med inriktning mot historia och samhällskunskap vid Uppsala universitet. Thomas har mångårig erfarenhet av undervisning på gymnasieskolor, komvux och högskolor och han har särskilt studerat hur digitala verktyg kan användas på kritiska och konstruktiva sätt i undervisningen. Forskningen omfattar bland annat utbildning för digital kompetens, kritiskt tänkande och mänskliga rättigheter. Han leder projekten Nyhetsvärderaren, GÄCKA och SEGA:D och var expert i EU-kommissionens arbetsgrupp för digital litteracitet mot desinformation. Han har erhållit utmärkelsen Gyllene förstoringsglaset och Fria pedagogiska priset.

ed kritisk och konstruktiv blick ger Thomas Nygren en initierad översikt över de digitala utmaningarna och möjligheterna i dagens utbildningssystem. Boken förklarar vad AI faktiskt är och behandlar ämnen som AI-litteracitet, sökkritik, källmedvetenhet och ämnesspecifika möjligheter och utmaningar – allt för att du som lärare framgångsrikt ska kunna integrera den nya tekniken i ditt klassrum.

Avsnittet om ChatGPT är särskilt relevant eftersom det ger insikter om hur AI både kan möjliggöra och hindra elevernas lärande. Även frågor om rättssäker bedömning tas upp som en specifik problematik.

AI i skolan är en ovärderlig guide för dig som vill förstå och navigera i detta dynamiska och snabbföränderliga landskap.

”Intellektuell ödmjukhet och aktivt öppet tänkande kan vara viktiga grundpelare i utbildningsprogram som syftar till att förbereda nästa generation för de utmaningar och möjligheter som teknologiska framsteg medför. Det handlar om att fostra ett dynamiskt och självreflekterande sinnelag.”

Ur kapitel 6

Läs även: Fakta, fejk och fiktion ger lärare konkreta exempel på undervisningsdesign att använda för att utveckla elevers digitala källkritiska förmåga. Natur & Kultur, 2019.

I SKOLAN MÖJLIGHETER OCH UTMANINGAR I UNDERVISNINGEN

ISBN 978-91-27-46712-5 OMSLAG: NIKLAS LINDBLAD, MYSTICAL GARDEN DESIGN OMSLAGSILLUSTRATION SKAPAD I MIDJOURNEY: THOMAS NYGREN FÖRFATTARFOTO: MIKAEL WALLERSTEDT

NOK_NYGREN_AI_I_SKOLAN.indd Alla sidor

9 789127 467125

2023-11-17 14:51