HANNU TOIVONEN
& LINDA MANNILA

& LINDA MANNILA
Förord – Hannu Toivonen
Artificiell intelligens , eller AI, finns överallt omkring oss, men vad är det egentligen? Vad bygger det på? Hur påverkar det oss? Kan AI motverka diskriminering? Kan AI fatta bättre beslut än människan? Kan ett datorprogram vara intelligent, kreativt eller medvetet?
I den här boken besvarar jag hundra frågor om AI. Frågorna behandlar många olika ämnen: hur AI fungerar, dess konsekvenser, begränsningar, möjligheter och risker.
I mina svar har jag strävat efter att hellre vara tydlig och koncis än uttömmande och allomfattande. Jag försöker presentera det mest väsentliga och undvika detaljer. Min förhoppning är att boken ska vara lättfattlig och ge dig som läsare aha-upplevelser.
Svaren är självständiga texter, så du kan läsa dem i vilken ordning som helst – ett eller flera åt gången. Själv tänker jag på boken som en mosaik eller ett collage, där helhetsbilden bygger på många olika bitar – precis som artificiell intelligens består av många olika delar och perspektiv. Du kan skapa bilden själv.
Efter varje svar finns tips på andra frågor som behandlar samma ämne, eller kanske väljer du att öppna en sida slumpmässigt! I slutet av boken finns fördjupande källor till en del svar.
Ett stort tack till min kollega Linda, som översatte boken till svenska och samtidigt förbättrade flera svar! I samband med detta uppdaterade vi också texterna så att de är aktuella.
Läsglädje!
Hannu Toivonen
När min kollega Hannu Toivonen frågade om jag ville göra en svensk version av hans bok Vad är AI? behövde jag inte fundera länge. Jag hade själv haft tankar på att skriva en bok som på ett lättillgängligt och allmänbildande sätt öppnar upp AI för en bred publik. Hannus fråga kom därför vid precis rätt tidpunkt. AI påverkar oss och förändrar vår värld. Precis som med all teknologi kan AI användas för både gott och ont – ibland medvetet, ibland omedvetet. Den bästa försäkringen mot manipulation, bedrägerier och felaktiga beslut är kunskap. Inte expertkunskap, men en grundläggande insyn i vad AI är, var AI finns och hur AI fungerar. Den kunskapen hjälper oss att se bakom det som vid första anblick kan tyckas vara automatiskt eller till och med magiskt. Den gör det möjligt att kritiskt granska och förhålla sig till AI, följa med nyheterna och delta i AI-relaterade diskussioner.
Samtidigt som en stor del av diskussionen kring AI handlar om risker är det viktigt att komma ihåg AI:s potential att lösa stora och komplexa samhällsproblem. Även om vi i vardagen kanske främst möter AI i form av chattbottar och rekommendationssystem, används tekniken för att utveckla nya läkemedel, förutspå naturkatastrofer och hitta lösningar på klimatförändringarna.
Grundläggande AI-kompetens, eller AI-litteracitet, är såklart ingen garanti för att AI-system alltid och enbart kommer att ha
en positiv inverkan. Men med kunskap kan vi bättre förstå vad som hänt och varför, vilket gör det enklare att hantera situationen och förebygga framtida problem. Den här boken ger en grund för att både förstå riskerna och utforska möjligheterna med AI.
Jag hoppas att den svenska versionen kan hjälpa dig att se
AI som en mosaik, så som Hannu beskriver det. En bild som du själv kan lägga bit för bit, där varje fråga och svar öppnar upp nya perspektiv.
För mig innebär AI-utvecklingen att jag behöver vara kritiskt nyfiken. Vad innebär den för dig?
Linda Mannila
0. Vad är AI?
1. Var kan man pröva på AI?
2. Är AI intelligent?
3. Är AI svårt?
4. Använder robotar AI?
5. Har AI ett kön?
6. Vem äger AI?
7. Kan AI förutsäga framtiden?
8. Vad karaktäriserar god AI?
9. Vem uppfann AI?
10. Vad är AI?
11. Vad bygger AI på?
12. Hur fungerar ett schackprogram?
13. Hur lär AI sig köra bil?
14. Hur fungerar algoritmerna på sociala medier?
15. Varför får jag onlinereklam om en kaffebryggare som jag just köpte?
16. Vad innebär symbolisk AI?
17. Vad är ett beslutsträd?
18. Om AI fick tillgång till all information, skulle den då kunna göra vad som helst?
19. Vilken uppgift kan vi utföra, som AI aldrig kommer att klara av?
20. Vad är AI?
21. Är AI till någon nytta?
22. Kan AI användas för att utveckla läkemedel?
23. Varför framställs AI som ett hot i filmer och romaner?
24. Borde jag vara orolig?
25. Har AI gjort misstag?
26 . Kan maskininlärning eliminera diskriminering?
27. Kan AI fungera som en konstnär?
28. Vilka yrken påverkas inte av AI?
29. Hur kan jag veta att jag själv inte är ett AI-program?
30. Vad är AI?
31. Vad är maskininlärning?
32. Är AI samma sak som maskininlärning eller neuronnät?
33. Vad är träningsdata?
34. Vad är förstärkningsinlärning?
35. Vad är neuronnät?
36. Hur mäter man noggrannheten hos en maskininlärningsmodell?
37. Kan vi människor lära oss med maskininlärning?
38. Vad är datavetenskap?
39. Vilka värderingar har AI-forskare?
40. Vad är AI?
41. Hur producerar AI text?
42. Vad är en språkmodell?
43. Borde jag lära mig programmera?
44. Hur kan AI förstå tal?
45. Kan AI utveckla sig själv?
46. Kan AI lära sig allt som man kan samla data om – som mitt jobb?
47. Vad strävar AI efter?
48. Hur fattar AI beslut?
49. Hur stor makt har AI?
50. Vad är AI?
51. Borde man skratta eller gråta?
52. Kommer AI att förorsaka en ny industriell revolution?
53. Kan AI ta över världen?
54 . Kan maskininlärning lösa allt?
55. Varför gör AI fel?
56. Hur förändras undervisningen när AI kan svara på provuppgifterna?
57. Hur kan generativ AI veta vad den ska generera?
58. När tar AI en universitetsexamen?
59. Kan man tala om AI i plural?
60. Vad är AI?
61. Vad anser människor om AI?
62. En hur gammal människa motsvarar dagens AI?
63. Varför omges AI av mystik?
64. Skulle AI vara en bättre beslutsfattare än människan?
65. Är AI neutral?
66. Är inte bildgenerering en rätt harmlös tillämpning?
67. Vad betyder öppenhet i samband med AI?
68. Vilken AI-kompetens borde medborgarna ha?
69. Har AI skrivit den här boken?
70. Vad är AI?
71. Kan ett datorprogram vara mer intelligent än dess programmerare?
72. Vad är intelligens?
73. Turingtestet vadå?
74. Varför är språk svårt för AI?
75. Vad är generell AI?
76. Har AI känslor?
77. Kan AI vara kreativ?
78. Finns det medveten AI?
79. Kan AI ha ett medvetande?
80. Vad är AI?
81. Vem bär ansvaret om en AI-kontrollerad bil är med i en kollision?
82. Är AI ett hot mot vår integritet?
83. Borde AI-programmens säkerhet besiktas på samma sätt som för bilar?
84. Hur kan AI skilja rätt från fel?
85. Borde robotar ha rättigheter och ansvar?
86. Vad innebär transparens i relation till AI?
87. Hur kan man veta hur ett AI-system fungerar?
88. Har AI-jättarna mycket makt?
89. Hur mycket energi förbrukar AI?
90. Vad är AI?
91. Vad kommer att hända härnäst inom AI?
92. När blir automatiska översättningar felfria?
93. Vad händer med kreativiteten om vem som helst kan vara kreativ med hjälp av AI?
94. Påverkar AI vår intelligens?
95. Hur klarar sig Europa i AI-kapplöpningen?
96. Kommer AI att ta våra jobb?
97. Kan jag leva utan att använda AI?
98. Bör man vara rädd för AI?
99. När blir den här boken föråldrad?
100. Vad är AI?
KÄLLOR s. 213–222
SVAR:
En metafor. ”Artificiell intelligens” eller det som vi vanligen kort och gott talar om som ”AI” är en metafor, som likställer det som datorprogram gör med intelligent mänsklig verksamhet. Men AI handlar egentligen inte om intelligens i sig, utan om något som påminner om det vi uppfattar som intelligens.
När vi pratar om AI är det lätt att falla in i metaforer. När vi säger att ett AI-system ”förstår” vad användaren säger, ”fattar beslutet” att inte godkänna ett lån eller ”lär sig” känna igen objekt i en bild, menar vi inte att det förstår, fattar beslut eller lär sig på samma sätt som vi människor gör. Genom metaforer kan vi dock på ett enkelt sätt förklara något komplext. Dessutom saknar vi exakta termer och begrepp för att beskriva maskiners eller datorprograms särskilda form av ”intelligens”.
Metaforer är både kontextbundna och öppna för tolkning. Vad menar vi egentligen när vi säger att ett datorprogram är intelligent, och hur förstår andra det? Tänker vi på dess för-
måga att dra komplexa slutsatser? Att observera sin omgivning?
Anpassa sig till situationen? Lära sig av tidigare erfarenheter?
Eller att planera sin verksamhet på förhand?
Även om metaforer kan vara användbara kan de också ge upphov till missförstånd. För att undvika förvirring kring vad datorprogram faktiskt klarar av är det ofta bättre att tala i konkreta termer. Att använda metaforer som antyder mänskliga aktiviteter, som att ”förstå”, ”fatta beslut” och ”lära sig”, kan skapa en bild av att datorprogram agerar självständigt och medvetet. Det gör de inte.
En varning : varje gång någon säger att ett datorprogram gör något som en människa gör, är det säkrast att tolka det som en metafor. Även i den här boken.
SE ÄVEN:
62. En hur gammal människa motsvarar dagens AI?
63. Varför omges AI av mystik?
72. Vad är intelligens?
SVAR:
Var som helst.
AI finns inbyggt i mängder av olika program och system, för att göra dem så användbara och smidiga som möjligt.
När du tar en selfie med din smartphone fokuserar kameran på ditt ansikte och justerar bildens färger och ljus – allt med hjälp av AI. De filter du kan använda efteråt använder också AI. När du lägger upp bilden på sociala medier komprimeras den till ett mindre format med AI, som också ser till att bilden skickas vidare till rätt server. Sociala medier-tjänsten använder sedan AI för att avgöra vem som ska få se din bild, när och i vilken kontext.
När du söker billiga flygbiljetter online använder sökmotorerna AI för att välja ut de bästa alternativen. Flygbolaget använder AI för att bestämma biljettpriserna på webben och för att optimera flygrutter och tidtabeller. Och när du fortsätter surfa får du se riktade annonser, noggrant utvalda just för dig – med hjälp av AI.
Dagens AI-lösningar är ofta osynliga. AI-metoder fungerar som verktyg som används för att bygga en del av ett program här
och en annan del där. När vi talar om AI fokuserar vi vanligtvis inte på själva verktyget utan på slutprodukten eller tjänsten som det används i.
AI får oftast uppmärksamhet när det möjliggör något nytt. När schackprogrammet Deep Blue besegrade världsmästaren i schack var det en banbrytande händelse. Samma sak gällde det första fotoprogrammet som kunde känna igen personer på bilder, den första mobilen som lydde röstkommandon och den första språkmodellen som kunde diskutera som en människa.
Men sådana händelser förlorar rätt snabbt sitt nyhetsvärde och därför kan AI uppfattas som det som programmen nätt och jämnt klarar av eller inte klarar av – än.
SE ÄVEN:
59. Kan man tala om AI i plural?
61. Vad anser människor om AI?
97. Kan jag leva utan att använda AI?
SVAR:
Det är bättre att fråga för vilka uppgifter ett visst datorprogram kan fatta ändamålsenliga beslut.
Att fastna i detaljer kring vad som egentligen utgör (artificiell) intelligens är inte meningsfullt, särskilt när vi inte ens har en gemensam definition av vad intelligens är. Det är mer fruktbart att tala om hur väl olika program kan agera ändamålsenligt i olika situationer. På så sätt kan vi förklara varför program A fungerar bättre än program B, utan att först behöva definiera intelligens.
Genom att fokusera på konkreta uppgifter kan vi också jämföra AI med mänskliga förmågor. Till exempel: Vem är bättre på att översätta språk – en språkmodell eller en människa? En människa kan fånga nyanser och underliggande betydelser i texten bättre, förutsatt att personen har en god förståelse för språken, kulturen och ämnet. Å andra sidan kan ett bra översättningsprogram arbeta betydligt snabbare och översätta mellan dussintals, om inte hundratals, språk samtidigt. Vem som är bäst är inte entydigt utan beror på uppgiften och vilka kriterier som anses vara viktigast.
Datorprogram är bra på att komma ihåg, identifiera och
återge information. De kan göra logiska resonemang, dra slutsatser baserade på sannolikheter och analysera stora mängder data för att optimera eller lösa problem på sätt som överträffar mänsklig förmåga. Även automatisk översättning bygger på dessa grundläggande förmågor.
Problemet är att datorprogram saknar sunt förnuft, livserfarenhet, sociala relationer och förmåga att se helheten. De har ofta svårt att avgöra vad som är viktigt eller relevant i en viss situation. Det gör det svårt för AI att agera som en människa.
Ett datorprogram kan vara bättre på specifika uppgifter, men det har svårt att förstå vilken uppgift som bör prioriteras, vad som ska göras om något går fel, eller hur det ska anpassa sig till förändrade omständigheter.
SE ÄVEN:
55. Varför gör AI fel?
75. Vad är generell AI?
94. Påverkar AI vår intelligens?
SVAR:
Ja.
AI är svårt eftersom intelligens inte enkelt kan brytas ner i tydliga delar eller processer. Vi har i alla fall ännu ingen aning om hur det skulle kunna göras.
AI-utveckling sker inom olika områden som fokuserar på att lösa specifika typer av problem, till exempel i form av automatiska resonemang, datorseende, språkgenerering och maskininlärning. Årtionden av forskning har gett resultat, men de tekniska lösningarna är ofta lika komplexa som problemen de försöker hantera.
Samtidigt kan AI verka enkelt eftersom de komplexa tekniska lösningarna ofta göms bakom lättillgängliga och användbara gränssnitt. Detta kan ge användarna, och ibland till och med utvecklarna, en illusion av att de skulle ha fullständig kontroll över systemen.
AI framstår också ofta som enkelt, eftersom diskussionen främst kretsar kring de tekniska funktionerna i AI-baserade program. De större samhälleliga och etiska frågorna får däremot inte alltid lika mycket uppmärksamhet. Det kan vara tekniskt krävande att skapa fotorealistiska bilder med AI, men de etiska
utmaningarna – såsom frågor kring upphovsrätt och risken att bilderna används för förtal, utpressning eller bedrägeri – är ofta ännu svårare att hantera.
SE ÄVEN:
31. Vad är maskininlärning?
43. Borde jag lära mig programmera?
49. Hur stor makt har AI?
SVAR:
AI används i robotar, men robotarna i sig använder inte aktivt AI.
När robotar utvecklas används AI för flera olika uppgifter, bland annat för att de ska kunna uppfatta omgivningen (datorseende, bild- och taligenkänning), bearbeta insamlade data (datautvinning, logisk slutledning och statistiska analyser), fatta beslut om nästa steg (planering) och kommunicera med människor (textgenerering och talsyntes).
För att styra en fysisk robot krävs dessutom AI som är specialiserad på robotik och mekanik. Ett klassiskt exempel är utmaningen att plocka upp ett ägg utan att krossa det. Det är en enkel uppgift för oss, men förvånansvärt svår för en robot. Roboten måste mäta ”fingerspetsarnas” kraft, uppskatta äggets vikt och analysera friktionen mellan fingrarna och ägget, samtidigt som den justerar sitt grepp för att inte krossa det. Detta är dessutom en relativt enkel uppgift jämfört med att försöka få en robot att gå på två ben, vilket innebär en ännu mer komplex balansakt.
Robotik är ett bra exempel på hur tre aspekter av AI kommer till uttryck:
För det första visar robotik hur många uppgifter som är enkla för människan kan vara svåra för maskiner. Att se eller hålla balansen när man går är exempel på vardagliga aktiviteter som kräver tekniskt komplexa AI-lösningar för att utföras på ett effektivt sätt.
För det andra bygger AI-lösningarnas funktionalitet sällan på att man försöker få dem att efterlikna människans förmågor. Datorseende använder exempelvis kameror, ljuskänsliga linser och digital signalbehandling, snarare än att försöka imitera ögats näthinna och synnerven. Likaså är det mycket enklare för en robot att förflytta sig med hjälp av hjul än att gå på två ben.
För det tredje är det programmerare och systemutvecklare som implementerar AI i robotar, inte systemen själva. En robot fattar inte självständiga beslut om när och hur den ska använda AI, utan den agerar utifrån de instruktioner och programmerade regler som utvecklarna har fastställt.
SE ÄVEN:
13. Hur lär AI sig köra bil?
48. Hur fattar AI beslut?
85. Borde robotar ha rättigheter och ansvar?
SVAR:
Ja, och hudfärg också. AI är en vit man.
Ett datorprogram har självklart varken kön eller hudfärg i biologisk eller fysisk bemärkelse. Men kulturellt kan programmen spegla sina utvecklare och de data de tränats med. Eftersom vita män dominerar både AI-utvecklingen och datamängderna som används för träning, tenderar AI-baserade program att reflektera deras världsbild och erfarenheter. Det här fenomenet är inte unikt för AI. Till exempel löper kvinnor 73 procent större risk att skadas allvarligt i bilolyckor, eftersom krockdockor oftast designas utifrån manliga proportioner. Program som använder maskininlärning får sitt ”kön” från den data de tränas med. Om till exempel kvinnors löner är lägre än mäns i träningsdata, kan AI föreslå lägre lön eller mer lågavlönade jobb till kvinnor, enbart baserat på kön. Språkmodeller som genererar text kan också lära sig diskriminerande språkbruk om de tränas på material från forum där sådant förekommer.
I värsta fall kan maskininlärning förstärka stereotyper och könsroller. Ett exempel är att en bildsökning på Google med ordet ”professor” visade 95 procent bilder på män, trots att en av tre professorer i Sverige faktiskt är kvinnor.
I bästa fall kan AI dock avslöja och aktivt motverka dessa
snedvridningar (bias på engelska) i träningsdata. Ett exempel är Google Translate, som i många fall ger flera översättningsalternativ för könsneutrala meningar. Finskan, likt andra finsk-ugriska språk, har endast ett könsneutralt personligt pronomen, ”hän”. Numera erbjuder Google Translate både ”She is a professor” och ”He is a professor” som översättningar för ”Hän on professori” – och dessutom i den ordningen. På svenska verkar tjänsten dock ännu vara fast i stereotyperna, när resultatet är endast ”Han är professor”.
SE ÄVEN:
36. Hur mäter man noggrannheten hos en maskininlärningsmodell?
51. Borde man skratta eller gråta?
65. Är AI neutral?
SVAR:
Teknologijättar och stater.
AI som fenomen ägs inte av någon, men de mest betydande AI-systemen kontrolleras av stora teknologiföretag och stater som har resurserna och incitamenten att utveckla och använda dem.
Utvecklingen av stora AI-program som bygger på maskininlärning kräver enorma mängder data, kompetens, datorkraft och energi. Drivkrafterna bakom denna utveckling är ofta kommersiella där målet är att systemet ska generera vinst, eller baserade på ”nationell säkerhet”, vilket kan innebära övervakning av både egna och utländska medborgare, samt militära tillämpningar.
Många stora AI-system bygger på data, både som träningsmaterial för maskininlärning och som tillämpningsområde. Sociala medier som Facebook, Instagram, X (tidigare Twitter) och Youtube är exempel på kommersiella tillämpningar: de använder både innehåll som användarna skapar och data om deras beteende för att göra sina tjänster mer beroendeframkallande. Exempel på hur AI används för nationell säkerhet finns i Kina, där insamlad information om medborgarna nyttjas för att övervaka och kontrollera deras beteende.
Det är lätt att inse att AI-utvecklingen kan sätta rättvisan
i samhället på prov. För det första är vissa AI-tillämpningar tveksamma när det gäller värdegrund och moral. För det andra leder de enorma resurser som AI kräver och den stora mängd data som samlas in till att vinsterna och fördelarna koncentreras till ett fåtal aktörer.
Europeiska unionen (EU) har, såvitt vi vet, inga ambitioner att använda AI för att utöka sin makt. Men det finns en oro inom EU kring den makt som amerikanska och kinesiska AI-tjänster kan få över européer. Vilken information samlas in om europeiska användare med hjälp av AI, och hur kan den användas för att påverka deras attityder och syn på världen?
Detta är viktiga frågor som EU strävar efter att hantera, särskilt när det gäller dataskydd och integritet.
SE ÄVEN:
49. Hur stor makt har AI?
89. Hur mycket energi förbrukar AI?
95. Hur klarar sig Europa i AI-kapplöpningen?
SVAR:
Sådant som vi redan kunnat förutse.
”Solen går upp i morgon.” Den slutsatsen skulle ett datorprogram kunna dra efter att ha lagt märke till att solen gått upp varje morgon hittills. Det är en bra – men också ganska självklar – förutsägelse. Att förutsäga något oväntat eller helt nytt är däremot mycket svårare.
Inom maskininlärning talar man ofta om ”förutsägelser”, men det handlar inte om att se framtiden, utan om att göra gissningar eller dra slutsatser baserat på tidigare data. De slutsatser som en AI-lösning kommer fram till behöver inte ha något med framtiden att göra. Ett kreditkortsföretags AI-program kan till exempel baserat på en kunds köpmönster ”förutspå” om kortuppgifterna har blivit stulna och kortet borde spärras.
Eftersom maskininlärning bygger på generaliseringar utifrån träningsdata, är AI bäst på att ”förutspå” sådant som liknar vad den redan sett. Nya eller ovanliga situationer är mycket svårare att hantera och då blir förutsägelserna ofta mindre träffsäkra.
Förutsägelserna görs alltid med en viss grad av osäkerhet och är entydiga endast i mycket enkla sammanhang. I osäkra
fall blir resultatet användbart först när förutsägelsen har en hög grad av tillförlitlighet. Därför handlar AI-baserade förutsägelser ofta om sannolikheter, som till exempel att ”det är 87 procent sannolikhet att kortuppgifterna har blivit stulna”.
SE ÄVEN:
31. Vad är maskininlärning?
36. Hur mäter man noggrannheten hos en maskininlärningsmodell?
48. Hur fattar AI beslut?
SVAR:
God AI ökar välbefinnandet, rättvisan och våra möjligheter att påverka våra liv.
Om AI ska ses som god beror inte endast på tekniken, utan desto mer på hur den utvecklas, tränas och används. Precis som andra teknologiska framsteg och verktyg kan även AI användas både för gott och ont.
God AI bidrar till ökat välbefinnande hos människor. Den
hjälper individer att ta kontroll över sina liv och fatta egna beslut, samtidigt som den accepterar olikheter och stöttar användarnas mångfald. God AI främjar gemenskap och rättvisa mellan människor.
God AI respekterar människors integritet. Den döljer inte systemens funktioner eller fel, och automatiserar inte uppgifter som kräver mänsklig bedömning. Utvecklingen och användningen av god AI sker ansvarsfullt och med försiktighet: risker förutses och undviks så långt det är möjligt.
God AI stödjer hållbar utveckling och beaktar miljöpåverkan.
God AI är dessutom transparent och kan granskas av både myndigheter och medborgare.
AI, artificiell intelligens, finns överallt – i våra telefoner, i nyhets flödet, och i samhällets stora utmaningar. Men hur mycket vet vi egentligen om den teknologi som påverkar vår vardag?
I denna bok får du tydliga och lättbegripliga svar på vanliga frågor om AI. Vad är AI? Kan AI fatta bättre beslut än vi människor? Varför gör AI fel? Kan AI fungera som en konstnär? Vilka möjligheter och risker för AI med sig? Har AI känslor? Kan AI ta över världen?
Boken är en guide för alla som vill få en bättre förståelse av AI, dess effekter och debatten kring den – oavsett om du är nybörjare eller bara nyfiken. Genom att läsa ett svar i taget eller bläddra bland frågor som intresserar dig får du en bredare bild av vad AI är och varför det är viktigt att vi förstår vad det handlar om. 100 frågor om AI bygger på den framgångsrika finskspråkiga boken Mitä tekoäly on?.
Hannu Toivonen är professor i datavetenskap vid Helsingfors universitet och en av Finlands ledande forskare och föreläsare inom AI.
Linda ManniLa är biträdande professor i datavetenskap med fokus på samhälleliga aspekter av AI. Hon är verksam vid Helsingfors universitet samt Linköpings universitet.