9789177953050

MASKINER SOM TÄNKER

omslag_maskinersomtanker.indd 8 maskiner-som-tanker-3.indd 1

2023-10-10 09:57 2023-10-10 18:11:51

INGA STRÜMKE

Algoritmernas hemligheter och vägen till artificiell intelligens Översättning av Leo Gefvert

P OL ARIS

maskiner-som-tanker-3.indd 3

2023-10-10 18:11:51

Maskiner som tänker: algoritmernas hemligheter och vägen till artificiell intelligens

Copyright © Inga Strümke originalets titel: Maskiner som tenker: algoritmenes hemmeligheter og veien til kunstig intelligens översättning: Leo Gefvert omslag: Sigge Kühlhorn Första upplagan, första tryckningen tryckt hos: ScandBook UAB, Litauen, 2023 isbn: 978-91-77953-05-0 www.bokforlagetpolaris.se info@jppol.se Bokförlaget Polaris ingår i JP/Politikens Forlag, grundat 1946 Thomas Tidholms dikt »Glömskan« från diktsamlingen Blandade dikter 1964–2004 på sidan 156 är återgiven med tillstånd av författaren.

maskiner-som-tanker-3.indd 4

2023-10-10 18:11:52

INNEHÅLL

Förord 9

DEL 1: HUR DET BÖRJADE Kapitel 1: Lite noggrant utvald historik

15

Världens mest lyckade bedrägeri 15 Algoritmer 17 Datorer 19 Gödel, Turing och von Neumann 20 Ett ämnesområde föds 24 Schack matt 26 Slutledningens bananfluga 32 Universums bästa schackspelare 33 Maskinernas tidsålder 36

Kapitel 2: Hur vi försöker göra maskiner intelligenta 41 Symbolisk AI 41 Expertsystem 43 ELIZA-effekten 49 Vinter och vår 53 Maskiner som lär sig 55 Väglett lärande 57 Blommor och beslutsträd 61

maskiner-som-tanker-3.indd 5

2023-10-10 18:11:52

Subsymbolisk AI 64 Neurala nätverk genom tiderna Att lära vad som helst 74

Kapitel 3: Jakten på data

70

81

Den sanna fördelningen 81 Data till maskininlärning 84 Fel fördelning 86 Bias för statistiker och journalister 90 Data är dyrt 95 Långa problematiska svansar 98 Att hitta sina egna data 101

DEL 2: ARTIFICIELL INTELLIGENS IDAG Kapitel 4: Du tror det inte förrän du ser det 111 Världen är matriser 111 Maskiner som nästan förstår vad de tittar på 116 Det enkla är ofta fel 122 Maskiner som förstår mer än vi gör 125 Artificiell intuition och schackkoncept 130 Mental hälsa 134 Dataintegritet 137 Rätten till en förklaring 142

Kapitel 5: Är det någon hemma?

145

Artificiell samtalspartner 145 Anden i maskinen 149 ChatGPT och bekymrade norsklärare 154 Prat om problem 160 Ett Turingtest för medvetenhet 163 Konsten att skapa 168 Från brus till verklighet 176

maskiner-som-tanker-3.indd 6

2023-10-10 18:11:52

Kapitel 6: Vårt artificiellt intelligenta liv

185

Maskinrevolutioner 185 En etisk värld 191 Någon måste bestämma 198 Elkrig och AI Act 203 Det sociala dilemmat med AI-utveckling 207 Vad ska vi ha dataintegritet till? 211

Kapitel 7: Hur man attackerar en maskininlärningsmodell 221 Smarta maskiner med goda intentioner 221 Synvillor för maskiner 225 Att klippa gräs i tre dimensioner 229 Dimensionsförbannelsen 232 In genom bakvägen 235 Vinter och politik 241 Autonomi och kontroll 248

DEL 3: MORGONDAGENS ARTIFICIELLA INTELLIGENS Kapitel 8: Superintelligens och andra spekulationer

257

Artificiell kreativitet 257 Tal och akustik 261 Dataanvändning 263 AI-etik och moraliska aktörer 264 Generell intelligens och superintelligens 268 Maskinmål, människomål och mesa-optimering 277 En hjärna som tänker på sig själv 285 Illustrationer 296 Noter 297

maskiner-som-tanker-3.indd 7

2023-10-10 18:11:52

Förord

E

n sen vårkväll 2018 ledde fyrtionioåriga Elaine Herzberg sin cykel över en motorväg i Arizona. Istället för att gå på ett övergångsställe gick hon med cykeln fullastad med matkassar rakt över den breda motorvägen. På vägen kom en Volvo XC90 körande mot henne, men Elaine fortsatte att gå. Och bilen stannade inte. Den bromsade inte ens, utan körde rakt på Elaine som senare dog av skadorna på sjukhuset. Det är ganska anmärkningsvärt att bilen inte bromsade, för just det här fordonet hade två chaufförer: en människa och en maskin. Maskinen som kontrollerade bilen var en del i Ubers test av själv­ körande bilar, medan människan, Rafaela Vasquez, ansvarade för att överblicka och ta över kontrollen om maskinen gjorde fel. Båda chaufförerna felade, och det är inte svårt att förstå vad som gick galet i Rafaelas fall. De allra flesta människor blir lata när de måste utföra monotona uppgifter som att bevaka maskiner som i stort sett gör det de ska. Loggen i bilen visade att Rafaela hade sänkt blicken och smålett strax innan olyckan, vilket tyder på att hon var uppmärksam på något annat än bara vägen. Trots det måste Rafaela ha anat oråd i sista sekunden, för mindre än en sekund innan bilen träffade Elaine rörde hon vid ratten. Hon tryckte också på bromsen strax efter sammanstötningen, men då var det för sent. Året därpå, våren 2019, fastställde åklagarmyndigheterna i Arizona att Uber inte var ansvariga för olyckan, medan Rafaela dömdes för vållande till annans död.

9

maskiner-som-tanker-3.indd 9

2023-10-10 18:11:52

Är det rättvist att Rafaela fick skulden för att en maskin gjorde fel? Visserligen är det inte särskilt meningsfullt att säga att maskiner gör fel. För maskinens del är det nämligen mindre uppenbart vad som gick fel. Efter hundratusentals mil på vägarna var detta första gången en människa dödades av att ha blivit påkörd av en av Ubers självkörande bilar. Både Uber och Rafaela hade alltså goda skäl att utgå ifrån att det skulle gå bra.

Innan självkörande bilar tas i bruk går de igenom otaliga timmar av träning och övning, både simulerade och ute i verkliga trafiken. Hade vi förberett en enda människa lika väl, skulle vi ändå inte kunna utgå ifrån att vederbörande aldrig kommer begå misstag i trafiken: människor står för över sex miljoner bilolyckor bara i USA, och över hela världen dör 1,2 miljoner människor i trafiken varje år. Det är sex gånger så många som antalet människor som dör i krig. Förbättringspotentialen är enorm, och tittar vi på huvudorsakerna till olyckorna – hög fart, berusning och ouppmärksamhet – är det frestande att tänka att maskinerna borde kunna göra det bättre än vi människor. Maskiner håller sig inom fartbegränsningarna, de blir inte fulla, och så länge de får ström tappar de inte koncentrationen. Maskiner har en reaktionshastighet och en beräkningskapacitet som vi människor bara kan drömma om. Men trots det gör maskiner fel som vi människor aldrig skulle göra. Inte en enda människa i världen skulle ha sett en fotgängare passera över vägen och trott att det inte var något hon måste bromsa för.

Vad var det som gjorde att en maskin körde på Elaine 2018?

Det enkla svaret är att den klassificerade henne som en »falsk positiv«. Bilen observerade henne, men klassificerade henne felaktigt som något man inte stannar för, som tidningar och plastpåsar. Klassificering är bland de vanligaste uppgifterna vi använder artificiell intelligens till idag. Vad händer när klassificeringen slår fel och det misstaget går ut över människor? »Maskinen tog fel«, är en alltför enkel förklaring som också 10

maskiner-som-tanker-3.indd 10

2023-10-10 18:11:52

skymmer ansvarsfrågan. En maskin som ska klassificera objekt som den ser i trafiken – fotgängare, cyklister, bilar, motorcyklar, lastbilar och plastpåsar – är utvecklad på data som en människa har ansvarat för. Dessutom kommer en maskin aldrig se en »människa« eller en »plastpåse«. Allt maskiner ser är tal. Det är återigen en människa som ansvarar för att bestämma tröskeln talet ska vara över eller under för att kunna bedöma att det maskinen ser på är en människa, en plastpåse eller något helt annat. Varje gång artificiell intelligens används för att fatta ett beslut ligger det minst en avvägning bakom. Och avvägningarna är något vi människor måste göra. En ingenjör bestämde vilken tröskel som skulle fått bilen att stanna – eller inte stanna.

Så är det varje gång artificiell intelligens är inblandat: när vi läser om maskiner som diskriminerar, ligger förklaringen inte i att maskinen är rasistisk eller sexistisk. Förklaringen finns bland de avvägningar som gjordes (eller inte gjordes) när informationen samlades in och maskinen lärdes upp. Artificiell intelligens kan användas till att lösa problem, men vi människor måste i slutändan se till att maskinerna löser rätt problem. Avvägningarna, och därmed ansvaret, ligger hos människan.

Hur kan vi veta när det är tryggt att överlåta en uppgift åt en maskin, och vem ska bära ansvaret när en maskin felar? Varför ska vi ens chansa på att låta maskiner gå ut i världen och börja göra misstag – det vill säga, varför gör vi maskiner över huvud taget?

Varför är maskiner i somliga fall hundra gånger smartare än oss, och andra gånger fullständiga idioter? Varför vill vi människor så gärna skapa intelligenta maskiner? Låt oss tillsammans dyka ner i alla dessa frågor, och fler därtill.

11

maskiner-som-tanker-3.indd 11

2023-10-10 18:11:52

DEL 1:

HUR DET BÖRJADE

maskiner-som-tanker-3.indd 13

2023-10-10 18:11:52

Kapitel 1:

Lite noggrant utvald historik

Världens mest lyckade bedrägeri Ärkehertiginnan Maria Teresia av Österrike var en fin dam.

För att imponera på henne byggde uppfinnaren Wolfgang von Kempelen vad som senare blev känt som världens mest lyckade bluff: Schackturken. Redan på 70-talet skapade den här mirakelmaskinen de första rubrikerna om maskiner som är bättre på schack än människor. Det vill säga på 1770-talet. Maskinen bestod av en mekanisk figur iklädd rock och turban, sittande på en låda fylld med ett virrvarr av kugghjul och till synes komplicerad mekanik. »Turken« kunde spela schack mot människor, och partierna började med att den – eller han? – rörde huvudet från sida till sida, som om han såg på schackbrädet och begrundade sitt öppningsdrag. Sedan sköt han plötsligt fram armen, och de mekaniska fingrarna plockade upp en pjäs och satte ner den på en lovlig ruta. Men det räckte inte för att imponera på 1700-talets invånare, de hade redan sett mekaniska djur med långt mer övertygande detaljer än den här grova imitationen av en människa.

Det som var banbrytande var själva spelet: Turken var en skicklig schackspelare. Mycket skicklig. Självaste Napoleon Bonaparte 15

maskiner-som-tanker-3.indd 15

2023-10-10 18:11:52

hade besegrats av Turken, och han gick i graven i tron att en maskin hade slagit honom i schack. Turken spelade kreativt och anpassade sig efter motståndarens stil, i parti efter parti. Och skulle någon få för sig att fuska, som Napoleon gjorde när han utmanade Turken år 1809, då flyttade Turken bara tillbaka pjäsen till sin korrekta position. Om motståndaren försökte fuska upprepade gånger tappade Turken till slut tålamodet och svepte armen över brädet så att pjäserna flög.

Det hela var så klart bara lurendrejeri, men i form av imponerande ingenjörskonst: den intrikata lådan med alla kugghjul kunde öppnas och inspekteras, och innan varje parti fick publiken se in i den från alla sidor. På så vis var åskådarna alltid förvissade om att det inte fanns någon människa i lådan.1 Trots det förekom många spekulationer, bland annat att en rysk soldat som var en duktig schackspelare och hade förlorat båda benen i strid var den egentliga hjärnan i Turken. När sanningen till slut uppdagades, i tidningen The Chess Monthly mot slutet av 1850-talet, sa man att »ingen hemlighet någonsin varit så välbevarad som den om Turken«. Tricket var att människan, som givetvis befann sig inuti lådan, satt på en stol som kunde röra sig och därmed undvek att hamna i siktlinjen när innanmätet skulle inspekteras.

Att en schackspelande maskin rönte så mycket uppmärksamhet beror nog på flera anledningar, och en av dem var idén att en maskin kunde vara smartare än människan, kunde fatta bättre beslut än människor. Och även om världen skulle få vänta länge på en maskin som spelade schack på människonivå, var maskiner redan på 1800-talet på god väg att förändra folks liv och hela samhällsekonomin. Ångmaskinen har blivit sinnebilden för 1700-talets uppfinnande av maskiner som frigjorde kraft på ett sätt och i en omfattning som varken djur, människor eller dåvarande teknologi ditintills kunnat mäta sig med. Den övergång från hantverk till maskinell produktion, som startade i England och spred sig 16

maskiner-som-tanker-3.indd 16

2023-10-10 18:11:52

fort genom Europa och till USA, blev startpunkten för industrialismen. Istället för att människor producerade varor, byggde man maskiner som producerade varorna mer effektivt, och den jordbruksbaserade ekonomin växlade snabbt om till en industriell och maskinbaserad ekonomi. I västvärlden, där de allra flesta var bönder och levde av jorden, var detta en fullständig livsstilsomvandling. Och Schackturken hamnade mitt i denna tid. Det är inte svårt att förstå att tanken på en maskin som inte bara kunde arbeta, men också tänka mer effektivt än människor, väckte både fascination och oro. För även om Turken inte var direkt intelligent, passade den in i föreställningen om en möjlig framtid där maskiner kunde tänka och i slutändan kanske rentav ta över.

Dessvärre, eller dessbättre kanske, visade det sig ändå att ­Turken hade mer gemensamt med ångmaskinen än med män­ niskan. Med tanke på att den inte fattade några schackbeslut själv var den bara en mekanisk leksak som kunde flytta pjäser. Både Turken och ångmaskinen behövde människor som styrde dem, de var inte förmögna att fatta några beslut själva. Även om det skulle dröja lång tid tills maskiner som fattar egna beslut skulle bli en del av verkligheten, vill jag gärna tro att 1800-talets människor villigt kittlades av tanken. Kanske läste de om »Maskinen« (»The Engine«) i Gullivers resor av Jonathan Swift och hade starka åsikter om huruvida en tänkande maskin kunde byggas.2 Och kanske följde de allra mest hängivna med i nyheterna om teknologin som utvecklades och var med när världen såg sin första algoritm, redan tidigt på 1800-talet.

Algoritmer Ja, algoritmer fanns långt före artificiell intelligens. Även om det idag oftast används för att beskriva dataprogram som analyserar våra data eller får oss att göra saker, är algoritmer mycket mer 17

maskiner-som-tanker-3.indd 17

2023-10-10 18:11:52

än så. Torrt beskrivet är en algoritm en samling instruktioner som kan utföras i en bestämd ordning för att uppnå ett mål. Ett klassiskt exempel på detta är ett matrecept. Om receptet inte innehåller alla nödvändiga anvisningar blir det ingen maträtt.

Om anvisningarna kommer i fel ordning blir receptet omöjligt att följa. Vi människor är ganska duktiga på att skapa algoritmer åt varandra, och varje gång du beskriver hur något ska utföras, gör du en algoritm. Om jag behöver låna mjöl av dig, svarar du kanske: »Ja, självklart, men jag är inte hemma så du måste gå in själv. Använd nyckeln som ligger under dörrmattan, gå in i köket och kolla i nedre skåpet bredvid skafferiet.« Du har gjort det möjligt för mig att låna mjöl av dig, och jag kommer att tacka dig för att du skapade algoritmen som behövdes för att lyckas.

Algoritmer är det som får datorer att fungera, ingen dator kan fungera utan instruktionerna från algoritmer. Att göra bra algoritmer för datorer är allt annat än enkelt, eftersom datorer måste få varenda steg grundligt beskrivet, och för att det aldrig är givet vilket sätt som är det bästa att lösa ett problem på. På anställningsintervjuer hos de coola teknikföretagen brukar en av uppgifterna vara att beskriva eller göra bra algoritmer på uppstuds.

Att skapa algoritmer är kanske något av det roligaste som finns, inte för att det är så spännande att förklara saker för datorer, utan för att det är spännande att klura sig fram till det bästa sättet att lösa problem. Det tyckte även grevinnan Ada Lovelace, som snabbt tröttnade på typiska grevinneaktiviteter och istället vigde sitt liv åt datavetenskap. År 1843 skrev hon världens första algoritm för datorer och anses därmed vara världens första dataprogrammerare. Tillsammans med uppfinnaren Charles Babbage arbetade hon också i många år med att skapa världens första mekaniska dator. Den hann aldrig byggas eftersom forskningsanslagen tog slut, och för att Babbage bråkade med sin 18

maskiner-som-tanker-3.indd 18

2023-10-10 18:11:52

överingenjör.3 Men även om det inte blev något av själva datorn vid det tillfället, var algoritmen alltjämt uppfunnen, och idén att en maskin kan utföra vilken process som helst var född.

Datorer Tanken på datorer fanns långt innan de första datorerna byggdes, och de första som faktiskt konstruerades liknar på inga vis de datorer vi använder idag. Den största skillnaden är nog att de första datorerna var analoga: de byggdes för att utföra en specifik uppgift. Skulle de lösa en annan uppgift var de tvungna att byggas om. Om en sådan dator skulle lösa ett matematiskt problem blev den därför en fysisk manifestation av det matematiska problemet – helt enkelt en analogi. Begreppet kanske låter abstrakt och krångligt, men jag vågar sätta en slant på att du har använt en analog dator senast idag. Barn lär sig ofta plus och minus med hjälp av kulramar där de kan skjuta färggranna kulor fram och tillbaka på smala stänger. Vi människor har använt denna typ av kulram för att räkna sedan antiken, och idag skulle nog många mena att det är att dra det för långt att kalla dem för maskiner.

Men alltjämt illustrerar de hur analoga datorer fungerar: de tar in analoga data, alltså fysiska enheter från verkligheten. Dessa enheter behöver inte konverteras till numeriska värden eller omvandlas, utan går rätt in i maskinen. Den analoga maskinen gör beräkningar genom att mäta de kontinuerliga förändringarna som sker hos de fysiska enheterna, och presenterar sedan resultatet från beräkningen som en avläsning av en mätning.

En miniversion av detta är kvicksilvertermometern, där vi inte avläser ett tal från en skärm, utan istället gör själva mätningen genom att se hur högt kvicksilvret har stigit. Exempel på mer avancerade analoga datorer i vardagen är mekaniska armbandsur och hastighetsmätare på bilar. En sak att lägga på minnet här (för det kommer bli viktigt senare), är att mjukvaran, software på 19

maskiner-som-tanker-3.indd 19

2023-10-10 18:11:52

engelska, och själva maskinen, hardware på engelska, är samma sak för analoga datorer.

Fördelen med analoga datorer är att de tar in datan direkt, och därför är det inte nödvändigt att omvandla mätningarna till tal, med de komplikationer och felaktiga slutledningar det kan medföra. Men den stora svagheten med analoga datorer är att de bara kan lösa just det problem de är byggda för.

Gödel, Turing och von Neumann Nu ska vi möta tre matematiker som varit oumbärliga för utvecklingen av den moderna datavetenskapen, och vars bidrag alltjämt vållar huvudbry för forskare och studenter: Kurt Gödel, Alan Turing och John von Neumann. År 1931 presenterade Gödel ett bevis som skakade världen så till den grad att det märks än idag. Han visade att inget matematiskt system kan vara både fullständigt och konsistent, som en matematiker skulle formulera det.4 Det betyder att man inte kan skapa ett logiskt system där allt som är sant kan bevisas, och som samtidigt helt saknar självmotsägelser. Begrunda påståendet: »Den här meningen är en lögn.« Om vi tänker efter är det faktiskt märkligt att vi kan göra sådana påståenden. Och det var precis vad Gödel också gjorde: han tänkte på system som gör utsagor om sig själva, och kom till slutsatsen att det betyder trubbel i matematikens värld.

Alan Turing blev djupt fascinerad av Gödels bevis och funderade på vad det skulle innebära för datorer. År 1937 lyckades Turing bevisa två saker, som båda räknas bland de mest inflytelserika resultaten inom datavetenskapen. Det ena han bevisade var att det är omöjligt att skapa ett dataprogram som kan bestämma när en algoritm är slutförd, det vill säga när en beräkning kommer vara klar. Det problemet kallas stopproblemet, och även om det kanske kan tyckas som ett egendomligt problem, så hittar vi 20

maskiner-som-tanker-3.indd 20

2023-10-10 18:11:52

det överallt. Om man exempelvis har ett antivirusprogram och vill veta om det någonsin kommer utföras en illvillig handling mot ens dator så har man stött på stopproblemet och måste ge upp (hälsningar Turing, anno 1937).

Beviset för att det inte är möjligt att bevisa att en algoritm kommer att bli färdig är för övrigt otroligt klurig och helt i Gödels anda. Låt oss anta att det finns ett program som kan klargöra om en algoritm förr eller senare kommer att bli klar. Vi kan kalla det programmet för »SKA_SLUTA«. Därefter kan vi skapa följande lilla dataprogram: INGAS_ALGORITM: Om INGAS_ALGORITM blir klar: Utför denna instruktion för alltid

Vad kan programmet SKA_SLUTA nu säga om INGAS_ALGORITM? Om INGAS_ALGORITM blir klar, kommer INGAS_ ALGORITM vänta i evighet – alltså aldrig bli klar. Vi anar att vi har kommit fram till en självmotsägelse (och möjligen en lätt huvudvärk) – och har därmed också bevisat att programmet SKA_SLUTA inte kan existera.

Det andra Turing bevisade var att det kan finnas maskiner som är kapabla att utföra vilka matematiska beräkningar som helst, så länge det är formulerat som en rad instruktioner – en algoritm alltså. Denna tänkta maskin har fått namnet Turingmaskinen. Med idén om Turingmaskinen föddes tanken på skillnaden mellan en maskin som utför beräkningarna, så kallad hårdvara, å ena sidan, och själva beräkningarna i sig, mjukvaran, å andra sidan. Sett till alla nya program vi installerar på våra gamla datorer (och ständigt nya appar på mobiltelefonen) är den principen inte främmande för oss idag, men då var skillnaden mellan hårdvara och mjukvara allt annat än självklar. De enda beräkningsmaskinerna som fanns före 21

maskiner-som-tanker-3.indd 21

2023-10-10 18:11:52

Turing var den analoga datormaskinen och den mänskliga hjärnan. För de båda maskinerna är hårdvara och mjukvara samma sak. Även om det inte är uppenbart vid ett första (eller andra) ögonkast är Turings två bevis en stor del av grunden som moderna datorer står på. Även om Turingmaskinen är ett briljant påfund, är den alltjämt bara ett abstrakt koncept. Turing bevisade att en sådan maskin kan finnas i teorin, men som bekant är det långt från idé till verklighet. För att bygga en maskin som kan utföra vilken beräkning som helst, behövs konkretisering. Och här kommer den tredje hjälten in, nämligen John von Neumann.

Han designade uppställningen som vi fortfarande använder för att bygga moderna datorer. Så nästa gång du sätter igång din dator, skänk en varm tanke åt John och tacka honom för von Neumann-arkitekturen. I den här uppställningen, eller arkitekturen, har datorerna en central komponent som utför beräkningar, medan en annan komponent står för lagring. När beräkningar ska utföras måste därför de nödvändiga ingredienserna hämtas från minnesenheten, och om resultatet från beräkningen ska lagras, måste det flyttas från beräkningsenheten och in i minnesenheten. Din dator fungerar på samma sätt: det mesta ligger tryggt lagrat i minnesenheten, och bara det som behövs för beräkning flyttas till beräkningsenheten. Eller, för att vara mer precis bör jag tillägga att det i dagens datorer finns en del annat mellan beräkningsenheten och minnesenheten, som gör både lagring och beräkning snabbare och enklare. Men om vi förenklar lite så ser moderna datorer fortfarande ut som von Neumann beskrev dem på sin tid.

De sista komponenterna i von Neumann-arkitekturen är två enheter som ser till att människor kan kommunicera med maskinen. Den ena tar in kommandon från människan och ger dem till beräkningsenheten, medan den andra hämtar ut information från beräkningsenheten så att en människa (eller en annan 22

maskiner-som-tanker-3.indd 22

2023-10-10 18:11:52

maskin, för den delen) kan få nytta av den. Figuren nedan är en enkel version av von Neumann-arkitekturen, och på så vis ett slags skiss över din laptop.

von Neumann-arkitekturen var ett nydanande sätt att skapa datorer, som revolutionerade den moderna datavetenskapen.

Den beskriver en maskin som kan ta in i princip vilka instruktioner som helst, så länge maskinen förstår dem, och göra beräkningar av dem. Den första von Neumann-maskinen stod klar 1952. Samma år skapade matematikern Grace Hopper det första programmet som kunde lära datorer att översätta ord, specifikt engelska ord, till maskinkod. Dessförinnan var man tvungen att programmera datorerna direkt med ettor och nollor.

Att enbart skriva ettor och nollor är inte särskilt upplyftande för oss människor som är vana vid att formulera oss med hjälp av ord. Det Grace skapade var världens första så kallade kompilator.

Redan på den tiden, innan datorerna ens var färdiguppfunna, grubblade forskarna på om precisa instruktioner till datorer är nyckeln till att göra dem intelligenta. Under en föreläsning gav John von Neumann ett svar som synnerligen väl illustrerar hans inställning. Någon bland åhörarna kom med påståendet att det är omöjligt för en maskin, åtminstone för en maskin skapad av människan, att tänka, varpå von Neumann svarade: »Du insisterar på att det finns något en maskin inte kan göra. Om du berättar 23

maskiner-som-tanker-3.indd 23

2023-10-10 18:11:52

för mig exakt vad det är en maskin inte kan göra, kommer jag skapa en sådan som gör just det!«5 En lustig sak är att vi alltjämt bygger våra datorer med hjälp av von Neumann-arkitekturen, och att vi alltjämt inte vet om de faktiskt kan rymma verklig intelligens.

Med datorernas utveckling runt mitten av 1900-talet tog den artificiella intelligensen oavsett steget från bluff- och skojarland via idévärlden till den moderna vetenskapen, och arbetet med att skapa datorer som tänker som människor hade påbörjats.

Ett ämnesområde föds Det är inte många vetenskapliga fält som har en sådan väldefinierad start som artificiell intelligens. Allt började under en liten workshop vid Dartmouth College på USA:s östkust, organiserad av den unge forskaren John McCarthy, som senare blev en av de mest inflytelserika forskarna inom hela fältet. Innan McCarthy började på Dartmouth studerade han matematik på Princeton, där han mötte en annan stigande stjärna inom artificiell intelligens, Marvin Minsky. De två fattade snabbt tycke för varandra och insåg att de delade samma fascination inför frågan om datorers möjliga intelligens. När McCarthy 1955 började på Dartmouth övertalade han Minsky och två andra medstudenter att hjälpa till att organisera en liten workshop. Han såg bokstavligt talat framför sig en två månader lång samling där tio människor under sommaren 1956 skulle få klarhet i den där »intelligenta dator«-grejen. I samband med det hittade McCarthy också på begreppet artificial intelligence – främst för att skilja det från det besläktade fältet cybernetik.

Skillnaden mellan artificiell intelligens och cybernetik är subtil men fundamental. Båda fälten handlar om att studera intelligenta system, men där artificiell intelligens har som syfte att skapa maskiner som efterliknar mänskligt beteende och intel24

maskiner-som-tanker-3.indd 24

2023-10-10 18:11:52

ligens, handlar cybernetik om att förstå hur intelligenta system – vare sig det är biologiskt eller mekaniskt – processar information.

Enklare uttryckt är cybernetik studiet av kommunikation och kontroll, medan det nya fältet artificial intelligence var – och är!

– strävan efter att skapa intelligens i ett artificiellt system. Efter att namnet väl hade etablerats, har McCarthy för övrigt sagt att ingen egentligen tyckte om termen artificial intelligence, men att de ändå behövde kalla det för något.

Tillsammans ansökte de fyra studenterna sommaren 1956 om forskningsmedel för att finansiera sin workshop, och i sin ansökan listade de bland annat slutledning, maskininlärning, neurala nätverk, kreativitet och språkförståelse som saker de ville utforska. De skrev att »varje aspekt av intelligens eller inlärning kan i princip uttryckas så exakt att en maskin kan simulera det« – och därmed var ämnesområdet grundlagt. Och även om allt gick fort den sommaren, så är den grund McCarthy och hans medstudenter skapade då, fortfarande det fundament som den moderna forskningen inom artificiell intelligens vilar på. Än idag är det samma begrepp – maskininlärning, neurala nätverk, språkförståelse och så vidare – vi använder i forskningen, och den grundläggande tanken att inlärning och intelligens kan simuleras av datorer är fortfarande regerande inom området.

Att ett helt ämnesområde kan skapas och definieras för decennier framöver av ett gäng glada studenter under loppet av en sommar, måste antingen betyda att de här studenterna var exceptionellt begåvade, eller att fältet var avsevärt svårare än de då föreställde sig. Sanningen finns nog lite i bägge svaren.

Fyra av studenterna – John McCarthy, Marvin Minsky, Herbert Simon och Allen Newell – kom att bli pionjärer inom området och kan tryggt räknas som »de fyra stora« inom artificiell intelligens. Samtidigt var detta bara den första av många gånger där människor har underskattat hur komplicerad vägen till artificiell intelligens skulle bli, och fortfarande är. Gång på gång har vi 25

maskiner-som-tanker-3.indd 25

2023-10-10 18:11:52

trott att vi står inför det stora genombrottet som kommer leda till att maskiner tänker självständigt, och gång på gång har vi insett det motsatta.

Studenterna hade sin sommarworkshop och smidde med stor optimism planer. Men tjugo år senare, på 1970-talet, var vi fortfarande långt ifrån att lösa intelligensgåtan. Till exempel fanns det ännu ingen dator som kunde slå skickliga schackspelare. Det fanns för all del program som kunde följa schackreglerna och vara en utmaning mot en amatör, men det var allt. Det skulle faktiskt dröja ända till mitten av 1990-talet innan schackmästarna mötte riktigt motstånd från datorerna.

Schack matt Det är lätt att få en dator att förstå reglerna i schack. Men att lära den att välja mellan alla olika drag är extremt svårt och beräkningskrävande. Att bemästra schack handlar om att veta vad som kommer att ske i framtiden, och välja sitt drag utifrån det. För att välja nästa drag i ett parti måste en schackdator bygga ett stort sökträd som innehåller alla möjliga framtida drag från bägge spelarna – sig själv och motspelaren. Här nedan syns en mycket liten del av ett sådant träd, där de vita cirklarna representerar datorns drag och de svarta fyrkanterna motståndarens drag: Motståndarens drag Datorns drag

Motståndarens drag Spelets utfall

26

maskiner-som-tanker-3.indd 26

2023-10-10 18:11:53