vill. Det finns snart dataprogram som producerar bättre innehåll än människor, säger Olle Häggström. Inte ens sociala arbeten är en fredad sfär, enligt matematikern. Redan nu används AI-program på flera socialkontor där robotar tar emot orosanmälningar och räknar ut försörjningsstöd. Gränserna förflyttas hela tiden och det är inte otänkbart att såväl präster som psykologer byts ut mot maskiner i framtiden, tror Olle Häggström – Redan under 60-talet fanns programvaran Elisa, som var en slags fejkad terapeut. Hon var primitiv, men ändå fanns det patienter som hävdade att ”datorn förstår mig”, säger han. Men vad händer sedan då? När maskinerna har tagit över allt vårt arbete och fantasin har tagit slut när det gäller att uppfinna nya yrkesområden?
privata aktörer. Det kan vi nog betrakta som vår smala lycka. Att militärindustrin i alla tider har utvecklat hemska vapen är inget nytt. Det är den oreglerade marknaden som är det största problemet. Hur ska någon till exempel kunna förhindra att terrororganisationer skaffar sig dödliga skalbaggar? menar Olle Häggström. – I takt med att AI-utvecklingen går framåt blir tröskeln för enskilda programmerare lägre och lägre. Det är nödvändigt att stävja förloppet på något sätt, säger han.
Att maskinerna så småningom kom-
mer att ta över allt mänskligt arbete, ser Olle Häggström också som ett tänkbart framtidsscenario. Redan nu pågår förändringen i bransch efter bransch. Och tanken att robotarna bara skulle ägna sig åt de manuella, ”tråkiga” arbetsuppgifterna har övergivits för länge sedan. Nu börjar maskinerna vinna mark även inom yrkesområden som anses vara intellektuella och kreativa. – Journalistik, konst, design, medicinsk diagnostisering, vilket område du
Vad ska vi ägna vår tid åt? – Då återstår bara frågan om livets mening. Det mest extrema scenariot är att människor ligger nedsövda med direktuppkopplingar i hjärnan. Om upplevelserna är de rätta, kanske det är en bättre tillvaro än den vi lever i nu. Olle Häggström har förstås ingen aning om hur mänskligheten kommer att hantera en framtida lättja. Och egentligen är det vägen dit som bekymrar honom mest. Om ett samhälle har hundra procent arbetslöshet skulle det ändå kunna anses som ganska jämlikt. – Men innan dess måste vi passera 20, 50 och 80 procents arbetslöshet. Kan vi inte hantera de situationerna ekonomiskt kommer det att skapa stora spänningar i samhället, konstaterar han. Frågan om singularitet, vid vilken tidpunkt AI passerar den mänskliga intelligensen, har varken Olle Häggström eller andra forskare något bra svar på. Kanske händer det om fem år eller hundra eller, som en del tror, inte alls. Men att vi måste förbereda oss på att det kan inträffa är Olle Häggström övertygad om. – När robotar passerat mänsklig intelligensnivå kommer de förmodligen vara bättre än människor på att uppnå vad de strävar efter. Så snart vi har uppnått AGI, artificiell generell intelligens, kan det förväntas rulla på, säger han. Så hur var det då med gemen? – Tänk dig en gemfabrik som automatiseras mer och mer tills den enbart styrs av AI. Alla människor på fabriken har bortrationaliserats och maskinen
sköter sig själv. En dag tar den steget över tröskeln och hamnar i en självförbättringsspiral. Gemroboten har programmerats till ett enda syfte, att producera gem. Ju fler desto bättre. Den har ingen känsla för rimlighet som skulle kunna sätta stopp för dess framfart. Det enda den vill är att bli vassare och vassare på att tillverka gem. När maskinen har nått superintelligensnivån är det för sent för människan att sätta stopp. Då kan roboten själv skaffa ekonomiska resurser, tillskansa sig hårdvara och öppna nya fabriker. Till slut förvandlas allt i världen till gem, inklusive vi själva. – Då kan vi inte bara dra ut sladden. Maskinen kommer aldrig tillåta det, säger Olle Häggström. Bilden av ett virrvarr av pappersklämmor som täcker jordklotet är en tydlig dystopi, som matematikern tar till för att ruska om sin omgivning. Fortsätter vi att strunta i säkerhetsrisker och sociala aspekter när det gäller AI riskerar vi att hamna i en global katastrof. – Det finns inget som säger att biologi är överlägset maskiner i långa loppet. När gemakopalypsen inträffar sitter vi alla samma båt, säger han.
- Vad ska vi göra om tekniken hamnar i fel händer? undrar Olle Häggström.
GUJOURNALEN VINTERN 2020
41