Page 1

AV T J Ä N G NA I S IV E D DR I A

PO

N

S U T

W

N R Ä

ES

S N

L Å T

R E T


Kopieringsförbud Detta verk är skyddat av upphovsrättslagen. Kopiering, utöver lärares och studenters begränsade rätt att kopiera för undervisningsändamål enligt Bonus Copyright Access kopieringsavtal, är förbjuden. För information om avtalet hänvisas till utbildningsanordnarens huvudman eller Bonus Copyright Access. Vid utgivning av detta verk som e-bok, är e-boken kopieringsskyddad. Den som bryter mot lagen om upphovsrätt kan åtalas av allmän åklagare och dömas till böter eller fängelse i upp till två år samt bli skyldig att erlägga ersättning till upphovsman eller rättsinnehavare. Studentlitteratur har både digital och traditionell bokutgivning. Studentlitteraturs trycksaker är miljöanpassade, både när det gäller papper och tryckprocess.

Art.nr 43107 ISBN 978-91-44-13974-6 Upplaga 1:1 © Författaren och Studentlitteratur 2021 studentlitteratur.se Studentlitteratur AB, Lund Formgivning inlaga: Henrik Hast Ombrytning inlaga: Annika Lyth/Lyth & Co Formgivning omslag: Annika Lyth/Lyth & Co Illustrationer om inget annat anges: Pontus Wärnestål Printed by GraphyCems, Spain 2021


INNEHÅLL

FÖRORD AV ARNE JÖNSSON 9 FÖRORD AV DAVID DE LÉON 11 FÖRFAT TARENS FÖRORD 13

01 / Inledning:

AI som designmaterial 15 Bokens innehåll 17 Vad är AI? 20 En kort historik 20 Avgränsningar och definitioner – att förstå AI ur olika perspektiv 32 Design med människan i centrum 43 AI som designmaterial 51 Vad menar vi med designmaterial? 52 Vad är annorlunda? 53 Designutmaningar 59 Sammanfattning 62 02 / Prediktion och adaptivitet 65

Data – insamling och användning 68 Från data till värde 69 Interaktion för datainsamling 71 Falska positiva och negativa utfall 76 Kallstartsproblematik 80 Partiska data 83 Integritet 87


I nneh å ll

Adaptivitet 90 När är adaptiv funktionalitet lämplig? 93 Det första intrycket 96 Kontinuerlig användning över tid 98 Sammanfattning 103 03 / Agens och initiativ 105

Agens 105 Exempel på avancerad agens 106 Definitioner 108 Exempel på enkel agens 111 Initiativ och förtroende 112 Proaktiva strategier 113 Återkoppling och kontroll 118 Interaktion 120 Transparens och förklarbarhet 124 Interaktionsmodell och initiativskiften 127 Initiering av tjänsten 129 Hand-off 133 Take-back 136 Samspelet mellan hand-off och take-back 139 Avsluta tjänsten 142 Sammanfattning 144 04 / Samverkan 147

Samverkan och automatisering 148 Färdigheter och samlärande 150 Människor eller maskiner? 151 Exempel: AI-tränaren 155 Designperspektiv 156 Förstudier 157 Uppgiftsanalys 160 Tjänstedesign 162 Exempel: Bedömning och klinisk blick 163 Samverkan och AI i samhället 165 Sammanfattning 167

6

© FÖRFATTAREN OCH STUDENTLITTERATUR


I nneh å ll

05 / Design av AI-drivna tjänster i praktiken 169

Identifiera användningsområden och förmågor 170 Att uppfatta 171 Att tänka 174 Att göra 176 Vanliga användningsområden och standarder 178 Hitta inspiration 180 Prototyping och utvärdering 181 Vad är en prototyp? 182 Prototypa AI-upplevelser 184 Utvärdering – utmaningar och möjligheter 187 Wizard of Oz 191 Felhantering 195 Sammanfattning 198 06 / Avslutning – en ny början 201

Design som lärande 203 Etik 205 Teknologi och etik 205 Samhällsvetenskap och design 210 Slutord 214 DE SIGNRIK TLINJER 217 REFERENSER 223 REGISTER 231

© FÖRFATTAREN OCH STUDENTLITTERATUR

7



01

Inledning: AI som designmaterial Artificiell intelligens (AI) har en lång historia av optimism och stora löften. Då AI-forskningen befann sig i sin linda på 1950-talet hävdade de främsta pionjärerna inom fältet att generell – det vill säga ”människoliknande”– intelligens skulle vara utredd och modellerad i maskiner innan seklet var slut. Nästan sjuttio år senare, i början av 2020-talet, vet vi att även om dagens AI kan göra imponerande saker, är vi fortfarande mycket långt ifrån någon form av självmed­veten, generell intelligens som liknar människans flexibla sätt att tänka och agera. Det är på ett sätt ironiskt att ett fält vars främsta förmåga är just prediktion har haft så svårt att förutsäga sin egen utveckling. Trots denna brist på måluppfyllelse fortsätter löften om och optimistiska idéer för AI att oförtrutet skölja över oss med jämna mellanrum. Dessa nya vågor av löften sammanfaller ofta med tekniska landvinningar och underblåses inte sällan av en entusiastisk nyhetsrapportering. Efter det att IBM:s AI-system Watson lyckades vinna ett parti Jeopardy! mot två mänskliga motståndare 2011 hävdade IBM att denna kognitivt avancerade AI skulle revolutionera sjukvården genom sin förmåga att analysera och förstå radiologi och farmakologi. Ett annat exempel är då den så kallade djupinlärningsrevolutionen i början av 10-talet gjorde stora tekniska framsteg inom bildanalys. © FÖRFATTAREN OCH STUDENTLITTERATUR

15


0 1   /   I nlednin g : A I so m desi g n m aterial

I och med detta återupplivades drömmen om självkörande bilar som genom just bildanalys skulle kunna uppfatta och analysera sin omgivning. Sedan dess har autonoma fordon varit ett dominerande applikationsområde för AI, där tekniken utvecklas inte bara av klassiska fordonstillverkare, utan även av aktörer utanför fordonsbranschen som Google och Apple. Tiotalets framsteg inom maskininlärning innebar också stora framsteg inom naturligt-språk-behandling (Natural Language Processing, NLP). Både maskinöversättning och interaktion med hjälp av både talat och skrivet naturligt språk tog stora kliv framåt och blåste liv i 1980talets idéer om talande dialogsystem och intelligenta assistenter. I samma veva släppte Facebook 2015 en plattform för en dialogrobot (chatbot) med det mystiska namnet ”M”. M presenterades som en generell assistent som kunde utföra en rad olika uppgifter som till exempel resebokningar, restaurangreservationer och, naturligtvis, hjälpa användaren att handla på nätet. Det finns ett otal andra exempel på liknande förhoppningar baserade på tekniska AI-framsteg, som milstolpen då Googles system AlphaGo år 2016 vann över världsmästaren i det avancerade brädspelet Go. Det är intressant att notera att i skrivande stund (2021) är AI inom både sjukvård och fordonsindustrin långt ifrån fullt ut implementerad, medan Facebooks projekt M diskret är avblåst sedan flera år tillbaka. Är då AI-fältet helt enkelt ett luftslott av naiv optimism och hype? Nej, självfallet inte. En lång rad olika varianter av AI används redan idag, och dessa påverkar en stor del av mänskligheten. Det skapas hela tiden nya AI-drivna system som påverkar både individer, organisationer och samhällen i större eller mindre utsträckning. Det finns flera typer av tjänster som skulle ha varit omöjliga att realisera utan de senaste årens AI-framsteg, som till exempel personaliserade rekommendationstjänster och taltjänster. Det finns också exempel på AI-teknologi som har fått oförutsedda negativa konsekvenser då den lanserats. Teknikhistorien har lärt oss att vi människor har en tendens att överskatta effekten av ny teknik i det korta perspektivet, samtidigt som vi gravt underskattar effekterna i ett längre perspektiv. Detta gäller i synnerhet AI, som sedan 1950-talet varit en mycket teknisk disciplin med fokus på 16

© FÖRFATTAREN OCH STUDENTLITTERATUR


0 1   /   I nlednin g : A I so m desi g n m aterial

algoritmer och avancerad matematik. Men det senaste årtiondet har AI-teknologier av olika slag blivit tillgängliga utanför forskningslabben på ett helt revolutionerande sätt. Dels har ökad tillgång på billig och omfattande processorkraft gjort det möjligt för fler att utföra avancerade beräkningar, dels har tillgängligheten på data och möjligheten att lagra stora mängder data medfört att AI-algoritmer kan tränas effektivare. Vidare har utbyggnaden av ett snabbt internet och en ökande mängd mobila enheter som kan koppla upp sig mot det medfört att data kan samlas in effektivare och att AI-drivna tjänster kan nå ut till fler användare. Detta medför, som med all annan bred teknologiadoption, att mänskligt beteende och interaktioner får en avgörande betydelse för vilka effekter som uppstår. När en ny teknologi släpps ut i världen blir den alltså inte bara en teknisk ingenjörsangelägenhet utan kräver nya ögon och angreppssätt så att vi kan designa system och tjänster klokt och bidra till positiva effekter för individer, organisationer och samhället i stort. Mänsklig användning av teknologi i olika kontexter formar och påverkar också teknologin i sig över tid. Även här kan vi lära av hur andra teknologier påverkat, och påverkats av, implementeringen i samhället. Att exempelvis förutse sociala mediers roll i den arabiska våren 2010 eller det amerikanska presidentvalet 2016 var i princip omöjligt genom att enbart tekniskt analysera Facebookplattformen när den släpptes 2006. Att förstå samhällelig påverkan kräver alltså andra typer av resonemang och kunskapsbaser, hämtade från exempelvis samhällsvetenskapliga, humanistiska och designorienterade ämnen snarare än enbart från matematik och ingenjörsvetenskaperna. Det är detta som är utgångspunkten för den här boken.

Bokens innehåll Denna bok handlar om att anlägga ett människocentrerat designperspektiv på AI. Det innebär att vi betraktar AI som ett designmaterial med vissa egenskaper som kan användas för att designa, bygga och implementera produkter och tjänster i olika användningskontexter där mänsklig användning står i centrum. Detta designmaterial består © FÖRFATTAREN OCH STUDENTLITTERATUR

17


0 1   /   I nlednin g : A I so m desi g n m aterial

av algoritmer, beräkningar och data, vilket ger designer som arbetar med materialet nya möjligheter att skapa kraftfulla adaptiva tjänster. Som med alla designmaterial krävs särskilda tekniker, metoder och angreppssätt för att kunna hantera det väl. Det kräver också förmåga att bedöma i vilka situationer materialet passar, samt att kunna avgöra vilka effekter som kommer att uppstå i olika sammanhang. Låt oss för att förstå avgränsningarna i denna bok göra en enkel analogi och jämföra med måleri. En målare använder sig av färg, duk och pensel för att skapa sina tavlor. Målaren behöver förstå hur olika typer av färger uppfattas, används och beter sig, samt vilka penslar och andra material som är lämpliga för att uppnå vissa effekter. Däremot behöver målaren inte vara expert på exempelvis de kemiska processer och pigment som skapar själva färgen, eller hur penselhåren monteras på penselskaftet, även om detta självfallet är ytterst viktig kunskap. Denna bok handlar om hur data och algoritmer beter sig i interaktiva system under användning. Den handlar alltså inte om matematiken bakom algoritmerna i sig, eller om hur man programmerar olika former av maskininlärning. För det ändamålet finns redan ett mycket stort antal resurser i form av böcker, artiklar och kurser. Däremot råder det större brist på litteratur riktad mot interaktions-, UX- och tjänstedesigner om hur användningskvalitet och designprinciper bör utvecklas och appliceras vid skapandet av AI-drivna tjänster. Den här boken är skriven för dig som är intresserad av praktisk design. Utgångspunkten är den designtradition som allmänt kallas för människocentrerad design. Den närmar sig maskininlärning och andra AI-tekniker för att utöka verktygslådan för designer som vill använda moderna AI-tekniker för att skapa digitala tjänster som är kompatibelt med designprocesser och metoder där människans upplevelse är startpunkten. Boken introducerar grundläggande begrepp inom modern AI-forskning utan att gå in på avancerade algoritmer eller matematik. Istället bygger den ett ramverk av ett femtiotal designprinciper som knyter ihop design med teknologi. Resten av detta inledande kapitel ger en allmän och kort introduktion till AI-fältet och sätter sedan in det i ett människocentrerat designsammanhang så att vi kan fördjupa oss i vad detta designmaterial kan användas till och hur. 18

© FÖRFATTAREN OCH STUDENTLITTERATUR


0 1   /   I nlednin g : A I so m desi g n m aterial

I kapitel 2 fokuserar vi på hur prediktion och grundläggande adaptiva egenskaper kan skapas med hjälp av data. För att designa sådan funktionalitet behöver en designer orientera sig i vilka data som samlas in, och hur data används av de AI-modeller som byggs upp. Kapitlet tar först upp det grundläggande begreppet prediktion, liksom några av de speciella egenskaper och problem som påverkar användarupplevelsen, som oundvikliga fel, kallstartsproblematik och partiska data. I kapitlets andra del bygger vi vidare på begreppet prediktion för att ta oss an adaptivitet och hur användarupplevelsen påverkas över tid. Kapitel 3 rör sig mot mer avancerad AI, där vi berör design av tjänster som uppvisar agens – det vill säga agerar på eget initiativ och använder sig av proaktiva strategier. Detta kräver att vi designar in återkoppling, kontroll, dynamiskt initiativskifte och samspel mellan användare och tjänst. Kapitel 4 bygger sedan vidare på just samverkansperspektivet. Kärnan i detta kapitel handlar om hur färdigheter och arbetsflöden påverkas av en användningssituation som består av både människa och AI-driven tjänst. I kapitel 5 använder vi oss av det tidigare stoffet för att ge ett praktiskt designperspektiv på hur vi som designer kan identifiera användningsområden för, och prototypa, AI-drivna tjänster i praktiken. Här får du praktiska råd och tips om vanliga användningsområden och hur du kan hitta inspiration till AI-drivna användarupplevelser. Kapitlets andra del berör förutom prototyping också utvärdering. I bokens sista kapitel höjer vi blicken till ett samhälleligt och etiskt perspektiv. AI påverkar oss redan idag, och vi har bara sett början på de förändringar som den här teknologin kommer att innebära för individer, organisationer och samhälle. Det är min förhoppning att du som designer ska finna innehållet i denna bok givande och både rustar och inspirerar dig till att designa AI-drivna tjänster klokt, så att de ska bidra till ett mer hållbart samhälle där inte bara mänskliga behov, utan hela planetens, står i centrum. Så låt oss helt enkelt börja från början, med den mest uppenbara frågan: Vad är egentligen artificiell intelligens? © FÖRFATTAREN OCH STUDENTLITTERATUR

19


Pontus Wärnestål är docent i informatik vid Högskolan i Halmstad. Hans forskning fokuserar på människocentrerad AI och digital tjänsteinnovation. Pontus är också Design Director vid designbyrån inUse och har över 20 års erfarenhet av akademiskt och praktiskt designarbete.

Design av AI-drivna tjänster Den här boken handlar om hur man designar AI-drivna tjänster där upplevelse och nytta för människan står i centrum. Den är skriven för yrkesverksamma designers som vill lära sig att hantera detta nya designmaterial för att bredda sin designkompetens och kreativitet. Boken är också tänkt att fungera som kurslitteratur inom informatik, datavetenskap och människa-maskininteraktion. För att avmystifiera och göra dagens AI-teknologi tillgänglig och värdeskapande krävs inte bara teknisk kunskap, utan också en förståelse för hur teknologin samverkar med människan. Design av AI-drivna tjänster utgår från människocentrerad design. Den närmar sig maskininlärning och andra AI-tekniker för att utöka verktygslådan för designers. Boken tar både upp hur enkla AI-stöd kan förbättra redan befintliga tjänster och hur mer avancerad AI kan användas för att skapa tjänster som kan ta eget initiativ och utföra uppgifter å människans vägnar. Tyngdpunkten ligger på att använda data, algoritmer och beräkning som ett eget designmaterial som kan ge upphov till nya typer av användarupplevelser och effekter för individ, organisation och samhälle.

Art.nr 43107

studentlitteratur.se