9789144140834 by Smakprov Media AB

Den (o)mänskliga faktorn MTO Digitalisering och automatisering för säkerhet och hållbarhet

LENA KECKLUND BENGT SANDBLAD

KOPIERINGSFÖRBUD Detta verk är skyddat av upphovsrättslagen. Kopiering, utöver lärares och studenters begränsade rätt att kopiera för undervisningsändamål enligt Bonus Copyright Access kopieringsavtal, är förbjuden. För information om avtalet hänvisas till utbildningsanordnarens huvudman eller Bonus Copyright Access. Vid utgivning av detta verk som e-bok, är e-boken kopieringsskyddad. Den som bryter mot lagen om upphovsrätt kan åtalas av allmän åklagare och dömas till böter eller fängelse i upp till två år samt bli skyldig att erlägga ersättning till upphovsman eller rättsinnehavare. Studentlitteratur har både digital och traditionell bokutgivning. Studentlitteraturs trycksaker är miljöanpassade, både när det gäller papper och tryckprocess.

Art.nr 43272 ISBN 978-91-44-14083-4 Upplaga 1:1 © Författarna och Studentlitteratur 2021 studentlitteratur.se Studentlitteratur AB, Lund Formgivning inlaga: Jesper Sjöstrand/Metamorf Design Group Ombrytning inlaga: Helena Jansson formgivning Formgivning omslag: Francisco Ortega Omslagsbild: Wikimedia Commons CC by US Coast Guard Printed by GraphyCems, Spain 2021

Innehåll

Förord 11 Tack 15 Författarpresentationer 17

Del I

Inledning 1 Vad boken handlar om 21 2 Bokens struktur och läsanvisningar 25 3 Värdegrund 29 4 Begrepp och definitioner 33 5 Några exempel 41 5.1 5.2 5.3 5.4 5.5

Costa Concordia 42 Trafiksäkerhet förr och nu 44 Digitalisering och automatisering i vården – problem och möjligheter 46 Miraklet på Hudson River 49 Slutsatser – vad kan man lära? 51

Bakgrund

Del II

6 Digitalisering och automatisering – i samhället och i arbetslivet 57 7 Lagar, förordningar och standarder 67 7.1 7.2 7.3 7.4 7.5 7.6 7.7

Arbetsmiljölagen 67 Medbestämmandelagen 70 Arbetstidslagen 70 Patientsäkerhetslagen 71 Kärntekniklagen 72 EU förordningar om järnvägssäkerhet 73 Standarder 73

Del III Människan, tekniken och organisationen 8 MTO och det sociotekniska synsättet 77 9 Människokunskap 83 9.1 9.2 9.3 9.4

Grundläggande egenskaper 84 Kultur och säkerhetskultur 87 Ledarskap 92 Teamarbete 95

10 Lite kognitionsvetenskap 103 10.1 10.2 10.3 10.4 10.5 10.6 10.7 10.8

6 Innehåll

Perception 104 Kognition 104 Uppmärksamhet 106 Vårt minne – långt och kort 110 Mönsterigenkänning 112 Beslutsfattande 113 Mental arbetsbelastning 115 Situationsmedvetenhet 116

11 Varför händer olyckor? 121 11.1

Barriärer 127

12 Riskuppfattning och riskhantering 141 12.1 12.2 12.3

Riskbedömningar 141 Riskhantering 143 Säkerhetsutvärdering 146

13 Arbetsmiljö 149 13.1 13.2 13.3 13.4

Stress, aktivitet och återhämtning 150 Sömn och återhämtning 154 Krav-kontroll-stöd 158 Kognitiva arbetsmiljöproblem 160

Del IV Att styra komplexa system. Människan som operatör. Automation 14 Systemteknik – system och modell 171 14.1 14.2 14.3 14.4 14.5 14.6 14.7

Systemsynsättet – delar och helhet 171 Generella systemegenskaper 173 Komplexitet 176 System och modell 180 Att styra en process 181 En modell av systemet människa-teknik (MMSO) 184 Cognitive Work Analysis 201

15 Automation 203 15.1 15.2 15.3 15.4 15.5 15.6

Några historiska exempel 203 Olika automationsnivåer 207 Automationsproblem 209 ’Automation surprises’ och ’the irony of automation’ 210 Autonoma och icke-autonoma automater 212 Autonoma automater och auktoritet 214

Innehåll

15.7 15.8 15.9 15.10

Expertsystem och beslutsstöd 219 Olika styrprinciper 220 Självkörande fordon 223 Slutsatser 230

16 Några teorier och modeller om säkerhet och hållbarhet i sociotekniska system 237 16.1 16.2

Del V

Resiliens 237 Antifragile 240

Grundläggande perspektiv

17 Några viktiga perspektiv 245 17.1 17.2 17.3 17.4 17.5 17.6 17.7 17.8 17.9

Samhällsperspektivet 246 Hållbarhetsperspektivet 251 Komplexitetsperspektivet 254 Trygghets- och tillitsperspektivet 261 Etikperspektivet 265 Genusperspektivet 270 Verksamhets- och organisationsperspektivet 272 Produktivitets- och lönsamhetsperspektivet 273 Införandeperspektivet 275

Del VI Verktygslådan 18 Förändringsprocesser, förändringsmetodik och förändringsledning 281 18.1 18.2 18.3 18.4 18.5

8 Innehåll

Ett system- och MTO-perspektiv 282 Verksamhetsnytta, arbetsmiljö och säkerhet i fokus 283 Utveckling av organisation och arbetsprocesser 283 Iterativt förändringsarbete 284 Ett livscykelperspektiv 285

18.6 18.7

Ett bra införande 286 God förändringsledning 288

19 MDI, användbarhet, UX och tillgänglighet 291 19.1

Användarcentrerad systemutveckling 294

20 Metoder för analys och utformning av sociotekniska system 299 20.1 20.2

Vem har ansvar för vad? 301 I vilka situationer kan metoderna tillämpas? 305

21 Riskanalys 309 21.1 21.2

När görs en riskanalys? 312 Genomförande 313

22 Händelseutredning 321 22.1 22.2 22.3 22.4 22.5

Vad är en händelse? 322 Varför utreda? 322 Vad ingår i utredningen? 323 Vem ansvarar för vad? 323 Hur går det till? 324

23 Verksamhetsutveckling och målbilder 337 23.1 23.2

Visionsseminarier 338 Fokusgrupper 339

24 Design av användargränssnitt 341 24.1 24.2

Designprocessen 341 Exempel på designheuristik 343

25 Utformning av styrsystem och operatörsgränssnitt 347 25.1 25.2

Överordnade mål med styrning 348 Förändringsprocesser och förändringsledning 350

Innehåll

25.3 25.4 25.5 25.6 25.7 25.8 25.9

Utformning av operatörssystem och gränssnitt 351 Automationsprinciper 355 Information, kommunikation och samverkan 357 Utformning av larmsystem 357 Arbetsplatsutformning 358 Arbetsmiljö 360 Organisationsaspekter 361

26 Analys och utveckling av säkerhetskultur 363

Del VII Framtiden 27 Framtiden – några spaningar 369 27.1 27.2 27.3 27.4 27.5 27.6 27.7

Att se in i framtiden 370 AI – artificiell intelligens 373 Blir det säkert och hållbart? 379 Förändrade lagar och regelverk 380 Mot framtiden – snabbt och långsamt 382 Ett brett perspektiv 384 Att veta vad man gör – och varför 385

Bildkällor 387 Register 389

10 Innehåll

Förord

Den allt snabbare användningen av digital teknik håller på att förändra förutsättningarna och villkoren för arbetslivet liksom för samhället i övrigt. En trend är att de system som människor ska behärska blir allt komplexare. En annan är en ökande automatisering, vilket innebär att mer eller mindre omfattande delar av en verksamhet utförs av automater eller robotar. Med digitaliseringen följer också ett antal andra genomgripande förändringar som ger utmaningar – nya affärsmodeller, ekonomi-, organisations-, företags- och ledningsstrukturer och inte minst en omfattande globalisering. Här skapas förutsättningar för såväl stor potentiell nytta som omfattande utmaningar, svårigheter, problem och risker. Den framtida utvecklingen och användningen av artificiell intelligens (AI) kommer att påverka oss alla. Men hur? Hur kan alla aktörer i de pågående förändringarna bli bättre på att utnyttja de möjligheter som den digitala teknikutvecklingen innebär? Hur kan vi utnyttja de nya möjligheterna för att skapa bättre arbeten och en bättre värld? Hur kan de komplexa tekniska och organisatoriska system som utvecklas och införs blir så säkra som möjligt, och hur kan man undvika en ökande sårbarhet? Det handlar om att lyckas med en – i vid mening – hållbar utveckling. Flera av de 17 mål som finns angivna i Agenda 2030, fastställd av FN:s medlemsländer och med nationella mål antagna av Sveriges riksdag, handlar om sådant som påverkas av den framtida tekniska utvecklingen. Möjligheterna att gå mot ett bättre, mer hållbart och säkrare arbetsliv och samhälle är stora. Men det fordras förbättrade insikter, kunskaper och ansvarstagande samt goda förändringsprocesser och en kompetent förändringsledning. Denna bok vill bidra med kunskaper om en hållbar teknisk utveckling. Vi som skriver denna bok har sett många goda förbättringsmöjligheter

12 Förord

gå förlorade, vilket medfört osäkra, krångliga och mindre effektiva tekniska system samt omfattande arbetsmiljöproblem. Några orsaker till detta är att tydliga mål om säkerhet, god arbetsmiljö och hållbart arbete saknats, att man inte har haft en god förändringsledning, inte förstått eller hanterat komplexiteten, inte arbetat utifrån ett livscykelperspektiv, inte involverat användare på ett fungerande sätt, inte fokuserat på de viktiga problemen, inte förstått hur de lokala förhållandena ställer krav på lösningar eller inte arbetat enligt goda och effektiva förändringsprocesser. I många fall sammanfaller sådana brister. Som resultat uteblir den potentiella nyttan och nya problem och risker uppstår. Sådana exempel finns från alla sektorer och branscher i arbetslivet, liksom i samhället i övrigt. Man kan säga att man skapar omänskliga system där verksamhetsnytta, god arbetsmiljö, säkerhet och hållbarhet går förlorade. Därav bokens titel. Vi menar att den så kallade mänskliga faktorn ofta måste ses som en styrka snarare är en svaghet medan den ”omänskliga faktorn” kan innebära problem och risker. Boken beskriver sådana principer, metoder och tillvägagångssätt som gör det möjligt att på ett framgångsrikt sätt utveckla och införa nya effektiva, säkra och hållbara digitala system, med fokus på arbetslivet. De framtida tekniska systemen blir oftast komplexa. Det gäller överallt, inom industrin, sjukvården, ekonomin och i samhället. Kraven på de människor som ska planera, övervaka, kontrollera eller styra det som sker, till exempel när det gäller uppmärksamhet, beslutsfattande och problemlösning, blir därmed höga. Komplexiteten gör inte bara att systemen är svåra att begripa, utan medför också att det uppstår helt nya slags risker. När komplexa system fallerar eller havererar kan det vara svårt eller omöjligt att ens förstå vad som egentligen hände och hur det hade kunnat förhindras. Men varför är det så svårt att förstå och hantera komplexitet? Det måste finnas en medvetenhet om att man bäst hanterar ett komplext system genom att förenkla det. Men förenklingar kan inte göras innan man har begripit komplexiteten och identifierat de aspekter som är viktiga att förstå och ta hänsyn till. Först därefter är det möjligt att förenkla utan att det får negativa konsekvenser. Det finns många exempel på hur det annars kan gå fel, vilket leder till ineffektiva system, säkerhetsrisker, incidenter, olyckor och allvarliga arbetsmiljöproblem.

Den här boken är skriven främst för dem som ansvarar för eller är berörda av den digitala utvecklingen och som vill bidra till att skapa goda och hållbara framtida digitala arbetsmiljöer. Alla kommer att påverkas av den tekniska utvecklingen och det är viktigt att den genomförs med målet att skapa hållbarhet. Det gäller att bejaka alla de positiva saker som fram tidens digitala system kan bidra med. Men utan att skapa nya slags problem eller säkerhetsrisker. Alla de som ansvarar för och deltar i utvecklingen måste ha goda och breda kunskaper. Vem ansvarar för vad? Hur ska man göra i praktiken? Vad är viktigt att beakta? Vi vill dela med oss av våra erfarenheter och metoder samt ge exempel på hur man kan lyckas.

Förord

Tack

Stort tack till alla kollegor och medarbetare på MTO Säkerhet och vid institutionen för informationsteknologi vid Uppsala universitet som genom åren bidragit till denna bok genom samarbeten, kunskaper, texter, spännande samtal och kreativa idéer. Tack också till alla kunder och samarbetspartners som bidragit med kunskap och erfarenhet och där vi fått möjligheter att gemensamt lösa viktiga problem i arbetslivet.

Författarpresentationer

Lena Kecklund är filosofie doktor i psykologi samt grundare och vd för MTO Säkerhet AB. Lena har introducerat och utvecklat MTO-begreppet i Sverige. Hon har lång erfarenhet av att skapa säkra, hållbara och effektiva miljöer i säkerhetskritiska verksamheter som kärnkraft, sjöfart, tågtrafik och flygtrafikledning. Lena har arbetat med en rad internationellt välkända fall som olycksutredningen av fartygsolyckan med Costa Concordia. Bengt Sandblad är teknologie doktor och professor emeritus i människa– datorinteraktion vid Uppsala universitet. Bengt har en lång erfarenhet av att studera och utveckla digitala arbetsmiljöer särskilt inom administrativa arbeten, sjukvård och för styrning av komplexa system, till exempel tågt rafik. Han är en av dem som fått Sveriges Ingenjörers Levipris för sitt arbete om digitala arbetsmiljöer. Bengt har tillsammans med andra forskare publicerat boken Digitaliseringen och arbetsmiljön, utgiven på Studentlitteratur 2018. Boken utsågs till årets HR-bok 2019.

Del I

Inledning Digitaliseringen i arbetslivet och i samhället i övrigt är varken god eller ond. Den potentiella nyttan av att utveckla och förnya arbete och verksamheter är enorm. Dit når man dock alltför sällan. Svårigheterna, problemen och fallgroparna är många. Dem hamnar man alltför ofta i. De framtida förbättringsmöjligheterna är med andra ord stora. Del I beskriver bokens innehåll samt några situationer där saker har gått oerhört snett, med svåra konsekvenser. Dessutom beskrivs exempel på hur man har lyckats skapa säkra system eller bemästrat hotfulla situationer.

Kapitel 1

Vad boken handlar om Denna bok handlar om säkerhet och hållbarhet: säkerhet i dagens och i framtidens digitaliserade arbetsliv. Men säkerhet kan inte ses som något fristående från andra aspekter på arbetet, dess organisation, arbetsprocesser och teknikstöd. Säkerhet hänger samman med digitaliseringen, automatiseringen, teknikstödens användbarhet och verksamhetsnytta, arbetsmiljön och med hållbarheten i arbetena, arbetslivet och i samhället. Boken tar därför upp problem, möjligheter, teorier, metoder och praktik för att skapa säkra och hållbara digitala arbeten och arbetsmiljöer i ett brett förändringsperspektiv. I dag omges vi alla av tekniska system av olika art. Arbetslivet blir alltmer digitaliserat, liksom samhället i övrigt. Förhoppningen är, och så är det nog också till stor del, att tekniken ska stödja oss och bidra till att vårt samhälle, våra arbeten, liv och hälsa ständigt ska utvecklas till det bättre. Men detta sker inte utan problem: tekniken kan ha sina brister och människor kan ibland agera på ett felaktigt och riskskapande sätt. Ofta är tekniska system så utformade att det är lätt att göra fel, eller så har arbetet organiserats så att människor blir eller känner sig tvungna att ta risker. Om det går att göra fel kommer någon att göra det, förr eller senare. Är det lätt att göra fel kommer det att ske ofta; är det svårt att göra fel kommer det att ske mer sällan. Utformningen av organisationer, arbeten, tekniska system och arbetsmiljöer måste bygga på sådana insikter. Denna bok diskuterar

Del I Inledning

dessa problem och ger fördjupad kunskap om hur insikterna också kan omsättas i praktisk handling. Samverkan mellan människa och teknik kan vara svår att utforma och få att fungera smidigt. System där människor och teknik ska samsas brukar man kalla sociotekniska. Det handlar om en kombination av människor i olika roller samt digitala och fysiska system. Exempel i arbetslivet är styrning inom processindustrin, fordon och trafik, arbete inom sjukvård, bygg industrin eller hanteringen av administrativa ärenden med digitala hjälpmedel. Det sker också en snabb utveckling av olika slags automatiseringar i arbetslivet. Tekniska system tar över tidigare manuella arbetsuppgifter, medan de människor som finns inom organisationen ska samverka med de automatiska systemen och deras inbyggda algoritmer. En del menar att kommande tillämpningar av artificiell intelligens (AI) kommer att i grunden förändra, och till viss del helt eliminera, många arbeten. Stora förändringar kommer vi i alla fall med säkerhet att få uppleva. Frågan är: Vilka förändringar vill vi se? I sociotekniska system handlar det om att organisera arbetet på ett bra sätt, med roller, bemanning, arbetsbelastning och arbetstider. Boken kommer att beskriva ett antal olika metoder och förändringsprocesser som kan tillämpas för att utforma organisa tioner och sociotekniska system så att resultatet blir effektiva, säkra och hållbara arbeten. Sociotekniska system är oftast, eller alltid, komplexa och dynamiska, vilket kan leda till att de är svåra att förstå sig på, att risker uppstår och att de är besvärliga att hantera. Att kunna utforma sociotekniska system så att de medför nytta och minimerar risker måste därför alltid vara ett viktigt mål. Denna bok vill ge en kunskapsgrund för att man ska kunna beskriva, analysera och förstå risker i komplexa sociotekniska system samt, kanske främst, ge råd om hur man kan gå till väga för att skapa så goda och säkra system som möjligt. Vilka metoder för detta finns? Vilka har ansvaret? Hur ska man gå till väga? Den senare delen av boken kommer att ge en rad konkreta råd om hur förändringsarbetet kan genomföras i praktiken inom organisationer, företag och på samhällsnivå. Säkerhet i sociotekniska system handlar inte bara om att minimera riskerna för incidenter och olyckor, även om detta givetvis i många sammanhang är ett viktigt mål. Ska ett komplext sociotekniskt system vara

säkert ur ett brett och generellt perspektiv är det även andra aspekter som måste beaktas. Några viktiga mål att sträva mot, vilka ingående kommer att diskuteras i boken, är verksamhetsnytta, effektivt arbete, användbarhet hos de tekniska systemen, tillgänglighet för alla och i alla situationer, tillförlitligheten hos och tilliten till tekniken, en god säkerhetskultur, ett starkt socialt stöd inom organisationen, kompetens och utbildning, en god arbetsmiljö samt hållbara arbeten för de mänskliga aktörerna. Dessutom behövs goda förändringsprocesser och en kompetent förändringsledning när de organisatoriska och tekniska systemen ska utvecklas och införas. Allt detta innebär många utmaningar och ställer stora krav på kompetens och ledarskap, samt inte minst på god samverkan mellan olika intressenter och aktörer. Boken vill ge en praktisk vägledning för alla de olika aktörer som blir involverade i ett förändringsarbete, så att alla kan inse och ta sin del av ansvaret. De problem, möjligheter och metoder som boken tar upp är omfattande, och det finns ingen möjlighet att diskutera allt. Som väl är finns det en omfattande forskning och gott om litteratur inom området. Vi bygger därför våra resonemang till stor del på de kunskaper, erfarenheter och metoder som redan finns dokumenterade. I anslutning till bokens olika delar ger vi förslag på läsning för dem som vill läsa och lära mer. Det vi vill åstadkomma är att sätta samman denna omfattande kunskap, med tillägg av våra egna erfarenheter, och diskutera hur allt detta kan omsättas i praktiskt förändringsarbete. Mycket av forskningen och den akademiska kunskapen är svårtillgänglig och förklarar inte hur den kan tillämpas. Vi har i många projekt mötts av en hög ambition att skapa goda digitala system och arbeten – dock kombinerat med en viss uppgivenhet. Då har vi fått frågan: Men hur ska vi göra? Denna bok vill ge såväl bakgrund till hur man kan och bör tänka kring framtidens säkra och hållbara digitala miljöer samt en konkret guidning till ett fungerande förändringsarbete. Det finns ett flertal aspekter på risker och säkerhet som denna bok inte kommer att diskutera. Litteraturen är full av böcker som har titlar som innehåller orden risk och säkerhet i olika betydelser. Exempel på sådant som boken inte kommer att ta upp är ren datasäkerhet, cybersäkerhet, finansiella risker i samband med investeringar, bolagsstyrning eller försäkringar, risker kopplat till teknisk hållfasthet, installationer och konstruktioner, hälso

Kapitel 1 Vad boken handlar om

Del I Inledning

risker kopplat till miljö, buller, kemikalier, risker i militära operationer i krig med mera. En hel del nyttigt om cybersäkerhet kan man läsa här: https:// www.pts.se/globalassets/startpage/dokument/icke-legala-dokument/ pm/2020/internet/rapport_cybersakerhet_rekommenderadeatgarder.pdf Världen har på senare tid drabbats av en omvälvande händelser som har haft tidigare oanade globala konsekvenser för folks hälsa, organisationer, verksamheter och ekonomin. Den pandemi – corona eller covid-19 – som med start under vintern 2019 spred sig över världen är en av de mest omfattande katastroferna under senare år, även om det finns andra globala företeelser som skördar betydligt fler årliga offer som svält, smutsigt vatten, luftföroreningar, malaria eller tobak. Denna bok handlar dock inte om katastrofer utan om mer vardagliga företeelser. Det utesluter inte att en del av det som boken behandlar: risker, säkerhet, resiliens och hållbarhet, har relevans även för de verkligt stora katastroferna.

Kapitel 2

Bokens struktur och läsanvisningar Boken består av ett sju delar som kan läsas i följd eller var för sig, beroende av vem läsaren är och vad man vill lära sig. Den röda tråden består av en inledning som beskriver bokens syfte med några motiverande exempel; en bakgrund som beskriver de trender man i dag ser i arbetsliv och samhälle; en relativt omfattande kunskapsgrund som är nödvändig för att kunna identifiera problem och för att kunna tillämpa lösningsmetoder; en beskrivning av evidensbaserade förändringsmodeller och metoder för analys och utveckling av sociotekniska system; samt avslutningsvis några reflektioner om vad framtiden kan komma att betyda i termer av nya möjligheter och risker. Bokens olika delar är: Del I Inledning. Beskriver bokens innehåll och diskuterar vilka grundläggande värderingar som den baserar sig på. Några inledande exempel. Del II Bakgrund. Digitalisering och automatisering i arbetslivet och i samhället i övrigt. Rådande lagar och regelverk. Del III Människan, tekniken och organisationen. Sociotekniska system. MTO. Människans egenskaper. Varför tar människor risker? Varför händer olyckor? Riskhantering. Kognitionsvetenskap. Arbetsmiljö.

Lena Kecklund är fil.dr i psykologi samt vd för MTO Säkerhet AB. Hon har lång erfarenhet av att utforma säkra och hållbara system i arbetslivet.

Bengt Sandblad är professor emeritus i människa–datorinteraktion vid Uppsala universitet. Han har forskat om automation, användbarhet och digital arbetsmiljö.

Den (o)mänskliga faktorn MTO. Digitalisering och automatisering för säkerhet och hållbarhet De tekniska system som människor ska behärska blir allt komplexare. Vissa verksamheter ska utföras av automatiska system, robotar eller AI-system. Organisationer förändras med nya affärsmodeller och oklara ansvar. Hur kan de nya möjligheterna utnyttjas för att skapa bättre, effektivare och säkrare arbeten samtidigt som risker och sårbarhet minimeras? I boken ges en introduktion till MTO, kognitionsvetenskap, säkerhet, digital arbetsmiljö, systemteknik och automation. MTO står för synsätt, kunskap och tillämpning av metoder för analys och utformning av samspelet mellan människor, teknik och organisation. Boken ger grundläggande kunskaper om förändringsarbete, verksamhetsutveckling, riskanalyser, händelseutredningar, automation, utformning av styrsystem och operatörsgränssnitt samt analys av säkerhetskulturer. Ett flertal exempel från verkliga händelser presenteras. Den (o)mänskliga faktorn är skriven för dem som ansvarar för eller blir berörda av den digitala utvecklingen och är också lämplig som kurslitteratur i utbildningar om verksamhetsutveckling, digitalisering, automation, AI, säkerhet och digital arbetsmiljö.

Art.nr 43272

studentlitteratur.se