GUJOURNALEN 7 | 2015
23
Christian Munthe och Olle Häggström varnar för oförutsedda risker med modern forskning.
gör kostnaderna för en attack av något slag så stora att ingen kommer att vilja starta. N Ä R M A N TA L A R om hot mot mänskligheten är det ofta en enskild person eller terror grupp man syftar på.
»För forskningens frihet är viktig, men knappast mer betydelsefull än män niskans överlevnad.« OLLE HÄGGSTRÖM
– Men det behöver inte alls vara ondska som leder till en katastrof, påpekar Olle Häggström. Det finns ett känt exempel där man tänker sig en robot, som fått i uppgift att tillverka gem och sedan fortsätter att göra detta tills hela världen blivit en enda gemhög. Varför? För att ingen vet hur man ska få stopp på maskinen. – Det finns också en framtidsvision om att använda robotar för att fatta svåra beslut. Tanken är att de skulle sakna per sonliga allianser och istället ha en neutral global överblick med möjlighet att räkna ut hur olika avgöranden påverkar befolkningar i skilda länder. Därmed skulle de kanske på
några sekunder kunna fatta rättvisa beslut som vi människor käbblat om i decennier. Nackdelen är att det skulle leda till ett extremt odemokratiskt expertstyre. För vi människor vill också ha utrymme att ändra oss, förklarar Christian Munthe. – Domstolsväsendet har exempelvis olika nivåer just för att man ska kunna få sin sak prövad ännu en gång. Så om hovrätten lades ner och tingsrätten ersattes av en algoritm, skulle folk acceptera det? Eller skulle vi få ett system, som trots det goda uppsåtet, blir omänskligt? En annan utmaning är att försöka se på utvecklingen utifrån eventuella kommande robotars perspektiv. – Robotar kan vara byggda av proteiner, precis som vi, och om de börjar bete sig som människor, har de kanske också känslor och medvetande som en människa? menar Christian Munthe. – EG E N T LI G E N B E H ÖV E R V I inte ta ställning till om de är medvetna eller inte, inflikar Olle Häggström. Jag behandlar inte dig som en medveten varelse på grund av något jag vet om din anatomi. Om robotarna beter sig mänskligt har vi kanske moraliska skyldig heter gentemot dem oavsett hur medvetna vi tror att de är. Men finns det inte en risk med att vara alltför försiktig också, nämligen att man missar en massa viktiga möjligheter? – Jovisst, om vi inte vågar utveckla exempelvis teknik som skulle kunna leda till
Vill du veta mer? I januari 2016 utkommer Olle Häggströms nya bok Here Be Dragons: Science, Technology and the Future of Humanity. 2011 utkom Christian Munthes bok The Price of Precaution and the Ethics of Risk. Olle Häggström och Christian Munthe rekommenderar också: Humanity: A Moral History of the Twentieth Century av Jonathan Glover, The Spire av William Golding, Superintelligence: Paths, Dangers, Strategies av Nick Bostrom samt filmen Ex Machina. Läs också GU Journalens intervjuer I väntan på de intelligenta robotarna i nr. 6–2014 samt Samtal med forskare: Christian Munthe i nr 1/2011.
att alla får tillgång på rent vatten, innebär ju det att en massa människor dör i onödan, påpekar Christian Munthe. – Men både forskare och finansiärer måste inse att de har ett ansvar, menar Olle Häggström. För forskningens frihet är viktig, men knappast mer betydelsefull än mänsklighetens överlevnad. Teknikutveckling drivs framåt av spän nande framtidsvisioner. Men det blir aldrig som man tänkt sig. – Det påstås ofta att tekniken varken är god eller ond i sig, istället är det använd ningen som är bra eller dålig, förklarar Olle Häggström. Men det är att göra det väl enkelt för sig; när väl ny teknik är utvecklad är det inte säkert att användningen går att reglera. Om exempelvis företaget Amazon utvecklar drönare som kan lämna bokpaket utanför dörren är det svårt att se vad som ska stoppa terrorister från att använda samma teknik för att släppa bomber. – Ett grundläggande villkor för män niskan är att hela tiden behöva planera framtiden utan att egentligen veta vilka omständigheterna kommer att vara då, för klarar Christian Munthe. Vårt vanliga mora liska medvetande fungerar då ofta så att vi tänker bort all osäkerhet. Det är inte bara så att vi inte vet vad som kommer att hända, vi är inte så insatta i vad som redan har hänt heller och det vill vi helst slippa tänka på. TEXT: EVA LUNDGREN FOTO: JOHAN WINGBORG