superintellekt

TULEVIK

NICK BOSTROM SUPERINTELLEKT

POSTIMEHE RAAMAT

Teed, ohud, strateegiad

superintellekt

O

li pesapunumise aeg, ent pärast visa tööga täidetud päeva pidasid varblased õhtuhämaruses isekeskis laata. „Oleme kõik nii väiksed ja nõrgad. Mõelge, kui mõnus oleks, kui meil oleks öökull, kes aitaks meil pesa punuda!” „Jah!” sõnas teine. „Ja ta aitaks meil oma noorte ja vanade eest hoolitseda.” „Ta annaks meile nõu ja hoiataks naabri kassi eest,” leidis kolmas.

Siis kõneles parvevanem Suurlind: „Saatkem kõigis suundades piilurid välja, et nad otsiksid hüljatud öökullipoega või -muna. Varesevõi nirgipoeg sobiks ka. See võib olla kõige toredam asi, mis on meiega juhtunud alates Igavese Terapaviljoni avamisest tagahoovis.”

Parv oli vaimustuses ning kõik kädistasid nii valjusti, kui vähegi jaksasid. Üksnes Kortskulm, ühe silma ja tusase iseloomuga varblane, polnud ettepaneku arukuses veendunud. Ta märkis: „Sellest saab veel meie hukatus. Kas enne säärase looma enda sekka toomist ei peaks arutama öökullide kodustamist ja taltsutamist?”

Suurlind kostis: „Öökulli taltsutamine tundub ülimalt keerulisena. Öökullimuna leidmine on niigi raske, nii et alustagem sellest. Kui me oleme öökulli üles kasvatanud, siis küll veel tema taltsutamisele mõelda jõuab.” „See ei ole hea plaan!” piiksatas Kortskulm, aga keegi teda enam ei kuulnud, sest kõik olid juba Suurlinnu korraldusi täitma lennanud.

Maha oli jäänud vaid kaks-kolm varblast. Üheskoos hakati nuputama, kuidas öökulle taltsutada või kodustada. Varsti saadi aru, et

5 nick bostrom

Ilma lõputa valm varblastest

Suurlinnul oli olnud õigus: öökullide taltsutamine ja kodustamine on ülimalt keeruline, seda enam, kui pole öökulli, kelle peal seda harjutada. Sellegipoolest mõtlesid nad edasi, nagu oskasid, kartes pidevalt, et ülejäänud jõuavad öökullimunaga tagasi enne, kui nemad on kontrolli­probleemile lahenduse leidnud.

Keegi ei tea, kuidas see lugu lõppeb. See raamat aga on pühendatud Kortskulmule ja tema mõttekaaslastele.

superintellekt

H

ea lugeja! Neid ridu lugedes tegutseb teie koljus elund, mis oskab lugeda. Sellel elundil – inimajul – on oskusi, mida teiste loomade peaajul ei ole. Tänu sellele olemegi meie, inimesed, sellel planeedil domineeriv liik. Teistel loomadel on tugevamad lihased ja teravamad küünised, ent meil on nutikam aju. Meie pisut parem üldine intellekt on andnud meile keele, tehnika ja keeruka ühiskonna­korralduse. Ja iga põlvkonnaga on meie intellekt aina rohkem arenenud.

Kui me hakkame kunagi valmistama masinajusid, mis on üldise intellekti poolest inimestest paremad, tekib superintellekt ja see võib saada väga võimsaks. Ja nii nagu gorillade saatus sõltub nüüd meist, inimestest, palju rohkem kui gorilladest endist, hakkab inimeste saatus sõltuma superintelligentsetest masinatest. Üks eelis meil siiski on: me saame neid ajusid ise ehitada. Põhi­ mõtteliselt on meil võimalik ehitada superintellekt, kes inimeste väärtusi kaitseb. Seda peame me kindlasti tegema. Praktikas on aga kontrolli­probleem – küsimus, kuidas superintellekti kontrollida – üsna keeruline. Tundub, et me saame võimaluse seda lahendada ainult üks kord. Sest kui tekib superintellekt, kes ei ole inimkonna vastu sõbralik, ei lase see end enam teise vastu välja vahetada või oma sätteid muuta. Meie saatus oleks sellisel juhul otsustatud.

Selles raamatus käsitlen superintellektiga kaasnevaid probleeme ning seda, kuidas oleks neile kõige parem reageerida. On täiesti võimalik, et see on kõige tähtsam ja suurem ülesanne, millega inimkond on iial kokku puutunud. Ja olenemata sellest, kui hästi või halvasti

7 nick bostrom

Eessõna

superintellekt nick bostrom

8

me sellega hakkama saame, on see arvatavasti ka inimkonna viimane proovikivi.

Ma ei taha oma raamatuga kuidagi väita seda, et intellekti­tehnikas ootab ees suur läbimurre või et seda saab täpselt ennustada. On mõnevõrra tõenäoline, et see läbimurre toimub praegusel sajandil, aga kindel see ei ole. Paaris esimeses peatükis käsitlen ma tõepoolest superintellektini viia võivaid arenguteid ning nende ajastust. Raamatu põhiosa räägib aga sellest, mis saab pärast. Räägin intellektiplahvatuse kineetikast, superintellekti vormidest ja võimetest ning otsustava strateegilise eelise omandanud superintelligentse agendi valikuvõimalustest.

Käsitlen kontrolliprobleemi temaatikat ja jagan mõtteid sellest, mida inimkond saaks teha, et tagada endale elamisväärne ja isegi soodne tulemus. Raamatu lõpu poole vaatlen eelnenud kaalutluste põhjal välja kujunenud üldpilti. Annan mõned soovitused, mida teha praegu selleks, et inimkond saaks hiljem suurema tõenäosusega eksistentsiaalset katastroofi ära hoida.

Seda raamatut pole olnud kerge kirjutada. Loodan, et teised teadlased jõuavad mööda minu rajatud teed selle teema uudismaale kiiremini ja mugavamalt, nii et saaksid seal värske ja puhanuna meie arusaamise piire veelgi avardada. ( Ja kui see minu küntud tee ongi veidi konarlik ja käänuline, siis ma loodan, et arvustajad ei alahinda selle maastiku kallal nähtud töö iseäralikku raskust!)

Seda raamatut pole olnud kerge kirjutada: püüdsin seda hoida nii lihtsana kui võimalik, kuid ma pole kindel, et see on mul päriselt õnnestunud. Kirjutamisel pidasin sihtrühmana silmas iseenda nooremat varianti ja seega püüdsin kirjutada nii, et see raamat oleks minu nooremale minale nauditav. Võib-olla aga sihtisin liiga kitsalt.

Sellegipoolest arvan, et raamat võiks meeldida paljudele inimestele, kes on valmis pisutki rohkem järele mõtlema ning panema vastu kiusatusele tõlgendada iga uut mõtet esimesena pähe torkava klišee valguses. Ma sukeldun kohati ka matemaatikasse ja teistesse teadusvaldkondadesse, aga lugejad, kel neis valdkondades põhjalikke teadmisi pole, ei tohiks end lasta sellest heidutada, sest põhiidee peaks alati kontekstist välja tulema. ( Ja detailidest huvitatud lugejatele olen kirjutanud palju järelmärkusi.1) Paljud selles raamatus esitatud väited on tõenäoliselt valed.2 On ka võimalik, et mul on kahe silma vahele jäänud mingeid tähtsaid asjaolusid, mille tõttu võivad mõned või kõik mu järeldused osutuda

valeks. Olen määramatuse ja ebakindluse nüansse ja suurust püüdnud kogu tekstis väljendada sõnadega, nagu „võimalikult”, „võib”, „saab” „võib-olla”, „tõenäoliselt”, „arvatavasti”, „kindlasti” jne. Kõiki neid täiendeid kasutan ma nimme ja läbimõeldult. Neist episteemilise tagasihoidlikkuse väljendustest üksi siiski ei piisa: pean neile siinkohal lisama ülestunnistuse, et mind on kogu selle raamatu kirjutamise ajal saatnud ebakindluse ja eksimisvõimaluse tunne. See ei ole võlts tagasi­ hoidlikkus: isegi kui ma ise arvan, et mu raamat võib olla vägagi vale ja eksitav, leian ma, et teemakohases kirjanduses esitatud alternatiivsed seisukohad on märksa halvemad, nende hulgas kõige rohkem levinud seisukoht ehk nn nullhüpotees, mille kohaselt ei ole meil praegu põhjust superintellekti tulekut karta.

superintellekt nick bostrom

12

Sisukord Ilma lõputa valm varblastest 5 Eessõna 7 Tänuavaldused 10 1. peatükk. Senine areng ja praegused võimalused 17 Kasvuperioodid ja suur ajalugu 17 Suured ootused 20 Lootusrikkuse ja meeleheite perioodid 22 Praegune seis 30 Arvamusi masinintellekti tulevikust 37 2. peatükk. Superintellektini viivad teed 41 Tehisintellekt 42 Kogu aju emuleerimine 50 Bioloogiline kognitiivsus 58 Aju-arvuti liidesed 68 Võrgustikud ja ühendused 73 Kokkuvõte 75 3. peatükk. Superintellekti vormid 77 Kiiruseline superintellekt 78 Kollektiivne superintellekt 79 Kvalitatiivne superintellekt 82 Otsene ja kaudne haare 83 Mis annab digiintellektile eeliseid 85

6. peatükk. Kognitiivsed supervõimed 123 Funktsionaalsused ja supervõimed 124 TI vallutab maailma: üks stsenaarium 128 Võim looduse ja agentide üle 133 7. peatükk. Superintellekti tahe 140 Intellekti ja motivatsiooni vahekord 140 Instrumentaalne lähenevus 144 Enesealalhoid 145 Eesmärgi ja sisu terviklus 145 Kognitiivse võimekuse parandamine 147 Tehniline täius 149 Ressursside hankimine 150 8. peatükk. Kas hukatus on kindel? 153 Eksistentsiaalne katastroof kui intellektiplahvatuse

kõige tõenäolisem tagajärg?

153 Reetlik pööre 155 Pahaloomulised vead 158 Värdrakendus 159 Infrastruktuuri vohamine 162 Mõtteroim 166

13 nick bostrom

5. peatükk. Otsustav strateegiline eelis 108 Kas liider omandab otsustava strateegilise eelise?

109 Kui suureks edukas projekt kasvab?

114 Seire 115 Rahvusvaheline koostöö 117 Otsustavast strateegilisest eelisest ainikuni 119

superintellekt

4. peatükk. Intellektiplahvatuse kineetika 89 Algusaeg 89 Tõrksus 94 Bioloogilised arenguteed 94 Emulatsioonide ja TI arenguteed 96 Optimeerimisvõimsus ja arengutempo plahvatuslikkus 103

superintellekt nick bostrom

14

9. peatükk. Kontrolliprobleem 168 Kaks agentsusprobleemi 168 Võimekontrollimeetodid 170 Laegastamismeetodid 171 Stiimulimeetodid 173 Nudimine 176 Lõksud 180 Motivatsioonikontrollimeetodid 181 Otsene normimine 182 Kodustamine 184 Kaudne normimine 185 Täiendamine 186 Kokkuvõte 187 10. peatükk. Oraaklid, džinnid, suveräänid, tööriistad 189 Oraaklid 189 Džinnid ja suveräänid 193 Tööriistast TI 196 Võrdlus 202 11. peatükk. Multipolaarsed stsenaariumid 205 Hobustest ja inimestest 206 Palgad ja tööpuudus 206 Kapital ja abiraha 208 Malthuse printsiip ajaloolises perspektiivis 210 Rahvastikukasv ja investeeringud 211 Elu algoritmimajanduses 214 Vabatahtlik orjus, juhuslik surm 215 Kas maksimaalselt efektiivne töö oleks lõbus? 218 Teadvuseta töölised? 220 Evolutsioon ei vii alati edasi 223 Kas ainik võib tekkida pärast üleminekut?

226 Teine üleminek 227 Superorganismid ja mastaabisääst 228 Ühinemine kokkuleppe teel 231

14. peatükk. Strateegiline üldpilt 289 Teadus- ja tehnikastrateegia 290 Tehnika ebaühtlane areng 290 Eelistatav saabumise järjekord 292 Arengutempo ja kognitiivse võimekuse parandamine 295 Tehnika arengu sidusus 299 Tagantjäreletarkuse argumendid 302 Teed ja katalüsaatorid 304 Riistvara arengu mõjud 304 Kas kogu aju emuleerimise tehnika arengut tuleks soodustada? 306 Isikuline perspektiiv soosib kiirust 311

superintellekt

13. peatükk. Valikukriteeriumide valimine 265 Vajadus kaudse normimise järele 265 Koherentne ekstrapoleeritud tahtlus 268 Selgitusi 269 KET põhjendusi 271 Täiendavaid märkusi 273 Moraalsuse mudelid 275 Tee seda, mida ma öelda tahtsin 279 Komponentide nimekiri 280 Eesmärgi sisu 281 Otsustusteooria 282 Epistemoloogia 283 Ratifitseerimine 285 Enam-vähem täppi 287

15 nick bostrom

12. peatükk. Väärtuste omandamine 236 Väärtuste laadimise probleem 236 Evolutsiooniline valik 239 Kinnitusega õppimine 240 Väärtuste assotsiatiivne kogunemine 241 Motivatsioonitellingud 243 Väärtuste õppimine 244 Emulatsioonide moduleerimine 252 Korraldusvormi kujundamine 257 Kokkuvõte 262

Koostöö 311 Võidujooksudünaamika ja selle ohud 312 Koostöö eelistest 315 Koostöö vormid 320 15. peatükk. Aeg otsustada! 322 Tähtajaga filosoofia 322 Mida teha tuleb?

324 Strateegilised analüüsid 325 Korraliku võimekuse loomine 325 Üksikmeetmed 326 Anname endast parima 327 Järelsõna 329 Märkused 333 Bibliograafia 398 Sõnaseletusi 428 Register 433

A

lustan tagasivaatest. Kõige laiemalt vaadates tundub, nagu ajalugu koosneks selgesti eristuvatest kasvuperioodidest, millest igaüks on eelmisest kiirem. Selle põhjal on oletatud, et võimalik on veel üks (isegi kiirem) kasvuperiood. Mina sellele tähelepanekule siiski erilist rõhku ei omista – see raamat ei ole tehnika kiirenevast arengust, eksponentsiaalsest kasvust või mitmesugustest mõnikord singulaarsuse nimetuse alla koondatavatest ideedest. Järgmiseks pööran pilgu tehisintellekti ajaloole. Seejärel käsitlen valdkonna praeguseid võimalusi. Viimaseks teen juttu sellest, mida on asjatundjad arvamusküsitlustes arvanud, ning mõtisklen selle üle, kui vähe me tulevikku aimata oskame.

Kasvuperioodid ja suur ajalugu

Kõigest paari miljoni aasta eest turnisid meie esivanemad endiselt Aafrika puuvõrades. Geoloogilises või isegi evolutsioonilises plaanis kujunes Homo sapiens meie suurte inimahvide viimasest ühisest esi­ vanemast välja kiiresti. Me hakkasime kahel jalal käima, meile tekkisid vastanduvad pöidlad ning mis kõige tähtsam, meie peaaju suuruses ja neuroloogilises ülesehituses toimusid mõned suhteliselt väiksed muutused, mis andsid meile järsku oluliselt suurema kognitiivse võimekuse. See on viinud selleni, et inimene oskab abstraktselt mõelda, keerukaid mõtteid väljendada ning kultuuri kaudu üle põlvkondade teavet koguda ja talletada palju paremini kui ükski teine liik planeedil.

Nende võimete abil sai inimene välja mõelda üha tõhusamaid tootmis­võtteid, mis aitasid meie esivanematel vihmametsadest ja savannidest kaugele välja rännata. Iseäranis tänu põllumajandusele hakkas

17 nick bostrom

Senine areng ja praegused võimalused

superintellekt

1. peatükk

superintellekt nick bostrom

18

kasvama nii inimkonna arvukus kui ka asustustihedus. Rohkem inimesi tähendas rohkem ideid; suurem asustustihedus tähendas seda, et ideed levisid kiiremini ja mõned inimesed said pühenduda eri­oskuste arendamisele. Sellega kiirenes tööviljakuse ja tehnilise võimekuse arengu kasvutempo. Hiljem, tööstusrevolutsiooni saabudes, kiirenes see kasvutempo veel omakorda.

Sellised muutused mõjutavad kasvutempot väga palju. Sadade tuhandete aastate eest, inimeste (või inimlaste) eelajaloo alguses, oli kasvutempo nii aeglane, et inimkonna tootmisvõimsuse jõudmiseks tasemele, millest oleks piisanud veel miljoni inimese ülalpidamiseks, kulus miljon aastat.

Pärast põllumajandusrevolutsiooni, aastaks 5000 e.m.a, oli areng kiirenenud sedavõrd, et sama tulemuse saavutamiseks läks kõigest kaks sajandit.

Praeguses tööstusrevolutsioonijärgses maa­ilmas kasvab maailma­majandus sama palju keskmiselt iga üheksakümne minutiga.3 Isegi praegune kasvutempo, kui see parajalt kaua püsib, viib muljet avaldavate tulemusteni. Kui maailmamajandus kasvab ka edaspidi samas tempos kui möödunud viiekümne aasta jooksul, on maailm 2050. aastaks praegusest umbes 4,8 korda ning 2100. aastaks 34 korda rikkam.4 Ent ühtlase eksponentsiaalse kasvuga kaasnevad väljavaated kahvatuvad võrdluses sellega, mis juhtuks siis, kui maailma kasvutempo kiireneks taas kord nii, nagu pärast põllumajandus- ja tööstusrevolutsiooni. Majandusteadlane Robin Hanson on seniste majandus- ja rahvastikuandmete põhjal välja arvutanud, et keskmine maailma­ majanduse kahekordistumise aeg on pleistotseeniaegse küttide ja korilaste ühiskonna puhul 224 000 aastat, põlluharimisele üle läinud ühiskonna puhul 909 aastat ning tööstusühiskonna puhul 6,3 aastat.5 (Hansoni mudelis on inimkond praegu pooleldi põllumajanduslik ja pooleldi tööstuslik, mistõttu maailmamajandus ei kahekordistu veel iga 6,3 aasta järel.) Kui inimkonna arengus toimuks taas mingi oluline, kahe eelmisega võrreldav nihe, algaks järgmine kasvuperiood, kus maailmamajandus kahekordistub umbes iga kahe nädala tagant.

Praegu tundub säärane kasvutempo ulmelisena. Varasemate ajastute vaatlejad oleksid sama pööraseks pidanud oletust, et kunagi kahekordistub maailmamajandus ühe inimelu jooksul mitu korda. Ometi on sellest saanud meie reaalsus.

Tehnilise singulaarsuse tulekut on praeguseks palju populariseeritud. Näiteid on palju alates Vernor Vinge’i kuulsast esseest ning jätkates Ray Kurzweili ja teiste kirjutistega.6

Maailma SKP (2012, triljonites rahvusvahelistes dollarites)

(b)

45 40 35 30 25 20 15 10 5 0 1700

–6000

–4000

Aasta

–2000

0

2000

superintellekt

45 40 35 30 25 20 15 10 5 0 –8000

19 nick bostrom

Maailma SKP (2012, triljonites rahvusvahelistes dollarites)

(a)

1750

1800

1850 Aasta

1900

1950

2000

Joonis 1. Maailma SKP pikk ajalugu. Lineaarses plaanis kulgeb maailmamajandus mööda sirget, mis ei eemaldu x-teljest, ja sööstab siis järsku kõrgusse. (a) Isegi ainult viimasele 10 000 aastale keskendudes on seaduspära sisuliselt sama: tõus 90° nurga all. (b) Alles viimase sajakonna aasta jooksul tõuseb kõver nullist märgatavalt kõrgemale. ( Joonisele kantud kõverad tulenevad erinevatest andmestikest, mis annavad pisut erinevaid tulemusi.7)

Singulaarsuse mõistet on siiski pruugitud paljudes eri tähendustes ning selle ümber on tekkinud ebapüha (ent ometigi peaaegu lunastaja tulekut kuulutav) tehnoutopistlik aura.8 Kuna enamik neid tähendusi ja konnotatsioone meie arutluskäiku ei puutu, siis loobugem parema mõistetavuse nimel sõnast „singulaarsus” ning võtkem tarvitusele täpsem terminoloogia.

Singulaarsusega seoses pakub meile siin huvi intellektiplahvatuse, iseäranis masinate superintellekti väljavaade. Võib-olla on inimesi,

superintellekt nick bostrom

20

kes on joonisega 1 sarnaseid diagramme uurides veendunud, et meid ootab ees järjekordne kasvutempo oluline kiirenemine, umbes nagu pärast põllumajandus- või tööstusrevolutsiooni. Nemad võivad avastada, et on raske kujutleda maailmamajanduse kahekordistumist kõigest nädalatega, ilma et selleks oleks vaja luua omaenda bioloogilisest ajust palju kiiremat ja efektiivsemat mõistust. Selleks aga, et masin­ intellekti revolutsiooni väljavaadet tõsiselt võtta, polegi jooniseid, diagramme ega majanduskasvu ekstrapoleerimist varasemate andmete põhjal vaja. Nagu edaspidi näeme, on selleks tõsisemaidki põhjuseid.

Suured ootused

Masinaid, millel oleks inimestega võrdväärne üldine intellekt – n-ö kaine mõistus ning võime õppida, analüüsida ja kavandada, et tulla toime keerukate infotöötluse ülesannetega väga erinevates loomulikes ja abstraktsetes valdkondades –, on oodatud alates arvutite leiutamisest 1940. aastatel. Toona ennustati sääraste masinate tulekut umbes kahekümne aasta jooksul.9 Sestsaadik on see aeg pikenenud aastas umbes ühe aasta võrra. Niisiis usuvad ka praegused üldise tehisintellekti võimalikkusele mõtlevad futuroloogid, et veel paarkümmend aastat ja arukad masinad ongi kohal.10 Kakskümmend aastat on radikaalsete muutuste prognoosijaile magus aeg: see on piisavalt lähedal, et tähelepanu äratada ja aktuaalne olla, ent samal ajal piisavalt kaugel, et võimaldada oletust, et selleks ajaks võib toimuda hulk praegu vaid vaevu kujuteldavaid läbimurdeid.

Kõrvutagem seda lühemate ajaskaaladega: suurem osa tehnikast, millel on maailmas suur tähtsus viie või kümne aasta pärast, on piiratud ulatuses juba kasutusel ja tehnika, mis hakkab vähem kui 15 aasta pärast maailma muutma, on tõenäoliselt laborites prototüüpidena juba olemas. Kakskümmend aastat võib olla ka aeg, mil prognoosija saab julgete ennustustega oma mainet rikkumata karjääri teha.

Faktist, et seni on tehisintellekti tulekut liiga ennatlikult ennustatud, ei järeldu siiski, et TI on võimatu või et seda ei tule iialgi.11 Põhjus, miks arukate masinate tulek on oodatust kauem veninud, seisneb selles, et nende loomine on osutunud algselt loodetust tehniliselt raskemaks. See seletus jätab siiski lahtiseks küsimuse, kui suured need raskused täpselt on ning millal me neid ületada võiksime. Mõnikord on aga alguses lootusetult keerulisena tunduval probleemil üllatavalt lihtne lahendus (ehkki vastupidist varianti kohtab arvatavasti sagedamini).

Praegu võivad säärase intellektiplahvatusega kaasnevad suured eksistentsiaalsed riskid paista ilmsena, mistõttu võib tekkida tunne, et seda väljavaadet tuleb uurida ülima tõsidusega, isegi kui oleks teada (aga pole), et selle teostumise tõenäosus on üpris väike. Ehkki tehisintellekti teerajajad olid inimtasemelise TI võimalikkuses veendunud, ei kaalunud enamik neist üleinimliku TI võimalikkust. Tundub, et nende kujutluslihas oli inimestega sama tarkade masinate väljamõtlemisest nii kurnatud, et ei suutnud enam hoomata sellega otseselt kaasnevat – seda, et hiljem muutuvad masinad superintelligentseks.

Suurem osa TI teerajajaid ei tulnud selle pealegi, et nende ettevõtmine võiks olla riskantne.13 Nad ei raisanud aega küsimusele, kas arukad masinad võivad olla inimestele ohtlikud või isegi inimkonna orjastada. See on isegi tolleaegse tehnika arengu hindamise mitte eriti muljet avaldavaid standardeid arvestades hämmastav vajakajäämine.14 Peame lootma sellele, et kui asi ükskord teoks saab, on meil olemas mitte üksnes vahendid, millega intellektiplahvatust käivitada, vaid ka oskus seda üle elada.

superintellekt

Defineerigem ultraintelligentsena masinat, millel on ka kõige targemast inimesest paremad intellektuaalsed võimed. Kuna üks neist võimetest on masinate projekteerimine, siis on ultraintelligentne masin arvatavasti võimeline projekteerima veel paremaid masinaid.

Sellisel juhul tekiks kahtlemata „intellektiplahvatus”, kus inimene jääks intelligentsuses masinatele oluliselt alla. Esimene ultraintelligentne masin on seega viimane leiutis, mille inimene üldse tegema peab, kuid seda tingimusel, et see on piisavalt taltsas ja ütleb meile, kuidas teda valitseda.12

21 nick bostrom

Järgmises peatükis käsitlen mitmesuguseid stsenaariume, mis võivad viia inimtasemelise masinintellektini. Olgu aga kohe selgeks tehtud, et ükskõik kui palju vahepeatusi inimtasemelise masinintellektini viival teel ka ei oleks, pole inimtasemeline masinintellekt ikkagi selle teekonna lõpp-peatus. Sellele järgneb vaid pisut kaugemal üleinimlik masinintellekt. Ja see rong ei pruugi inimeste jaamas peatudagi ega isegi kiirust maha võtta, vaid kihutab sellest arvatavasti lihtsalt mööda.

Matemaatik I. J. Good, kes oli teise maailmasõja ajal Alan Turingi dešifreerimistiimi peastatistik, oli arvatavasti esimene, kes säärast stsenaariumi põhijoontes kirjeldas. Ta kirjutas 1965. aastal lõigu, mida tihti tsiteeritakse:

NICK BOSTROM Nick Bostrom on Rootsi juurtega filosoof, mitmekülgne teadlane ja Oxfordi ülikooli professor, kes juhib seal Inimkonna Tuleviku Instituuti. Ta on üle maailma tuntud esineja ja autor, kelle sulest on ilmunud üle 200 publikatsiooni. Käesoleva raamatuga pani ta aluse globaalsele diskussioonile tehisintellekti üle ja teda on korduvalt nimetatud maailma saja tippmõtleja hulka. ◆ Lugu intellekti tulevikust on samahästi ka lugu kogu maailma tulevikust. Autor küsib olulisi küsimusi: mis näiteks juhtub siis, kui masinad ületavad inimesi üld­intellektis? Kas inimkonda tabab seejärel häving? Samas nendib Bostrom, et esmalt peavad inimesed tehisintellekti ikkagi ise looma. Seega – kuidas tekitada „kontrollitud plahvatus”? ◆ „Me hetkel veel ei tea, kuidas inimese mõistus töötab, kuid on selge, et varem või hiljem suudame luua oma mõistusest nutikamaid masinaid. Nick Bostrom esitab sisuka ja ja kaalutletud visiooni sellest, mida super­intellekt kaasa tuua võib ja mida me juba täna selle suhtes ette võtma peaksime. See on raamat kõigile, keda huvitab inimkonna tulevik.”

Jaan Aru, TÜ arvutiteaduse instituudi kaasprofessor

Esikaanefoto © Shutterstock/anttoniart Autori foto © Future of Humanity Institute