ELU 3.0.

TULEVIK

MAX TEGMARK ELU 3.0

POSTIMEHE RAAMAT

Inimelu tehisintellekti ajajärgul

11 14

Proloog. Oomegatiimi lugu

17

1. peatükk. Tere tulemast nüüdisaja tähtsaimale debatile Keerukuse lühiajalugu Kolm elufaasi Vaidlejate leerid Väärarusaamad Edasine teekond Kokkuvõte

35 36 37 42 50 57 59

2. peatükk. Mateeria muutub arukaks Mis on intellekt?

Mis on mälu?

Mis on arvutamine?

Mis on õppimine?

Kokkuvõte

61 61 67 72 82 91

3. peatükk. Lähitulevik: läbimurded, koodivead, seadused, relvad ja töö 93 Läbimurded 94 Koodivead contra töökindel TI 104

7 max tegmark

Saateks Tänusõnad

elu 3.0

Sisukord

elu 3.0

Seadused Relvad Töökohad ja palgad Inimtasemeline intellekt?

Kokkuvõte

max tegmark

8

114 119 127 138 141

4. peatükk. Intellektiplahvatus?

Totalitarism Prometheus vallutab maailma Aeglane start ja multipolaarsed stsenaariumid Küborgid ja üleslaaditud inimesed Mis tegelikult saab?

Kokkuvõte

143 145 147 157 162 164 167

5. peatükk. Elu pärast ÜTI sündi: järgmised 10 000 aastat Libertaarne utoopia Heatahtlik diktaator Egalitaarne utoopia Väravavalvur Kaitsev jumal Orjastatud jumal Vallutajad Järeltulijad Loomaaednik 1984 Regress Enesehävitamine Mida teie tahate?

Kokkuvõte

168 170 175 179 182 183 185 190 194 196 196 199 200 205 206

6. peatükk. Meie kosmiline varamu: järgmised miljard ja enam aastat Kuidas olemasolevaid ressursse kõige paremini ära kasutada Ressursside hankimine kosmose asustamise teel Kosmilised hierarhiad Väljavaated Kokkuvõte

207 209 222 236 248 250

252 252 256

8. peatükk. Teadvus 283 Kes hoolib?

283 Mis on teadvus?

285 Milles probleem?

286 Kas teadvuse küsimust saab üldse teadusega lahendada? 289 Eksperimentaalsed tõendid teadvuse kohta 292 Teadvusteooriad 300 Poleemika teadvuse ümber 306 Mis tunde tekitaks TI teadvus?

309 Mõte kui tähendus 313 Kokkuvõte 315 Epiloog. lugu FLI-tiimist FLI sünd Puerto Rico seiklus TI ohutuse viimine massidesse Asilomari TI põhimõtted Mõtestatud optimism

317 318 320 325 329 332

Märkused Register Kirjandusteosed, filmid ja arvutimängud

336 345 352

elu 3.0

258 259 262 271 277 281

9 max tegmark

7. peatükk. Eesmärgid Füüsika: eesmärkide päritolu Bioloogia: eesmärkide areng Psühholoogia: eesmärkide taotlemine ning mäss nende vastu Tehnika: eesmärkide edasiandmine Sõbralik TI: eesmärkide ühitamine Eetika: eesmärkide valimine Lõppeesmärgid?

Kokkuvõte

elu 3.0

S

aime Max Tegmarkiga tuttavaks 2010. aastal, kui ta kutsus mind kõnelema füüsikakonverentsile. Sestpeale on Max olnud minu mõttekaaslane, kolleeg, samuti üks kaasasutajatest Future of Life Institute’is. See on kujunenud oluliseks keskuseks tehisintellekti eksistentsiaalse riski uurimisel ja teemakohase teadlikkuse tõstmisel.

Silmapaistva füüsikuna on Max andnud lugejale ainulaadse võimaluse osa saada meie aja ühest põnevamast ja tähtsamast teemast ning seda päevakohasel ja haaraval moel. Kui näiteks kliimamuutustega seonduvate riskide teemal leidub aktiivseid kaasarääkijaid eri riikidest ja organisatsioonidest üle maailma, siis inimelu kestvuse stsenaariumidega tehisintellekti ajajärgul on tegelnud siiani pigem teadlased ja filosoofid. Tehisintellekti „IQ tõstmisega” seonduvate riskide arutelud on olnud aga kitsalt kahe-kolme riigi ja umbes sajapealise tuumiku laual.

Iga kahe aasta tagant toimuvad nii minu kui ka Maxi eestvedamisel Future of Life Institute’i konverentsid, tuues kokku valdkonna tunnustatud eksperdid, et ühiselt kujundada turvalise tehisintellekti arendamise valdkonna tulevikku. Konverentsi juhtgrupp on sõnastanud tänaseks ka Asilomari printsiibid, millest on kujunenud oluline pidepunkt TI tehisintellekti edasisel uurimisel ja arendamisel. Nimetatud printsiibid on nüüdseks allkirjastanud üle 5000 inimese, hõlmates nii tunnustatud tehisintellekti ja robootika eksperte kui ka muid nimekaid teadlasi ja valdkonna eestkõnelejaid – kelle hulgast leiab näiteks ka Stephen Hawkingi ja Elon Muski.

On tänuväärne, et Max murrab oma raamatu käsitlusega välja tehisintellekti ekspertide kitsamast ringist – ühelt poolt

11 max tegmark

Saateks

elu 3.0 max tegmark

12

populariseerides teemat, teisalt avades ühiskonna jaoks debati tehisintellekti plahvatuslikust või järkjärgulisest arengust, riskide maandamisest, muutustest tööjõuturul, riikide haavatavatest demokraatiatest, relvasüsteemide autonoomsusest või inimkonna arengusuundadest käesolevas ajas.

Tehisintellekti arendamisest rääkides on oluline eristada kahte valdkonda – fundamentaaluuringud ja rakendusuuringud. Kui rakendusuuringute ülesanne on olemasoleva „IQ” baasilt tehisintellekti treenida, siis fundamentaaluuringute ülesanne on tehisintellekti IQd tõsta.

Kui me räägime eksistentsiaalsetest riskidest, siis tulenevad need pigem tehisintellekti IQ tõstmisest. Püüdes visualiseerida IQ tõstmise mudelit, siis on see nagu puurimise operatsioon, kus puur tungib järjest sügavamatesse kihtidesse. Puuri tipp on tehisintellekti fundamentaaluuringute grupid, nagu DeepMind, OpenAI ja mitmed uurimisgrupid akadeemias, mis kaevandavad uusi intelligentsi tehnikaid.

Mida sügavamale puur jõuab, seda plahvatusohtlikematesse kihtidesse satub selle tipp. Väljakaevandatud tehnikad on ajalooliselt järjest võimsamaks muutunud. Seevastu n-ö maapealne tööstus, iduettevõtted ja suurettevõtete juures olevad laboratooriumid pakendavad need tehnikad praktiliselt kasutatavateks teenusteks ja toodeteks.

Tehisintellekti edasises arengus ei saa välistada järsku läbimurret, mis toob kaasa täielikult inimkonna kontrolli alt väljunud tehisintellekti. Kui tuua paralleel inimkonnaga, siis võib öelda, et täpselt sama on juhtunud ka evolutsiooniga: evolutsiooni ajaskaala mõistes plahvatuslikult kiire kultuurilise ja tehnoloogilise arengu tõttu on inimesed planeedi Maa evolutsioonilt lihtsalt „üle võtnud”. Riskide maandamise seisukohalt on tehisintellekti järkjärguline väljaarendamine ohutum, kuivõrd võimaldaks inimkonnal teha piisavalt eeltööd kindlustamaks, et järjest võimsamaks muutuva tehisintellekti eesmärgid ühtivad võimalikult suures osas inimkonna omadega.

Hetkel, mil inimintellekti ületav tehisintellekt on loodud, võib näiteks arvata, et üsna varsti suunab see oma tähelepanu Maast eemale, kuna seal paikneb enamik ressursse. Seetõttu oleks oluline mõelda sellele, kui palju hoolib tuleviku tehisintellekt Maast – kas see oleks lihtsalt stardiplatvorm, et efektiivselt kogu universum koloniseerida, või teeks ta seda ettevaatlikumalt, nii et siinne biosfäär ja sealhulgas inimesed säiliksid. Loodame, et teadlastel õnnestub lähiaastatel või

-k체mnenditel teha h채davajalikke tehnilisi ja filosoofilisi l채bimurdeid, mis kindlustaksid, et isegi potentsiaalselt kontrolli alt v채ljunud tehisintellekti puhul oleks tema arusaam heast tulevikust sama mis inimestel.

Jaan Tallinn

elu 3.0 max tegmark

14

Tänusõnad Olen siiralt tänulik kõigile, kes on käesoleva teose kirjutamisel mind julgustanud ja aidanud. Teie seas on minu perekond, sõbrad, õpetajad, kolleegid ja kaastöötajad, keda ma tänan aastatepikkuse toetuse ja inspiratsiooni eest, minu ema, kes sütitas minus uudishimu teadvuse ja tähenduse vastu, minu isa oma maailmaparandamise tuhinaga, minu pojad Philip ja Alexander, kes näitavad, et inimtasemelise intellekti imed on tõepoolest tärkamas, kõik teadus- ja tehnikaentusiastid üle maailma, kes aastate vältel on minu poole pöördunud küsimuste, tähelepanekute ja julgustavate sõnadega ning aidanud mul oma ideid lihvida ja avaldada, minu agent John Brockman, kes käis mulle nii kaua peale, kuni nõustusin seda raamatut kirjutama, Bob Penna, Jesse Thaler ja Jeremy England, kellega olen pidanud valgustavaid arutelusid vastavalt kvasaritest, sfaleronidest ja termodünaamikast, inimesed, kes andsid käsikirja osade kohta tagasisidet, teiste seas minu ema, minu vend Per, Luisa Bahet, Rob Bensinger, Katerina Bergström, Erik Brynjolfsson, Daniela Chita, David Chalmers, Nima Deghani, Henry Lin, Elin Malmsköld, Toby Ord, Jeremy Owen, Lucas Perry, Anthony Romero, Nate Soares ning Jaan Tallinn, superkangelased, kes kommenteerisid raamatu lõplikku käsikirja, nimelt Meia, minu isa, Anthony Aguirre, Paul Almond, Matthew

Graves, Phillip Helbig, Richard Mallah, David Marble, Howard Messing, Luiño Seoane, Marin Soljačić, minu toimetaja Dan Frank ning ennekõike Meia, minu armastatud muusa ja teekaaslane, kelle raugematu innustuse, toetuse ega inspiratsioonita seda raamatut ei oleks.

Kas teie arvates võiks sel sajandil valmida üliinimlik TI? Ei

Avage 1. peatükk (lk 35)

Jah

Jätkake järgmiselt leheküljelt

proloog

17 max tegmark

O

omegatiim oli firma hing. Kui kõik teised tegelesid kitsa TI mitmesuguste kommertsrakendustega, et ettevõtte käimashoidmiseks hädavajalikku raha sisse tuua, pürgis oomegatiim tegevdirektori eluunistuse täitmise poole: nad arendasid üldist tehisintellekti.

Enamik ülejäänud töötajaid võttis „oomegaid”, nagu nad neid hellitavalt kutsusid, eluvõõraste unistajatena, kelle eesmärgi saavutamine jäi alati aastakümnete kaugusele. Sellegipoolest olid nad oomegate vastu kenad, kuna neile meeldis prestiiž, mida oomegate teedrajav töö firmale tõi. Pealegi olid nad tänulikud täiustatud algoritmide eest, mida oomegad neile aeg-ajalt andsid.

Teised töötajad ei teadnud, et oomegad olid oma kuvandit hoolega kujundanud ühe saladuse varjamiseks: nad olid inimkonna ajaloo kõige hulljulgema plaani täitmisele äärmiselt lähedal. Nende karismaatiline juht oli oomegateks värvanud inimesi, kes ei olnud mitte ainult oivalised spetsialistid, vaid ka auahned, idealistlikud ja kantud siirast soovist inimkonda aidata. Juht meenutas alluvaile, et nende plaan on ülimalt ohtlik ning kui suurriikide valitsused sellest teada saaksid, teeksid nad peaaegu kõike – inimröövi välistamata –, et nende tööle lõpp teha või parema meelega nende kood endale ärastada. Ent oomegad olid südamega asja juures suuresti samal põhjusel, miks paljud maailma parimatest füüsikutest ühinesid Manhattani projektiga arendamaks tuumarelvi: veendumusest, et kui nemad ei tee seda esimesena, teeb keegi vähem idealistlik.

Oomegate loodud TI hüüdnimega Prometheus muutus üha võimekamaks. Ehkki selle kognitiivsed võimed jäid inimeste omadele

elu 3.0

Oomegatiimi lugu

elu 3.0 max tegmark

18

endiselt kõvasti alla mitmes valdkonnas, nagu näiteks inimsuhtluses, olid oomegad suurt rõhku pannud ühe tema oskuse arendamisele: oskusele programmeerida TI-süsteeme. Nad olid selle strateegia valinud teadlikult, kuna uskusid intellektiplahvatuse väidet, mille Briti matemaatik Irving Good oli esitanud juba 1965. aastal: „Defineerigem ultraintelligentsena masinat, mis ületab kõigis intellektuaalsetes toimingutes kaugelt ükskõik kui tarka inimest. Kuna üks neist toimingutest on masinate projekteerimine, siis ultraintelligentne masin oleks võimeline projekteerima veel paremaid masinaid. Sellisel juhul tekiks siis kahtlemata „intellektiplahvatus”, mis jätaks inimese intellekti kaugele maha. Esimene ultraintelligentne masin on seega viimane leiutis, mida inimesel on üldse vaja teha, tingimusel, et see on piisavalt taltsas, et meile öelda, kuidas teda valitseda.”

Oomegad oletasid, et kui neil õnnestuks see iseenese parandamine toimima panna, muutuks masin varsti küllalt arukaks, et ise ära õppida teisigi kasulikke inimlikke oskusi.

Esimesed miljonid Nad otsustasid masina tööle panna reede hommikul kell üheksa.

Prometheus huugas eritellimusel valminud arvutikobaras, mis pikkade kapiridadena täitis tohutut konditsioneeritud õhuga saali, kuhu pääses üksnes kiipkaardiga. Turvalisuse pärast oli Prometheus internetist täiesti eraldatud, kuid sisaldas õppematerjalina koopiat suurest osast veebist (Wikipedia, Kongressi Raamatukogu, Twitter, valik Youtube’ist, suur osa Facebookist jne).* Nad olid valinud alustamiseks selle aja, et saaksid segamatult töötada: nende pereliikmed ja lähedased arvasid, et nad on firma nädalavahetuse puhkeüritusel.

Kööginurk oli valmistoite ja energiajooke täis ning oomegad pakatasid teotahtest.

Kui nad alustasid, oli Prometheus TI-süsteemide programmeerimisel neist endast veidi kehvem, aga see-eest tohutult kiirem: *

Lihtsuse nimel võtan loo taustaks praeguse majanduse ja tehnika, ehkki enamik teadlasi oletab, et inimtasemeline üld-TI on vähemasti kümnete aastate kaugusel.

Oomegaplaani teostamine kujuneb arvatavasti veelgi hõlpsamaks tulevikus, kui digimajandus jätkab kasvu ning üha rohkem teenuseid saab ilma liigsete küsimusteta tellida võrgust.

elu 3.0

19 max tegmark

Prometheus tegi senikaua, kui neil kulus ühe Red Bulli allakulistamiseks, ühe probleemi läbinärimiseks ära tuhandete inimaastate töö.

Kella 10-ks oli Prometheus lõpetanud iseenda esimese uuenduse, v2.0, mis oli veidi parem, ent inimesest siiski nõrgem. Ent kell 14, kui käivitus Prometheus 5.0, tabas oomegaid jahmatus: masina võrdlusnäitajad olid taevasse sööstnud ning täiustumiskiirus näis hoogustuvat. Ööseks otsustasid nad käivitada Prometheus 10.0, et alustada plaani 2. faasiga: raha teenimisega.

Oomegate esimene sihtmärk oli Amazoni „mehaaniline türklane” MTurk. Talguhangete veebiplatvormina 2005. aastal rajatud MTurk oli kiiresti kasvanud. Kümned tuhanded inimesed kogu maailmast täitsid üksteise võidu terveid ööpäevi tugevalt struktureeritud ülesandeid, mida nimetati HITideks (ingl human intelligence tasks, inimintellekti ülesanded). Need ülesanded ulatusid audiofailide transkribeerimisest kuni piltide liigitamiseni ja võrgulehekülgede kirjelduste koostamiseni ning kõiki neid ühendas üks: kui need olid hästi tehtud, ei saanud keegi aru, kas ülesande oli täitnud inimene või TI. Prometheus 10.0 sai enam-vähem hästi hakkama pooles kategooriatest. Iga kategooria tarvis lasid oomegad Prometheusel luua minimalistliku, ainult selle kategooria ülesannetega tegeleva TI-tarkvaramooduli. Selle laadisid nad üles Amazoni pilve Amazon Web Services, mis oli võimeline teenindama nii palju virtuaalmasinaid, kui nad välja üürisid. Iga Amazoni pilvandmetöötluse osakonnale makstud dollari kohta teenisid nad Amazoni MTurki osakonnalt üle kahe dollari. Amazon ise ei aimanudki, et temas endas on säärane hämmastav vahelttegemise võimalus!

Jälgede segamiseks olid nad eelnenud kuudel avanud tuhandeid MTurki kontosid väljamõeldud inimestele ning Prometheuse loodud moodulid asusid nüüd nende inimeste rolli. MTurki kliendid maksid reeglina kaheksa tunni jooksul. Selle raha eest tellisid oomegad pilveaega juurde ning lasid pilves mütata pidevalt täiustuva Prometheuse uusima versiooni loodud üha paremaid mooduleid. Kuna nende raha iga kaheksa tunni järel kahekordistus, hakkas MTurki ülesandevaru ammenduma ning oomegad said aru, et nad ei saa teenida üle miljoni dollari päevas soovimatut tähelepanu ligi tõmbamata. Aga sellest oli enam kui küllalt, et finantseerida järgmist sammu: kaotada pearaamatupidajalt raha lunimise vajadus.

elu 3.0

Ohtlikud mängud

max tegmark

20

Peale läbimurrete TI vallas oli üks projekte, mida oomegad suurima õhinaga kavandasid, see, kuidas Prometheuse käivitamise järel võimalikult kiiresti raha teenida. Põhimõtteliselt võis kasumit teenida kogu digimajanduses, ent kas oli parem alustada arvutimängude, muusika, filmide või tarkvara tegemisest, raamatute või artiklite kirjutamisest, aktsiaturul kauplemisest või leiutiste müügist? Küsimus oli lihtsalt investeeringute tulumäära maksimeerimises. Senised investeerimisstrateegiad olid nende võimetega võrreldes aegluubis paroodia: kui tavaline investor jäi rahule 9%ga aastas, siis nende MTurki investeeringud olid sisse toonud 9% tunnis, andes iga päev kaheksa korda rohkem raha. Niisiis: mida teha pärast MTurki tühjendamist?

Nende esimene mõte oli teha puhas töö aktsiaturul – olid ju peaaegu kõik neist millalgi keeldunud hästitasuvast tööst arendada TI-d riskifondidele, kes just sellesse ideesse ohtrasti raha investeerisid.

Mõnel tuli meelde, et just sedasi oli TI teeninud oma esimesed miljonid filmis „Piire ületades” („Transcendence”). Kuid eelmise aasta börsikrahhile järgnenud uued eeskirjad tuletisväärtpaberite kohta kitsendasid nende võimalusi. Peagi said nad aru, et ehkki nad võiksid teistest investoritest palju rohkem teenida, siis vaevalt küüniks tulu ligilähedalegi sellele, mida nad võiksid teenida oma toodete müügist. Kui sinu käsutuses on maailma esimene üliintelligentne TI, siis on ju targem investeerida oma firmadesse kui võõrastesse! Ehkki sellest põhimõttest võis aeg-ajalt kõrvale kalduda (näiteks kasutada Prometheuse üleinimlikke häkkimisoskusi siseinfo hankimiseks ning selle põhjal soetada tõusma hakkavate aktsiate ostuoptsioone), leidsid oomegad, et see ei tasu ära kaasneda võivat soovimatut tähelepanu.

Kui nad hakkasid arutama, milliseid tooteid arendada ja müüa, tundusid arvutimängud alguses parima valikuna. Prometheus võis ligitõmbavate mängude loomise väga kiiresti ära õppida, kuna ta sai kergesti hakkama koodi kirjutamise, graafika disainimise, kiirtejälituse ning kõigi muude valmistoote loomiseks vajalike ülesannetega. Pealegi teaks Prometheus pärast inimeste eelistuste kohta veebiandmete analüüsimist täpselt, mis iga liiki mängijale meeldib, ning suudaks mängu müügitulu teenimiseks palju paremini optimeerida kui ükski inimene.

Fantaasiamäng „The Elder Scrolls V: Skyrim”, millele paljud oomegad olid raisanud rohkem tunde, kui nad julgesid tunnistada, oli 2011. aastal

elu 3.0

21 max tegmark

esimese nädalaga kasumit toonud üle 400 miljoni dollari ning nad olid kindlad, et Prometheus suudab 24 tunni jooksul Amazoni pilves teenitud miljoni dollariga luua midagi vähemasti sama suurt sõltuvust tekitavat. Seejärel müüksid nad mängu võrgus ning laseksid seda Prometheusel blogosfääris inimestena kiita. Kui see tooks nädalaga sisse 250 miljonit dollarit, oleksid nad oma investeeringu kaheksa päevaga kahekordistanud kaheksa korda, mis annaks tulumääraks 3% tunnis – MTurkiga teenitust veidi väiksem, ent palju kestlikum tulu.

Nad arvasid, et iga päev uusi mänge arendades võiksid nad ammu enne mänguturu küllastumist teenida 10 miljardit dollarit.

Selle plaani laitis paraku maha oomegatiimi küberturbespetsialist. Ta osutas vastuvõetamatule riskile, et Prometheus murrab välja ning hakkab ise oma saatuse üle otsustama. Kuna oomegad ei teadnud päris kindlasti, kuidas Prometheuse eesmärgid iseenese parandamise raames arenevad, otsustasid nad kindla peale minna ja tegid kõik selleks, et Prometheus ei saaks internetti putkata. Prometheuse peamasina puhul oma serveriruumis kasutasid nad füüsilisi piiranguid: internetiühendust lihtsalt ei olnud ning Prometheuse ainus väljund olid sõnumid ja dokumendid, mida ta saatis oomegate kontrolli all olevasse arvutisse.

Teisest küljest oli Prometheuse loodud mis tahes programmi jooksutamine internetiühendusega arvutil riskantne: kuna oomegatel ei olnud võimalik täielikult mõista, mida programm teeks, ei saanud nad ka kindlad olla, et see ei hakka võrgus näiteks viirusena levima. Prometheuse poolt MTurki ülesannete tarvis kirjutatud tarkvara testimiseks jooksutasid nad seda seega ettevaatusest üksnes virtuaalmasinas. See on programm, mis imiteerib arvutit: näiteks ostavad paljud Maci kasutajad virtuaalmasina tarkvara, kus saab kasutada Windowsi programme, pannes need uskuma, et nad on tõepoolest Windowsi masinas. Oomegad olid loonud oma virtuaalmasina hüüdnimega Pandora laegas, mis matkis ülilihtsustatud masinat, millel puudusid kõik vidinad, mida tavaliselt arvutitega seostatakse: sellel polnud klaviatuuri, monitori, kõlareid, internetiühendust – mitte midagi. MTurki audiofailide transkribeerimiseks seadistasid oomegad Pandora laeka nii, et sisse läks üks audiofail korraga ning välja tulla sai vaid üks tekstidokument – transkriptsioon. Need laekaseadused olid laekas oleva tarkvara jaoks umbes samasuguse tähendusega nagu füüsikaseadused meile universumis:

elu 3.0 max tegmark

22

tarkvaral oli laekast välja pääseda võimalik niisama vähe, nagu meil valguse kiirusest kiiremini liikuda, olgu me kui tahes targad. Kui see ainus sisend ja väljund kõrvale jätta, oli tarkvara Pandora laekas sisuliselt suletud paralleelmaailma, kus kehtisid eraldi andmetöötlusreeglid. Oomegate paranoia Prometheuse väljamurdmise suhtes oli sedavõrd suur, et nad piirasid ka mitteusaldatava koodi eluaega.

Näiteks iga kord, kui laeka transkriptsioonitarkvara oli ühe audiofaili töötlemise lõpetanud, kustutati laeka kogu mälusisu automaatselt ning programm installeeriti algusest peale uuesti. See tagas, et programm ei saanud järgmist transkribeerimisülesannet alustades teada, mis oli varem juhtunud, ega seega aja jooksul õppida.

Amazoni pilve MTurki projekti tarvis kasutades õnnestus oomegatel kõik Prometheuse loodud moodulid niisugustesse virtuaallaegastesse panna, kuna MTurki sisend ja väljund olid nii lihtsad. Sama lahendus ei sobinud aga rohke graafikaga arvutimängudele, mida ei saanud laegastada, sest need vajasid ligipääsu kogu arvuti riistvarale.

Pealegi ei tahtnud oomegad riskida sellega, et mõni nutikas arvutikasutaja analüüsib nende mängu koodi, avastab Pandora laeka ning otsustab sisuga tutvuda. Väljamurdmise riski tõttu jäi ära mitte üksnes mänguturg, vaid ka muu tarkvara turud, kus võinuks teenida sadu miljardeid dollareid.

Esimesed miljardid Oomegad piirdusid oma otsingul toodetega, mis olid suure väärtusega, puhtalt digitaalsed (võimaldades kiiret tootmist) ning kergesti mõistetavad (näiteks tekstid või filmid, mille kohta nad teadsid, et need on väljamurdmisriskivabad). Viimaks otsustati asutada meediafirma, mis pidi hakkama tootma animafilme. Veebisait, turundusplaan ja pressiteated olid kõik valmis ammu enne seda, kui Prometheus muutus superintelligentseks – puudus veel vaid sisu.

Ehkki Prometheus oli pühapäeva hommikuks hämmastavalt võimekas ning kraapis väsimatult MTurkist raha kokku, olid tema intellektuaalsed võimed ikka veel pisut piiratud: Prometheus oli sihilikult optimeeritud projekteerima TI-süsteeme ning kirjutama tarkvara, mis täidaks MTurki nürivõitu ülesandeid. Näiteks ei osanud ta filme teha – ei mingil muul erilisel põhjusel kui vaid sellel, miks James Cameron ei

elu 3.0

23 max tegmark

osanud filme teha kohe pärast sündimist: see oskus tuleb ajaga omandada. Sarnaselt inimlapsega võis Prometheus talle kättesaadavatest andmetest õppida kõike, mida tahtis. Kui James Cameronil kulus lugemise ja kirjutamise õppimiseks aastaid, oli see Prometheusel selge juba reedel, mil ta jõudis läbi lugeda ka terve Wikipedia ja mitu miljonit raamatut. Filmide tegemine oli raskem. Inimesi paeluva stsenaariumi kirjutamine oli sama raske kui raamatu kirjutamine, kuna nõudis põhjalikku arusaamist inimühiskonnast ning sellest, mis inimestele meeldib. Et stsenaariumist saaks valmis videofail, tuli tohutul hulgal teha simuleeritud näitlejate ja nende tegevuspaikade kiirtejälitust, matkida hääli, luua kütkestavat taustamuusikat jne. Pühapäeva hommikuks suutis Prometheus kahetunnise filmi läbi vaadata umbes minutiga, mis hõlmas filmile aluseks olnud raamatute ning võrgus leiduvate arvustuste läbilugemist. Oomegad märkasid, et kui Prometheus oli järjest läbi vaadanud mitusada filmi, oskas ta täiesti hästi ennustada, milliseid arvustusi film saab ning kuidas see eri sihtrühmadele meeldib.

Prometheus õppis lausa ise kirjutama arvustusi, kust kumas läbi tõeline mõistmine. Ta kommenteeris kõike alates süžeedest ja näitlemisest kuni tehniliste detailideni, nagu valgustus ja võttenurgad. Oomegate arvates tähendas see, et kui Prometheus peaks ise filme tegema, siis ta teaks, kuidas.

Oomegad lasid Prometheusel keskenduda kõigepealt animatsioonile, et vältida piinlikke küsimusi simuleeritud näitlejate kohta.

Pingelise nädalavahetuse tipuks varustasid nad end pühapäeva õhtul õllega, paisutasid mikrolaineahjus plaksumaisi, hämardasid tuled ning asutasid end Prometheuse debüütfilmi vaatama. See oli Disney „Lumekuninganna ja igavese talve” („Frozen”) vaimus animeeritud fantaasiakomöödia, kus kiirtejälituse oli ära teinud Prometheuse loodud ja Amazoni pilves laekasse pandud kood, milleks kulus enamik selle päeva miljoni dollari suurusest MTurki kasumist. Kui film algas, olid nad korraga nii põnevil kui ka kõhevil asjaolu pärast, et filmi autor oli masin ilma inimese juhendamiseta. Ei läinud aga kaua, kui nad naljade peale naerma puhkesid ning pinevatel hetkedel hinge kinni hoidsid. Mõnel tuli emotsionaalse lõpu peale isegi pisar silma, väljamõeldud tegelikkusse süüvinult olid nad täielikult unustanud, kes selle filmi loonud oli.

Oomegad määrasid veebisaidi stardi reedeks, et Prometheusele jääks aega sisu juurde luua ning neile endale asjatoimetusteks, mida

elu 3.0 max tegmark

24

nad Prometheusele ei usaldanud: reklaamiostuks ning töötajate värbamiseks enda viimastel kuudel asutatud varifirmadesse. Jälgede segamiseks mõeldi välja ametlik legend, et nende meediafirma (millel puudus oomegatega avalik seos) ostis enamiku sisust sõltumatutelt filmitootjatelt, kes reeglina olid kõrgtehnoloogilised idufirmad madala sissetulekuga regioonides. Need võltstootjad asusid mugavalt kõrvalistes kohtades, nagu Tiruchirappalli ning Jakutsk, kuhu enamik uudishimulikke ajakirjanikke ei viitsinud minna. Ainsad töötajad, kes tõepoolest palka said, töötasid turunduses ja halduses ning vastasid kõigile küsijaile, et produktsioonitiim viibib mujal ega anna hetkel intervjuusid. Legendile vastavalt valiti meediafirma juhtlauseks „Maailma loovtalendi kanal” ning loodi kuvand, mille kohaselt erines firma teistest absoluutselt selle poolest, et kasutas loovisiksuste võimestamiseks tehnika viimast sõna ning seda eriti arengumaailmas.

Kui käes oli reede ning saidile hakkasid saabuma esimesed uudishimulikud, leidsid need eest midagi, mis meenutas veebiteenuseid Netflix ja Hulu, ent põnevate erinevustega. Kõik animasarjad olid täiesti uued, keegi polnud neist varem kuulnudki. Need olid üpris paeluvad: enamik sarju koosnes 45 minuti pikkustest osadest, millel oli tugev süžee ning lõpp, mis sütitas huvi järgmise osa vastu. Ja nad olid konkurentide sarjadest odavamad. Iga sarja esimene osa oli tasuta ning iga ülejäänut sai vaadata 49 sendi eest, kusjuures terve sari oli soodushinnaga. Alguses oli saidil ainult kolm sarja, igaühes kolm osa, ent iga päev lisati nii uusi osi kui ka eri sihtrühmadele mõeldud uusi sarju. Kahe esimese nädalaga täiustusid Prometheuse filmiloomisoskused kiiresti mitte ainult filmide kvaliteedi, vaid ka tegelaste simuleerimise ja kiirtejälituse algoritmide mõttes, mis kahandas tunduvalt pilvandmetöötluse kulu iga uue osa tootmiseks. Nii said oomegad esimese kuuga avaldada kümneid uusi sarju eri vanuserühmadele alates väikelastest kuni täiskasvanuteni ning levitada neid kõigi maailma tähtsamate keelte turgudele, nii et nende sait oli konkurentide omadega võrreldes palju rahvusvahelisem. Mitmele kommentaatorile avaldas muljet fakt, et mitmekeelsed polnud üksnes heliribad, vaid videod ise: näiteks kui tegelane rääkis itaalia keeles, siis liikus vastavalt ka tema suu ja ta tegi itaallastele omaseid žeste.

Ehkki Prometheus oleks nüüd täiesti vabalt hakkama saanud ka ainult simuleeritud näitlejatega, kes olid inimestest eristamatud,

elu 3.0

25 max tegmark

otsustasid oomegad mitte riskida. Sellegipoolest paiskasid nad turule rohkesti sarju poolenisti realistlikult animeeritud inimtegelastega žanrites, mis võistlesid tavaliste telesaadete ja -filmidega.

Nende sait osutus üpris ligitõmbavaks ning vaatajate arv kasvas fantastilise kiirusega. Paljud fännid leidsid, et Prometheuse tegelaskujud ja süžeed on nupukamad ja huvitavamad kui isegi Hollywoodi kõige kallimates kinofilmides ning rõõmustasid tõsiasja üle, et said neid vaadata palju soodsama hinnaga. Agressiivse reklaami (mida oomegad said nullilähedaste tootmiskulude tõttu lubada), oivalise meediakajastuse ning vaatajate ülistavate arvustuste toel paisus oomegate ülemaailmne sissetulek ühe kuuga miljoni dollarini päevas. Kahe kuuga olid nad Netflixist ette rebinud ning kolme kuu pärast teenisid nad päevas üle 100 miljoni dollari ning võistlesid juba Time Warneri, Disney, Comcasti ja Foxiga, olles üks suurimaid meediaimpeeriume maailmas.

Oomegate sensatsiooniline edu tekitas rohkesti soovimatut tähelepanu, sealhulgas oletusi, et neil on tugev TI, ent kõigest murdosaga oma sissetulekust korraldasid oomegad üpris eduka desinformatsioonikampaania. Glamuursesse uude Manhattani kontorisse värvati kõneisikud, kes uudishimutsejatele kärbseid pähe ajasid. Kogu maailmas palgati palju variisikuid, sealhulgas tõelisi stsenariste, kes hakkaksid uusi sarju arendama, kuid Prometheusest ei teadnud neist keegi. Alltöövõtjate rahvusvaheline võrgustik oli nii segane, et peaaegu kõik töötajad arvasid, et enamiku tööst tegid kusagil mujal teised.

Selleks et haprast seisust pääseda ning ülemäärase pilvandmetöötlusega mitte soovimatut tähelepanu tõmmata, palkasid oomegad insenere, kes pidid kogu maailmas neist pealtnäha sõltumatutele varifirmadele hakkama ehitama massiivseid IT-rajatisi. Kuigi kohapeal nimetati neid rajatisi rohelisteks andmekeskusteks, kuna need kasutasid valdavalt päikeseenergiat, kasutati neid pigem andmete töötlemiseks kui hoidmiseks. Andmekeskuste plaanid koos iga viimase kui detailiga koostas Prometheus, kes kasutas selleks üksnes vabamüügis saadavat riistvara, optimeerides neid lühima ehitusaja saavutamiseks.

Inimestel, kes keskusi ehitasid ja käigus hoidsid, ei olnud aimugi, millega need tegelesid: nad arvasid, et sealt pakutakse Amazoni, Google’i ja Microsofti omadega sarnaseid pilveteenuseid, ning teadsid üksnes, et müüki juhiti eemalt.

MAX TEGMARK Max Tegmark on MIT (Massachusettsi Tehnikainstituut) füüsikaprofessor ning Future of Life Institute’i (Elu Tuleviku Instituut) president. Ta on esinenud kümnetes populaarteaduslikes filmides ning tema kirg ideede, seikluste ja põneva tuleviku vastu on nakkav. Max Tegmark on kirjutanud ka raamatu „Our Mathematical Universe” („Meie matemaatiline universum”). ◆ Milliseks kujuneb inimkonna tulevik alates päevast, mil õnnestub luua üliinimlik tehisintellekt? Seni on TI arengustsenaariumid olnud üksnes kitsa teadlaste ringi arutada, Max Tegmark aga toob selle üliolulise küsimuse kogu maailma avalikkuse ette. Kosmilisi mõõtmeid võttev lugu räägib elu võimalikest tulevikustsenaariumidest meie universumis. ◆ „Haarav raamat annab ainulaadse võimaluse osa saada ühest meie aja põnevamast ja tähtsamast teemast – inimelu kestvuse stsenaariumist tehisintellekti ajajärgul. Ühiskondlik debatt tehisintellekti plahvatuslikust või järkjärgulisest arengust, riskide maandamisest, muutustest tööjõuturul, riikide haavatavatest demokraatiatest, relvasüsteemide autonoomsusest või inimkonna arengusuundadest käesolevas ajas aitab kindlustada, et isegi potentsiaalselt kontrolli alt väljunud tehisintellekti puhul oleks tema arusaam heast tulevikust sama mis inimestel.”

Jaan Tallinn, Future of Life Institute’i kaasasutaja

Esikaanefoto © Shutterstock