16 minute read

BETELJESÜLŐ JÓSLATOK? Avagy AI botrány Hollywoodban

Szász Dávid

BETELJESÜLŐ JÓSLATOK? Avagy AI botrány Hollywoodban

“A lényeg, hölgyeim és uraim, hogy a kapzsiság, jobb szó híján, egy jó dolog. A kapzsiság helyénvaló. A kapzsiság motivál. A kapzsiság tisztánlátáshoz vezet, keresztülvág mindenen, összefoglalja az evolúció lényegét. A kapzsiság minden formája, az élet, a pénz, a szerelem vagy a tudás iránt érzett mohóság, előreviszi az emberiséget.” Gordon Gecko (Michael Douglas), Tőzsdecápák.
Hihetetlen tehetségünk van öngólt rúgni.

Azok, akik most lelkesen tapsolnak a technológia térhódításának, valahogy még mindig nem képesek felismerni a képletben rejlő önnön sebezhetőségüket. Van az emberiségben valami kiirthatatlan törekvés, hogy elszakadjon a gyökereitől, és nagyravágyásában mindig az ég felé törjön, lépcsőt építsen a mennybe, felmásszon az égig érő paszulyon, mások fölé kerekedjen, kérkedjen a hatalmával, hizlalja vagyonát, építse kényelmét elképesztő unalmában, és öntömjénező nárcisztikus tobzódásában.

Mindig minden kevés, soha semmi nem elég. Nekem mindent, neked semmit.

Mindezek tetejébe, ahogy végignézünk akár csak az elmúlt pár évtized filmtermésén, (hogy az elmúlt száz év egyes irodalmi műveit ne is említsem), számos önbeteljesítő jóslat hangzik el számos filmben, ami majdnem tűéles pontossággal figyelmeztet minket a fentiekre.

“Az egész elcseszett nemzedék benzint csapol, kaját tálal vagy nyakkendős rabszolgának állt. Reklámok parancsára kocsikra gyűjtünk, melózunk, hogy legyen pénzünk a sok felesleges cuccra. A történelem zabigyerekei vagyunk. Nincs se célunk, se helyünk. Nincs világháborúnk, se válságunk. A mi háborúnk szellemi háború, a mi válságunk az életünk. A tévé elhitette velünk, hogy egy szép napon milliomosok, filmcsillagok és rocksztárok leszünk. Pedig nem leszünk. Erre lassan rádöbbenünk, és nagyon, nagyon berágunk.” Brad Pitt, Harcosok klubja

Ironikus módon azonban ezekbe a “bölcs gondolatokat” tartalmazó filmekbe is valakik dollármilliókat fektettek, és még többet kaszáltak rajtuk.

Hangzatos Tesco buddhizmusnak szánták az elhíresült utópisztikus monológokat, tudatossággal, hogy azok valójában rezonálnak belső meggyőződésünkkel, megszólítják a bennünk még talán halványan pislákoló intakt, tiszta gyermeki ént, ezáltal sikerreceptként működhetnek?

Akik fent döntéseket hoznak, akik dollármilliók sorsán és monstre produkciók költségvetésén spekulálnak, azok - ne áltassuk magunkat - a fentiek tekintetében nagyon is tudatosak. Az már más kérdés, hogy morálisan hogy állnak a kérdéshez, és hogy mennyire látják a nagyobb képet, amiben a saját sérthetetlenségük és sebezhetetlennek hitt létezésük, valamint hatalmuk kérészéletű, rövid szavatosságú, a tévedhetetlenségükön alapuló illúzió. “Velünk semmi baj nem történhet, hiszen mi tartjuk a gyeplőt. Mi kibújhatunk a szabályok alól, hiszen mi alkottuk azokat.” A hatalmi téboly öngóljai. Minden létező hatalomban, legyen akár szó politikai hatalomról, a realitásérzék és a mértékek elvesztése az első lépés a bukás útján.

Függést generálni. Ez az egyik kulcsa a jelenleg domináns pénzcsináló gépezetnek, és még mielőtt megszólalnának azok a hangok, amelyek lemondó legyintéssel bagatellizálják el a felvetést, mondván: “mindig is így volt, nincs ebben semmi új”, ideje volna felismerni, hogy amíg a sok szempontból öntudatra ébredésről szóló 20. században - véres konfliktusait és iszonyatos véráldozatainak tényét nem kisebbítve - igenis előfordultak az emberiség történetében azt előrevivő, morális értelemben jobbító szándékú ideák is, (más kérdés hogy azok aztán az emberi kapzsiságtól, és hatalomvágytól fűtött közegben hová ferdültek el az idő előrehaladtával), addig a jelenkor immár javarészt híján van mindezeknek: nincsenek valódi célok, pusztán az anyagi javak halmozása, a kényelem, a függés megteremtése, és a hatalom hajszolása vált az elsődleges céllá.

Ma mindenki különb akar lenni a másiknál, ki akar törni, kiemelkedni a tömegből. Neki mindenből a legjobb jár, neki minden jár, alapvetően. Nem csoda, hiszen ezt sugalmazzák a kereskedelmi televíziók, a média által közvetített üzenetek, a social media felületek, ahol a követések, klikkek és lájkok száma lett az elsődleges értékmérő. Művészként például, bármily konzervatív elveket és régimódiságot is képvisel valaki, ha nem veszi fel a ritmust, és nem adaptálja a trendeket ebben az átprogramozott világban, gyakorlatilag aláírta a halálos ítéletét: egész egyszerűen nem jut el a célközönségéhez.

Upgradelni kell, a régi már nem lesz jó. Régi oprendszerrel egy idő után nem jön frissítés, a mindaddig működő programok idővel elavulnak, túlhaladottá válnak és elkezdenek nem működni. Kénytelen kelletlen, de az upgrade szükséges lesz. A boltban is megmondta a kislány, aki a sales jutalékából él, hogy van új csomag, ami sokkal korszerűbb, sokkal jobban megéri, a régi amúgyis kivezetésre kerül, tehát választási lehetőség sincs.

Ha ez nem így lenne, nem lenne miből profitot generálni. Hiszen tartós, időtálló értéket létrehozni a legrosszabb üzleti stratégia: ha valami évtizedeken keresztül kiszolgálna, nem lenne szükség újra, ergo senki nem is vásárolna újat.

Korábban említésre került a tervezett elévülés, amit egyesek rosszindulatú konteónak tartanak, holott, ha körülnézünk, itt az élő bizonyíték arra, hogy nagy valószínűség szerint kulcsfontosságú elem, és nagyon is tudatosan alkalmazzák.

Építs üzletet, hirdess, alakíts ki követőtábort a Facebookon. Aztán majd az algoritmus - mindenféle magyarázat és valós ok nélkül - egyszercsak nem enged be az oldaladra. Ha nem 2 tucat embertől hallottam volna ilyen esetről az elmúlt időszakban, ahol semmi konkrét magyarázat nem volt, hanem csak egyik napról a másikra egyszercsak valamiért már nem működött az, amire szépen ráneveltek egy évtized alatt, amire az ember kénytelen-kelletlen (“vegyük fel a jelenkor ritmusát”) rászoktatta magát, akkor talán ezt lehetne merő véletlennek, vagy rendszerhibának tekinteni.

Függést generálni. Mert ha függést tudsz generálni, akkor egyúttal profitot is.

Ugyanis a profit az új mantra. Nem a béke, a szeretet, a boldogság, az emberség, és egyebek. Hanem a profit.

A “nagyok” profitjának eléréséhez pedig szépen be lettünk fogva a szekér elé, mint az igáslovak. A vásárlási szokásaink kipuhatolásával, majd a rendelkezésükre álló, rólunk gyűjtött adatok alapján tudatosan annak manipulálásával függővé tettek mindannyiunkat.

Most megint szintet kell lépni, hiszen ez az evolúció menete. Új üzleti modellek kellenek, amihez technológiai fejlesztések szükségesek. Hogyan tudnánk tehát a költségek további visszaszorításával még több profitot generálni?

A recept immáron megvan. És a képletben az ember - az egyszeri ember, beleértve akár a művészembert is, aki a kreativitásával keresi a kenyerét - a legkevésbé fontos tényező, mert akik fenn ülnek, azoknak valójában csakis egy dolog fontos: hogy mindenki kapja be a horgot, és váljon engedelmes fogyasztóvá.

A Rolling Stone magazin egyik legújabb cikkében a jelenleg is zajló sztrájkokról ír Hollywoodban, miszerint:

a mesterséges intelligencia térhódításának lehetséges következményei a színészek és írók folyamatos sztrájkjainak központi kérdésévé váltak.

A SAG-AFTRA, a mintegy 160 000 tagot számláló színész szakszervezet július óta sztrájkol. Aggodalomra ad okot, hogy a mesterséges intelligencia a jövőben jóval kevesebb szereplőt fog foglalkoztatni, miközben a technológia változásának üteme az egyik olyan tényező, amely hátráltatja a stúdiókkal folytatott tárgyalásokat – mondták a szakértők júliusban a CNN-nek.

Az írók is aggódnak a mesterséges intelligencia hosszútávú hatásai miatt, bár John August forgatókönyvíró az év elején a CNN-nek azt nyilatkozta, hogy a mesterséges intelligencia szabályozásának kérdése „az egyik utolsó dolog volt”, amelyet a szakszervezet felvett a listára, mindezzel együtt „egyértelmű, hogy az írók problémája aggodalomra ad okot”, és most kell foglalkozniuk ezzel a kérdéssel, nem pedig akkor, amikor lehet, hogy már késő lesz.

Tim Burton rendező másfél napra volt attól, hogy befejezze a Beetlejuice 2 forgatását, amikor a színészek sztrájkja miatt leállt a gyártás – mondta el a rendező a The Independentnek.

Tegyük hozzá, hogy Tim Burton - a fenti produkcióval kapcsolatos problémái ellenére - teljes mellszélességgel az AI térhódítását ellenző kollégái mellett áll, és a rá jellemző trademark stílusának, filmjei képi világának, és a szereplői összetéveszthetetlen karakterének AI általi utánzását valamiféle lelketlen robot fércművének nevezte.

Az Ollókezű Edward, a Halott menyasszony, és a Beetlejuice filmek legendás rendezője a The Independent című brit lapnak adott interjújában nyilatkozott nemrég, és a Buzzfeed egy cikkére hivatkozott, amely mesterséges intelligencia segítségével úgy képzelte el az egyik Disney karaktert, mintha az egy Tim Burton filmben szerepelne.

– Nem tudom leírni, milyen érzést kelt benned – mondta Burton. "Erről eszembe jutott, amikor a múltban egyes bennszülöttek idegenkedve azt mondták a földjükre behatoló felfedezőknek: "Ne készítsetek rólam képet, mert ezzel elraboljátok a lelkemet."

Beismerte, hogy a „Frozen”, az „Oroszlánkirály”, a „Csipkerózsika” és a „A kis hableány” filmek szereplőinek egyes AI-képei „nagyon jók”, de hozzátette, hogy a hatás, amit ezzel generálnak, “kiszív belőled valamit."

„Elvesz valamit a lelkedből vagy a pszichédből; ez nagyon zavaró, olyan ez, mint egy robot, amely elveszi az emberségedet, a lelkedet."

Devix Szell színész előtt nem voltak ismeretlenek a digitálisan létrehozott filmes háttérdíszletek, vagy akár háttérszereplők, amikor 2022 őszén egy nagyobb szabású film stábjához csatlakozott. Mint a legtöbb nagyszabású produkció esetében, Szell sem lepődött meg túlságosan, amikor a produkciós csapat tagjai közölték vele, hogy szeretnének készíteni néhány szkennelést jelmezben.

Amikor azonban belépett a trailerbe, úgy emlékszik, hogy tucatnyi kamerával vették körül, és minden szögből és irányból vették őt. Bár Szell azt mondja, már korábban is szkennelték egy másik produkció alkalmával, ez gyökeresen más volt.

Azt mesélte, hogy ezúttal pózolásra és különböző akciók végrehajtására utasították. Nem írtak alá semmiféle biztosítékot, vagy adtak további információt a felvételek felhasználására vonatkozóan. „Ráadásul ők irányítottak minket” – magyarázza Szell, aki egyike volt annak a 11 színésznek, akikkel a Rolling Stone interjút készített. A színész emlékei szerint a forgatást VFX céljából egyfajta kiegészítő fotózásnak írták le. Egyesek azt állították, hogy extra pénzt ajánlottak fel nekik, és további nyomtatványokat kaptak aláírásra, köztük legalább egy olyan lemondó nyilatkozatot, amely szerint a róluk készített felvételek és scannelt adatok innentől a stúdió tulajdonát képezik, és örökre felhasználhatók. Mások azt mesélik, hogy egyáltalán nem adtak vagy mondtak nekik semmi továbbit. A színészeket “háttérszerepekre” szerződtették olyan filmekben, amelyeket többek között a Disney, a Marvel, a Warner Bros. és a Lionsgate készített. (Az említett filmstúdiók a Rolling Stone magazin megkeresésére nem reagáltak, nyilatkozni nem kívántak.)

Normális esetben a VFX fotózás miatt a színészeknek a szeme sem rebbenne, ám a Screen Actors Guild – Amerikai TV- és Rádióművészek Szövetsége (SAG-AFTRA) és a Mozgókép- és Televíziós Producerek Szövetsége (AMPTP) közötti, folyamatban lévő szerződéstárgyalások részletei a múlt héten széles körű zavart és aggodalmat váltottak ki a mesterséges intelligencia és a képi jogok vonatkozásában Hollywoodban. A SAG-AFTRA szerint az AMPTP túl alacsony napi díjat akart fizetni a háttérszínészeknek azért, hogy AI célú szkennelést végezzenek rajtuk, továbbá a színészekben felerősödött a gyanú, hogy idővel így minden tehetséget „sebezhetővé tehetnek azon okból kifolyólag, hogy munkájuk nagy részét digitális másolatokra cserélik”.

A szakszervezet további javaslatokat is előterjesztett a háttérszereplők jobb munkakörülményeinek biztosítására, amelyeket az AMPTP határozottan elutasított, vagy nem megfelelő kompenzációt ajánlott fel. Ezek között szerepelt, hogy a keleti és a nyugati part háttérszínészei azonos feltételek mellett dolgozzanak (elutasítva); a háttérszínészek kompenzációja, ha saját frizurájukat és sminkjüket kell kialakítaniuk (35 dolláros átalánydíjat ajánlottak fel); megnövelt kompenzáció azoknak a háttérszínészeknek, akiknek a főszereplők bizonyos jeleneteinek helyettesítése a feladatuk (150 dolláros átalánydíjat ajánlottak fel) A felek legalább azzal kapcsolatban előzetes megegyezésre jutottak, hogy a háttérszínészeket legalább 48 órával előre értesítik a meztelenséget vagy szimulált szexuális aktust tartalmazó jelenetekről.

A mesterséges intelligencia alkalmazása további morális és etikai dilemmákat is felvet. A színészek nehezen tudnak ugyanis különbséget tenni a rutin VFX-scennelés és az AI-célú szkennelés között, mert nem feltétlenül az alkalmazott technológiában mutatkozik a legfőbb eltérés, hanem sokkal inkább azt illetően, hogy milyen jogokat és engedélyeket íratnak alá velük, akár a tudtukon kívül.

A jelenlegi sztrájkban részt vevő forgatókönyvírók, színészek, szerzők és művészek alapvetően azért küzdenek, hogy a szakmabeli, hús-vér emberek ne kerüljenek kultúránk peremére. Hollywoodot azonban úgy tűnik, elragadta saját sci-fi meséje: az iparág egy új metamorfózis küszöbén áll, mely magában foglalja a mesterséges intelligencia térhódítását is. Utóbbi, idővelfélelmük szerint - teljesen elbitorolja majd a forgatókönyvírók és a színészek szerepét. Az egyéb művészek és szerzők hasonló aggodalmakban osztoznak, és a közelmúltban több szerzői jogi pert indítottak A.I. platformok ellen, igyekezvén megvédeni életművüket és megélhetésüket. Ezek az A.I. hosszabb távú hatásaitól tartó erőfeszítések egy dráma korai felvonásai, amelyek nemcsak a kreatív szakemberek egzisztenciális kilátásait érintik, hanem hosszabb távon kultúránk, társadalmi diskurzusunk és egymással való kapcsolataink mivoltát is.

Az A.I. természetesen rég nem újdonság Holylywoodban. A producerek arra támaszkodnak, hogy egyrészről elemzik a nézők viselkedését, másrészt a technológia segítségével képesek arra is, hogy pl. öregítsék a színészeket, és még akár halott egykori színészeket is életre kelthessenek hangban vagy a képernyőn. De a generatív A.I. felveti annak a lehetőségét is, hogy a chatbotokat bűnügyi show-k, animációs sorozatok és más televíziós sorozatok cselekményeinek vagy forgatókönyveinek generálására használhassák, a hivatásos íróknak pedig a végén majd csak a számítógéppel generált alkotások “felturbózása” marad.

Mint minden mesterséges intelligencia, a generatív mesterséges intelligencia modelleket is meglévő adatokkal (tartalommal) táplálják, algoritmusok segítségével feldolgozzák ezeket az adatokat, azonosítják a mintákat és kimeneteket állítanak elő – például képet vagy szövegi tartalmakat. A generatív AI-ban az a lényeges, hogy viszonylag autonóm módon képes végrehajtani az úgynevezett „tanulási” folyamatot és aztán “eredeti” tartalmat generálni.

A generatív AI-ra talán a mindenki számára legismertebb példa azok a megdoktorált videók, amelyek egyre kifinomultabb mélyhamisításokról (deepfake) árulkodnak.

Talán ismerős a mára hírhedt kép Ferenc pápáról, amint túlméretezett pufi kabátot visel? Egy 31 éves építőmunkás “műve”, aki a Midjourney AI képgenerátort használta.

A generatív mesterséges intelligencia elterjedt az olyan cégeken keresztül, mint a Midjourney, a Stable Diffusion, a Meta és az OpenAI.

A színészek attól tartanak, hogy a stúdiók előbb-utóbb vérszemet kapnak, és az A.I.-t elsősorban az előadók szkennelésére és replikálására alkalmazzák majd, drasztikusan csökkentve a költségeket és a gyártás összetettségét.

Tagadhatatlan, hogy az alacsonyabb költségek magasabb profitot jelentenek. Ráadásul az A.I. más módon is növelheti a bevételt: Hollywood rengeteg adattal rendelkezik arról, hogy mik a közönség preferenciái, mind kollektíven, mind egyénileg. Egy szektor, amelynek mindig is a tömegpiacok számára kellett vonzónak maradnia, a mesterséges intelligenciának köszönhetően képes lehet egyedi, személyre szabott televíziózást kínálni. A könyvek és a művészet ugyanígy járhatnak. Egy kis kísérlet azt is megmutatta, - és a valódi baj itt kezdődik - hogy a harvardi professzorok jó osztályzatokat adtak a chatbotok esszéire, nem tudván, hogy azokat nem hús-vér ember írta.

Az A.I. által okozott változásoknak azonban nem csak a forgatókönyvírókra és a színészekre, hanem a közönségre is – nevezetesen mindannyiunkra – egzisztenciális vonatkozásai lehetnek. A generatív A.I. alapja az, hogy a tartalomgyártás a korábbi impulzusokon alapul. Végül is úgy oktatjuk a gyerekeinket is, hogy olyan olvasmányokat, képleteket, elméleteket, történeteket és képeket szívjanak magukba, amelyek arra edzik az agyukat, hogy szükség szerint új szavakat, képeket és ötleteket generáljanak – legyen a cél akár egy feladat elvégzése, akár egy zsűri meggyőzése, vagy egy barátság megkötése. A mesterséges intelligencia nagy nyelvi modelljeit úgy találták ki, hogy utánozzák ezeket az agyi funkciókat.

Még az alkotókat védő szakszervezetek némelyike sem elég radikális a munkavállalók jogait illetően, a WGA például egy olyan már említett modellt javasolt az ember és a mesterséges intelligencia együttműködésére, ahol a generatív mesterséges intelligencia egy forgatókönyv korai változatát állíthatná elő, amelyet az emberi forgatókönyvírók majd finomítanak. Sok szakértő és iparági szakember azonban úgy látja, hogy ez a javaslat elidegeníti az írókat az alkotási folyamattól, és másolatszerkesztőkké degradálja őket. Ráadásul az egész folyamat egy újabb dilemmát generál: nevezetesen a szerzői jogok kérdését. Hol és mi alapján határozzák meg a döntéshozók, hogy az efféle félig AI által generált művek szerzői joga kit illet, és milyen mértékben?

Miközben a dolgozók azért küzdenek, hogy az ipari szabályozás megtiltsa az emberek mesterséges intelligenciával való helyettesítését, fontos megismételni, hogy ez nem a technológia teljes betiltására szólít fel. A vitát valamelyest árnyalja az is, hogy generatív AI-t több esetben már eddig is értékes és lenyűgöző módon használták a filmekben.

Korai példa David France 2020-as, Welcome to Chechnya című dokumentumfilmje, amely az LMBTQ+ emberek oroszországi üldöztetését dolgozza fel. A rendező kifinomult utómunkálatokat végzett mesterséges intelligencia felhasználásával, szintetikus hangokat és egymásra helyezett arcokat produkált, hogy megvédje alanyai névtelenségét, miközben megőrizte emberi mivoltukat. A tüntetők védelmére alakult szervezeteknek tehát olyan szabályozási intézkedésekre van szükségük, amelyek lehetővé teszik a kreatív együttműködést a generatív AI-val, miközben biztosítják, hogy a kreatív dolgozókat ne használják ki a további centralizált hatalomban.

Júniusban a Directors Guild of America védelmet nyert az AI-eszközökkel szemben a gyártókkal kötött új munkaszerződésben. A remény az, hogy a védelmet kiterjesztik a forgatókönyvírókra és a színészekre is.

Ellenkező esetben Hollywoodban a mesterséges intelligencia ellophatja a show-t.

Reménykedhetünk, hogy ezúttal a profit iránti mohó vágy mellett egyéb szempontok is teret nyernek, és ha a folyamat már teljesen vissza nem is fordítható - hisz a technológia térhódítását a többség ünnepli, és ez sosem lesz másképp - egy élhető, és egyensúlyban tartott eredmény születik majd.

Charlie Chaplin - kellő iróniával, de már az 1940-es A diktátor című filmben is megfogalmazta, amiről a minket körülvevő világnak ideálisan szólnia kéne, és annak ellenére, hogy valójában minden épeszű, és jóérzésű ember a lelke mélyén erre vágyik, az általunk benépesített bolygón az élet mégsem efelé halad:

“Boldogságban szeretnénk együtt élni egymással, nem szenvedésben. Nem akarjuk mi egymást gyűlölni és megvetni. Mindenkinek van hely a világban. A Föld gazdag és el tud látni mindenkit. Az élet szép és szabad lehetne, de elvétettük az utat. Kapzsiság mérgezte meg a lelkünk, barikádozta el a világot gyűlölettel, nyomorba és vérontásba hajszolt minket. Robogunk, repülünk, mégis kalodába zárjuk magunkat. A gépek, a bőség korszakában még mindig szűkölködünk. A tudás cinizmussá vált, értelmünk rideg, szívtelen. Túl sokat gondolkozunk, és túl keveset érzünk. A gépesítés mellé emberség kellene. A bölcsesség mellé kedvesség és jóság.”

Szépen hangzik, ugye? És jól is mutat egy facebook posztban?

Csak egy dolgot ne felejtsünk el, mi, fotelforradalmárok sem: MISZERINT ehhez a szép új mai világhoz - ezen világ szabályainak betartása, az érvényesülni vágyás, és az emberi mivoltunkból fakadó növekedésre való késztetés okán mi is vastagon asszisztálunk. Ha a tudatosság és a felismerés ott is pislákol némelyikünkben, a legtöbben tehetetlenek vagyunk ebben a színjátékban, mert egyrészt olyan érzésünk van, hogy ez tőlünk függetlenül is mindenképp lezajlik, másrészt pedig az utolsó dolog, amit feladnánk a kis programozott urbánus létezésünkből: a kényelmünket.

Talán a legvérfagyasztóbb és legigazabb monológ Al Pacino szájából hangzik el az Ördög Ügyvédje c. 1997-es filmben:

“Csak gerjeszd az ember étvágyát olyan hatalmasra, hogy az égető vágy atomokat tudjon kettéhasítani. Növeld az egojukat akkorára, mint egy katedrális, azután kapcsold össze száloptikával azt a tengernyi egománt. Fűszerezd a leghétköznapibb álmokat dollárzöld, aranymázas fantáziákkal, míg minden egyes ember Napóleon nem akar lenni, önmaga Istene. Vajon mi jöhet ezután? Míg egyik üzletet kötjük a másik után, kit érdekel ez a planéta? Egyre fogy a levegő, savanyodik a víz… adjuk, vesszük a jövőnket… pedig nincs is jövő. Mindegyikük kész arra, hogy széttúrja Isten planétáját, aztán tisztára nyalja az ujjait, hogy máris a makulátlan, kibernetikus billentyűzeten számítgathassa, hogy mindebből mennyi haszna származik.”

Egyes idézetek a Rolling Stone magazin, a The Independent, és a conversation.com cikkeiből származnak.

This article is from: