Skip to main content

9788028412166

Page 1


POZNÁMKA AUTORA

Umělou inteligencí se zabývám od roku 1981, kdy jsem měl možnost do tohoto oboru zabrousit jako student práv na Glasgowské univerzitě. Psal jsem tehdy disertační práci o tom, zda mohou počítače nahradit soudce, a každá z cest mého výzkumu mě přivedla k umělé inteligenci. Okamžitě mě to zaujalo a chtěl jsem se ponořit hlouběji. Odjel jsem z rodného Skotska do Anglie a na Oxfordské univerzitě jsem v polovině 80. let napsal doktorskou práci na téma umělá inteligence a právo.1

V témže desetiletí, když jsem působil jako člen týmu pro umělou inteligencí ve firmě zabývající se globálním účetnictvím a konzultacemi, jsem se podílel na vývoji prvního plně operačního systému AI pro právníky na světě.2 Od té doby jsem o umělé inteligenci napsal několik knih, zaměřených nejen na oblast práva, ale také – společně s Danielem Susskindem –na vliv umělé inteligence napříč různými obory, včetně zdravotnictví, vzdělávání, daňových a auditorských systémů, architektury, žurnalistiky a dalších.3 V současné době věnuji většinu času poradenství pro mezinárodní firmy a národní vlády o tom, jaký význam bude mít umělá inteligence pro jejich budoucnost.

Jak přemýšlet o umělé inteligenci

Stručně řečeno, umělou inteligencí jsem byl vždy fascinován a stala se mým hlavním celoživotním zájmem. Tato kniha má sloužit jako úvod k tomuto tématu a často čerpá z mých vlastních zkušeností. Těží také z mého vzdělání ve čtyřech oborech, které se u tématu umělé inteligence sbíhají – jedná se o filozofii, digitální technologie, právo a dlouhodobé strategické plánování –, a z mé další mnohaleté práce v soukromém, veřejném, dobrovolnickém a vzdělávacím sektoru.

V rodinném podniku, který se mnohým jeví jako bizarní, tráví hodně času přemýšlením a psaním o umělé inteligenci i moji dva synové – Daniel jako ekonom zkoumá vliv technologií na zaměstnanost a ekonomický růst4 a Jamie jako právník a politolog se zabývá regulací umělé inteligence a jejím dopadem na politiku.5 Tato kniha obsahuje mnohé z jejich myšlenek, což se odráží v mých nestoudně častých citacích jejich práce.

Když jsem tuto knihu připravoval a intenzivně přemýšlel o nejnovějším vývoji v oblasti umělé inteligence, můj vlastní pohled se posunul. Dlouho jsem byl optimistický v názoru, že se umělá inteligence může stát ze společenského i ekonomického hlediska velkým přínosem. Nyní jsem ještě nadšenější.

Ale jak jsem se ponořil do výzkumu nedávných a ohromujících vynálezů, začal jsem si také výrazněji uvědomovat rozsah a závažnost hrozeb, které umělá inteligence představuje.

Nyní věřím, že nalezení rovnováhy mezi výhodami a hrozbami umělé inteligence – záchrana lidstva s ní a před ní – je hlavní výzvou naší doby.

Úvod

Marvin Minsky byl profesorem informatiky na MIT (Massachusetts Institute of Technology). Byl prvním z průkopníků umělé inteligence a v roce 1969 se stal vítězem prestižní Turingovy ceny. V následujícím roce byla v časopise LIFE citována jeho slova: „Jakmile se řízení ujmou počítače, už ho nikdy nemusíme získat zpět. Přežili bychom s jejich strpením. Pokud budeme mít štěstí, můžou se rozhodnout, že si nás ponechají jako své domácí mazlíčky.“1

Považoval jsem to za dobrý vtip. Teď už si tím nejsem tak jistý.

V roce 1986 byl v časopise New Scientist prezentován ještě jiný pohled: „Záznamy o nepokrytém klamání veřejnosti ze strany umělé inteligence nemají v análech akademických studií precedens.“2 V následujících desetiletích mnoho učenců a pozorovatelů opakovalo toto rozsáhlé obvinění a tvrdilo, že umělá inteligence je z velké části humbuk.

Jak máme chápat propast mezi tvrzením Minského a časopisu New Scientist?

Pravda je, že názor na umělou inteligenci lidi vždy rozděloval. V polovině 50. let, kdy přišel termín „umělá inteligence“

poprvé na přetřes, vyjadřovali příznivci i kritici své názory se stejnou naléhavostí. Napětí mezi obhájci a odmítači přesahuje hranice běžných konfliktů, jež vřou mezi mysliteli a vědci různých škol. V sázce je – řečeno na rovinu – mnohem víc, umělá inteligence bude silně utvářet budoucnost lidstva a společnosti.

Představuje ale umělá inteligence apoteózu, nebo naopak antitezi lidstva a civilizace? Poskytne odpovědi na nejnaléhavější otázky lidstva, klimatickou změnou počínaje a globálním zdravím konče? Nebo je signálem zániku biologického člověka?

Na tyto ani na mnoho dalších naléhavých otázek, které nyní umělá inteligence nastoluje, nemám jasné odpovědi.

Tímto mučivě obtížným a nezmapovaným terénem stále tápeme. Jsem si také vědom toho, že nadcházející roky přinesou v souvislosti s umělou inteligencí otázky, které v současnosti nejsme schopni pojmout – otázky, které se dosud vymykají naší představivosti, neboť se vztahují k ještě nenastoleným problémům souvisejícím s dosud nevynalezenými systémy.

Dnes zatím nejsme schopni dohlédnout za paprsek světlometů, vržený naším počátečním chápáním současných a nově vznikajících technologií.

Mojí nadějí v tomto víru nejistoty je předložit čtenáři různé způsoby, jak o umělé inteligenci přemýšlet. Mělo by to povzbudit informovanější reflexi a debatu. Toto není technicky zaměřená kniha. Co se týče stylu i obsahu, má charakter úvodu do problematiky. Předpokládám, že čtenáři nemají technické znalosti týkající se umělé inteligence a digitálních systémů.

Jedním z mých cílů je samozřejmě demystifikovat umělou inteligenci i veřejnou diskusi o tomto pozoruhodném konceptu a nabídnout jakési ujištění, že nemusíte být odborník na technologie, abyste mohli o dopadech umělé inteligence rozumně přemýšlet a mluvit. Očekávám, že řada vědců bude kroutit hlavou, až budu přecházet od jednoho významného a složitého

tématu o technologiích k druhému. Nedělám to bez rozmyslu. Ale zdůrazňuji, že debata o umělé inteligenci by se neměla soustředit pouze na technické detaily.

Napsání této knihy bylo podníceno horečkou, která vznikla koncem listopadu 2022 po spuštění pozoruhodného systému umělé inteligence známého pod názvem ChatGPT, který řadíme k odvětví umělé inteligence, jemuž se všeobecně říká „generativní AI“ (nedělejte si v tuto chvíli starosti, co tento termín znamená). ChatGPT získal za dva měsíce od svého spuštění sto milionů uživatelů a do roka se jejich počet téměř zdvojnásobil. Vyvolalo to lavinu komentářů a spekulací. Ale jak se pokusím ukázat, mnohá ze současných prohlášení a oblíbených předpovědí týkajících se umělé inteligence jsou zavádějící. Mnozí nováčci v této oblasti se například domnívají, že generativní AI představuje ve světě umělé inteligence závěrečnou hru nebo konečnou destinaci.

Sám se obávám, že debata o umělé inteligenci i tvorba pravidel s ní souvisejících je až příliš ovlivňována technology a podnikateli. Jakkoli nelze u těch nejlepších z nich popřít schopnost předvídat, někteří se k tématům, jako je etika, společenský dopad, mezinárodní vztahy a regulace, vyjadřují příliš dogmaticky. Navíc oni sami bývají až příliš sebejistí v tom, jak by měla umělá inteligence spolehlivě a objektivně mluvit o svých vlastních dopadech a budoucnosti.

Mým cílem na této pozoruhodné křižovatce lidské historie je vnést do našich každodenních diskusí o umělé inteligenci více jasnosti, a proto jsem se zaměřil na to, jak my jako lidé, můžeme o umělé inteligenci užitečně přemýšlet. Kniha je rozdělena do pěti částí. Každá z nich odpovídá tomu, co považuji za základní stavební kameny jasného uvažování o umělé inteligenci.

První část se věnuje tomu, co umělá inteligence vlastně je. Kapitola 1 ukazuje, že dobrým způsobem, jak zdolat složité

zákruty vedoucí k poznání umělé inteligence, je podívat se na její historii a trajektorii vývoje za posledních sedmdesát pět let. Abychom obalili tuto kostru svalstvem, přináší kapitola 2 pohled na umělou inteligenci v širším kontextu obecného vývoje digitálních technologií.

Druhá část knihy se snaží povzbudit čtenáře, aby začal přemýšlet jiným způsobem. Kapitola 3 ozřejmuje dva široce přijímané, ale protikladné způsoby, jak na umělou inteligenci pohlížet, přičemž jeden z nich se zaměřuje na výsledky, které AI přináší, a druhý se zabývá, několikerým způsobem, souvisejícími vnitřními procesy. Kapitola 4 nabízí různé závěry plynoucí z ignorování rozdílů mezi těmito dvěma pohledy, v neposlední řadě otázkou, zda je lidstvo kvůli umělé inteligenci zatraceno. Kapitola 5 se zabývá strojovými schopnostmi, pro něž v současné době nemáme slovní zásobu, a zároveň zkoumá některá zjevná omezení systémů umělé inteligence.

Třetí část je praktičtější a zaměřuje se na fungování umělé inteligence. Šestá kapitola tvrdí, že abychom pochopili dopad umělé inteligence na práci, musíme myslet daleko za hranice automatizace a nahrazování současné lidské činnosti; spíše musíme pochopit, jak umělá inteligence může transformovat způsob, jakým pracujeme, a někdy dokonce eliminovat problémy, kterým je v současnosti věnován velký počet lidských pracovních míst. Kapitola 7 varuje před pouhým naroubováním umělé inteligence do stávajících organizací a místo toho vyzývá k radikální strukturální změně našich institucí, včetně zdravotnictví, soudních systémů, škol a univerzit.

Čtvrtá část se zabývá negativními stránkami umělé inteligence a riziky, která z ní vyplývají. Kapitola 8 kategorizuje širokou škálu relevantních hrozeb a kapitola 9 nabízí několik úvah o jejich řešení.

Pátá část pojednává o budoucností lidstva, až se naše stroje stanou schopnějšími. Tato kapitola je zaměřená spíše

filozoficky a spekulativně a – jak očekávám – i znepokojivě.

Kapitola 10 se zabývá tím, zda mohou mít stroje vědomí. Kapitola 11 naléhá, abychom se při úvahách o budoucnosti nezaměřovali výhradně na umělou inteligenci. Poukazuje na další důležité technologie – a zejména na rozhraní mozek/počítač a virtuální realitu. To vede k úvaze o některých znepokojivých filozofických možnostech týkajících se povahy každodenní reality. Konečně, a opět v širším kontextu, v kapitole 12 předkládám návrh, abychom při úvahách o dopadu umělé inteligence na budoucnost lidstva přemýšleli z evolučního a kosmologického hlediska.

Každá z kapitol se zabývá velmi složitými otázkami. Nedoufám, že položené otázky zodpovím, ale že čtenářům pomohu zahájit vlastní diskusi – s rodinou, přáteli, kolegy a vládami – o dopadu nejvýznamnější skupiny technologií naší doby.

PRVNÍ ČÁST

Jak rozumět umělé inteligenci

Kapitola 1

Léto umělé inteligence

První překážkou, která stojí v cestě jasnému přemýšlení o umělé inteligenci, jsou rozsáhlé rozvahy, co umělá inteligence je a co není. Můj přístup je zde spíše pragmatický než teoretický.

Umělou inteligenci můžeme definovat dvojím způsobem.

První spočívá v popisu toho, jak umělá inteligence funguje, a druhý v tom, co umí. Technologové se obvykle vydávají první cestou. Charakterizují umělou inteligenci pomocí odkazů na základní techniky a technologie. Často používají odborný žargon. Mluví například o „neuronových sítích“ nebo „velkých jazykových modelech“ nebo „zpětné propagaci“ nebo „grafických procesorových jednotkách“ nebo „zpětném strojovém učení“ nebo „základových modelech“. Při tom často matou ty, kteří jim naslouchají. Většina lidí – od těch s rozhodovací pravomocí po běžné občany – nemá téměř žádné povědomí o tom, co tyto termíny znamenají, ani nedisponuje technickými znalostmi potřebnými k snadnému pochopení základních myšlenek. Proto jsem si jako výchozí bod vybral druhou cestu. Nejlepším způsobem, jak rychle porozumět tomu, o co v umělé inteligenci jde, je seznámit se s praktickými příklady, které

ilustrují, co systémy umělé inteligence již umí a zanedlouho budou pravděpodobně umět.

Co AI umí

V raných dobách umělé inteligence, v éře toho, čemu někdy říkáme „stará dobrá umělá inteligence“ („good-old fashioned AI“ neboli „GOFAI“), jsme umělou inteligenci rozdělili do řady podoborů. Došlo k tomu v 60., 70. a 80. letech 20. století. Používali jsme poměrně obecné názvy a zaměřili se na široké kategorie úkolů, pro jejichž řešení byla umělá inteligence využívána. Jedním z nich bylo rozpoznávání řeči. Jeho cílem bylo vyvinout systémy, které by dokázaly rozumět slovům pronášeným lidmi – systémy, které by dokázaly rozlišit například podobně znějící slova „jíš koláček“ a „jsi školáček“. Dalším bylo překládání z jednoho jazyka do druhého tak, aby se AI dokázala vyhnout doslovnému převodu a nepřekládala např. frázi „sejde z očí, sejde z mysli“ do jiného jazyka slovy „neviditelná nevědomost“. Souvisejícím úkolem bylo „zpracování přirozeného jazyka“, které by umožnilo dávat pokyny počítačům a komunikovat s nimi pomocí běžného lidského jazyka se všemi jeho dvojznačnostmi a nepřesnostmi spíše než pomocí kódu.

Dalším oborem umělé inteligence byly expertní systémy.

Nejoblíbenějším přístupem zde bylo zachytit a namodelovat, jaké procesy uvažování a řešení problémů používají nejinteligentnější lidé, a včlenit je do systémů. To by umožnilo i neexpertům pracovat v různých oblastech na úrovni předních odborníků.

Jako zásadní se ukázala být i práce ve čtyřech dalších podoborech: jedním z nich bylo hraní her, které zůstává plodným testovacím polem umělé inteligence a ústředním bodem největšího pokroku, v neposlední řadě v šachu a hře Go. Dalším

umělé inteligence

podoborem byla robotika, která zůstává velmi náročnou oblastí, i když v poslední době se v ní dosahuje velkých pokroků. Třetím podoborem byl výzkum zraku a vnímání, systému, který dokáže rozpoznávat objekty (včetně obličejů) ve fyzickém světě. Konečně zde bylo také automatizované programování, tedy systémy, které samy o sobě dovedou generovat další systémy. Posledně zmiňovaný podobor se nám může jevit jako nejvýznamnější ze všech, protože představuje posun od strojů vyvíjených výhradně lidmi ke strojům, které si dovedou psát vlastní kód, a tak samy sebe zlepšovat a replikovat. Počáteční éra „GOFAI“ je za námi, a když dnes mluvíme o tom, co umělá inteligence dokáže, máme tendenci se zaměřovat na konkrétnější úkoly, aktivity a oblasti. Můj osobní zájem se týká využití umělé inteligence pro profesionální práci. Například ve zdravotnictví existují systémy umělé inteligence, které dokáží diagnostikovat nemoci, interpretovat snímky, doporučovat léčbu, provádět robotické chirurgické zákroky, radit pacientům a pomáhat s vývojem léků a vakcín (AI urychlila vývoj mRNA vakcíny společnosti Moderna proti nákazou covidem).1 V oblasti práva existují systémy, které dokáží navrhovat, porovnávat, shrnovat a zjednodušovat právní dokumenty, a také nabízet poradenství, odpovídat na otázky, generovat právní argumenty a předvídat důsledky soudních rozhodnutí.2 V daňové oblasti mohou systémy vytvářet a podávat daňová přiznání a vytvářet plány a strategie, které legitimně minimalizují daňovou povinnost. Ve vzdělávání umožňuje umělá inteligence personalizované učení a poskytuje snadný přístup k nejlepším výukovým materiálům po celém světě.3 V oblasti architektury dovedou systémy umělé inteligence navrhovat pozoruhodné budovy (a dokonce je i s využitím 3D tisku budovat). Podobného pokroku dosahují i v oblasti manažerského poradenství, auditu, geodetických prací, kalkulace v pojišťovnictví a ve většině dalších profesních a souvisejících služeb, jako je pojišťovnictví,

bankovnictví a řízení investic. Mnohé z těchto systémů jsou teprve v rané fázi vývoje. Některé nejsou zcela spolehlivé, i když se den ode dne zlepšují. Jiné již dokážou dosáhnout výkonu jednotlivých lidských expertů. Ale existují i takové, které umí překonat celé týmy špičkových odborníků.4

Využití umělé inteligence sahá daleko za rámec profesionální a administrativní práce – od účasti v kvízech až po správu energetických sítí, od autonomních vozidel až po kopilotování vojenských letadel, od optimalizace obchodních procesů až po plánování leteckých tras za účelem snížení emisí, od určování lidského emocionálního stavu až po vytváření realistických mluvících tváří. Umělá inteligence se stále více zapojuje tam, kde byli kdysi potřeba myslící lidé.

Zatímco mnoho systémů umělé inteligence bylo samostatných a jednoúčelových (například lékařské diagnostické systémy), dnes je umělá inteligence stále častěji zabudována i do dalších systémů. Například výrobci mobilních telefonů Apple a Samsung uvádějí, že jejich zařízení se nyní snáze a lépe používají, protože jsou vylepšena umělou inteligencí.

Zároveň je umělá inteligence zabudována do běžně používaného softwaru a integrována s ním. Společnost Microsoft poskytuje svůj vlastní systém umělé inteligence, Copilot, spolu s kancelářským softwarem Office. Tento systém umí navrhovat e-maily a dokumenty, shrnovat obsah schůzek a spojovat vlákna e-mailů, generovat prezentační snímky, vytvářet seznamy úkolů a mnoho dalšího.

V praxi to znamená, že brzy bude mít každý z nás svého osobního a výzkumného asistenta, kteří nám budou pomáhat organizovat život a plně nás informovat. Stejně tak budeme mít osobní lektory, připravené nás školit v nejrůznějších předmětech. Kromě toho tu budou neustále se zdokonalující systémy umělé inteligence, které dokážou odpovědět na otázky na jakékoli téma, a systémy, které dokážou generovat text

umělé inteligence (vybroušené dopisy, poezii, články, texty písní), ale také tvořit hudbu, kreslené seriály, kresby, krajiny, videa a mnoho dalšího. V tomto duchu umělá inteligence posílí lidstvo. Nejde tedy jen o to, aby dnešní úředníci byli produktivnější a efektivnější.

Umělou inteligenci již používáme z velké části každodenně, ale je před námi skryta. Když nám online prodejci a e-mailové reklamy nabízejí filmy, knihy, oblečení nebo potraviny, které by nás mohly zaujmout, základní technologií – často volně označovanou jako „algoritmy“ – je nějaká forma umělé inteligence. Stejně tak umělá inteligence často běží na pozadí, když žádáme o zaměstnání, půjčku či pojištění. Ve všech hlavních organizacích, na nichž závisíme – od výroby přes maloobchod, od dopravy po nemocnice, od bankovního až po vládní sektor – se systémy umělé inteligence nacházejí v různých fázích provozu.

Tyto systémy se také používají k vytváření nových světů ve virtuální realitě, a dokonce i k napojení našich mozků na počítače (viz Kapitola 11). Někteří nadšenci dokonce ambiciózně věří, že se umělá inteligence bude podílet na záchraně lidstva a pomůže nám vyřešit naše největší výzvy – od klimatické změny přes rakovinu, chudobu, globální konflikty, průzkum vesmíru, vzdělání, přelidněná města až po erozi demokracie.5

Doufám, že jsem uvedl dost, abych vám nyní mohl předložit předběžné shrnutí, o čem všem umělá inteligence je. Mějte na paměti – a to o tomto oboru říká mnohé – sami vědci zabývající se umělou inteligencí vedou o její definici nekonečné spory – když bylo 400 odborníků požádáno, aby vybrali z předloženého spektra možných definic, tu nejpopulárnější z nich přijalo pouhých 56 procent.6

Začnu tím, že řeknu, že umělá inteligence je odvětvím digitální technologie, která je určena pro vývoj a využití systémů, jež umí řešit úkoly a zapojovat se do toho druhu aktivit, o nichž jsme se tradičně domnívali, že je dovedou vykonávat

Jak přemýšlet o umělé inteligenci

pouze lidé se svými pozoruhodnými mozky. Nyní však musíme jít ještě dál a dodat, že systémy umělé inteligence ve stále větší míře překonávají člověka a dělají věci, které sahají za lidské schopnosti. (Vyskytují se i komentátoři a odborníci, kteří chtějí jít ještě dál a tvrdí, že určitý systém je skutečná umělá inteligence jen v tom případě, že ho lze označit za „vědomý“. Avšak z důvodů, které vyložím později, toto není nutné a může vést ke zmatení.)

Jedním z dopadů umělé inteligence, jak jsem právě popsal, je to, že vyvolává otázky v tradičních oblastech. Například v oblasti vzdělávání si klademe otázku, k čemu mladé lidi vlastně chceme vzdělávat. V investiční komunitě si specialisté na rizikový kapitál a private equity více než kdy jindy kladou otázku, zda podniky, do kterých investují, nepatří náhodou mezi odvětví, která by mohla být v době, kdy oni budou chtít investice zpeněžit, zcela překonána. Možnost autonomních zbraní v armádě si žádá, aby stratégové přehodnotili základní doktríny odstrašování a obrany.7 Infrastruktura umělé inteligence národních států začíná být považována za potenciální zdroj vojenských výhod i ekonomické diferenciace.

Pokrok umělé inteligence by měl být zvažován i ve všech ostatních oblastech, které mají dlouhodobou perspektivu. To se však ne vždy děje. Co se týče například klimatické změny, ačkoli se většinou upínáme k roku 2050, málokdy jsem v rámci této problematiky slyšel diskusi o relevanci umělé inteligence. Existují samozřejmě obavy z rostoucího hladu umělé inteligence po moci, ale větší otázkou možná je, do jaké míry systémy umělé inteligence změní do roku 2050 lidstvo a civilizaci. Alespoň podle této knihy by se situace lidstva mohla do té doby drasticky změnit a naše systémy by mohly být nevyzpytatelně schopnější než ty lidské. To sice nezlehčuje klimatickou výzvu, ale povzbuzuje nás to k širšímu pohledu na to, co bychom mohli do roku 2050 chtít.

umělé inteligence

Nese to s sebou širokou škálu znepokojivých rizik, hrozeb a zranitelných míst. Ty jsou popsány v kapitolách 8 a 9. Zatím se tedy zaměřuji na to, co umělá inteligence dokáže a co by mohla dělat. Dále se soustředíme na otázku, jak umělá inteligence funguje. Řeším to, řečeno netechnicky, tak, že budu hovořit o vývoji umělé inteligence.

Velmi krátká historie umělé inteligence

Nejprve bych měl vysvětlit, proč jsem se rozhodl vyhnout se detailnímu popisu fungování systémů umělé inteligence. Činím tak částečně proto, že tato kniha je určena pro širokou, a tedy netechnickou čtenářskou veřejnost, ale především z toho důvodu, že se techniky a technologie, které umožňují fungování umělé inteligence, rychle mění. Podle mého názoru bude vhled do útrob nejnovějších technologií pro většinu lidí z dlouhodobého hlediska méně cenný než vhled do toho, co tyto systémy v nadcházejících letech budou pravděpodobně skutečně dělat. Do módy vstoupí nové řady systémů a metod. Lepší než snažit se pochopit složitosti dnešních technologií je mít širší představu o tom, jak se umělá inteligence v průběhu let vyvíjela, lépe poznat její historii a trajektorii. Abych tyto poznatky zkonsolidoval a poskytl představu o pokroku, kterého umělá inteligence dosáhla, mým dalším krokem bude projít významné úspěchy, jichž bylo v oblasti umělé inteligence dosaženo za posledních sedmdesát pět let. Jedná se z velké části o můj osobní pohled: příběh umělé inteligence skrze pokroky, které považuji za nejvýznamnější. Většina lidí ví o umělé inteligenci většinou ze science fiction. Někteří z jejích nejlepších autorů – jako Isaac Asimov, Neal Stephenson, William Gibson, Philip K. Dick, Arthur C. Clarke – předjímali mnoho současných i vznikajících způso-

bů využití AI.8 Předvídali také s ní spojená nebezpečí. A kromě různých televizních pořadů a filmů, mezi něž patří zejména 2001: Vesmírná odysea (1968), Blade Runner (1982), Terminátor (1984) a  Matrix (1999), utvářeli naše očekávání a obavy z budoucích strojů a robotů do značné míry právě spisovatelé. Umělá inteligence se neomezuje pouze na současné filmy, televizi a beletrii. Její náznaky se objevily již v klasickém starověku, v Homérově Iliadě – v dílně Héfaista, jenž vyráběl zbraně pro bohy, se totiž nacházely „služebnice zhotovené ze zlata, jež měly podobu živých služebných“.9 O více než dva a půl tisíce let později – v devatenáctém století – došlo k významným výpravám do sfér umělé inteligence. Nejznámější z nich je román Frankenstein (1818) od Mary Shelleyové a  Erewhon (1872) od Samuela Butlera. Na počátku dvacátého století existovala i související beletrie – například v dílech H. G. Wellse, z nichž nejpamátnější je román Válka světů (1895–1897). O několik desetiletí později, v románu 1984 (vydaném v roce 1949), nastínil George Orwell pozadí pro současnou diskusi o rozšířeném elektronickém sledování občanů ve společnosti. V roce 1950 se téma umělé inteligence stalo literaturou faktu, neboť Alan Turing publikoval seminární práci „Výpočetní stroje a inteligence“, kde metodicky zkoumal otázku „Mohou stroje myslet?“.10 (K této Turingově práci se vrátím v kapitole 10.)

O několik let později, v roce 1956, se v New Hampshire v USA sešla na Dartmouth College na letním workshopu skupina vědců. Termín „umělá inteligence“ se objevil v žádosti o financování sepsané pro tuto akci. Hlavním autorem článku byl John McCarthy, který je dnes považován za prvního člověka, jenž s tímto termínem přišel. Akce v Dartmouthu byla setkáním talentovaných Američanů.11 První mezinárodní konferencí o umělé inteligenci bylo pak sympozium o „mechanizaci myšlenkových procesů“, které se konalo koncem roku 1958 v Národní fyzikální laboratoři v Teddingtonu v Anglii.12

Nejstarší operační systém umělé inteligence byl z velké části vyvinut ještě předtím, než termín „umělá inteligence“ vůbec vznikl. Jednalo se o „logického teoretika“, jehož koncept vymysleli v roce 1955 a dokončili v roce 1956 počítačový vědec Alan Newell a ekonom Herbert Simon. Inovací zde byl vývoj systému, který šel nad rámec číselných výpočtů, aritmetiky a prolamování kódů, k nimž se do té doby používaly počítače. Místo toho se tento systém zabýval formou nenumerického, symbolického uvažování, které do jisté míry simulovalo řešení lidských problémů. Jejich systém objevil důkazy vět v symbolické logice.13 Právě tento systém Simon popisoval – „chlubivě“, jak sám přiznal – v citátu na začátku této knihy.14

V této počáteční éře AI bylo zaseto i další semínko. John von Neumann provedl v sérii písemných přednášek, jejichž dokončení a přednesení se nedožil, první udržitelnou matematickou analýzu vztahu mezi biologickým mozkem a počítačem.15 Von Neumann, ačkoli jeho jméno nebylo známé, byl velikánem matematiky a fyziky dvacátého století. Na vývoj počítačů a umělé inteligence měl neocenitelný vliv. Jeho myšlení prostupuje touto i většinou dalších knih napsaných na toto téma. Dnešní počítače jsou stále stavěny podle takzvané „von Neumannovy architektury“. V 50. letech 20. století pracoval von Neumann v Institutu pro pokročilá studia (Institute for Advanced Study) v Princetonu a na stejných chodbách se setkával s Albertem Einsteinem, Kurtem Gödelem a Robertem Oppenheimerem. V této společnosti to byl právě von Neumann, komu se říkalo „The Great Man“.16 Jeden z mých nejoblíbenějších příběhů o von Neumannovi – je možná apokryfní, ale v každém případě dobrý pro zasmání – pojednává o tom, jak se ve svých čtyřech nebo pěti letech von Neumann zeptal své matky, která kouřila cigaretu a dívala se z okna: „Mami, co to počítáš?“17

Jak přemýšlet o umělé inteligenci

Šedesátá léta přinesla v oblasti umělé inteligence řadu průlomů, ale dva z nich podle mého vynikají. První byla iniciativa

DENDRAL, kterou na Stanfordské univerzitě vedl Edward Feigenbaum. Sesbíral a do různých systémů zadával odborné znalosti Joshuy Lederberga (nositele Nobelovy ceny za medicínu) a Carla Djerassiho (vynálezce antikoncepční pilulky).

Výsledný systém byl schopen – na úrovni vyšší než kterýkoli člověk – určit strukturu neznámých molekul, poté co mu byla prezentována data hmotnostní spektroskopie. Iniciativa

DENDRAL úspěšně implementovala nově vznikající techniky strojového učení (viz níže) a heuristiky (obecná pravidla v kombinaci s formálními znalostmi zajišťující výkon na expertní úrovni).

Druhým milníkem v 60. letech, o němž se chci zmínit, byl vývoj systému s názvem ELIZA, který vyvinul Joseph Weizenbaum, tehdejší profesor umělé inteligence na MIT (Massachusetts Institute of Technology). Program, pojmenovaný po postavě Elizy Doolittleové v komedii Pygmalion George Bernarda Shawa, byl do jisté míry napsán s humorem. Napodoboval interakci mezi pacientem a lidským psychoterapeutem. Když Weizenbaum pozval svou sekretářku, aby systém použila, hluboce ho znepokojilo, když ho požádala, aby opustil místnost, protože chtěla mít soukromí. Tato událost do značné míry přiměla profesora Weizenbauma k napsání knihy, která je dodnes jedním z nejlepších pojednání o vztahu mezi lidmi a stroji – Computer Power and Human Reason (Moc počítačů a lidský rozum, 1984).18 V anticipaci velké části současné etické debaty v ní varoval před nebezpečími stále výkonnějších strojů a jejich dopady na lidstvo. Sedmdesátá léta, do značné míry inspirovaná projektem DENDRAL, byla mezi vědci v oblasti umělé inteligence desetiletím velkého optimismu. Zabývali se přeměnou teorie v záplavu praktických aplikací, které byly ranými „expertními

umělé inteligence systémy“. Jeden z nich, systém zvaný PROSPECTOR, pomohl geologům lokalizovat ložiska rud a údajně přímo vedl k nálezu zásob molybdenu v hodnotě 100 milionů dolarů. Nejznámější systémy té doby dovedly provádět lékařskou diagnózy a uměly doporučit léčebnou terapii – lék MYCIN pro určitá infekční onemocnění, CADUCEUS v oblasti interního lékařství a CASNET k léčbě glaukomu. Všechny tyto systémy fungovaly údajně na expertní nebo dokonce vyšší úrovni.19 Navzdory počátečnímu optimismu a pokrokům prošla umělá inteligence v 70. letech jak vrcholy, tak pády. Termín „zima umělé inteligence“ se často používá k označení období, kdy došlo k výraznému poklesu zájmu a investic. Skeptici a luddité se ze zimy umělé inteligence vždycky radují. První z nich nastala na konci 70. let 20. století. Toto ochlazení následovalo po škrtech ve veřejných výdajích, zejména v USA, a odráželo názor, že dostupné technologie, jakkoli fascinující, pravděpodobně nepřinesou praktické výsledky a nenaplní počáteční cíle, které si průkopníci kladli. Umělá inteligence trh nepřesvědčila.

Zima se však změnila v jaro v 80. letech 20. století s příchodem technologie „expertních systémů založených na pravidlech“, která se v té době začala považovat za aplikovanou a komerční větev umělé inteligence. Expertní systémy považuji za první generaci praktických systémů umělé inteligence.

Obchodní komunita poměrně rychle začala chápat, jak by je bylo možné seriózně využít v mnoha odvětvích, včetně práva, financí, bankovnictví, pojišťovnictví, maloobchodu, výroby a dalších.

Hlavní myšlenkou pro vznik těchto systémů bylo vytváření rozhodovacích stromů neboli vývojových diagramů, které měly v širším smyslu kopírovat uvažování, jímž se při své práci řídí odborníci. V rozhodovacích stromech se dokázali orientovat i nezkušení uživatelé. Systémy jim kladly otázky,

poskytovaly odpovědi a generovaly dokumentaci, to vše na expertní úrovni.

V 80. letech jsem těmito systémy žil a dýchal. Poté, co jsem v roce 1986 napsal doktorát na toto téma, jsem se (v letech 1987 až 1988) společně s Phillipem Capperem, předním právním expertem, podílel na vývoji prvního plně funkčního komerčního systému umělé inteligence pro právníky na světě. Náš systém upozorňoval na situace, kdy již nebylo možné podat žalobu u soudu, protože uplynula příliš dlouhá doba. Při vývoji systému jsme s Phillipem vytvořili obrovský rozhodovací strom s více než dvěma miliony cest, které představují všechny permutace faktických vzorců a právních problémů, které si v tomto složitém odvětví práva dokážeme představit. V širším smyslu jsme jeho interpretaci relevantních právních předpisů a judikatury zredukovali na komplexní počítačový program – explicitní reprezentaci jeho znalostí ve formě kódu. Náš systém zkrátil dobu výzkumu z hodin na minuty a nabídl vysvětlení jeho argumentačních linií. Více než třetinu století poté Phillip stále s radostí připouští, že ho systém překonal.20

Pak, na konci 80. a začátku 90. let, přišla druhá zima umělé inteligence. To se často připisuje obtížnosti a nákladům na industrializaci expertních systémů a někdy i kolapsu trhu se specializovaným hardwarem pro umělou inteligenci. Mám jiný pohled na věc. Věřím, že zrod World Wide Webu se odehrál onu zimu. V různých profesích na začátku 90. let experti na umělou inteligenci rozhodně viděli, jak snadno lze obsah a služby široce zpřístupnit online. Většina z nás, kteří pracujeme na umělé inteligenci pro podporu profesionální práce, se na několik let přesunula k vývoji nástrojů a aplikací pro web. Přijali jsme, že nejsou tak sofistikované jako komplexní expertní systémy založené na pravidlech, na kterých jsme pracovali, ale ve vývoji webových stránek byla bezprostřednost,

inteligence

komerčnost a pragmatismus, které sváděly velkou část komunity umělé inteligence.

Mnozí z nás od začátku do poloviny 90. let umělé inteligenci nevěnovali příliš velkou pozornost. Ale v roce 1997, když jsme se dozvěděli, že byl poražen mistr světa v šachu Gary Kasparov počítačovým systémem Deep Blue od IBM, jsme byli ohromeni. V 80. letech jsme si mysleli, že se to nikdy nestane. Naším jediným způsobem, jak tehdy vytvořit praktickou umělou inteligenci, bylo sestavit obrovské rozhodovací stromy, které zachycovaly zjevné úvahové postupy lidských oborníků tak, jak jsme to dělali v právu. Přední odborníci, například šachisté a lékaři, však tvrdili, že ani v těch nejnáročnějších situacích, kterým jsou vystaveni, nelze jejich odborné znalosti a zkušenosti redukovat na pouhé vývojové diagramy. Jejich nejlepší postupy nebo diagnózy se zdály být závislé, jak se domnívali, na jakémsi druhu nepopsatelné, tiché znalosti – intuici nebo vnitřní reakci –, kterou nelze kodifikovat v žádném počítačovém systému. To nás v 80. letech vedlo k přesvědčení, že existuje a vždy bude existovat pevná dělba práce mezi stroji a lidmi – pro rutinní práci by se nejlépe hodily stroje, ale pokud by byla zapotřebí představivost a kreativita, vždy by to byla jedinečná doména lidí. Mnoho lidí tomu věří dodnes. Ale je to mylné. Mýlili jsme se už v roce 1997, protože jsme nepochopili dopad exponenciálního nárůstu výpočetního výkonu počítačů (viz kapitola 2).

Když Deep Blue porazil Kasparova, tento systém dokázal prozkoumat více než 300 milionů možných tahů během jediné sekundy. Nejlepší šachisté dokáží v daném okamžiku promyslet asi 110 tahů. Kasparova nepřekonal systém, který hrál tak, jak hrál on. Postup hráče byl z velké části překonán hrubou výpočetní silou.21

Ale mýlili jsme se i z dalšího důvodu, když jsme si mysleli, že stroje budou navždy omezeny na vykonávání rutinních

činností. Ukázalo se, že byl nalezen jiný způsob, jak vyvinout systémy, které by mohly dosáhnout výkonu na úrovni lidského experta. To vedlo k tomu, co nazývám systémy umělé inteligence druhé generace.

První generace, expertní systémy, vyžadovala od „znalostních inženýrů“, aby vytěžili poklady z hlav „doménových expertů“ a převedli jejich znalosti do rozhodovacích stromů. Ve skutečnosti však chytrost těchto systémů spočívala na lidském úsilí o vytvoření těchto vývojových diagramů. Samotné operační systémy byly jako navigační pomůcky. Naproti tomu systémy umělé inteligence druhé generace samy o sobě dělají mnohem více těžké práce. Spíše než získávání znalostí přímo od lidí provádí druhá generace těžbu drahokamů z obrovských oceánů dat. Nemělo by nás tedy překvapovat, že všechna digitální data, která jsme nashromáždili – na webu, v našich systémech a v našich databázích, a to jak v textové, tak i multimediální podobě –, zachycují, ztělesňují, odrážejí a obsahují tolik kombinovaných a nahromaděných zkušeností, myšlenek, poznatků, odborných znalostí a emocí lidstva. Technologický skok spočíval ve vývoji systémů, které dokáží přímo detekovat vzory, trendy a vztahy v těchto oceánech dat. Cílem bylo vyvinout počítačové systémy, které jsou schopny se různými způsoby učit z obrovského množství dat, aniž by bylo nutné je explicitně programovat – odtud pochází termín „strojové učení“. O těchto systémech se často říká, že jsou „vytrénovány“ k provádění určitých typů úkolů, od diagnostiky nemocí až po tvorbu složitých dokumentů. Hlavní technika podporující strojové učení je známá jako „neuronové sítě“. Velkou část průkopnické práce v této oblasti vykonal v 80. letech nositel Nobelovy ceny Geoffrey Hinton, ačkoli jeho práce o „hlubokém učení“ z roku 2006 je často považována za zvláštní zlomový bod v oblasti umělé inteligence.22 Neuronové sítě, jak název napovídá, jsou inspirovány strukturou lidského mozku.

inteligence

Současné systémy mozky nekopírují. Jsou to „idealizace“ toho, jak mozek zdánlivě funguje.23

První velký úspěch s formou strojového učení přišel v roce 2011, kdy IBM dosáhla dalšího průlomu. V živém vysílání americké televizní kvízové show Jeopardy! jejich systém Watson (pojmenovaný po zakladateli IBM Thomasi J. Watsonovi) porazil dva vůbec nejlepší lidské soutěžící. Tento systém umělé inteligence dokázal v podstatě odpovědět na jakoukoli otázku na světě rychleji a přesněji než kterýkoli člověk. Watson byl kombinací umělé inteligence první generace, v níž byly znalosti explicitně kódovány, a druhé generace, která se spoléhala na strojové učení z velkého množství dat.24 Nadšenci do umělé inteligence začali pociťovat teplo nového léta.

Pak, o několik let později, přišel AlphaGo, který zůstává jedním z mých nejoblíbenějších příkladů vysoce výkonného systému strojového učení (i když obsahuje i něco z umělé inteligence první generace). Původně ho navrhla společnost DeepMind (tehdy dceřiná společnost Googlu) pro hraní složité hry Go – tak složité, že má více možných tahů, než je atomů ve vesmíru. Odborníci na umělou inteligenci dříve pochybovali, že by jakýkoli systém s umělou inteligencí mohl hrát hru Go na vysoké úrovni. Ale začátkem roku 2016 porazil systém AlphaGo Lee Sedola, hráče Go světové úrovně, v poměru čtyři hry ku jedné. Systém používal „hluboké neuronové sítě“ a byl trénován jak pomocí „supervizovaného učení“ (na základě minulých her lidských expertů), tak „upevňovaného učení“ (vylepšoval sám sebe tím, že odehrál miliony her).25

Nadšenci do umělé inteligence hodně mluví o třicátém sedmém tahu ve druhé hře zápasu AlphaGo z roku 2016. Byl to tah AlphaGo, který žádného člověka předtím nenapadl. Jeden z předních lidských hráčů ho popsal jako „nádherný“ a řekl, že mu to vehnalo slzy do očí. Kdyby tento tah zahrál

člověk, nazvali bychom ho „kreativním“, „inovativním“, nebo dokonce „geniálním“. Ale nic z toho to nebylo. Vzniklo to díky kombinaci masivní kombinační síly a pozoruhodných algoritmů, které pracovaly s obrovskými objemy dat. Je pozoruhodné, že některé kroky, které systém AlphaGo provedl, byly daleko za hranicí představ těch, kteří systém navrhli.

Někteří komentátoři poznamenali, že přestože je AlphaGo pozoruhodný systém, spoléhá se hlavně na vzorce minulých her s lidskými experty a býval by si nevedl by tak, jak si vedl, kdyby nemohl využít původní lidský talent. Pak v roce 2017 přišel AlphaGo Zero. Nebyl nakrmen žádnými minulými lidskými hrami. Spíše se naučil pravidla hry a bylo ponecháno na něm, aby si vypracoval optimální strategie a taktiky. AlphaGo Zero porazil původní AlphaGo v poměru her 100 : 0.26 Verze AlphaGo Zero s názvem AlphaZero dále porazila programy mistrů světa v šachu, šógi a Go.

V roce 2018 přišel ze stejné stáje AlphaFold. Podle vědce a držitele Nobelovy ceny Venkiho Ramakrishnana se jednalo o „ohromující pokrok v problému skládání proteinů, což byl padesát let starý, obrovský problém. Došlo k tomu o desítky let dříve, než by to mnoho lidí v oboru předpovídalo.“27 Tento úspěch byl uznán v roce 2024 – dva vědci v oblasti umělé inteligence, kteří vedli vývoj AlphaFoldu, Demis Hassabis a John Jumper, byli společně oceněni Nobelovou cenou za chemii „za predikci struktury proteinů“. AlphaFold a jeho nástupci by měli mít zásadní vliv na léčbu nemocí a nakládání s průmyslovým odpadem.

Další průlomy

Zatímco společnost DeepMind pracovala na první verzi AlphaFoldu, skupina vědců zabývajících se umělou inteligencí

inteligence jinde v Googlu publikovala práci, která v rozvoji umělé inteligence přinesla další zásadní změnu.28 To dalo vzniknout nové architektuře „hlubokého učení“ pro neuronové sítě, známé jako „transformátory“. Na této architektuře jsou postaveny „velké jazykové modely“. Tyto systémy jsou „trénovány“ na obrovských objemech dat. Opět se nebudeme příliš zabývat specifickou terminologií a tím, jak fungují. Pojďme si ale shrnout slova Stephena Wolframa, který o této nové architektuře poznamenal, že „k překvapení všech – neuronová síť… je schopna dělat to, co bylo považováno za výhradně lidskou věc, a to generovat smysluplný lidský jazyk“.29

S využitím architektury transformátoru spustila v listopadu 2022 tehdejší americká výzkumná laboratoř OpenAI ChatGPT, nejznámější model velkých jazyků. Přestože jsem sledoval dřívější verze rodiny GPT a psal o nich, byl jsem tímto novým systémem (zkratka GPT znamená Generative Pre-trained Transformer) ohromen. Byl to nejpozoruhodnější průlom, jaký jsem za čtyřicet let své práce na umělé inteligenci zažil. Spuštění ChatGPT bylo také milníkem ve všeobecném poznání potenciálu systémů umělé inteligence. Najednou se zdálo, že máme systém, který dokáže poskytnout konkrétní odpovědi na téměř jakoukoli otázku položenou běžným jazykem. Ještě úžasnější bylo, že když byl požádán o napsání nějakého textu, odpověď přišla během několika sekund – třeba sonet, kondolence nebo rozsáhlejší esej na jakékoli dané téma. Rozsah a výstupy se zdály být neomezené. Stejně jako mnoho podobných systémů, které byly od té doby zpřístupněny (například Gemini od Googlu, Bing od Microsoftu, Claude od Anthropicu), je ChatGPT chatbot, což znamená, že napodobuje lidskou konverzaci. Je také klasifikován jako „generativní“ systém umělé inteligence, což znamená, že produkuje obsah na vyžádání. A nejenom text – tyto systémy dokážou generovat pozoruhodné umění, hudbu a video.

Dovedou dokonce produkovat vysoce kvalitní kód – umí psát software.

Ohledně platformy ChatGPT a generativní umělé inteligence je často opomíjen jeden bod. První verze byla experimentálním počátečním pokusem. ChatGPT a generativní umělá inteligence nebyly významné pro to, čím byly na konci roku 2022, nebo pro to, čím jsou dnes (moc působivé, ale někdy nedokonalé), nýbrž jako předzvěst toho, čím se pravděpodobně stanou ve svých pozdějších generacích. Je to stále ještě začátek. Důležité je však, že tempo změn a jejich zavádění se zrychluje, a jak bylo řečeno v kapitole 2, můžeme celkem střízlivě očekávat, že tyto systémy budou stále výkonnější a spolehlivější.

ChatGPT a generativní umělá inteligence jsou nejnovější kapitolou pokračujícího příběhu, který sahá zpět k průkopnické práci 50. let. Nejnovější systémy však nenahrazují starší systémy umělé inteligence, jako jsou expertní a dřívější prediktivní systémy. Ani, což je zásadní, nejsou konečným cílem.

Oblast umělé inteligence je a bude i nadále tvořena kumulativní řadou technik, z nichž je generativní umělá inteligence tou nejnovější.

Umělá inteligence existuje už zhruba sedmdesát pět let. V prvních několika desetiletích se průlomy objevovaly každých pět nebo deset let. Nyní se zdá, že nastávají každých šest nebo dvanáct měsíců, některé jako technologické inovace, jiné jako dramaticky nové aplikace. V době psaní tohoto textu je v roce 2024 těžké držet krok se změnami – jak v podpůrných technologiích, tak v rozsahu použití. Dnes si užíváme žhavé léto umělé inteligence. Někteří tvrdí, že současný humbuk i rozsah investic představují jen umělé a dočasné přehřátí, ale nikdo nemůže rozumně popřít mimořádný zájem a investice. Můj názor je, že si léto umělé inteligence budeme užívat v dohledné budoucnosti i nadále.

Zdá se, že žádná oblast lidského života nezůstává nezasažena. Kde to všechno skončí? O kolik pokročilejší by se mohly systémy umělé inteligence stát? Jsme blízko vytvoření nějaké „superinteligence“? Blížíme se k nějaké „singularitě“? Co tyto pojmy vlastně znamenají? Vysvětlím je v kapitole 2 poté, co zasadím umělou inteligenci do širšího kontextu digitálních technologií.

Turn static files into dynamic content formats.

Create a flipbook