Status umělých inteligencí, sci-fi?

Jan Štáhlich

Fyzická a právnická osoba jsou dnes dvěma základními a zároveň i jedinými1 právními osobnostmi ex lege, nebo chcete-li postaru subjekty mající právní subjektivitu, či ještě dříve mající způsobilost k právům a povinnostem2. Je ale tento výčet do blízkého budoucna taxativní, anebo se jeho řady rozšíří na dosud námi nedosažený triumvirát?

Právě v dnešní době, dříve než kdy jindy, tato otázka začíná rezonovat hlavně ve spojitosti s umělou inteligencí. Ač nám to nyní možná zprvu přijde trochu futuristické, tak opak je pravdou, tato pozoruhodná softwarová spleť jedniček a nul si už nyní vydobývá své postavení v naší společnosti. Období, kdy nám počítačové systémy tzv. „nulté kategorie“3 sloužily pouze jako němí pomocníci s maximálně jednou funkcí, jež lze snad i bez nadsázky na nynější poměry označit za přízemní, je nenávratně pryč. Dnešní počítačové programy dokáží to, co by se mohlo před pár lety zdát jako nemožné. Schopnost učit se a sbírat zkušenosti nás dlouhá léta odlišovala, ale začíná se ukazovat, že i počítačové programy zvládají za pomoci kognitivních funkcí přijímat a zpracovávat podněty okolí a na základě empirických zkušeností je i naprosto přesně vyhodnocovat. Co více - v důsledku toho všeho se i samostatně rozhodovat.

Poslední léta ukázala, jak rychlý rozvoj v oblasti umělé inteligence může být, a proto se společnost začala racionálně zabývat i myšlenkou, že umělá inteligence nemusí být považována jen za předmět práv a povinností, jak je tomu dnes zejména v pojetí oblasti odpovědnostní, ale mohla by být dokonce i nositelem práv a povinností a získala by tzv. „status elektronické osoby“.

Zvláštní výjimku tvoří nasciturus, jemuž jsou vyhrazena určitá práva, pokud se narodí živý V zákoně č. 141/1950 Sb., který byl v účinnosti do konce roku 1991 Trestněprávní aspekty robotiky - část I. | Právní prostor. Právní prostor [online]. Dostupné z: https://www.pravniprostor.cz/clanky/trestni-pravo/trestnepravni-aspekty-robotiky Zde jen několik citací z dostupných zpráv a doporučení:

„Současný právní rámec neumožňuje, aby robot nesl sám o sobě odpovědnost za jednání nebo opomenutí, jimiž způsobí škodu třetí straně; vzhledem k tomu, že platná pravidla pro odpovědnost se vztahují na případy, kdy za jednání nebo opomenutí robota lze činit odpovědným konkrétního lidského činitele, například výrobce, provozovatele, vlastníka nebo uživatele.“ 4

„Způsobí-li škodu věc sama od sebe, nahradí škodu ten, kdo nad věcí měl mít dohled; nelze-li takovou osobu jinak určit, platí, že jí je vlastník věci. Kdo prokáže, že náležitý dohled nezanedbal, zprostí se povinnosti k náhradě.“ 5

Primárně by se se statusem elektronické osoby tedy měla jednoznačně určit i odpovědnost za její jednání, protože přestane postačovat tradiční viník ve formě fyzické, popřípadě pak právnické osoby, ale brzy začne docházet i k situacím, kdy ze samostatného volného rozhodování bude tato elektronická osoba činit soukromoprávní, či veřejnoprávní delikty. S tím jsou i nerozdělitelně spjaty sankce, bez kterých by vynutitelnost práva neexistovala a neexistovalo by i jejich spravedlivé určení k povaze trestu na základě principu proporcionality6 .

Sekundárně je nutné uvědomit si i jiné, neméně významné nuance, které mohou/musí být s novým typem právní osobnosti určeny7 – status pasivus, status activus, status positivus, status negativus8 (v praxi tedy

4

5 6

7

8 ZPRÁVA obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku - A80005/2017. [online]. Dostupné z: http://www.europarl.europa.eu/sides/getDoc. do?type=REPORT&reference=A8-2017-0005&language=CS §2937 zákona č. 89/2012Sb., Proporcionalita a náležitost trestů? – vypnutí robota=trest smrti, dočasní vypnutí=je to trest nebo to robot nepozná? Jaké jiné tresty lze adekvátně použít? Jak definovat vznik právní osobnosti – vyrobením a aktivací / zánik právní osobnosti – úplnou deaktivací, či zničením? Pojem, který zavedl Georg Jellinek, A Theory of Constitutional Rights - Robert Alexy. Dostupné z: https://books.google.cz/books?id=ZbWxWYhhe8U C&pg=PA163&lpg=PA163&dq=georg+jellinek+status+activus&source=bl&ots=UaMd GODiii&sig=4ZINHFd2P45611kblosXWKd5Gwo&hl=cs&sa=X&ved=2ahU

např. právo na život, právo podnikat, právo rovnosti, zákaz trestu smrti, právo nebýt mučen a mnoho dalšího, a to třeba i včetně svéprávnosti). V tomto smyslu je důležité vážně přemýšlet nad tím, zda by se umělá inteligence měla svou úpravou spíše podobat osobě fyzické, nebo osobě uměle vytvořené, tedy osobě právnické, či by dokonce neměla majoritně reflektovat ani jednu z těchto úprav a měla by být vytvořena zbrusu nová, neovlivněná úpravami předešlými.

Je velmi obtížné představit si zcela odlišnou úpravu od již nyní existujícího právního rámce a dokonce se domnívám, že by taková komplexní úprava nebyla proveditelná. S ohledem na fakt souvztažnosti k hmotnému právu, které se v tomto případě s nástupem nového subjektu de facto nezmění a pokud přeci jen ano, tak pak půjde o „kosmetické“ uzpůsobení některých existujících ustanovení, nebo o vytvoření nových ojedinělých leges specialis, které takovouto komplexnost nebudou zakládat.9 Je tedy zapotřebí vydat se zejména cestou adaptace, a to za vzoru jak osoby právnické, tak i fyzické.

Přiřknutí práv a povinností pak vychází zejména z ochoty společnosti sdílet je s někým dalším. Bude tedy záležet na celospolečenském klimatu, ke které úpravě se v jednotlivých případech zákonodárce přikloní a jakým způsobem, popřípadě zda vůbec.

Z tohoto důvodu si dovoluji odkázat na skutečnost, že zajímavostí nezůstává fakt, kdy se otázkou umělé inteligence zabýval už Evropský parlament ve svém poměrně rozsáhlém usnesení10 adresovaném Komisi. (pozn. Pro nás je toto usnesení o to zajímavější, že jeho první článek odkazuje na pražského Golema, a co více na snad jediný internacionalismus českého původu, a to na robota od Karla Čapka.) Ač by se podle prvních pár ustanovení mohlo zdát, tak toto usnesení není bráno vůbec na lehkou váhu a Evropský parlament se zde zabývá obšírně téměř celou existenční problematikou s umělou inteligencí související a poukazuje zde i na potřebu vyřešení statusové otázky všech robotů/

KEwilmqDmmJTfAhVP3KQKHdPNBjEQ6AEwCXoECAEQAQ#v=onepage&q= georg%20jellinek%20status%20activus&f=false Již nyní lze, ale některá potenciální ustanovení s větší, či menší pravděpodobností dedukovat. Například při zamyšlení se nad důsledky užitím úpravy, určené pro právnickou osobu, tedy nutnosti povinného zastoupení osobou fyzickou. Toto ustanovení by popíralo skutečnou identitu a autonomii elektronické osoby, kterou se jí danou úpravou snažíme získat ZPRÁVA obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku - A8-0005/2017. [online]. Dostupné z: http://www.europarl.europa.eu/sides/getDoc. do?type=REPORT&reference=A8-2017-0005&language=CS androidů/botů. Tedy poukazuje na nutnost budoucí celounijní úpravy této části práva.

Zároveň řada odborníků v čele s Rayem Kurzweilem11 , který je jednou z velmi uznávaných osobností moderních technologií, předpověděli, že po roce 2020 dojde k prolomení tzv. Turingova testu12, ten nám dokáže zodpovědět, zda při komunikaci s umělou inteligencí rozpoznáme rozdíl oproti komunikaci s člověkem. To i další vyjádření jiných odborníků ukazuje na naší technickou připravenost.

Možná jsme tak už jen pár kroků od doby, kdy i elektronické osoby budou mít krom svých názorů i své vlastní city a naše pojetí sloužících umělých pomocníků bude zpodobněním novodobého otrokářství. Otázkou tedy není, zda pomalu dospíváme do let, kdy by bylo možné reálně přehodnotit právní postavení robotů a realizovat jejich větší autonomii ve formě určité míry právní subjektivity, otázkou spíše zůstává: „jsme na to jako společnost připraveni?“.

11

12 Ray Kurzweil - Wikipedia. [online]. Dostupné z: https://en.wikipedia.org/wiki/Ray_Kur zweil uznávaný odborník i pro své schopnosti vymezit časový rámec, kdy dosáhne techno logický vývoj určitého stupně, což už se mu několikrát za sebou perfektně povedlo Turing-Test – Wikipedia. [online]. Dostupné z: https://de.wikipedia.org/wiki/Turing-Test