Kdo je lepší soudce? Vize jakési „algoritmické spravedlnosti“ se může na jednu stranu jevit jako rozšíření dostupnosti spravedlnosti pro široké masy lidí, na druhou stranu se může velice jednoduše stát i nástrojem bezpráví. A to zejména tehdy, pokud algoritmy pomáhající při rozhodování případů budou vycházet ze zkreslených dat.45 Výše jsme uvedli, že každá hmotná věc, každý čin či událost ve vnějším světě má svůj nehmotný doplněk v podobě informace. Nejinak tomu je i v případě lidských interakcí. Lidé jsou, na rozdíl od strojů, emotivní bytosti. Evolučně jsme také nastaveni tak, že se učíme z našich předchozích zkušeností a vytváříme si určitá myšlenková zjednodušení (heuristiky), která nám následně umožňují v životě snazší orientaci a rychlé rozhodování. Tak se vyvinuly i dva typy myšlení. Rychlé myšlení vycházející z těchto heuristik, o kterých někdy hovoříme jako o instinktech, a pomalé myšlení, které někdy nazýváme racionálním myšlením a které vychází z hlubšího zamyšlení a zkoumání problému. Toto rozlišení pochází od Daniela Kahnemana, který v této souvislosti hovoří o tzv. Systému 1, což je systém rychlého, intuitivního myšlení, které je zatíženo různými druhy zkreslení a omylů. Od něj odlišuje tzv. Systém 2, což je systém pomalého myšlení, které člověku mimo jiné umožňuje rozlišovat jednotlivosti a zamýšlet se nad problémem do hloubky.46 Člověk je přitom schopen mezi těmito typy myšlení přepínat, což však stojí určité úsilí. Rychlé myšlení pochopitelně není samo o sobě nesprávné. Pro jeho zapojení
Inspirací k následující úvaze byla přednáška Ondřeje Bajgara ze společnosti IBM na konferenci SOLAIR 2018 na téma diskriminace a zkreslení u umělé inteligence. 45
V podrobnostech viz KAHNEMAN, Daniel. Myšlení rychlé a pomalé. Brno: Jan Melvil Publishing, 2012, s. 26 a násl. ISBN 978-80-87270-42-4. 46
38