Czym jest „hipoteza fizycznego systemu symbolicznego”?
Czy m są (lub też czym były) systemy eksperckie?
Czy m jest planowanie?
Czy m jest uczenie maszynowe?
Czy m są sztuczne sieci neuronowe?
Jak powstało ucz enie maszynowe?
Które podejście jest lepsz e: rozumowanie symboliczne czy uczenie maszynowe?
Jakie są najważniejsze pr zełomy w historii sztucznej inteligencji?
ROZDZIAŁ 3
Granice sztucznej inteligencji
Jakie są główne obszary badań i rozwoju w dziedzinie sztucznej inteligencji?
ym jest robotyka?
m jest widzenie komputerowe?
Czy m jest rozpoznawanie mowy?
Czy m jest przetwarzanie języka naturalnego?
ROZDZIAŁ 4
F ilozofia sztucznej inteligencji
Cz ym jest filozofia sztucznej inteligencji? 89
Czy m jest „silna” i „słaba” sztuczna inteligencja? 91
Czy komputer może „myśleć”? 91
Czy komputer ma wolną wolę? 98
Czy komputer może być świadomy? 106
Czy komputer może „czuć”? 107
ROZDZIAŁ 5
Sztuczna inteligencja i prawo 113
Jak sztuczna inteligencja wpłynie na prawo? 113
Jak sztuczna inteligencja wpłynie na praktykę prawa? 114
Jak sztuczną inteligencję wykor zystuje się do pomocy prawnikom? 120
Czy m jest prawo komputacyjne? 122
Czy komputer może wyrażać zgodę i zawierać umowy?
Czy na inteligentny podmiot należy nałożyć ograniczenia dotyczące jego działań?
Czy ludzie ponoszą pełną odpowiedzialność za swoich inteligentnych reprezentantów?
Czy sy stemom sztucznej inteligencji powinno się pozwolić na posiadanie własności?
Czy sy stem sztucznej inteligencji może popełnić przestępstwo?
Czy nie możemy po prostu zaprogramować komputerów, żeby przestrzegały prawa?
Jak system sztucznej inteligencji może być odpowiedzialny za działania przestępcze?
ROZDZIAŁ 6
Wpł yw sztucznej inteligencji na pracę ludzi
Czy roboty zabiorą nam pracę?
Jakie nowe zadania zautomatyzują systemy sztucznej inteligencji?
Które z awody są najmniej zagrożone, a które najbardziej?
Jak sztuczna inteligencja wpłynie na pracowników fizycznych?
Jak sztuczna inteligencja wpłynie na pracowników umysłowych?
ROZDZIAŁ 7
Wpł yw sztucznej inteligencji na sprawiedliwość społeczną
Kto skorz ysta na tej rewolucji technologicznej?
Czy nisz czycielskie skutki są nieuniknione?
Co jest nie tak z gospodarką opartą na pracy?
Czy potr zebujemy prosperującej klasy średniej, żeby napędzić popyt?
Cz y istnieją alternatywy dla społeczeństwa opartego na pracy?
Jak moż emy dystrybuować przyszłe aktywa bardziej sprawiedliwie?
Jak możemy wspierać bezrobotnych bez zasiłków rządowych?
Dlaczego ludzie mieliby pracować, jeśli mogą bez tego wygodnie żyć?
125
126
130
132
134
136
137
141
141
145
147
148
152
157
157
158
159
162
164
165
167
168
Możliwy przyszły wpływ sztucznej inteligencji
Czy rozwój sztucznej inteligencji przyśpiesza? 171
Czy m jest „osobliwość”?
Kiedy moż e nastąpić osobliwość? 176
Czy ucieczka sztucznej super inteligencji jest przedmiotem uzasadnionych obaw? 178
Czy sy stemy sztucznej superinteligencji kiedykolwiek wymkną się spod kontroli? 181
Jak moż emy minimalizować przyszłe ryzyko? 184
Jakie są korz yści i ryzyko związane z komputerami i robotami działającymi jak ludzie? 186
Jak nasze dzieci będą prawdopodobnie odnosić się do systemów sztucznej inteligencji? 189
Czy kiedykol wiek będę w stanie załadować siebie do komputera? 190
Czy komputer może kiedykolwiek stać się mądrzejszy niż człowiek?
Ujmując rzecz jednym słowem: tak – ale najprawdopodobniej w ograniczony sposób. Jest możliwe, że w pewnym momencie w przyszłości odczucia opinii publicznej zmienią się wystarczająco, żeby zaakceptować ideę, że komputery są w ogóle lepsze od ludzi w pewnych dość szerokich klasach zadań intelektualnych, co nie oznacza, że maszyny zdominują nas albo uczynią zbędnymi, jak wyjaśnię dalej. Samochody mogą nas „prześcigać”, bankomaty mogą liczyć banknoty szybciej od nas, kamery mogą widzieć w ciemności, ale żadnej z tych umiejętności nie uważamy za zagrażającą naszej wyższości. Programy komputerowe umieją już grać w gry, przeszukiwać tłum w poszukiwaniu znanych twarzy i rekomendować filmy równie dobrze jak my albo lepiej od nas, jednak niewiele osób obawia się tych kompetencji. Jeśli albo kiedy roboty będą potrafiły przeprowadzać operacje na mózgu, malować domy, obcinać włosy i pomagać znajdować zgubione klucze, spodziewam się, że będziemy je postrzegać jako wiarygodnie, użyteczne narzędzia, które potrafią wypełniać zadania wcześniej wymagające wrodzonej ludzkiej inteligencji, tak że trudno będzie się oprzeć pokusie, by mówić o nich również jako o „inteligentnych”. Powinniśmy jednak bardzo ostrożnie opisywać, co mamy przez to na myśli. Inteligencja, jak możemy używać tego słowa w odniesieniu do maszyn, najprawdopodobniej stosuje się do dobrze sprecyzowanych działań, w których cele można łatwo zdefiniować i zmierzyć (Czy trawa została skoszona? Czy dotarłem do celu na czas? Czy jutro będzie padać? Czy moje zeznanie podatkowe zostało poprawnie wypełnione?), ale nie do takich, w których sukces ma bardziej subiektywny charakter (Która sukienka lepiej na mnie wygląda? Jakie studia są dla mnie właściwym wyborem? Czy powinnam wyjść za Billa? Jak wyglądałoby życie, gdyby Niemcy wygrały II wojnę światową? Jak mogę pocieszyć dziecko po przegranym meczu?).
Historia jest pełna błędnych przewidywań dotyczących tego, co komputery będą w stanie zrobić, stąpam więc po kruchym lodzie, przedstawiając przykłady. Niewątpliwie można napisać programy kompute-
sztucznej inteligencji
rowe, które będą przynajmniej wiarygodnie próbować odpowiedzieć na tego rodzaju subiektywne albo ocenne pytania, ale spodziewam się, że ich odpowiedzi nie zostaną uznane za lepsze, bardziej spostrzegawcze albo mądrzejsze od odpowiedzi udzielanych przez ludzi.
Choć dziś widoki na to, że możemy w końcu uznać maszyny za „bardziej inteligentne” od ludzi, mogą się wydawać mało prawdopodobne, to do czasu urzeczywistnienia się tej wizji najpewniej nastąpi znaczny postęp technologiczny, którego oczekuje się z przerażeniem, takim jakie wywoływało zapłodnienie in vitro („dzieci z próbówki”) albo rzekomo otępiający i ogłupiający wpływ telewizji na dzieci i (moje ulubione) zagrożenie w postaci nagrywanej muzyki 11. Nie oznacza to, że badacze sztucznej inteligencji są bez grzechu. Notorycznie byli przesadnymi optymistami, co szybko wytknęli im krytycy (najsilniej filozof Hubert Dreyfus) 12 .
Zauważmy, że ta kwestia jest odrębna od tej, czy komputery zastąpią ludzi we wszystkich (a nie tylko wielu) obecnych zawodach i działaniach 13. Jest mnóstwo rzeczy, które robimy, ponieważ sprawiają nam przyjemność, często również sama praca. Jak sarkastycznie (mam nadzieję) odpowiedział kiedyś jeden z moich studentów na pytanie, dlaczego programujemy komputery, by grały w szachy: „Żeby oszczędzić nam samym uciążliwości gry w szachy”.
Aby zrozumieć, dlaczego komputery najprawdopodobniej przewyższą ludzką inteligencję w różnorodnych zastosowaniach praktycznych, warto wyjść od spostrzeżenia, że komputery przewyższają dziś ludzkie zdolności w wielu zadaniach, w tym w takich, co do których jesteśmy przekonani, że wymagają ludzkiej inteligencji. Jazda samochodem, udział w teleturnieju Va Banque, przewidywanie wojen i streszczanie komuni-
11 John Philip Sousa, The Menace of Mechanical Music, „Appleton’s” 1906, 8, http:// explorepahistory.com/odocument.php?docId=1-4-1A1.
12 Patrz http://www.amazon.com/What-Computers-Still-Cant-Artificial/dp/ 0262540673.
13 Patrz http://www.makeuseof.com/tag/6-human-jobs-computers-will-never-replace.
nieskończoną różnorodność form – wideo nakręcone z poruszającego się samochodu, raporty z odwiedzin na ostrym dyżurze, temperatura przy powierzchni gruntu w Arktyce, lajki na Facebooku, ślady mrówek, nagrania ludzkiej mowy, kliki na reklamy online, dane ze średniowiecza dotyczące urodzeń, dźwięki sonaru, transakcje dokonywane za pomocą karty kredytowej, zmniejszenie jasności odległych gwiazd podczas tranzytu obiegających je planet, transakcje giełdowe, rozmowy telefoniczne, zakupy biletów, transkrypcje procesów sądowych, ćwierknięcia (zarówno te z Tweetera, jak i te wydawane przez ptaki) – niemal wszystko, co może zostać zgormadzone, skwantyfikowane albo przedstawione w formie cyfrowej.
Ludzie oczywiście gromadzili i analizowali dane od dawna, jak dobrze wie każdy, kto ma za sobą kurs statystyki. Co więc w tym nowego i odmiennego? Ogromna skala i pewna nowość technik obliczeniowych, które wydają się naśladować pewne aspekty ludzkiego mózgu, sugerując, że możemy być kusząco blisko odkrycia przynajmniej niektórych ukrytych tajemnic działania umysłu. Nowe podejście do sztucznej inteligencji, koncentrujące się na danych, pojawia się pod kilkoma nazwami, najczęściej jako „uczenie maszynowe”, choć mogliście się spotkać w prasie z określeniem „big data” albo „sieci neuronowe”, które są specyficznym podejściem do uczenia maszynowego (choć nie jedynym).
Czym są sztuczne sieci neuronowe?
Aby zyskać poczucie, co jest tak innowacyjnego w nowoczesnych technikach uczenia maszynowego, warto nieco bardziej szczegółowo zapoznać się z podejściem opartym na sieciach neuronowych. Sztuczna sieć neuronowa to program komputerowy zainspirowany pewnymi domniemanymi zasadami organizacyjnymi realnych sieci neuronalnych (takich jak nasz mózg). Związek między sztucznymi i realnymi sieciami neuronowymi jest przede wszystkim aspiracyjny. Niektórzy badacze z dziedziny neuronauk komputacyjnych otwarcie próbują zrozumieć
Intelektualna historia sztucznej inteligencji
faktyczną strukturę mózgu i zasymulować ją za pomocą komputera w celu zrozumienia, jak działa realny mózg. Innych badaczy sztucznej inteligencji, zaliczanych raczej do głównego nurtu badań, tak naprawdę nie obchodzi, czy ich programy naśladują mózg, dopóki rozwiązują praktyczne problemy, które ich interesują.
Ciekawe jednak jest to, że wiemy dość dużo o strukturze mózgu na szczegółowym poziomie – że składa się ona z zasadniczo homogenicznej masy komórek nazywanych neuronami, które łączą się ze sobą „synapsami”, żeby wysyłać i odbierać sygnały elektryczne i chemiczne. Kiedy te sygnały przekraczają pewien poziom albo tworzą pewien wzór, neuron „odpala”, co oznacza, że on z kolei przesyła sygnał do innych neuronów, które są z nim połączone. I wiemy dość dużo o ogólnej strukturze mózgu – które warstwy i regiony są zazwyczaj zaangażowane w różne aktywności, takie jak widzenie, odczuwanie głodu, przeprowadzanie obliczeń arytmetycznych, regulowanie tętna, rozpoznawanie twarzy i poruszanie wielkim palcem u stopy. Zaskakująco jednak mało wiadomo o strukturze pośredniej – jak neurony są powiązane ze sobą w celu wykonywania tych zadań. Innymi słowy, nie wiemy zbyt wiele o tym, jak mózg jest „okablowany” (ujmując rzecz metaforycznie). I oczywiście jest to właśnie obszar zainteresowań badaczy sztucznej inteligencji budujących sztuczne sieci neuronalne. Symulują oni zachowanie neuronów jako indywidualnych elementów w swoich programach, a następnie tworzą techniki łączenia ich i badania rezultatów, czyli co potrafią one zrobić, jak szybko i tak dalej.
Neurony w sztucznych sieciach neuronalnych są zazwyczaj organizowane w sieć warstw. Neurony na każdym poziomie łączą się tylko z neuronami na poziomie położonym bezpośrednio niżej albo bezpośrednio wyżej w hierarchii, a te połączenia są zazwyczaj modelowane jako wagi numeryczne, gdzie na przykład 0 reprezentuje „niepołączone”, a 1 – „silnie połączone”. Najniższy poziom faktycznie otrzymuje dane wejściowe spoza sieci – na przykład każdy neuron niskiego poziomu może przetwarzać informacje o konkretnej kropce (pikselu) z kamery.
do niepokojącej wizji świata, w której ludzie kończą, pracując dla robotów. Czy okaże się, że takie systemy w ostatecznym rozrachunku będą funkcjonować w symbiozie czy pasożytować na ludziach, jest otwartą kwestię, więc nie idźmy w tym kierunku.
Nie oznacza to, że maszynom nie można przyznać praw, w tym prawa do posiadania aktywów, jednak prawa te powinny być ograniczone i iść w parze z obowiązkami, takimi jak przechodzenie testów kompetencyjnych i uzyskiwanie licencji na działanie. Spółki mają prawa (takie jak ograniczone prawo do wolności słowa), ale idą one w parze z obowiązkami (takimi jak ochrona środowiska). Na przykład programowi komputerowemu można przyznać prawo do przygotowywania umów wtedy i tylko wtedy, gdy zda egzamin adwokacki. W tym sensie być może właściwe będzie, żeby systemy sztucznej inteligencji tak jak spółki były wedle prawa ograniczonymi „osobami”.
Czy system sztucznej inteligencji może popełnić przestępstwo?
Tak, może. Dotychczas ta dyskusja koncentrowała się na tak zwanych deliktach, czyli działaniach, które szkodzą ludziom albo ich własności, za co ofiary mogą pozywać przed sądem cywilnym o odszkodowanie. Społeczeństwo jednak uznaje również określone zachowania za przestępstwa, to znaczy działania, które są zakazane albo z powodów moralnych, albo dlatego, że naruszają porządek społeczny lub interes publiczny. Na przykład w Kalifornii przestępstwem jest jedzenie psów i kotów, ale nie kurczaków albo ryb, choć wszystkie je trzyma się powszechnie jako zwierzęta domowe150. Przestępstwem jest również jeżdżenie pojazdem poza drogami w sposób, który może spowodować szkody środowiskowe151. Oczywiście że autonomiczny samochód mógłby spowodo-
150 California Penal Code Paragraph 598B, http://codes.lp.findlaw.com/cacode/ PEN/3/1/14/s598b.
151 U.S. Department of the Interior, Bureau of Land Management, California, Off-Highway Vehicle Laws, http://www.blm.gov/ca/st/en/fo/elcentro/recreation/ohvs/ caohv.print.html.
wać szkody środowiskowe, nawet nieumyślnie, i byłoby to przestępstwo. (Zauważmy, że pewne działania mogą być zarówno deliktami, jak i przestępstwami, np. zastrzelenie kogoś.)
Niektóre przestępstwa, takie jak zabójstwo (w przeciwieństwie do spowodowania śmierci), uznaje się za poważniejsze, ponieważ wiążą się z transgresją etyczną. To znaczy, oczekuje się, że sprawca wie, że to, co robi, jest moralnie złe. Prawo zakłada, że osoba popełniająca przestępstwo ma to, co się nazywa „podmiotowością moralną”. Podmiotowość moralna wymaga dwóch rzeczy: żeby sprawca był zdolny do rozumienia konsekwencji swojego zachowania i żeby miał wybór działania. Co zaskakujące, nie trzeba być człowiekiem, żeby mieć podmiotowość moralną.
Wiele osób nie zdaje sobie sprawy, że spółki, jako odrębne od swoich managerów, pracowników albo udziałowców, mogą odpowiadać za popełnienie przestępstwa. Na przykład kompania naftowa Chevron ma długi rejestr wyroków karnych, głównie za umyślne skażenie środowiska, choć jej pracownicy rzadko byli oskarżani indywidualnie w związku z tymi działaniami152. W przynajmniej niektórych z tych spraw samą spółkę uznawano za posiadającą podmiotowość moralną, ponieważ ta instytucja jest zdolna do rozumienia konsekwencji swojego zachowania i może wybrać sposób działania (czy popełnić przestępstwo, czy go nie popełnić), choć ta koncepcja nie jest wolna od pewnych kontrowersji153.
Czy zatem program komputerowy może być podmiotem moralnym? Może, ponieważ spełnia wymogi tej definicji. Nie ma powodu, dla którego nie można by napisać programu, który wie, co robi, wie, że jest to nielegalne (a zatem przypuszczalnie nieetyczne), i może dokonywać wyborów, jakie działania podjąć. Nic nie wymaga, żeby podmiot moralny miał jakiekolwiek „poczucie”, że coś jest dobre albo złe – wymogiem
152 Philip Mattera, Chevron: Corporate Rap Sheet, Corporate Research Project, http://www.corp-research.org/chevron (ostatnia aktualizacja: 13 października 2014).
153 David Ronnegard, Corporate Moral Agency and the Role of the Corporation in Society, (PhD diss., London School of Economics, 2007), http://www.amazon.com/ Corporate-Moral-Agency-Corporation-Society/dp/1847535801.
ROZDZIAŁ 6
Wpływ sztucznej inteligencji