Czy maszyny niebawem zawładną światem

Fizyk celebryta Stephen Hawking opublikował niedawno wraz z trzema kolegami manifest przestrzegający ludzkość przed konsekwencjami sztucznej inteligencji, czyli stale polepszającej się zdolności komputerów do naśladowania sposobów rozumowania właściwych gatunkowi ludzkiemu. Autorzy oczywiście nie byli pierwszymi, którzy zabrali głos w tym duchu, ale ze względu na ich status naukowy ten niedawny apel zabrzmiał wyjątkowo donośnie. Przypomnijmy więc, że debata o zagrożeniach dla świata ze strony inteligentnych maszyn trwa już dobre pół wieku.

Wielu pisarzy science fiction zdobyło rozgłos, opisując prawdopodobne i, częściej, nieprawdopodobne konsekwencje myślących komputerów. Poznaliśmy na tej drodze w szczególności dziesiątki wymyślnych scenariuszy zagłady ludzkości opanowanej przez inteligentne roboty perfidnie niszczące, po wymknięciu się spod kontroli, cały dorobek ludzkiej cywilizacji. Straszeni jesteśmy pojęciem osobliwości technologicznej, która miałaby nastąpić w momencie całkowitego zdominowania człowieka przez inteligencję maszynową. Bać się mamy superinteligentnych maszyn skłonnych do lekceważącego traktowania ludzi jako istot niższego rzędu i, być może, skłonnych do podjęcia decyzji o ich - czyli nas - zniszczeniu. Albo dokonania tego przez inteligentne roboty w wyniku błędu w oprogramowaniu, oczywiście niekontrolowanym od dawna przez człowieka.

Typowy sposób rozumowania czarnowidzów jest następujący: człowiek od zawsze przypisywał sobie i swojej siedzibie - Ziemi - absolutną wyjątkowość. Co dzisiaj z tego zostało? Astronomowie zdegradowali Ziemię z centrum wszechświata do jednej tylko z nieprzeliczalnej liczby planet we wszechświecie. Ewolucjoniści przekonują nas, że człowiek jest po prostu pośrednim elementem stale rosnącego wielkiego drzewa życia, a nie dziełem darczyńcy chcącego w specjalny sposób uhonorować i wyróżnić spośród reszty świata ożywionego taki właśnie wyjątkowy stwór. Ostatnią szansą na zaznaczenie naszej wyjątkowości staje się więc jakoby trwanie w przekonaniu o naszej inteligencji jako wyróżniku nie do powtórzenia przez nieludzi. No bo niby kto miałby przemówić do nas pięknym językiem poety, pocieszyć w kłopotach, zachwycić się zwięzłością wzoru Einsteina, zaprojektować samolot czy, co może w naszym kontekście najciekawsze, zaprogramować komputer?

Czy naprawdę mamy jednak prawo wierzyć w niemożliwość pojawienia się także tu konkurencji, być może prześcigającej nas również w tych talentach? Przecież potrafimy zbudować już komputery przewyższające człowieka w wielu dziedzinach uważanych dotychczas za jego wyłączną domenę i wymagających, jak myśleliśmy, specyficznej ludzkiej inteligencji.

Komputer wygrał już lata temu z mistrzem świata w szachach, komputer zwyciężył ludzkich konkurentów w amerykańskim teleturnieju Jeopardy wymagającym nietrywialnej, niezwykle szerokiej wiedzy, zaawansowane są prace nad komputerami potrafiącymi prowadzić w normalnym ruchu ulicznym samochody, komputery samodzielnie sterują niezwykle skomplikowanym procesem funkcjonowania i serwisowania całego systemu metra w Hongkongu, potrafią już też w sposób nierozpoznawalny dla wielu rozmówców udawać człowieka, prowadząc konwersację na nawet bardzo trudne tematy. Spektakularne jest niedawne osiągnięcie inżynierów firmy IBM, którzy stworzyli procesor próbujący w nowatorski sposób naśladować pracę ludzkiego mózgu. Przyznajmy szczerze - dzisiejsze komputery mają właściwości zupełnie niewyobrażalne jeszcze parę lat temu.

Mimo tego wielu z nas, w tym ja, nie jest bynajmniej przekonanych o zbliżającej się erze dominacji inteligencji maszynowej nad ludzką. Tacy sceptycy (może optymiści?) wątpią w zasadność tego typu obaw i w perspektywie najbliższych dekad skłonni są lokować wspólne zmartwienia ludzkości zupełnie gdzie indziej. Przytaczane przez nich argumenty odwołują się często do niemożności sztucznego stworzenia prawdziwej inteligencji z prostego powodu - nie rozumiejąc, czym jest nasza ludzka inteligencja, nie mamy po prostu wzorca do maszynowego naśladowania. A w końcu to człowiek musiałby przecież taką sztuczną inteligencję wymyślić i zaprogramować. Tak jak zegar nie zna aktualnej godziny i podaje nam czas wyłącznie, gdy go odpowiednio nastawimy, tak komputer nie myśli bez stworzonego przez człowieka oprogramowania. A jak je stworzyć na ludzkie podobieństwo, jeśli nasza wiedza o świadomości człowieka jest ciągle w powijakach?

Nie ulega wątpliwości, że nasze świadome istnienie kształtowane jest od urodzenia przez najróżniejsze, niezliczone interakcje społeczne. Dla ukształtowania się autonomicznej świadomości maszyny niezbędne byłoby więc bogate doświadczenie jej kontaktów z podobnymi stworami. Stworzenie takiej przestrzeni wzajemnych oddziaływań wydaje się jednak bardzo odległą przyszłością. Sceptycy wierzą w tej sytuacji, że jeszcze przez długie lata nienaruszony pozostanie tradycyjny podział zadań typowy dla współpracy człowieka z komputerem - autonomiczne, kreatywne, zdolne do empatii myślenie tego pierwszego i niedościgła sprawność wykonywania zaprogramowanych operacji przez ten drugi. A wszelkie ewentualne nieszczęścia zgotują światu nie autonomiczne maszyny, ale źli ludzie posługujący się ich potęgą.

Z tej perspektywy niebezpieczeństwo polegałoby raczej na tym, że przesadna wiara w komputerowe wspomaganie wszelkich działań obniży z czasem naszą inteligencję, wrażliwość i kreatywność do poziomu rzeczywiście dostępnego dla przyszłych maszyn. Badacze już dzisiaj obserwują elementy tego procesu odczłowieczania umysłów u młodych ludzi opętanych sieciową manią.

Co więc będzie się działo? Po pierwsze, postęp w osiąganiu coraz to nowych poziomów autonomiczności maszyn będzie znacznie wolniejszy, niż wynikałoby z przepowiedni niektórych badaczy. Tego jednoznacznie uczy historia postępów w tej dziedzinie. Po drugie, rozwijać się będzie zdolność przekazywania sygnałów z mózgu człowieka do komputera.

Dla przykładu mózgowe sygnały charakteryzujące senność pilota samolotu wykrywane będą przez komputer, który podejmie odpowiednie kroki zaradcze, np. zaalarmuje drugiego pilota. Działać to będzie zapewne także w drugą stronę - elementy encyklopedycznej wiedzy zawartej w pamięci komputera być może będą trafiać automatycznie do naszego mózgu. Po połączeniu tych dwóch opcji dojdzie w ten sposób kiedyś (nieprędko!) do przekazywania sobie za pośrednictwem komputera i niejako nieświadomie informacji przez różne osoby. Udane, proste próby w tym zakresie są już za nami. Może tego typu komunikacja upodabniać będzie stopniowo funkcjonalność komputerowych procesorów do naturalnego umysłu człowieka?

Cokolwiek by jednak powiedzieć o odległych terminach ewentualnych zagrożeń, uczucie niepokoju przed czymś, co będzie takie jak my, tylko jakby "jeszcze bardziej", pozostaje trwale zakodowane w naszej świadomości. Mówiąc obrazowo, ze świata maszyn dociera do nas dzisiaj buńczuczna wiadomość - stajemy się coraz mądrzejsze, jeszcze parę lat i przekonacie się o naszej nad wami wyższości. Czy gdyby taka wiadomość dotarła do nas od np. wrogiego nam państwa, siedzielibyśmy bezczynnie? Może więc, niezależnie od wiary w realność takiego wydarzenia, powinniśmy trochę aktywniej o nim myśleć?

Pamiętajmy, przyszłości nie da się wprawdzie dokładnie przewidzieć, można i należy ją jednak wspólnie kreować w sposób najlepiej odpowiadający ludzkim wyobrażeniem o sensie naszego życia. Czas, abyśmy zaczęli głośniej mówić o świecie, w jakim chcielibyśmy żyć. Może by więc na przykład stworzyć międzynarodowe ciało złożone z informatyków, prawników i etyków, ostrzegające nas przed rosnącymi destrukcyjnymi możliwościami maszyn? Nie dotyczy to bynajmniej tylko maszyn wysoce inteligentnych. Kto ponosi już dzisiaj odpowiedzialność, jeśli np. wojskowy dron, realizując misję zniszczenia materialnego celu, podejmie po drodze decyzję o zabiciu paru cywili? Politycy, dowódcy wojskowi, a może informatycy, którzy źle zaprogramowali działania tego drona?

Może już czas, abyśmy zaczęli wprowadzać do szkół lekcje opisujące świat ery przedkomputerowej? Okazałoby się to zapewne dla wielu uczniów podobnie trudne, jak zrozumienie wydarzeń z czasów średniowiecza, może jednak coś z tej egzotyki by się im spodobało i pomogło w wymyślaniu naszej wspólnej przyszłości w nieco zmodyfikowanej wersji - z komputerem będącym sprzymierzeńcem w realizacji naszych rzeczywistych potrzeb, a nie potencjalnym wrogiem o niedostępnej ludzkim zmysłom świadomości.

Kto ponosi już dzisiaj odpowiedzialność, jeśli np. wojskowy dron, realizując misję zniszczenia materialnego celu, podejmie po drodze decyzję o zabiciu paru cywili? Politycy, dowódcy wojskowi, a może informatycy, którzy źle zaprogramowali działania tego drona?

@RY1@i02/2014/232/i02.2014.232.00000150a.803.jpg@RY2@

Michał Rozbicki

Michał Kleiber prezes PAN

Michał Kleiber

prezes PAN