Projekt katastrofy został już wdrożony

Co to znaczy spra wować nad kimś władzę? Ten, kto ma władzę, może w sposób uprawn iony zmuszać innych do określonego postępowania, niejednokrotnie wbrew ich interesom i poglądom, może też kontrolować, czy jego polecenia są wykonywane, i karać za nieposłuszeństwo. Brzmi to raczej nieprzyjemnie, chociaż stanowi podstawę społecznego ładu. Kluczowym terminem kryjącym się w cieniu tej definicji jest legitymizacja, czyli, innymi słowy, kwestia tego, skąd władca czerpie wspomniane uprawnienia do sprawowania władzy, oraz tego, w jakich granicach wolno mu się poruszać bez przekraczania tych uprawnień.

W epoce zaawansowanych technologii przetwarzania wielkich zbiorów danych (big data) konwencjonalne rozumienie demokratycznej władzy jako pewnego neutralnego mechanizmu biurokratycznego mającego zdolności samonaprawcze - na przykład w postaci wyborów - musi zostać uzupełnione koncepcją nierównowagi informacyjnej: realną władzę sprawuje ten, kto w danym układzie zależności ma większą wiedzę.

A teraz zastanów się, drogi czytelniku, nad tym, co wie o tobie Facebook i co ty właściwie wiesz o Facebooku. Facebook zgromadził na twój temat więcej informacji, niż jesteś w stanie sobie wyobrazić. Ty o złożonych algorytmach stosowanych przez Facebooka nie wiesz absolutnie nic.

Nie ma zresztą powodu, by demonizować akurat Facebooka, bo problem z analizowaniem i wykorzystywaniem big data jest jedną z najważniejszych trosk współczesnych społeczeństw Zachodu. Nie chodzi tu po prostu o to, że rządy zbierają i przetwarzają dane o obywatelach, a korporacje o klientach - byłoby dziwne, gdyby tego nie robiły. Chodzi o sposoby, w jakie matematyczne manipulacje na zbiorach danych wpływają na nasze życie.

Cathy O''Neil, amerykańska matematyczka, blogerka i działaczka społeczna, zebrała w swojej książce rozmaite przypadki wykorzystywania analiz big data w biznesie, polityce społecznej i zarządzaniu dobrami publicznymi - wszystkie te przypadki łączy jedno: stosowanie, jak nazywa to O''Neil, "broni matematycznej zagłady", czyli modeli analityczno-statystycznych, które wprawdzie oszczędzają czas i pieniądze tych, którzy w nie zainwestowali, ale są wysoce szkodliwe dla tych, których bezpośrednio dotyczą. Modele te, nawet jeśli projektowane w dobrych intencjach, przenosiły w realia ekonomii danych liczne skrzywienia ludzkiego rozumowania: stereotypy, uprzedzenia, stronniczość, przekonania w rodzaju "teorii sprawiedliwego świata" (czyli: jeśli mi się powodzi, to znaczy, że na to zasługuję, jeśli komuś nie idzie, sam jest sobie winien). "Jak bogowie, modele matematyczne były nie do pojęcia, a sposób ich działania byli w stanie zgłębić jedynie najwyżsi kapłani - matematycy i programiści komputerowi. Rozstrzygnięcia dostarczane przed modele, nawet gdy były złe lub szkodliwe, nie podlegały dyskusji ani odwołaniu. Same modele zaś miały tendencję do karania osób ubogich i wykluczonych, sprawiając zarazem, że bogatsi stawali się jeszcze bogatsi".

Zasięg oddziaływania owych modeli (nieprzejrzystych, szkodliwych, działających w ogromnej skali), przynajmniej w realiach amerykańskich opisywanych przez O''Neil, budzi uzasadnioną grozę. W czarną skrzynkę oprogramowania decydującego o ludzkim losie - jego decyzje stają się rzeczywistością - spoglądają między innymi więźniowie (programy wyliczające prawdopobieństwo recydywy wpędzają ludzi w jej pętlę, dziwnym trafem zwykle Afrykanów i Latynosów), przyszli studenci (najbiedniejsi z nich płacą fortunę za bezwartościowe studia - zostali wytypowani przez algorytmy reklamowe jako potencjalni klienci państwowych subwencji), mieszkańcy marnych dzielnic (policja patroluje zgodnie ze wskazaniami programu przewidującego, gdzie może zostać popełnione przestępstwo), bezrobotni (odsiani w wątpliwych testach osobowościowych), najniżej opłacani pracownicy (harujący w wyliczonych algorytmicznie absurdalnych siatkach godzin i nadzorowani na każdym kroku przez systemy elektroniczne).

Uciążliwości te - zasadniczo niesprawiedliwe i krzywdzące - odnoszą się zwykle do ludzi z niższych warstw społecznych, wytwarzając swego rodzaju sprzężenie zwrotne: działanie systemu przy każdej kolejnej iteracji pogłębia nierówności.

A jeśli w niedalekiej przyszłości sztuczna inteligencja przejmie kontrolę nad obróbką i interpretacją danych wytwarzanych przez ludzkość? Gdyby tak się stało, dwie rzeczy są pewne: po pierwsze, SI będzie nad nami sprawować władzę absolutną. Po drugie, definitywnie przestaniemy rozumieć świat, w którym żyjemy, straciwszy kontrolę nad własnym losem. Ale projekt tej katastrofy został już wdrożony . ⒸⓅ

@RY1@i02/2017/213/i02.2017.213.000002500.801.jpg@RY2@

"Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji", Cathy O''Neil, przeł. Marcin Z. Zieliński, PWN 2017

Piotr Kofta