Przyczynowa sprawiedliwość
Czasem to, co wydaje się nierównością, jest skutkiem losu, historii, systemu lub uprzedzeń zakodowanych w danych. A czasem wyłącznie iluzją, choć niby popartą danymi. Czy decyzje podejmowane na podstawie algorytmów – a właściwie przez ludzi, którzy te informacje interpretują i tworzą modele – mogą być sprawiedliwe?
Coraz więcej decyzji w naszym świecie podejmują algorytmy. To one oceniają, czy dostaniemy kredyt, czy i jakie reklamy zobaczymy. A nawet rozstrzygają drobne sprawy sądowe – w Chinach działa już system, który w określonych przypadkach odgrywa rolę „automatycznego sędziego”. Skuteczność? Aż 98 proc. spraw rozstrzyganych bez odwołań. Kusząca wizja, prawda? Maszyna, która nie ma złego dnia, nie kieruje się sympatią ani uprzedzeniami. Ale czy na pewno? Bo wraz z rosnącą automatyzacją pojawia się pytanie stare jak świat: czy decyzje podejmowane na podstawie danych – a właściwie przez ludzi, którzy te informacje interpretują i tworzą modele – mogą być naprawdę sprawiedliwe?
Sprawiedliwość według algorytmów
To, co jeszcze dekadę temu było filozoficznym dylematem, dziś staje się praktycznym problemem inżynieryjnym. Sprawiedliwość można bowiem, przynajmniej częściowo, zmierzyć. Zespół badaczy z Uniwersytetu Columbia, pod kierunkiem Drago Plecko, zaproponował Standardowy Model Sprawiedliwości. Brzmi groźnie, niemal jak model fizyczny opisujący cząstki elementarne, lecz jego sens jest zaskakująco prosty: chodzi o to, by zrozumieć, dlaczego pewne nierówności się pojawiają. Model zastosowali do ochrony zdrowia: przeanalizowali ponad 1 mln przypadków przyjęć na oddziały intensywnej terapii w Australii i Stanach Zjednoczonych. Celem było sprawdzenie, czy rasa lub pochodzenie etniczne pacjentów wpływa na ich szanse przeżycia.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.