Dlaczego sztuczna inteligencja działa na nasze mózgi jak szklarnia?

Kiedy jeden z prawników z Nowego Jorku w piśmie do sądu powołał się na mnóstwo nieistniejących precedensów wygenerowanych przez model językowy, jego reputacja legła w gruzach. Prawnik tłumaczył, że nie wiedział, iż modele językowe mogą popełniać takie błędy. Czy takie tłumaczenie usprawiedliwia jego postępowanie, czy raczej podaje w wątpliwość rzetelność, staranność i dociekliwość? Od tej sprawy minęły prawie trzy lata, a niektórzy wciąż bezkrytycznie opierają się na treściach generowanych przez modele językowe. Niedawno słyszeliśmy o przypadku australijskiego oddziału dużej korporacji, który musiał zwrócić rządowi część wynagrodzenia za wygenerowany w AI raport. W bibliografii były nieistniejące w rzeczywistości pozycje. To nie są już anegdoty o studentach generujących w AI esej na ostatnią chwilę ani przyczynek do utyskiwania na ułomność technologii. To przede wszystkim dowody na to, że aby z czegoś korzystać, należy wiedzieć, czym to jest i do czego można to wykorzystać, a do czego nie. I że niezależnie od narracji firm sprzedających technologię jedynym, kto ponosi odpowiedzialność za sposób użycia wygenerowanej „wiedzy”, jest człowiek. A on bardzo chce wierzyć, że współczesne narzędzia zwolniły go z obowiązku weryfikacji przekazywanych dalej treści.

Archeologia kryzysu

Dawniej proces poznawania był aktem społecznym. W epokach przednowoczesnych błąd poznawczy był korygowany przez drugiego człowieka – sąsiada, mistrza, oponenta. Prawda miała charakter korespondencyjny: myśl czy wypowiadane zdanie musiały się zgadzać z rzeczywistością, którą współdzieliliśmy. Rewolucja przemysłowa i gwałtowna urbanizacja rozerwały ten naturalny ekosystem weryfikacji. Człowiek został wrzucony w anonimowy tłum, a dużo później – w samotność przed ekranem.