Sztuczna inteligencja nie rozumie świata. Prawnicy muszą o tym pamiętać

Zapewne każdy użytkownik doświadczył sytuacji, w której ChatGPT bądź inny czatbot AI udzielił odpowiedzi na zadane pytanie w sposób na pozór poprawny, a nawet, jak się zdawało, wyczerpujący, w rzeczywistości jednak odpowiedź okazywała się całkowicie błędna. Na przykład wskazane przez czatbot orzeczenia sądowe nie istniały, podane przez niego daty i sygnatury były zupełnie przypadkowe, tak samo jak przytoczone przez narzędzie tezy nieistniejących autorów. To zjawisko tzw. halucynacji modeli językowych, czyli udzielania odpowiedzi poprawnych językowo, ale w rzeczywistości fałszywych. Jest ono już dobrze rozpoznane i większość prawników wspierających się w swojej pracy modelami językowymi zapewne wie, iż odpowiedzi czatbotów wymagają weryfikacji. Nie każdy jednak rozumie przyczyny występowania halucynacji, które bynajmniej nie są wynikiem błędów w działaniu programu czy źle sformułowanego polecenia (prompta), ale wpisane są w naturę działania tych złożonych narzędzi.