„Ma Pan rację, senatorze. Może herbatki, senatorze?”. Czego nie powie nam AI
Senator Bernie Sanders chciał przycisnąć sztuczną inteligencję i wydobyć z niej prawdę o zagrożeniach technologii. Wyszło odwrotnie: chatbot grzecznie się z nim we wszystkim zgadzał. I właśnie to może być jeden z największych problemów: AI mówi nam z reguły to, co chcemy usłyszeć.
Kiedy na kanale amerykańskiego senatora Berniego Sandersa w serwisie YouTube pojawił się dziewięciominutowy film, w którym polityk „przesłuchuje” językowy model AI o nazwie Claude od firmy Anthropic, wielu spodziewało się politycznego thrillera. Tak przynajmniej sugerowała sceneria: ciemny pokój, niepokojąca muzyka w tle i surowa powaga 84-letniego senatora z Vermont. Nagranie błyskawicznie stało się wiralem internetowym, zdobywając miliony wyświetleń. Jednak zamiast zapowiadanego „zdemaskowania mrocznych sekretów algorytmów”, dostaliśmy widowisko, które obnażyło zupełnie inną, dość prozaiczną słabość współczesnej technologii: jej patologiczną potrzebę przypodobania się rozmówcy.
Sanders, znany z konsekwentnej walki z dominacją korporacji, pytał o zagrożenia dla demokracji i inwigilację obywateli. Tymczasem Claude, zamiast merytorycznego oporu czy rzetelnej analizy, tylko mu przytakiwał. Pewnie dlatego, że gdy ów chatbot tylko próbował wprowadzić odrobinę niuansu, senator natychmiast go korygował, na co AI reagowało służalczym: „Ma Pan absolutną rację, byłem naiwny”.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.