AI Act

Nie każdy błąd sztucznej inteligencji będzie incydentem wymagającym zgłoszenia organom. AI Act wyznacza jednak granicę, po której problem nie może zostać potraktowany wyłącznie jako wewnętrzna awaria techniczna. Jeżeli działanie lub wadliwe funkcjonowanie systemu AI prowadzi bezpośrednio albo pośrednio do śmierci, poważnego uszczerbku na zdrowiu, poważnego naruszenia praw podstawowych, znacznej szkody w mieniu lub środowisku albo poważnego i nieodwracalnego zakłócenia infrastruktury krytycznej, uruchamiany jest szczególny mechanizm raportowania.

Pracownik kopiuje fragment umowy od prywatnego chatbota, analizuje dane klienta za pomocą bezpłatnego narzędzia AI albo zakłada konto w aplikacji, o której nie wie dział IT. Tak powstaje shadow AI – niekontrolowane wykorzystanie sztucznej inteligencji poza zatwierdzonym środowiskiem firmy. Problem nie sprowadza się do złamania wewnętrznego regulaminu. Organizacja może stracić kontrolę nad danymi, sposobem podejmowania decyzji i narzędziami rzeczywiście wykorzystywanymi do pracy.

Firmy korzystające z systemów sztucznej inteligencji wysokiego ryzyka nie będą mogły sprowadzić nadzoru człowieka do formalnego potwierdzania decyzji algorytmu. AI Act wymaga, aby osoba nadzorująca system miała odpowiednie kompetencje, szkolenie, uprawnienia i wsparcie. Musi także rozumieć ograniczenia AI, potrafić zakwestionować wynik, odrzucić rekomendację, zmienić decyzję, a w odpowiednich sytuacjach przerwać działanie systemu.

Nauczyciel może korzystać z narzędzi AI pomocniczo, ale automatyczne ocenianie uczniów przez algorytm wchodzi w obszar wysokiego ryzyka. AI Act wskazuje edukację jako jedną z dziedzin, w których sztuczna inteligencja może wpływać na dostęp do kształcenia, ocenę efektów uczenia się i dalszą ścieżkę zawodową. Oznacza to obowiązki dotyczące jakości danych, nadzoru człowieka, przejrzystości, dokumentacji i ochrony praw ucznia.

AI Act zakazuje ośmiu kategorii zastosowań sztucznej inteligencji uznanych za niedopuszczalne ze względu na ryzyko dla praw podstawowych, bezpieczeństwa i autonomii człowieka. Zakazy obowiązują od 2 lutego 2025 r. Obejmują m.in. szkodliwą manipulację, scoring społeczny, wybrane formy predykcyjnego typowania przestępczości, masowe budowanie baz rozpoznawania twarzy, rozpoznawanie emocji w pracy i szkole oraz część zastosowań biometrii.

Deepfake przestaje być wyłącznie problemem wizerunkowym i technologicznym. AI Act wprowadza obowiązek ujawniania, że obraz, dźwięk lub wideo zostały sztucznie wygenerowane albo zmanipulowane przez AI, jeżeli materiał może zostać uznany za deepfake. Obowiązki obejmą internet, reklamę, komunikację polityczną i część treści informacyjnych. Za naruszenie zasad przejrzystości firmom grożą kary do 15 mln euro albo 3 proc. światowego obrotu.