Jako prawnik wspierający firmy we wdrażaniu nowych technologii regularnie spotykam się z pytaniami o przejrzystość procesów decyzyjnych opartych na AI. Szczególne wątpliwości dotyczą tego, czy przedsiębiorstwo ma obowiązek wyjaśnić decyzję podjętą z użyciem sztucznej inteligencji, gdy algorytm odrzuca wniosek klienta lub kandydata do pracy. Artykuł 86 unijnego rozporządzenia w sprawie sztucznej inteligencji (AI Act) wprowadza istotne prawo do uzyskania wyjaśnienia dotyczącego procedury podejmowania decyzji w indywidualnej sprawie. Przepisy te wzmacniają ochronę osób dotkniętych skutkami takich rozstrzygnięć i nakładają na organizacje obowiązek rzetelnej komunikacji co do sposobu działania zastosowanego systemu. Znaczenie ma przy tym ustalenie, na kim spoczywa ten obowiązek, w jakich sytuacjach należy przygotować formalne uzasadnienie oraz dlaczego przerzucanie odpowiedzialności na sam system nie stanowi wystarczającego wyjaśnienia. Znajomość tych zasad pozwala ograniczyć ryzyko naruszenia praw jednostki oraz związanych z tym skarg i działań nadzorczych.
Spis treści
Kto odpowiada za wyjaśnienie decyzji podjętej z użyciem AI
Za logikę działania algorytmu i ewentualne tłumaczenie jego decyzji nie odpowiada wyłącznie jego twórca. Tymczasem artykuł 86 ust. 1 rozporządzenia AI wskazuje, że adresatem obowiązku informacyjnego jest podmiot stosujący, czyli konkretna firma albo urząd, który wykorzystuje AI w swoich codziennych procesach biznesowych. To właśnie organizacja, która faktycznie podejmuje decyzję na podstawie wyników wygenerowanych przez oprogramowanie, musi samodzielnie zmierzyć się z pytaniami osób, których ta decyzja dotyczy. Nie możesz więc jako pracodawca, rekruter albo dyrektor banku po prostu odesłać niezadowolonego klienta do zewnętrznego dostawcy IT, który wcześniej stworzył aplikację. Prawo celowo nakłada ten ciężar na podmiot stosujący, ponieważ to on dysponuje pełnym kontekstem konkretnej, indywidualnej sprawy i to on ponosi za nią ostateczną odpowiedzialność. Odpowiednie przygotowanie i prawne przeszkolenie własnych zespołów do udzielania takich merytorycznych informacji staje się więc niezbędnym elementem operacyjnego wdrożenia każdej innowacji technologicznej w przedsiębiorstwie.
Jakich spraw dotyczy prawo do wyjaśnienia decyzji AI
Nie wymaga się na szczęście, aby firmy tłumaczyły się z każdej, nawet najdrobniejszej rekomendacji wygenerowanej przez algorytm. Prawo do wyjaśnienia pojawia się dopiero po przekroczeniu progu istotności, czyli wyłącznie wtedy, gdy decyzja wywołuje skutki prawne albo w podobny sposób znacząco oddziałuje na osobę, wpływając negatywnie na jej zdrowie, bezpieczeństwo lub prawa podstawowe. Przepis ten obejmuje systemy sztucznej inteligencji wysokiego ryzyka i nakłada nowe obowiązki na konkretne branże. W praktyce rynkowej obowiązek ten dotyczy organizacji przede wszystkim w takich obszarach jak:
- Zarządzanie zasobami ludzkimi (HR): przy zautomatyzowanym profilowaniu, ocenie i sortowaniu napływających życiorysów kandydatów do pracy.
- Edukacja i szkolnictwo: podczas masowego, zautomatyzowanego oceniania wyników egzaminów decydujących na przykład o przyjęciu na wyższą uczelnię.
- Usługi finansowe i bankowość: przy komercyjnym wykorzystywaniu algorytmów do oceny zdolności kredytowej i zautomatyzowanego odrzucania wniosków.
Z perspektywy prawa nikt nie będzie miał skutecznego roszczenia o wyjaśnienie w przypadku prostych rekomendacji rozrywkowych, takich jak podpowiedź kolejnego filmu na Netflix czy dobór odtwarzanej muzyki. Omawiane prawo koncentruje się wyłącznie na obszarach istotnych dla jednostki, w których błędna decyzja algorytmu może realnie przekreślić jego szanse na zatrudnienie, edukację albo niezbędną stabilność finansową.
Wyłączenie dotyczące systemów zarządzających infrastrukturą krytyczną
Analizując katalog systemów wysokiego ryzyka objętych tym obowiązkiem, trzeba zwrócić uwagę na bardzo istotny i praktyczny wyjątek. Zgodnie z treścią artykułu 86 omawianego rozporządzenia, prawo do indywidualnego wyjaśnienia nie dotyczy zaawansowanych algorytmów zarządzających infrastrukturą krytyczną państwa. Wyłączenie to obejmuje oprogramowanie sterujące między innymi ruchem kolejowym, zaopatrzeniem w czystą wodę czy optymalizacją i stabilnością krajowej sieci energetycznej. Ustawodawca słusznie uznał, że ze względu na strategiczny i silnie scentralizowany charakter tych rozwiązań pojedyncza osoba nie może domagać się osobistego, szczegółowego wyjaśnienia, dlaczego algorytm przekierował energię z jednej dzielnicy do innej. Nakładałoby to na operatorów infrastruktury krytycznej całkowicie nieproporcjonalne obciążenia administracyjne, które mogłyby wręcz utrudnić ich działanie w sytuacjach kryzysowych. Nadzór nad tymi kluczowymi dla państwa systemami odbywa się poprzez inne mechanizmy przewidziane w rozporządzeniu.
Jak powinno wyglądać prawidłowe wyjaśnienie decyzji AI
Wdrożenie odpowiednich procedur informacyjnych w firmie wymaga zmiany kultury komunikacji, ponieważ nowa regulacja stanowczo odrzuca wygodne ogólniki. Jeżeli poszkodowana osoba złoży wniosek na podstawie artykułu 86 rozporządzenia w sprawie sztucznej inteligencji, krótka odpowiedź w rodzaju „nasz algorytm tak zdecydował” będzie z urzędu traktowana jako rażące naruszenie prawa. Organizacja ma obowiązek sprostać standardowi jasności i merytoryczności, co oznacza konieczność wyczerpującego opisania roli systemu AI w procesie decyzyjnym. Należy w przystępny sposób wyjaśnić zainteresowanej osobie główne elementy podjętej decyzji, wyraźnie wskazując, jaka logika oraz jakie znaczenie poszczególnych danych wejściowych wpłynęły na ostateczne odrzucenie jej wniosku.
Prawo do wyjaśnienia a ochrona przed nierównym traktowaniem
Prawo do wyjaśnienia ma szczególne znaczenie z perspektywy osób, które stykają się ze skutkami zautomatyzowanych decyzji w codziennych sprawach. Dotyczy to między innymi sytuacji, w których system wykorzystywany przez bank odrzuca wniosek kredytowy albo narzędzie rekrutacyjne eliminuje kandydata bez jasnego uzasadnienia. Artykuł 86 unijnego rozporządzenia w sprawie sztucznej inteligencji wzmacnia pozycję konsumentów, pacjentów i pracowników, przyznając im prawo do uzyskania wyjaśnienia dotyczącego procedury prowadzącej do rozstrzygnięcia w indywidualnej sprawie. Oznacza to, że osoba dotknięta skutkami takiej decyzji może domagać się od danej organizacji rzetelnej informacji o sposobie działania zastosowanego systemu. Rozwiązanie to pozwala ocenić, czy decyzja nie została oparta na niedopuszczalnych kryteriach, takich jak uprzedzenia, wiek, płeć czy inne cechy mogące prowadzić do nierównego traktowania. Prawo to wzmacnia ochronę jednostki przed cyfrową dyskryminacją i wymusza na organizacjach większą odpowiedzialność w projektowaniu oraz stosowaniu systemów AI.
