Współczesna administracja publiczna coraz częściej korzysta z programów informatycznych, które przyspieszają analizę dokumentów i wspierają rozpatrywanie wniosków obywateli. Wdrożenie tych rozwiązań rodzi jednak uzasadnione pytania o przejrzystość działań organów administracji publicznej, zwłaszcza w sytuacjach, gdy wynik działania programu bezpośrednio wpływa na sytuację prawną lub życiową konkretnej osoby. Unijne rozporządzenie w sprawie sztucznej inteligencji (AI Act) wprowadza mechanizmy, które gwarantują obywatelom prawo do pełnej informacji o tym, jak rozstrzygnięto ich sprawę urzędową. Wiedza o tym, jak urząd powinien wyjaśnić decyzję wydaną z użyciem systemu AI, jest kluczowa zarówno dla pracowników administracji, jak i dla samych interesantów dbających o swoje prawa. Przepisy nakładają na podmioty publiczne obowiązek dostarczania jasnych i wyczerpujących uzasadnień, które pozwolą obiektywnie zrozumieć logikę stojącą za podjętym rozstrzygnięciem.
Spis treści
Prawo jednostki do uzyskania indywidualnego wyjaśnienia
Rozporządzenie w sprawie sztucznej inteligencji ustanawia w artykule 86 prawo każdej osoby do uzyskania szczegółowego wyjaśnienia. Uprawnienie to pojawia się w momencie, gdy instytucja publiczna wykorzystuje system wysokiego ryzyka do podjęcia decyzji, która wywołuje wiążące skutki prawne dla osoby lub w podobnie istotny sposób rzutuje na jej sytuację życiową. Oznacza to, że interesant, który otrzymuje odmowną decyzję w swojej sprawie, ma prawo do złożenia wniosku o przedstawienie faktycznych powodów takiego, a nie innego rozstrzygnięcia. Urząd nie może zasłaniać się tajemnicą technologiczną dostawcy oprogramowania ani stwierdzać, że nie posiada dostępu do wewnętrznych mechanizmów działania użytego narzędzia. Zgodnie z omawianym rozporządzeniem, podmiot publiczny stosujący technologię ponosi całkowitą odpowiedzialność za wytłumaczenie, jaką dokładnie rolę odegrał algorytm w procesie decyzyjnym. Złożenie wskazanego wniosku przez osobę fizyczną wymusza na instytucji państwowej sporządzenie pisemnej odpowiedzi, która rzetelnie przedstawi poszczególne etapy analizy sprawy.
Kiedy powstaje obowiązek tłumaczenia działania oprogramowania?
Ustawowy obowiązek formułowania uzasadnień nie dotyczy każdego programu komputerowego używanego w przestrzeni biurowej, lecz koncentruje się wyłącznie na systemach formalnie sklasyfikowanych jako rozwiązania wysokiego ryzyka. Załącznik trzeci do rozporządzenia w sprawie AI wyraźnie wskazuje, że do tej kategorii należą między innymi systemy wykorzystywane przez organy publiczne do oceny uprawnień obywateli do świadczeń z pomocy społecznej, podstawowych usług zdrowotnych czy ubezpieczeń. Jeśli instytucja wykorzystuje program analityczny na przykład do weryfikacji wniosku o przyznanie dodatku mieszkaniowego i ostatecznie odmawia wypłaty środków, musi być w pełni gotowa do wytłumaczenia procesu decyzyjnego. Urząd musi udzielić wyczerpujących wyjaśnień również w sytuacjach, gdy sztuczna inteligencja wspiera systemową ocenę ryzyka w indywidualnych sprawach podatkowych. W tych wysoce newralgicznych obszarach życia społecznego jednostka nie może być pozbawiona wiedzy o czynnikach, które bezpośrednio zadecydowały o jej osobistej sytuacji materialnej.
Elementy składowe prawidłowego i zgodnego z prawem uzasadnienia
Prawidłowo skonstruowane uzasadnienie decyzji administracyjnej, przy której wydaniu wspierano się algorytmem, musi spełniać wymogi merytoryczne określone w przepisach. Dokument przekazany osobie musi opierać się na faktycznych parametrach, które oprogramowanie wzięło pod uwagę podczas przetwarzania danych. Przygotowując pisemną odpowiedź dla interesanta, urzędnik musi czytelnie uwzględnić następujące kluczowe informacje:
- Główne parametry oraz kategorie danych osobowych jednostki, które zostały wprowadzone do systemu informatycznego i poddane ocenie.
- Znaczenie poszczególnych informacji dla końcowego wyniku wygenerowanego przez system, czyli wskazanie, które dokładnie dane zaważyły na rekomendacji algorytmu.
- Wyjaśnienie roli, jaką wynik działania programu odegrał w procedurze wydawania decyzji przez wyznaczonego do tej sprawy urzędnika.
- Potwierdzoną informację o tym, w jaki sposób zatrudniony pracownik zweryfikował sugestię systemu przed formalnym podpisaniem i zatwierdzeniem dokumentu końcowego.
Zawarcie tych elementów gwarantuje, że osoba otrzyma pełen obraz sytuacji prawnej i będzie mogła samodzielnie ocenić, czy państwowa instytucja popełniła błąd w analizie jej sprawy. Ewentualne braki informacyjne w którymkolwiek z tych obszarów mogą stanowić skuteczną podstawę do prawnego zakwestionowania wydanego aktu administracyjnego w wyższej instancji odwoławczej lub przed właściwym sądem.
Zrozumiały język komunikacji jako kluczowy wymóg uzasadnienia
Informacje przekazywane danej osobie powinny być formułowane w sposób jasny i zrozumiały. Oznacza to, że urząd nie powinien posługiwać się nadmiernie technicznym językiem ani odwoływać się do pojęć, które dla przeciętnego odbiorcy pozostają nieczytelne. Osoba przygotowująca odpowiedź nie może poprzestać na przytoczeniu specjalistycznych nazw, danych technicznych czy wyników wygenerowanych przez system. Jej zadaniem jest wyjaśnienie sprawy w taki sposób, aby osoba, której sprawa dotyczy, mogła zrozumieć, jaką rolę odegrało dane narzędzie i z czego wynikało rozstrzygnięcie. Jeżeli przykładowo system wskazał braki w dokumentacji finansowej, informacja ta powinna zostać przedstawiona wprost i zrozumiałym językiem. Tylko wtedy jednostka może realnie ocenić swoją sytuację i zdecydować, czy chce skorzystać z dostępnych środków działania. Z tego względu przygotowanie personelu powinno obejmować także umiejętność przekładania wyników działania systemów AI na język zrozumiały dla osób spoza administracji i branży technologicznej.
Rola człowieka i nadzór nad zautomatyzowanym procesem decyzyjnym
Omawiając sposób wyjaśniania decyzji urzędowych, nie można pominąć zasady nadzoru człowieka, o której mowa w art. 26 Aktu o AI. Oznacza to, że system wysokiego ryzyka może wspierać analizę sprawy, lecz nie powinien zastępować samodzielnej oceny upoważnionego pracownika organu. Z perspektywy jednostki istotne jest więc, aby z przekazanego wyjaśnienia wynikało, że wynik wygenerowany przez system został poddany rzeczywistej weryfikacji, a rozstrzygnięcie nie było efektem wyłącznie automatycznego działania narzędzia. W uzasadnieniu warto zatem wskazać, czy urzędnik ocenił poprawność otrzymanego wyniku oraz czy uwzględnił także okoliczności, których system mógł nie rozpoznać. Taki sposób komunikacji potwierdza indywidualny charakter rozpoznania sprawy i pokazuje, że program pełnił jedynie funkcję pomocniczą. Z punktu widzenia urzędu ma to znaczenie również dowodowe, ponieważ pozwala wykazać, że w procesie decyzyjnym zachowano realny udział człowieka.
Wpływ urzędowych wyjaśnień na procedury odwoławcze i kontrolę sądową
Wyjaśnienie podstaw decyzji ma istotne znaczenie dla prawidłowego funkcjonowania systemu kontroli administracji publicznej. Jeżeli osoba fizyczna otrzymuje dokument, z którego wynika, jakie okoliczności i dane zostały uwzględnione przy rozstrzygnięciu sprawy, zyskuje realną możliwość zakwestionowania ewentualnych błędów. Takie wyjaśnienie może następnie odgrywać ważną rolę w postępowaniu odwoławczym oraz w ewentualnej kontroli sądowoadministracyjnej. Jasne wskazanie czynników, które wpłynęły na rozstrzygnięcie, pozwala lepiej ocenić, czy przy korzystaniu z systemu nie doszło do naruszenia prawa, oparcia się na nieaktualnych danych albo zastosowania niedopuszczalnych kryteriów. Z perspektywy urzędu przygotowanie takiego wyjaśnienia potwierdza dochowanie standardów proceduralnych i poszanowanie praw jednostki. Z kolei brak odpowiedniego uzasadnienia lub przekazanie informacji pozornych może prowadzić do podważenia prawidłowości decyzji i wydłużenia postępowania.
Podsumowanie
Rozporządzenie w sprawie sztucznej inteligencji nakłada na sektor publiczny obowiązki informacyjne, które wyraźnie zmieniają standard komunikacji państwa z jednostką. To, w jaki sposób urząd powinien wyjaśnić decyzję wydaną z użyciem systemu AI, zostało ujęte w ramy prawne mające zapewnić jednostce prawo do przejrzystej i rzetelnej informacji. Instytucje administracyjne powinny w sposób jasny i zrozumiały wyjaśniać rolę technologii w danej sprawie, wskazywać najważniejsze elementy uwzględnione w analizie oraz podkreślać udział człowieka w podjęciu rozstrzygnięcia. Obowiązek ten nabiera szczególnego znaczenia przy stosowaniu systemów wysokiego ryzyka w obszarach wrażliwych, takich jak świadczenia społeczne czy rynek pracy, gdzie decyzje bezpośrednio wpływają na sytuację życiową danej osoby. Celem tych przepisów jest ograniczenie ryzyka bezrefleksyjnego opierania się na wynikach generowanych przez systemy AI stosowane w administracji.
