Wdrażanie nowoczesnych technologii w administracji publicznej wymaga zaplanowania oraz zgodności z obowiązującymi przepisami prawa. Unijne rozporządzenie w sprawie sztucznej inteligencji nakłada na podmioty publiczne szereg nowych obowiązków związanych ze stosowaniem takich systemów. Właściwe przygotowanie instytucji do tych zmian nie ogranicza się wyłącznie do zakupu odpowiedniego oprogramowania, ale obejmuje przede wszystkim edukację i organizację pracy zatrudnionych urzędników. Wiedza na temat tego, jak urząd powinien przygotować personel do używania AI, stanowi podstawę do bezpiecznego i zgodnego z prawem świadczenia usług publicznych.
Spis treści
Obowiązek zapewnienia kompetencji w zakresie sztucznej inteligencji
Zgodnie z art. 4 rozporządzenia w sprawie sztucznej inteligencji, każdy podmiot wdrażający takie systemy jest zobowiązany do podjęcia działań zapewniających odpowiedni poziom kompetencji swojego personelu. Ustawodawca europejski wymaga, aby pracownicy urzędu posiadali wiedzę pozwalającą na świadome i bezpieczne korzystanie z nowoczesnych technologii w codziennej pracy. Oznacza to, że jednostka publiczna musi zorganizować bloki edukacyjne, które wyjaśnią podstawowe zasady działania wdrożonych narzędzi cyfrowych oraz wskażą potencjalne zagrożenia z nimi związane. Przygotowanie urzędników do korzystania z tych rozwiązań musi uwzględniać specyfikę danego stanowiska pracy, a także rodzaj oprogramowania wykorzystywanego przez instytucję. Budowanie takich kompetencji ma na celu zapobieganie sytuacjom, w których pracownik administracji bezkrytycznie polega na wyniku wygenerowanym przez system, ignorując przy tym obowiązujące procedury administracyjne.
Systemy AI wysokiego ryzyka i wymóg nadzoru ludzkiego
Administracja publiczna często przetwarza wrażliwe dane obywateli i wydaje decyzje o istotnym znaczeniu dla ich życia, co sprawia, że wiele z wdrażanych technologii otrzymuje status systemów wysokiego ryzyka. Artykuł 26 Aktu o AI nakłada na podmioty stosujące takie rozwiązania ścisły obowiązek zagwarantowania skutecznego nadzoru ze strony człowieka. Pracownicy wytypowani do kontrolowania działania technologii muszą dysponować odpowiednimi kwalifikacjami, szkoleniem oraz uprawnieniami, aby móc rzetelnie realizować powierzone zadania. Urząd ma obowiązek zorganizować środowisko pracy w taki sposób, aby osoba stosująca system AI mogła w dowolnym momencie zainterweniować, przerwać działanie programu lub całkowicie odrzucić wygenerowaną przez niego rekomendację. Przeszkolenie personelu w tym zakresie wymaga opracowania instrukcji wewnętrznych, które precyzują, w jakich sytuacjach wynik działania systemu należy poddać dodatkowej weryfikacji manualnej. Wymóg nadzoru ludzkiego ma szczególne znaczenie dla zapobiegania automatyzmowi decyzyjnemu, który bez interwencji człowieka mógłby prowadzić do wydawania krzywdzących lub wadliwych decyzji administracyjnych.
Ocena skutków dla praw podstawowych obywateli
Rozporządzenie wprowadza również wymóg przeprowadzenia oceny skutków dla praw podstawowych przed uruchomieniem określonych systemów wysokiego ryzyka przez podmioty prawa publicznego, o czym stanowi art. 27 rozporządzenia. Personel odpowiedzialny za wdrożenie powinien być przygotowany do analizy wpływu takiego systemu na prawa i wolności osób fizycznych, w szczególności na prywatność oraz ryzyko dyskryminacji w życiu publicznym. Ponieważ jest to proces o charakterze interdyscyplinarnym, urząd powinien zapewnić pracownikom nie tylko znajomość sposobu działania systemu, ale także wsparcie merytoryczne inspektora ochrony danych lub innych specjalistów, gdy wymaga tego zakres oceny. Obowiązek ten może być wykonywany także przy udziale wsparcia zewnętrznego, o ile po stronie urzędu pozostaje kontrola nad prawidłowym przebiegiem procesu. Bez odpowiedniego przygotowania personelu rzetelne przeprowadzenie tej oceny może być w znacznym stopniu utrudnione.
Transparentność i obowiązki informacyjne
Prawidłowe przygotowanie personelu obejmuje także przygotowanie i przekazanie odpowiednich procedur reagowania na bezpośrednie zapytania osób, które żądają informacji o tym, w jakim stopniu wykorzystany system AI zdeterminował rozstrzygnięcie ich sprawy. Osoby pracujące na stanowiskach pierwszego kontaktu muszą potrafić wyjaśnić ogólne zasady działania wdrożonych narzędzi w sposób przystępny i pozbawiony zawiłego słownictwa technologicznego. Instytucja publiczna powinna opracować wzory dokumentów informacyjnych, które ułatwią zatrudnionym realizację tych wymogów bez ryzyka popełnienia błędu prawnego.
Planowanie polityki szkoleniowej w jednostkach sektora publicznego
Mając pełną świadomość tego, jak urząd powinien przygotować personel do używania AI, kadra kierownicza powinna wdrożyć cykliczną politykę szkoleniową obejmującą wszystkich pracowników danego podmiotu. Szkolenia powinny zostać podzielone na poziomy zaawansowania, dostosowane do specyficznych ról i uprawnień posiadanych przez konkretnych urzędników w strukturze organizacyjnej instytucji. Na przykład pracownicy wykonujący czynności czysto biurowe wymagają odbycia kursów z zakresu bezpiecznego wprowadzania danych, natomiast urzędnicy wydający wiążące decyzje administracyjne powinni posiadać wiedzę z zakresu oceny ryzyka oraz nadzoru ludzkiego. Proces szkoleniowy powinien mieć charakter ciągły, a urząd powinien regularnie aktualizować wiedzę pracowników. Kierownictwo każdego urzędu odpowiada za kontrolowanie skuteczności przeprowadzonych szkoleń oraz za weryfikację umiejętności urzędników przed dopuszczeniem ich do samodzielnej pracy z systemem. Rozpoznawanie braków kompetencyjnych personelu powinno następować w ramach regularnie przeprowadzanych audytów wewnętrznych.
Niezbędne elementy programu wdrożeniowego
Przygotowanie pracowników administracji publicznej do korzystania z AI powinno opierać się na szkoleniach odpowiadających realiom pracy urzędu, a nie na ogólnych i oderwanych od praktyki instrukcjach. Najważniejsze jest, aby personel rozumiał, w jakich obszarach urząd wykorzystuje takie systemy, jakie skutki ich użycie może wywoływać dla jednostki oraz gdzie przebiega granica między pomocą technologiczną a decyzją, za którą nadal odpowiada człowiek. Program szkoleniowy powinien obejmować przede wszystkim zasady weryfikacji wyników działania systemu, identyfikowania ryzyk dla praw podstawowych, realizowania obowiązków informacyjnych oraz stosowania procedur wewnętrznych związanych z nadzorem, dokumentowaniem i zgłaszaniem nieprawidłowości. W administracji publicznej to właśnie te kompetencje mają największe znaczenie, ponieważ decydują nie tylko o sprawności działania urzędu, ale także o legalności i przejrzystości jego działań.
Podsumowanie
Unijne rozporządzenie w sprawie sztucznej inteligencji stawia przed sektorem publicznym wysokie wymagania dotyczące organizacji procedur wewnętrznych oraz zarządzania kompetencjami personelu. Przygotowanie pracowników do używania AI wiąże się przede wszystkim z wymogami nadzoru człowieka, przejrzystości działań oraz ochrony praw podstawowych. Bezpieczne i zgodne z prawem korzystanie z takich systemów wymaga więc zaplanowania działań szkoleniowych dla osób wykonujących różne zadania w strukturze urzędu. Podmiot publiczny odpowiada za skutki wykorzystania AI w swojej działalności, dlatego personel musi być odpowiednio przygotowany do weryfikowania wyników generowanych przez systemy i rozumienia ich konsekwencji prawnych. Tylko świadomy i kompetentny zespół pozwala wdrażać nowe technologie w administracji w sposób legalny, przejrzysty i rzeczywiście użyteczny.
