Wprowadzenie unijnego rozporządzenia w sprawie sztucznej inteligencji (AI Act) tworzy nowy system odpowiedzialności prawnej i finansowej dla twórców oraz użytkowników nowoczesnych technologii. Analiza tych przepisów prowadzi do wniosku, że europejski ustawodawca ukształtował system sankcji w sposób bardzo sformalizowany, opierając go na mechanizmach znanych z rozporządzenia o ochronie danych (RODO), ale przy znacznie wyższych progach finansowych. Celem tych regulacji nie jest wyłącznie karanie, lecz przede wszystkim skuteczne zniechęcanie podmiotów rynkowych do działań zagrażających bezpieczeństwu i prawom podstawowym jednostki. Struktura administracyjnych kar pieniężnych przewidzianych w rozporządzeniu, a także zasady ich nakładania i czynniki, które mogą wpłynąć na złagodzenie ewentualnych konsekwencji finansowych wymagają szczegółowego omówienia.
Spis treści
Kary za najpoważniejsze naruszenia AI Act
System kar w omawianym rozporządzeniu opiera się na podziale naruszeń, przy czym najsurowsze konsekwencje przewidziano za działania całkowicie sprzeczne z podstawowymi wartościami europejskimi. Zgodnie z art. 99 ust. 3 Aktu o AI, najwyższym sankcjom podlega naruszenie zakazu stosowania praktyk w zakresie AI wymienionych w artykule 5. Do tej kategorii należą między innymi systemy służące do manipulacji podprogowej, niedopuszczalne techniki kategoryzacji biometrycznej oparte na cechach wrażliwych oraz tworzenie tak zwanych systemów oceny społecznej (social scoring), prowadzących do dyskryminacji jednostki.
Za stosowanie tego rodzaju praktyk zakazanych przewidziano administracyjną karę pieniężną w wysokości do 35 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – do 7% jego całkowitego rocznego światowego obrotu z poprzedniego roku.
Kluczowym mechanizmem prawnym w tym zakresie jest zasada wyższej kwoty. Oznacza to, że organ nadzoru zawsze wybierze tę wartość, która w konkretnym przypadku będzie bardziej dotkliwa dla ukaranego podmiotu. Dla globalnych korporacji technologicznych, których przychody sięgają dziesiątek miliardów euro, stawka 7% światowego obrotu będzie wielokrotnie wyższa niż wskazane 35 milionów euro. Zastosowanie tej zasady ma zagwarantować, że nawet dla największych uczestników rynku kara nie stanie się zwykłym, akceptowalnym kosztem prowadzenia działalności, lecz pozostanie realnie odczuwalną sankcją finansową.
Sankcje za nieprzestrzeganie wymogów regulacyjnych
Drugi poziom odpowiedzialności finansowej, uregulowany w art. 99 ust. 4 rozporządzenia w sprawie sztucznej inteligencji, dotyczy naruszenia szerokiego katalogu obowiązków nałożonych na uczestników łańcucha dostaw systemów AI. Kary w tym przedziale grożą za niedopełnienie wymogów przewidzianych między innymi dla dostawców, podmiotów stosujących, importerów, dystrybutorów oraz upoważnionych przedstawicieli. Chodzi tu między innymi o brak wdrożenia odpowiednich systemów zarządzania ryzykiem, naruszenie obowiązków w zakresie przejrzystości i informowania użytkowników wynikających z artykułu 50 rozporządzenia czy zaniedbania związane z koniecznym nadzorem człowieka nad działającym algorytmem.
W przypadku stwierdzenia takich naruszeń ustawa przewiduje administracyjną karę pieniężną w wysokości do 15 000 000 EUR lub do 3% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku. Także tutaj stosuje się zasadę wyższej kwoty, co ma zapewnić odpowiednie dostosowanie skali sankcji do potencjału ekonomicznego ukaranego podmiotu.
Konsekwencje wprowadzania organów w błąd
Europejski ustawodawca przywiązuje bardzo dużą wagę do przejrzystości i rzetelności w relacjach między biznesem a administracją państwową. Dlatego art. 99 ust. 5 rozporządzenia AI wprowadza odrębną kategorię kar administracyjnych za naruszenie obowiązków informacyjnych.
Przekazywanie nieprawidłowych, niepełnych albo wprowadzających w błąd informacji właściwym organom krajowym lub jednostkom notyfikowanym podlega karze do 7 500 000 EUR lub do 1% całkowitego rocznego światowego obrotu przedsiębiorstwa, przy czym ponownie zastosowanie ma zasada wyższej kwoty. Trzeba wyraźnie podkreślić, że sankcja ta może zostać nałożona nawet wtedy, gdy sam system sztucznej inteligencji działa prawidłowo i nie stwarza żadnego ryzyka. Samo zatajenie faktów, utrudnianie audytu lub przekazanie fałszywej dokumentacji technicznej stanowi samodzielną podstawę do wymierzenia wielomilionowej kary.
Preferencyjne zasady dla MŚP i startupów
Wprowadzenie tak restrykcyjnego systemu finansowego bez jakichkolwiek wyjątków mogłoby doprowadzić do zahamowania innowacji oraz do upadku wielu mniejszych firm technologicznych w Unii. Zrozumienie tego ryzyka doprowadziło do wprowadzenia ważnego mechanizmu ochronnego w art. 99 ust. 6 rozporządzenia.
W przypadku małych i średnich przedsiębiorstw (MŚP), w tym startupów, zasady obliczania maksymalnych kar zostały odwrócone. Wobec takich podmiotów organy nadzorcze mają obowiązek zastosować zasadę korzystniejszą, wybierając niższą kwotę z dwóch wskazanych wartości, czyli procentowej albo kwotowej. Przykładowo, jeśli startup dopuści się uchybienia regulacyjnego z drugiego przedziału sankcji, a 3% jego rocznego obrotu wynosi 60 000 EUR, to właśnie ta suma – a nie 15 milionów euro – będzie maksymalnym progiem odpowiedzialności. Ten celowo wprowadzony mechanizm ma zapewnić, że sankcje zachowają charakter prewencyjny, ale nie będą automatycznie oznaczać finansowego końca rozwijającego się przedsiębiorstwa.
Nadzór nad modelami ogólnego przeznaczenia (GPAI)
Zaawansowane modele sztucznej inteligencji ogólnego przeznaczenia (GPAI), takie jak duże modele językowe stanowiące podstawę wielu innych aplikacji, mają globalny zasięg i systemowy wpływ na gospodarkę. Ze względu na ich strategiczne znaczenie nadzór nad nimi nie został pozostawiony organom krajowym.
Zgodnie z artykułem 101 Aktu o AI, kompetencje nadzorcze i sankcyjne wobec dostawców modeli GPAI zostały scentralizowane na poziomie unijnym. To bezpośrednio Komisja dysponuje narzędziami do nakładania kar pieniężnych na dostawców takich modeli. W razie naruszenia przepisów rozporządzenia, odmowy udostępnienia modelu do niezależnej oceny albo zignorowania żądania przekazania dokumentacji, Komisja może nałożyć karę do 3% całkowitego rocznego światowego obrotu organizacji lub 15 000 000 EUR, stosując ponownie zasadę wyższej kwoty. Taki podział kompetencji ma zapewnić jednolity i stanowczy nadzór nad najpotężniejszymi uczestnikami globalnego rynku technologicznego.
Czynniki łagodzące i obciążające - co wpływa na wymiar kary?
Kwoty wskazane w rozporządzeniu wyznaczają jedynie maksymalne granice odpowiedzialności. Ostateczna wysokość administracyjnej kary pieniężnej w każdej sprawie zależy od szczegółowej analizy przeprowadzonej przez właściwy organ. Zgodnie z artykułem 99 ust. 7 rozporządzenia w sprawie sztucznej inteligencji, przy ustalaniu wysokości sankcji urzędnicy muszą wziąć pod uwagę wszystkie istotne okoliczności sprawy, kierując się zasadą adekwatności.
Do najważniejszych czynników wpływających na decyzję organu należą:
- Charakter i waga naruszenia: Organ ocenia cel i przeznaczenie systemu AI, czas trwania naruszenia, liczbę poszkodowanych osób oraz rzeczywisty rozmiar poniesionej przez nie szkody.
- Stopień współpracy z organami: Szybka i przejrzysta współpraca w celu usunięcia naruszenia i ograniczenia jego skutków może realnie obniżyć wysokość kary.
- Sposób ujawnienia problemu: Przepisy wyraźnie premiują samodzielne zgłaszanie nieprawidłowości. To, czy operator sam wykrył i zgłosił naruszenie, jest silnym czynnikiem łagodzącym.
- Działania naprawcze: Wszelkie udokumentowane działania podjęte przez przedsiębiorstwo w celu naprawienia szkody wyrządzonej poszkodowanym przemawiają na korzyść ukaranego podmiotu.
- Umyślność działania: Znacznie surowiej oceniane są naruszenia będące wynikiem celowego działania dla osiągnięcia korzyści majątkowej niż te, które wynikają na przykład z zaniedbania.
W razie wykrycia błędów w działającym systemie sztucznej inteligencji najgorszym możliwym rozwiązaniem jest próba ich ukrycia. Aktywne zarządzanie incydentem i ścisła współpraca z instytucjami nadzorczymi to najskuteczniejszy sposób ograniczenia obciążeń finansowych.
Prawo do obrony i zabezpieczenia proceduralne
Rozporządzenie o sztucznej inteligencji konsekwentnie respektuje podstawowe zasady państwa prawa. Szerokie uprawnienia sankcyjne organów państwowych i Komisji Europejskiej zostały zrównoważone odpowiednimi gwarancjami dla przedsiębiorców. Wykonywanie uprawnień do nakładania kar, o którym mowa w artykułach 99, 100 i 101 rozporządzenia AI, podlega ścisłym zabezpieczeniom wynikającym z prawa unijnego oraz konstytucyjnych standardów krajowych.
Każda ukarana organizacja, niezależnie od skali naruszenia, ma niezbywalne prawo do bycia wysłuchaną przed wydaniem ostatecznej decyzji. Przedsiębiorstwu przysługuje prawo do rzetelnego postępowania administracyjnego, pełnego dostępu do akt sprawy z poszanowaniem tajemnicy przedsiębiorstwa oraz prawo do wniesienia skutecznego środka zaskarżenia. W szczególności w odniesieniu do decyzji finansowych wydawanych bezpośrednio przez Komisję wobec dostawców modeli GPAI, Trybunał Sprawiedliwości Unii Europejskiej sprawuje nieograniczoną jurysdykcję i ma pełne prawo do kontroli, obniżenia, a nawet całkowitego uchylenia nałożonej kary pieniężnej.
