AI Act – klasyfikacja systemów wysokiego ryzyka

Firma technologiczna z Mazowsza wdraża system scoringowy do oceny wniosków kredytowych. Dział prawny zakłada, że skoro model działa „tylko pomocniczo", to AI Act ich nie dotyczy. To błąd, który może kosztować do 30 milionów euro kary lub 6% globalnego obrotu rocznego. Klasyfikacja systemu jako wysokiego ryzyka nie zależy od subiektywnego odczucia wdrażającego – zależy od zastosowania i kontekstu użycia.

AI Act – Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 – wszedł w życie 1 sierpnia 2024 roku i wprowadza obowiązkową klasyfikację systemów sztucznej inteligencji według poziomu ryzyka. Systemy wysokiego ryzyka (Annex III) podlegają ocenie zgodności przed wprowadzeniem na rynek. Kary za naruszenia obowiązków dotyczących systemów wysokiego ryzyka sięgają 30 milionów euro lub 6% globalnego rocznego obrotu.

Poniższa analiza omawia kolejno: doktrynalne podstawy klasyfikacji, sektory objęte obowiązkiem w Polsce, wymiar transgraniczny oraz strategię dostosowania. Każda z tych warstw ma bezpośrednie przełożenie na decyzje, które polskie spółki technologiczne, instytucje finansowe i pracodawcy podejmują już dziś.

Jak AI Act definiuje systemy wysokiego ryzyka – podstawy doktrynalne?

Rozporządzenie nie tworzy jednej listy zakazów. Buduje trójpoziomową architekturę ryzyka: systemy zakazane, systemy wysokiego ryzyka i systemy ogólnego przeznaczenia. Systemy wysokiego ryzyka to te, które mogą wywierać istotny negatywny wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe osób fizycznych. Definicja jest celowo szeroka – ustawodawca europejski chciał uniknąć luk wynikających z postępu technologicznego.

Kluczowe kryterium to przeznaczenie systemu, a nie jego architektura techniczna. System może być identyczny pod względem kodu źródłowego, lecz zostać sklasyfikowany inaczej w zależności od tego, w jakim procesie decyzyjnym jest używany. Annex III AI Act wymienia osiem kategorii zastosowań uznanych za wysokie ryzyko. Polska jako państwo członkowskie stosuje rozporządzenie bezpośrednio – bez potrzeby implementacji.

Wśród kategorii Annex III znajdują się m.in.: zarządzanie infrastrukturą krytyczną, edukacja i kształcenie zawodowe, zatrudnienie i zarządzanie pracownikami, dostęp do usług publicznych i prywatnych (w tym kredytowanie), egzekwowanie prawa, zarządzanie migracją i azylem oraz wymiar sprawiedliwości. Każda z tych kategorii ma własne progi aktywacji. Nie wystarczy, że system „dotyczy" danej dziedziny – musi spełniać warunek istotnego wpływu na indywidualną decyzję.

W praktyce – wiele firm o tym zapomina – AI Act wprowadza też pojęcie „systemu AI ogólnego przeznaczenia" (GPAI). Modele językowe klasy GPT-4 czy Gemini Ultra podlegają odrębnym przepisom. Jednak gdy taki model zostaje wbudowany w produkt oceniający zdolność kredytową lub kwalifikacje pracownika, produkt ten może trafić do kategorii wysokiego ryzyka. Integracja GPAI z procesem decyzyjnym zmienia klasyfikację całego systemu.

Które sektory w Polsce są objęte obowiązkiem oceny zgodności?

Polska gospodarka koncentruje wysokie ryzyko regulacyjne AI w czterech sektorach: finansowym, kadrowo-rekrutacyjnym, ochrony zdrowia i administracji publicznej. W każdym z tych obszarów działają podmioty, które już dziś używają systemów kwalifikujących się do Annex III – często bez świadomości tego faktu.

Sektor finansowy jest narażony podwójnie. Po pierwsze, systemy scoringu kredytowego i oceny ryzyka inwestycyjnego wprost trafiają do kategorii „dostęp do usług prywatnych". Po drugie, instytucje finansowe podlegają równolegle rozporządzeniu DORA – Rozporządzenie (UE) 2022/2554 – które od 17 stycznia 2025 roku nakłada obowiązki zarządzania ryzykiem ICT i raportowania incydentów do KNF. System AI, który jednocześnie podlega DORA i AI Act, wymaga podwójnej warstwy dokumentacji zgodności. Koszt audytu podwójnego compliance w jednym z warszawskich banków oszacowano wewnętrznie na ponad 2 miliony złotych w pierwszym roku wdrożenia.

Sektor kadrowy to obszar, w którym ryzyko jest najczęściej niedoszacowane. Systemy do automatycznego przeglądania CV, rankingowania kandydatów lub oceny wyników pracowniczych wchodzą w zakres kategorii „zatrudnienie i zarządzanie pracownikami". Firma IT z Krakowa, wdrażająca w lecie 2024 roku narzędzie do oceny „culture fit" kandydatów, nie przeprowadziła oceny zgodności – i stanęła przed koniecznością wycofania systemu po audycie wewnętrznym przeprowadzonym na potrzeby due diligence przed rundą Series B.

Ochrona zdrowia i administracja publiczna dopełniają obraz. Systemy diagnostyki obrazowej, triażu pacjentów i wspomagania decyzji klinicznych są wprost wymienione w Annex III. Podmioty lecznicze w Polsce – zarówno publiczne, jak i prywatne – muszą przeprowadzić ocenę zgodności przed wdrożeniem takich narzędzi. Urzędy administracji rządowej i samorządowej, korzystające z systemów oceny wniosków (np. o świadczenia socjalne), mają analogiczny obowiązek.

Jak klasyfikacja wysokiego ryzyka wpływa na obowiązki operacyjne?

Zakwalifikowanie systemu jako wysokiego ryzyka uruchamia kaskadę obowiązków. Podmiot wprowadzający system na rynek lub oddający go do użytku musi wypełnić wymagania z art. 9–15 AI Act jeszcze przed pierwszym wdrożeniem produkcyjnym. Termin „przed wdrożeniem" jest bezwzględny – nie ma możliwości retroaktywnego zalegalizowania systemu już działającego.

Obowiązki można podzielić na pięć kategorii:

System zarządzania ryzykiem – udokumentowany, aktualizowany przez cały cykl życia systemu
Zarządzanie danymi treningowymi – dokumentacja zbiorów danych, procedury debiasingu
Dokumentacja techniczna i instrukcja użytkowania – zgodna ze standardami Annex IV AI Act
Rejestracja w unijnej bazie danych systemów wysokiego ryzyka (EU AI Database)
Oznakowanie CE i deklaracja zgodności UE – wymagane dla systemów z Annex II i Annex III

Równolegle z AI Act działa RODO – Rozporządzenie (UE) 2016/679 – nadzorowane w Polsce przez UODO. Systemy AI przetwarzające dane osobowe muszą spełniać wymogi obu aktów jednocześnie. Ocena skutków dla ochrony danych (DPIA) i ocena zgodności AI Act to odrębne procedury, lecz mogą być prowadzone równolegle, co ogranicza koszty. UODO jest organem nadzoru w zakresie RODO, natomiast organem nadzoru AI Act w Polsce będzie wyznaczony organ krajowy – jego ostateczna forma prawna jest przedmiotem prac legislacyjnych na poziomie krajowym.

Uważamy, że bezpieczniejszym rozwiązaniem jest przeprowadzenie łączonego audytu AI Act + RODO na etapie projektowania systemu, a nie jego wdrożenia. Każdy tydzień opóźnienia zwiększa koszt dostosowania – zarówno techniczny, jak i prawny.

Podmioty wdrażające systemy AI powinny przygotować co najmniej:

Mapę systemów AI w organizacji z przypisaniem do kategorii ryzyka
Dokumentację techniczną zgodną z Annex IV AI Act
Rejestr czynności przetwarzania danych zaktualizowany o komponenty AI

W sprawie klasyfikacji systemów AI i oceny zgodności z AI Act – przeprowadzimy pełny przegląd Państwa portfolio technologicznego i wskażemy konkretne luki przed wyznaczonym terminem: info@kordeckipartners.com.

Jaki jest wymiar transgraniczny – jak AI Act działa między Polską a innymi jurysdykcjami?

AI Act stosuje zasadę ekstraterytorialności analogiczną do RODO. Rozporządzenie obowiązuje każdego dostawcę lub wdrażającego, który oferuje systemy AI na terytorium UE – niezależnie od siedziby. Oznacza to, że firma z USA dostarczająca system rekrutacyjny polskiemu pracodawcy podlega AI Act tak samo jak podmiot krajowy. Polskie spółki zależne zagranicznych grup technologicznych muszą zatem weryfikować, czy systemy wdrożone przez centralę są zgodne z regulacją.

Dla firm technologicznych z Ameryki Północnej wchodzących na rynek polski szczególnie istotna jest kwestia odpowiedzialności za dostarczanie systemów wysokiego ryzyka bez dokumentacji technicznej. Więcej o strategii ochrony IP i wejścia na rynek polski dla takich podmiotów można znaleźć w analizie IP protection strategy for US tech companies in Poland.

Wymiar transgraniczny komplikuje się w grupach kapitałowych. Producent systemu AI (provider) i podmiot wdrażający go w procesach biznesowych (deployer) mogą znajdować się w różnych jurysdykcjach UE. AI Act rozdziela obowiązki między te podmioty. Provider odpowiada za dokumentację techniczną i oznakowanie CE. Deployer odpowiada za ocenę ryzyka w konkretnym kontekście użycia i monitoring po wdrożeniu. Umowy między podmiotami w grupie muszą precyzyjnie alokować te obowiązki – standardowe klauzule SLA i licencyjne są w tym zakresie zazwyczaj niewystarczające.

Firmy działające w sektorze finansowym muszą uwzględnić dodatkową warstwę: przepisy DORA obowiązujące od 17 stycznia 2025 roku nakładają na instytucje finansowe obowiązek zarządzania ryzykiem ICT dostawców trzecich. Dostawca systemu AI klasyfikowanego jako wysokie ryzyko jest jednocześnie „dostawcą ICT" w rozumieniu DORA. Kumulacja obowiązków kontraktowych i compliance'owych wymaga skoordynowanego podejścia, które obejmuje zarówno dział prawny, jak i IT. Podmioty restrukturyzujące portfele technologiczne w kontekście tych zmian mogą znaleźć użyteczne informacje o instrumentach prawa restrukturyzacyjnego w artykule o postępowaniu o zatwierdzenie układu.

Jaka jest strategia dostosowania i co grozi za brak zgodności?

Harmonogram AI Act jest rozłożony w czasie, lecz nie pozostawia marginesu na zwłokę. Przepisy dotyczące systemów zakazanych obowiązują od 2 lutego 2025 roku. Przepisy dotyczące systemów wysokiego ryzyka z Annex III stosuje się od 2 sierpnia 2026 roku. Oznacza to, że polskie firmy mają niecałe 16 miesięcy na przeprowadzenie pełnej oceny zgodności systemów już działających w produkcji.

Sankcje za naruszenia są trójstopniowe. Naruszenia przepisów dotyczących systemów zakazanych: do 35 milionów euro lub 7% globalnego obrotu rocznego. Naruszenia obowiązków dla systemów wysokiego ryzyka: do 15 milionów euro lub 3% globalnego obrotu. Podanie nieprawdziwych informacji organom nadzoru: do 7,5 miliona euro lub 1% obrotu. Dla małych i średnich przedsiębiorstw progi procentowe mogą być korzystniejsze niż kwotowe – AI Act przewiduje taką możliwość.

Strategia dostosowania powinna przebiegać w czterech etapach. Pierwszy: inwentaryzacja systemów AI w organizacji – identyfikacja wszystkich narzędzi, algorytmów i modeli używanych w procesach decyzyjnych. Drugi: klasyfikacja ryzyka każdego systemu – weryfikacja, czy zastosowanie mieści się w Annex III lub Annex II. Trzeci: gap analysis – porównanie obecnej dokumentacji i procesów z wymaganiami AI Act. Czwarty: wdrożenie systemu zarządzania ryzykiem AI i przygotowanie dokumentacji technicznej.

Szczegółowe omówienie klasyfikacji systemów wysokiego ryzyka w poszczególnych sektorach zawiera nasza wcześniejsza analiza: AI Act – high-risk classification: affected sectors and systems. Warto zestawić ją z poniższym przeglądem kwestii spornych, które pojawiają się najczęściej w praktyce doradczej.

Trzy scenariusze biznesowe ilustrują zakres problemu. Producent z branży automotive, który wdraża system AI do kontroli jakości na linii produkcyjnej, nie podlega Annex III – zastosowanie przemysłowe nie jest wymienione w kategoriach wysokiego ryzyka, jeśli nie wpływa bezpośrednio na decyzje dotyczące osób. Firma IT oferująca SaaS do automatycznej oceny aplikacji o pracę podlega Annex III kategorii „zatrudnienie" – niezależnie od tego, czy sprzedaje produkt polskim, czy zagranicznym klientom. Zagraniczny inwestor przejmujący polską spółkę używającą systemu AI do scoringu klientów musi przeprowadzić due diligence AI Act jako element transakcji M&A – ryzyko compliance przechodzi na nabywcę.

Konkretna sytuacja Państwa firmy wymaga indywidualnej oceny – błędna klasyfikacja systemu AI jako niskiego ryzyka może prowadzić do nieodwracalnych konsekwencji regulacyjnych i finansowych po 2 sierpnia 2026 roku. Termin oceny zgodności jest sztywny i nie podlega przedłużeniu.

Jeśli Państwa spółka wdraża lub planuje wdrożenie systemów AI w obszarach finansowym, kadrowym lub administracyjnym – przeprowadzimy klasyfikację ryzyka, gap analysis i przygotujemy dokumentację techniczną zgodną z Annex IV AI Act: info@kordeckipartners.com.

Często zadawane pytania

P: Czy system AI używany wyłącznie wewnętrznie, bez sprzedaży na rynek, podlega AI Act?

O: Tak – AI Act obejmuje nie tylko dostawców systemów AI, ale również podmioty wdrażające systemy we własnych procesach biznesowych (deployers). Firma używająca systemu AI do oceny wniosków pracowniczych lub scoringu klientów jest deployerem i podlega obowiązkom z artykułu 26 rozporządzenia. Wyjątek dotyczy wyłącznie zastosowań czysto osobistych i niekomercyjnych.

P: Ile czasu i środków wymaga przygotowanie dokumentacji technicznej dla systemu wysokiego ryzyka?

O: Dokumentacja techniczna zgodna z Annex IV AI Act obejmuje opis systemu, dane treningowe, metryki wydajności, system zarządzania ryzykiem i instrukcję użytkowania. Dla systemu o umiarkowanej złożoności przygotowanie zajmuje od 6 do 12 tygodni i wymaga współpracy działu prawnego, IT i compliance. Koszt zewnętrznego wsparcia prawno-technicznego waha się zazwyczaj od 80 do 250 tysięcy złotych, w zależności od złożoności systemu.

P: Czy trademark i własność intelektualna dotycząca modelu AI wymagają odrębnej ochrony w kontekście AI Act?

O: AI Act nie reguluje kwestii własności intelektualnej bezpośrednio, ale dokumentacja techniczna wymagana przez rozporządzenie może ujawniać elementy know-how i architektury modelu. Ochrona IP – w tym tajemnica przedsiębiorstwa i prawa autorskie do oprogramowania – powinna być zabezpieczona przed przystąpieniem do procedury oceny zgodności. Szczególnie istotne jest to dla firm planujących ekspansję na rynki zagraniczne lub poddanie się audytom przez organy nadzoru.

KORDECKI & Partners to kancelaria prawna z siedzibą w Warszawie i Krakowie, doradzająca klientom biznesowym w 30 jurysdykcjach. Zespół łączy doświadczenie w prawie polskim i międzynarodowym z praktycznym podejściem do regulacji AI, prawa własności intelektualnej i technologii. Pracujemy z polskimi przedsiębiorcami, inwestorami zagranicznymi i działami prawnymi korporacji. W sprawie Państwa sytuacji: info@kordeckipartners.com.