Ramy zarządzania AI dla polskich instytucji

Firma inwestycyjna z Warszawy wdraża system scoringowy oparty na modelu uczenia maszynowego. Dział compliance zadaje jedno pytanie: czy to system wysokiego ryzyka w rozumieniu AI Act? Jeśli tak – czeka ją ocena zgodności, dokumentacja techniczna i rejestracja w unijnej bazie danych. Jeśli nie – i tak obowiązują DORA, RODO oraz wewnętrzne wymogi KNF. Odpowiedź na to pytanie kosztuje miesiące pracy. Brak odpowiedzi kosztuje znacznie więcej.

Polskie instytucje finansowe podlegają dziś jednoczesnemu działaniu trzech unijnych reżimów: AI Act (Rozporządzenie UE 2024/1689), DORA (Rozporządzenie UE 2022/2554) oraz RODO (Rozporządzenie UE 2016/679). Każdy z nich nakłada odrębne obowiązki – a ich przecięcie tworzy złożoną siatkę wymogów, której nieprzestrzeganie grozi karami administracyjnymi, odpowiedzialnością osobistą zarządu i nieodwracalną utratą zaufania rynku. Ramy zarządzania AI (AI governance framework) porządkują te obowiązki w jeden spójny system.

Ten artykuł prowadzi przez cztery obszary: krajobraz regulacyjny i zakres obowiązków, instrumenty praktyczne budowy ram zarządzania AI, najczęstsze pułapki compliance oraz wymiar transgraniczny dla instytucji działających w wielu jurysdykcjach. Na końcu – lista kontrolna gotowości i odpowiedzi na pytania, które słyszymy najczęściej.

Jaki jest zakres regulacyjny AI Act dla polskich instytucji finansowych?

AI Act wszedł w życie 1 sierpnia 2024 r. Przepisy dotyczące systemów wysokiego ryzyka stosuje się od 2 sierpnia 2026 r. Dla polskich instytucji finansowych oznacza to konkretne okno czasowe – nieco ponad rok na wdrożenie pełnej dokumentacji. Systemy AI stosowane w ocenie zdolności kredytowej, rekrutacji pracowników i biometrii zostały wprost wymienione w załączniku III do rozporządzenia jako systemy wysokiego ryzyka. Każdy z nich wymaga oceny zgodności przed wprowadzeniem do użytku.

Zakres podmiotowy jest szeroki. Obejmuje banki, zakłady ubezpieczeń, firmy inwestycyjne, domy maklerskie, towarzystwa funduszy inwestycyjnych i instytucje płatnicze. KNF pełni rolę organu nadzoru rynkowego w rozumieniu AI Act dla podmiotów sektora finansowego. To oznacza, że kontrole i decyzje administracyjne będą prowadzone przez organ, który i tak już nadzoruje te podmioty – co z jednej strony upraszcza kanał komunikacji, z drugiej zwiększa ryzyko skoordynowanych postępowań.

DORA obowiązuje od 17 stycznia 2025 r. Nakłada na instytucje finansowe obowiązek zarządzania ryzykiem ICT, w tym ryzykiem związanym z systemami AI dostarczanymi przez zewnętrznych dostawców. Jeśli model scoringowy pochodzi od podmiotu trzeciego – umowa z dostawcą musi spełniać wymogi art. 30 DORA dotyczące klauzul kontraktowych. Brak właściwych klauzul to nie tylko ryzyko regulacyjne. To ryzyko nieodwracalnej utraty możliwości korzystania z systemu w przypadku incydentu.

RODO nakłada dodatkową warstwę. Zautomatyzowane podejmowanie decyzji wobec osób fizycznych – np. odmowa kredytu przez algorytm – wymaga podstawy prawnej z art. 22 RODO, oceny skutków dla ochrony danych (DPIA) i prawa do ludzkiej interwencji. PUODO prowadzi postępowania w tym zakresie aktywnie od 2022 r.

Jak zbudować skuteczne ramy zarządzania AI w instytucji finansowej?

Skuteczny AI governance framework to nie dokument polityki. To system procesów, ról i kontroli, który działa niezależnie od rotacji pracowników i zmian technologicznych. Buduje się go warstwowo: od inwentaryzacji systemów AI, przez klasyfikację ryzyka, po cykl życia modelu z wbudowanymi punktami kontrolnymi. Instytucja, która nie wie, ile systemów AI używa – nie może nimi zarządzać.

Pierwszym krokiem jest inwentaryzacja. Należy zidentyfikować wszystkie systemy AI w użyciu – kupione, wytworzone wewnętrznie i dostarczone przez dostawców w modelu SaaS. W praktyce wiele instytucji odkrywa, że używa kilkudziesięciu narzędzi z elementami AI, o których dział compliance nie wiedział. Każdy system wymaga klasyfikacji według czterech kategorii ryzyka AI Act: niedopuszczalne, wysokie, ograniczone i minimalne.

Dla systemów wysokiego ryzyka obowiązkowe są:

dokumentacja techniczna zgodna z załącznikiem IV do AI Act
system zarządzania ryzykiem prowadzony przez cały cykl życia modelu
zestaw danych treningowych spełniający wymogi jakościowe z art. 10 AI Act
rejestracja w unijnej bazie danych systemów AI przed wdrożeniem
mechanizm nadzoru ludzkiego (human oversight) z udokumentowanymi procedurami interwencji

Drugi filar to governance strukturalny. Instytucja powinna wyznaczyć właściciela modelu AI (model owner) z jasno określoną odpowiedzialnością za zgodność. Rola ta powinna być oddzielona od roli właściciela biznesowego. W bankach z grupy kapitałowej – gdzie modele mogą być współdzielone między spółkami – linia odpowiedzialności musi być udokumentowana na poziomie grupy. W przypadku sporu regulacyjnego brak jasnej struktury zarządzania jest pierwszą okolicznością, którą bada KNF.

Trzeci filar to integracja z istniejącymi procesami DORA. Systemy AI dostarczane przez zewnętrznych dostawców technologii wchodzą w zakres polityki zarządzania ryzykiem ICT. Rejestr dostawców ICT prowadzony na potrzeby DORA powinien zawierać klasyfikację AI Act dla każdego dostarczanego systemu. To nie jest podwójna praca – to jeden rejestr z rozszerzonymi polami.

Przykład z praktyki: dom maklerski z Trójmiasta wiosną 2025 r. przeprowadził audyt zgodności DORA i odkrył, że dostawca systemu rekomendacji inwestycyjnych nie spełniał wymogów klauzul kontraktowych. Renegocjacja umowy zajęła trzy miesiące. Gdyby w tym czasie wystąpił incydent ICT – instytucja nie miałaby możliwości egzekwowania praw wobec dostawcy.

Aby ocenić, czy strategia ochrony IP związanej z systemami AI jest spójna z modelem transgranicznym, warto zapoznać się z podejściem do ochrony IP dla firm technologicznych działających w Polsce.

Jakie pułapki compliance najczęściej dotykają polskie instytucje finansowe wdrażające AI?

Złożoność regulacyjna objawia się w praktyce przez konkretne błędy. Nie są to błędy intencjonalne. Wynikają z nakładania się przepisów, których twórcy nie koordynowali ze sobą w pełni. Trzy pułapki powtarzają się najczęściej – i każda z nich może prowadzić do nieodwracalnych konsekwencji.

Pułapka pierwsza: błędna klasyfikacja ryzyka. Instytucje często zakładają, że system AI wspomagający – a nie zastępujący – decyzję człowieka nie jest systemem wysokiego ryzyka. To błąd. AI Act klasyfikuje systemy według przeznaczenia i obszaru zastosowania, nie według stopnia automatyzacji decyzji. System rekomendujący odrzucenie wniosku kredytowego jest systemem wysokiego ryzyka niezależnie od tego, czy człowiek formalnie zatwierdza decyzję.

Pułapka druga: brak DPIA dla systemów profilujących. RODO wymaga oceny skutków dla ochrony danych przed uruchomieniem systemu, który w sposób systematyczny przetwarza dane osobowe na dużą skalę. Wiele instytucji przeprowadza DPIA raz – przy wdrożeniu – i nie aktualizuje jej przy zmianach modelu. Zmiana algorytmu, dodanie nowej zmiennej wejściowej lub rozszerzenie zakresu danych treningowych może wymagać ponownej oceny. PUODO w decyzjach administracyjnych konsekwentnie wskazuje na ten obowiązek.

Pułapka trzecia: umowy z dostawcami AI niezgodne z DORA. Art. 30 DORA wymaga, by umowy z dostawcami ICT zawierały klauzule dotyczące audytu, ciągłości działania i wyjścia z umowy. Standardowe umowy SaaS tych klauzul nie zawierają. Instytucja, która podpisała umowę przed 17 stycznia 2025 r. i jej nie zaktualizowała, jest w stanie niezgodności – i nie ma na to łagodzącej interpretacji KNF.

W praktyce – wiele firm o tym zapomina – compliance AI to nie projekt jednorazowy. To proces ciągły. Model scoringowy zmienia się wraz z danymi. Regulacje zmieniają się wraz z rynkiem. Governance framework musi mieć wbudowany mechanizm przeglądu co najmniej raz na 12 miesięcy.

Uważamy, że bezpieczniejszym rozwiązaniem jest wdrożenie AI governance jako rozszerzenia istniejącej polityki zarządzania ryzykiem – zamiast tworzenia oddzielnej struktury. Dwie niezależne struktury oznaczają dwa razy więcej luk i dwa razy więcej pracy przy audytach.

Jak wygląda wymiar transgraniczny ram zarządzania AI dla instytucji działających w wielu jurysdykcjach?

Dla instytucji finansowych z polską siedzibą, które prowadzą działalność w innych krajach UE lub korzystają z modeli AI opracowanych poza Polską, wymiar transgraniczny jest źródłem dodatkowej złożoności. AI Act stosuje zasadę miejsca wdrożenia – nie miejsca wytworzenia systemu. Jeśli model opracowany przez firmę z Luksemburga jest wdrażany przez polską spółkę zależną, to polska spółka jest podmiotem zobowiązanym.

Grupy kapitałowe z centralnym centrum kompetencji AI w jednym kraju muszą zadbać o to, by lokalne podmioty w Polsce miały dostęp do dokumentacji technicznej wymaganej przez AI Act. Brak tej dokumentacji na poziomie lokalnym – nawet jeśli istnieje na poziomie grupy – stanowi naruszenie. KNF nie akceptuje argumentu, że dokumentacja jest dostępna w centrali w Amsterdamie.

DORA wprowadza dodatkowy wymóg dla grup: konsolidowany rejestr dostawców ICT na poziomie grupy. Jeśli ten sam dostawca AI obsługuje kilka podmiotów grupy w różnych krajach, umowy powinny być ujednolicone lub przynajmniej wzajemnie kompatybilne pod kątem klauzul wymaganych przez DORA. Różnice w umowach między krajami tworzą asymetrię ryzyka – i są pierwszą rzeczą, którą identyfikuje audyt wewnętrzny.

Dla inwestorów z krajów trzecich – np. podmiotów z USA lub Japonii wchodzących na rynek polski poprzez przejęcie instytucji finansowej – AI governance framework jest elementem due diligence. Brak udokumentowanego systemu zarządzania AI może obniżyć wycenę transakcji lub stać się warunkiem zawieszającym. Zainteresowanych zagadnieniami ochrony IP w kontekście transgranicznym odsyłamy do strategii IP dla firm technologicznych z Węgier działających w Polsce.

Wymiar transgraniczny obejmuje też kwestię prawa właściwego dla umów z dostawcami AI. Standardowe umowy dużych dostawców technologii wybierają prawo irlandzkie lub angielskie. Po Brexicie prawo angielskie nie korzysta z automatycznego uznania orzeczeń w UE. Instytucja finansowa, która chce egzekwować klauzule DORA wobec dostawcy z siedzibą w Londynie, może stanąć przed wielomiesięcznym postępowaniem egzekucyjnym. To ryzyko operacyjne, nie tylko prawne.

Dla instytucji raportujących w ramach CSRD – np. banki spełniające progi Wave 1 – AI governance wpisuje się w wymogi raportowania ESG dotyczące zarządzania ryzykiem technologicznym. Szczegółowe kroki wdrożenia ESRS omawia przewodnik po implementacji ESRS dla polskich podmiotów raportujących.

Lista kontrolna gotowości AI governance – co przygotować?

Poniższa lista kontrolna pozwala ocenić stan gotowości instytucji finansowej na wymogi AI Act, DORA i RODO w zakresie systemów AI. Każdy punkt bez odpowiedzi „tak" to luka wymagająca działania przed 2 sierpnia 2026 r.

Czy instytucja posiada aktualny inwentarz wszystkich systemów AI – w tym dostarczanych przez zewnętrznych dostawców?
Czy każdy system AI został sklasyfikowany według kategorii ryzyka AI Act i czy klasyfikacja jest udokumentowana?
Czy dla systemów wysokiego ryzyka sporządzono dokumentację techniczną zgodną z załącznikiem IV do AI Act?
Czy umowy z dostawcami ICT dostarczającymi systemy AI zawierają klauzule wymagane przez art. 30 DORA?
Czy dla systemów przetwarzających dane osobowe przeprowadzono i zaktualizowano DPIA zgodnie z wymogami RODO?

Trzy scenariusze biznesowe ilustrują zakres zastosowania:

Bank detaliczny wdrażający system scoringu kredytowego: system wysokiego ryzyka wymagający pełnej dokumentacji AI Act, DPIA z art. 22 RODO, klauzul DORA w umowie z dostawcą modelu i rejestracji w unijnej bazie danych przed 2 sierpnia 2026 r.

Firma inwestycyjna korzystająca z zewnętrznego narzędzia do analizy sentymentu rynkowego: prawdopodobnie system ograniczonego ryzyka, ale wymaga oceny RODO jeśli przetwarza dane osobowe, oraz weryfikacji umowy z dostawcą pod kątem DORA.

Zagraniczny inwestor przejmujący polską instytucję płatniczą: AI governance framework jest elementem due diligence – brak dokumentacji może być podstawą do renegocjacji ceny lub żądania representations and warranties w umowie SPA.

Konkretna sytuacja Państwa instytucji wymaga oceny, która uwzględnia zarówno obecny portfel systemów AI, jak i planowane wdrożenia. Brak udokumentowanego governance framework przed datą obowiązywania AI Act zamyka drogę do szybkiej reakcji na zapytania nadzorcze KNF – a pierwsze kontrole mogą nastąpić już w II połowie 2026 r.

Jeśli Państwa instytucja finansowa używa systemów AI w ocenie kredytowej, rekrutacji lub zarządzaniu ryzykiem i nie posiada jeszcze udokumentowanego AI governance framework – przeprowadzimy inwentaryzację systemów, klasyfikację ryzyka AI Act, przegląd umów DORA i ocenę luk RODO: info@kordeckipartners.com.

Często zadawane pytania

P: Czy system AI wspomagający decyzję człowieka (a nie podejmujący jej samodzielnie) jest systemem wysokiego ryzyka w rozumieniu AI Act?

O: Tak – jeśli system działa w obszarze wymienionym w załączniku III do AI Act, np. ocena zdolności kredytowej. Rozporządzenie klasyfikuje systemy według przeznaczenia i obszaru zastosowania, nie według stopnia autonomii. System rekomendujący odrzucenie wniosku jest systemem wysokiego ryzyka niezależnie od tego, że człowiek formalnie zatwierdza decyzję. Ocena zgodności, dokumentacja techniczna i rejestracja w unijnej bazie danych są obowiązkowe.

P: Ile czasu i kosztów zajmuje wdrożenie AI governance framework w średniej instytucji finansowej?

O: W instytucji używającej od 10 do 30 systemów z elementami AI – co jest typowym zakresem dla średniego banku lub firmy inwestycyjnej – pełne wdrożenie zajmuje od 4 do 9 miesięcy. Obejmuje inwentaryzację, klasyfikację, dokumentację techniczną dla systemów wysokiego ryzyka, aktualizację umów z dostawcami i szkolenie personelu. Koszty zależą od liczby systemów wysokiego ryzyka i stopnia zaangażowania zewnętrznych doradców.

P: Powszechne przekonanie mówi, że DORA i AI Act to oddzielne reżimy i można je wdrażać niezależnie. Czy to prawda?

O: To przekonanie jest mylące i kosztowne. Systemy AI dostarczane przez zewnętrznych dostawców wchodzą jednocześnie w zakres zarządzania ryzykiem ICT na podstawie DORA i klasyfikacji ryzyka na podstawie AI Act. Rejestr dostawców ICT prowadzony dla DORA powinien zawierać klasyfikację AI Act. Dwa niezależne procesy compliance oznaczają podwójną pracę i podwójne ryzyko luk. Zintegrowane podejście jest nie tylko efektywniejsze – jest też bezpieczniejsze z perspektywy nadzorczej KNF.

KORDECKI & Partners to kancelaria prawna z siedzibą w Warszawie i Krakowie, doradzająca klientom biznesowym w 30 jurysdykcjach. Zespół łączy doświadczenie w prawie polskim i międzynarodowym z praktycznym podejściem do regulacji AI, DORA, RODO i prawa własności intelektualnej dla sektora finansowego. Pracujemy z polskimi przedsiębiorcami, inwestorami zagranicznymi i działami prawnymi korporacji. W sprawie Państwa sytuacji: info@kordeckipartners.com.