Firma technologiczna z Mazowsza – dostawca oprogramowania dla sektora finansowego – otrzymała od klienta zapytanie, które postawiło jej zarząd w trudnej sytuacji. Klient, instytucja finansowa objęta DORA, chciał wiedzieć, czy wdrażany system do oceny wniosków kredytowych kwalifikuje się jako system wysokiego ryzyka w rozumieniu AI Act. Zarząd spółki nie miał odpowiedzi. Termin na dostarczenie dokumentacji – 30 dni.

AI Act (Rozporządzenie UE 2024/1689) wszedł w życie 1 sierpnia 2024 roku i wprowadził obowiązkową klasyfikację systemów AI według poziomu ryzyka. Systemy wysokiego ryzyka stosowane w ocenie zdolności kredytowej wymagają oceny zgodności przed wprowadzeniem na rynek. Sankcje za naruszenia sięgają do 30 milionów EUR lub 6% globalnego obrotu rocznego.

Sprawa ta pokazuje mechanizm, który dotyka coraz więcej polskich dostawców technologii. Poniżej przedstawiamy tło, przyjętą strategię, przebieg procesu klasyfikacji oraz wnioski możliwe do zastosowania w innych projektach.

Tło sprawy: dostawca oprogramowania między AI Act a DORA

Spółka działała na rynku od kilku lat. Jej flagowy produkt – silnik scoringowy oparty na uczeniu maszynowym – był sprzedawany bankom i instytucjom pożyczkowym jako moduł SaaS. Zarząd traktował go jako narzędzie analityczne, nie jako autonomiczny system decyzyjny. To był pierwszy błąd w myśleniu o klasyfikacji.

AI Act w Załączniku III wprost wymienia systemy AI stosowane do oceny zdolności kredytowej osób fizycznych jako systemy wysokiego ryzyka. Nie ma tu znaczenia, czy decyzja kredytowa jest podejmowana przez algorytm samodzielnie, czy jedynie wspomaga pracownika. Wystarczy, że system wpływa na wynik oceny. Klient instytucjonalny – działający pod nadzorem KNF i objęty wymogami DORA dotyczącymi zarządzania ryzykiem ICT – musiał to potwierdzić w swojej własnej dokumentacji zgodności.

Równolegle pojawiło się pytanie o RODO. Silnik scoringowy przetwarzał dane osobowe wnioskodawców kredytowych. Profilowanie w rozumieniu RODO wymagało odrębnej podstawy prawnej i – potencjalnie – oceny skutków dla ochrony danych (DPIA). Zarząd spółki po raz pierwszy zestawił ze sobą trzy regulacje: AI Act, DORA i RODO. Obraz był niekomfortowy.

Strategia: jak przeprowadzić klasyfikację w 30 dni?

Klasyfikacja systemu wysokiego ryzyka według AI Act obejmuje kilka warstw analizy. Pierwsza to pytanie o zakres zastosowania: czy system jest wprowadzany na rynek UE lub oddawany do użytku na terenie UE? Odpowiedź była twierdząca – klient miał siedzibę w Polsce, system działał na serwerach w Warszawie. Druga warstwa to identyfikacja kategorii z Załącznika III.

Przyjęta strategia opierała się na trzech krokach. Każdy miał przypisany termin i odpowiedzialną osobę.

  • Mapowanie funkcji systemu względem kategorii Załącznika III AI Act – tydzień pierwszy.
  • Audyt przetwarzania danych osobowych pod kątem RODO i wymóg DPIA – tydzień drugi.
  • Przygotowanie dokumentacji technicznej i deklaracji zgodności – tygodnie trzeci i czwarty.

Kluczową decyzją było rozstrzygnięcie, kto jest dostawcą, a kto operatorem w rozumieniu AI Act. Spółka – jako twórca i dystrybutor systemu – spełniała definicję dostawcy (ang. provider). Bank jako użytkownik był operatorem (ang. deployer). To rozróżnienie determinowało podział obowiązków: spółka odpowiadała za dokumentację techniczną i ocenę zgodności, bank – za nadzór nad użytkowaniem i rejestrację w unijnej bazie danych systemów wysokiego ryzyka.

W praktyce – wiele firm o tym zapomina – podział ten nie zwalnia dostawcy z odpowiedzialności, gdy system jest dostosowywany do potrzeb konkretnego klienta. Każda modyfikacja modelu scoringowego przez bank mogła zmienić zakres oceny zgodności po stronie spółki. Uzgodniono to w umowie SaaS jako klauzulę notyfikacyjną z terminem 14 dni na zgłoszenie istotnych zmian konfiguracji.

Warto wspomnieć o wymogach DORA w zakresie zarządzania ryzykiem ICT – klasyfikacja systemu AI jako wysokiego ryzyka automatycznie podnosi wymagania dotyczące testowania i monitorowania po stronie klienta-instytucji finansowej.

Przebieg procesu i napotkane trudności

Tydzień pierwszy przyniósł niespodziewaną komplikację. Analiza wykazała, że silnik scoringowy był stosowany nie tylko do oceny wniosków kredytowych, ale również do monitorowania zachowań płatniczych istniejących klientów banku. Ten drugi moduł nie był objęty pierwotnym zapytaniem. Jednak mógł kwalifikować się jako odrębny system wysokiego ryzyka – lub jako rozszerzenie pierwszego. Zarząd spółki musiał zdecydować szybko.

Przyjęto podejście ostrożne: oba moduły potraktowano jako jeden system wysokiego ryzyka z rozszerzoną dokumentacją. To oznaczało więcej pracy, ale eliminowało ryzyko, że organ nadzorczy zakwestionuje podział na dwa odrębne systemy. Urząd Ochrony Danych Osobowych (UODO) jest w Polsce organem nadzorczym w zakresie RODO – a przy AI Act oczekuje się powołania odrębnego organu krajowego. Do czasu jego wyznaczenia odpowiedzialność nadzorcza pozostaje rozproszona.

Dokumentacja techniczna wymagana przez AI Act obejmuje opis architektury systemu, dane treningowe, metryki wydajności i procedury zarządzania ryzykiem. Spółka dysponowała częścią tych materiałów w wewnętrznych repozytoriach. Brakowało jednak sformalizowanego opisu miar dokładności modelu i procedury wykrywania dryftu modelu. Te elementy uzupełniono w trzecim tygodniu.

Równolegle przeprowadzono DPIA zgodnie z wymogami RODO. Ocena wykazała, że profilowanie wnioskodawców kredytowych wymaga wyraźnej podstawy prawnej – w tym przypadku był to art. 22 RODO w związku z przepisami prawa bankowego. Spółka zaktualizowała klauzule informacyjne i dokumentację przetwarzania danych. Powiązanie tych wymogów z formalnymi strukturami korporacyjnymi dostawcy okazało się ważne przy weryfikacji odpowiedzialności za zgodność.

Wnioski: co można zastosować w innych projektach?

Sprawa ta dostarcza kilku wniosków możliwych do przeniesienia. Po pierwsze – klasyfikacja nie jest jednorazowym zdarzeniem. System może zmienić kategorię ryzyka po modyfikacji funkcji lub rozszerzeniu zakresu zastosowania. Umowy z klientami powinny zawierać mechanizmy powiadamiania o takich zmianach.

Po drugie – dostawca i operator mają różne obowiązki, ale ich interesy są zbieżne. Wczesne uzgodnienie podziału odpowiedzialności w umowie SaaS lub licencyjnej eliminuje spory na etapie audytu lub kontroli. Kancelaria IP Warszawa specjalizująca się w regulacjach technologicznych może pomóc ustrukturyzować te zapisy zanim pojawi się problem.

Po trzecie – AI Act, DORA i RODO tworzą nakładające się warstwy wymogów dla systemów AI w sektorze finansowym. Analiza jednej regulacji bez pozostałych jest niewystarczająca. Dla instytucji finansowych objętych DORA oznacza to, że klasyfikacja systemu AI jako wysokiego ryzyka automatycznie uruchamia dodatkowe obowiązki w zakresie testowania odporności ICT.

  • Sprawdź, czy system AI wpływa na decyzje dotyczące osób fizycznych – to główny test Załącznika III.
  • Ustal podział dostawca/operator przed podpisaniem umowy z klientem.
  • Przeprowadź DPIA równolegle z oceną zgodności AI Act.
  • Wprowadź klauzulę notyfikacyjną o zmianach konfiguracji systemu.

Firma z Mazowsza dostarczyła dokumentację w terminie. Klient zaakceptował klasyfikację i wdrożenie przebiegło zgodnie z planem. Koszt opóźnienia – gdyby spółka zignorowała zapytanie – byłby nieodwracalny: utrata kontraktu i reputacji w segmencie finansowym.

Konkretna sytuacja Państwa firmy może różnić się od opisanego przypadku. Klasyfikacja systemu AI jako wysokiego ryzyka uruchamia łańcuch obowiązków, które – raz zaniedbane – zamykają drogę do szybkiej naprawy przed kontrolą organu nadzorczego.

Jeśli Państwa spółka wdraża lub dystrybuuje systemy AI w sektorze finansowym, HR lub innym obszarze objętym Załącznikiem III AI Act – przeprowadzimy klasyfikację, przygotujemy dokumentację techniczną i uzgodnimy podział odpowiedzialności z klientem: info@kordeckipartners.com.

Często zadawane pytania

P: Kiedy system AI musi przejść ocenę zgodności przed wdrożeniem?

O: Obowiązek oceny zgodności dotyczy systemów wysokiego ryzyka wymienionych w Załączniku III AI Act (Rozporządzenie UE 2024/1689). Dostawca musi przeprowadzić ocenę przed wprowadzeniem systemu na rynek UE lub oddaniem go do użytku. Dla systemów oceny zdolności kredytowej obowiązek ten obowiązuje od fazy stosowania produkcyjnego – nie od etapu testów. Harmonogram wdrożenia AI Act przewiduje pełne stosowanie przepisów o systemach wysokiego ryzyka od sierpnia 2026 roku.

P: Czy mały dostawca oprogramowania SaaS musi stosować AI Act tak samo jak duża korporacja?

O: Tak – AI Act nie różnicuje obowiązków dostawcy w zależności od wielkości firmy przy systemach wysokiego ryzyka. Istnieje pewne uproszczenie dla mikroprzedsiębiorstw w zakresie dokumentacji technicznej, jednak obowiązek oceny zgodności i rejestracji pozostaje. Powszechnym błędem jest przekonanie, że model SaaS przenosi całą odpowiedzialność na klienta-operatora. Dostawca odpowiada za dokumentację techniczną i deklarację zgodności niezależnie od modelu dystrybucji.

P: Ile kosztuje i jak długo trwa klasyfikacja systemu AI pod kątem AI Act?

O: Czas i koszt zależą od złożoności systemu i stanu istniejącej dokumentacji technicznej. Dla systemu scoringowego o umiarkowanej złożoności – jak w opisanym przypadku – proces zamknął się w 30 dniach. Podstawą kosztową jest audyt funkcji systemu, przegląd danych treningowych i przygotowanie wymaganej dokumentacji. Wczesne zaangażowanie doradcy prawnego specjalizującego się w regulacjach AI skraca ten czas o 30 do 50 procent w porównaniu z podejściem samodzielnym.

KORDECKI & Partners to kancelaria prawna z siedzibą w Warszawie i Krakowie, doradzająca klientom biznesowym w 30 jurysdykcjach. Zespół łączy doświadczenie w prawie polskim i międzynarodowym z praktycznym podejściem do regulacji technologicznych, AI Act, DORA i ochrony danych. Pracujemy z polskimi przedsiębiorcami, inwestorami zagranicznymi i działami prawnymi korporacji. W sprawie Państwa sytuacji: info@kordeckipartners.com.

Zastrzeżenie: Niniejsza publikacja służy wyłącznie celom informacyjnym i nie stanowi porady prawnej. Informacje zawarte w materiale nie powinny być traktowane jako substytut profesjonalnej porady prawnej dostosowanej do konkretnych okoliczności. KORDECKI & Partners nie ponosi odpowiedzialności za działania podjęte lub zaniechane na podstawie treści tego materiału. W sprawie porady dotyczącej Państwa konkretnej sytuacji prosimy o kontakt: info@kordeckipartners.com.