Frontier AI pod lupą europejskich nadzorców

EBA, EIOPA i ESMA przedstawiają podejście do ryzyka związanego z modelami AI

31 lipca 2026 r. EBA, EIOPA i ESMA opublikowały wspólne stanowisko dotyczące spójnego, międzysektorowego oraz opartego na analizie ryzyka podejścia do ryzyk ICT wynikających z rozwoju pionierskich modeli opartych o rozwiązania sztucznej inteligencji (“Frontier AI”). Dokument ten należy odczytywać jako kolejny etap europejskiej odpowiedzi na ryzyka cyberbezpieczeństwa związane z Frontier AI oraz jako kontynuacja działań podjętych wcześniej na poziomie unijnym, w tym Planu działania Komisji Europejskiej dotyczącego cyberbezpieczeństwa i sztucznej inteligencji, ostrzeżenia ESRB w sprawie systemowych ryzyk cybernetycznych wynikających z modeli Frontier AI oraz rekomendacji ENISA dotyczących budowania zdolności operacyjnych wobec zagrożeń działających z „maszynową” szybkością. Wpisuje się on również w kierunek zasygnalizowany w rekomendacji UKNF i szerszy trend wzmacniania operacyjnej odporności cyfrowej sektora finansowego. W tym ujęciu stanowisko ESA nie tworzy odrębnego reżimu regulacyjnego, lecz porządkuje oczekiwania nadzorcze wobec sektora finansowego i wzmacnia presję na praktyczne przełożenie istniejących wymogów DORA na zarządzanie ryzykami AI. 

Z perspektywy instytucji finansowych kluczowe znaczenie ma wniosek, że obowiązujące ramy regulacyjne, w szczególności DORA oraz AI Act, mogą stanowić podstawę zarządzania tymi ryzykami, o ile zostaną skutecznie przełożone na procesy, kontrole, testy, nadzór nad dostawcami oraz decyzje zarządcze związane z AI. 

Od sygnału krajowego do europejskiej konwergencji nadzorczej 

Wątek ten był już sygnalizowany na poziomie krajowym w rekomendacjach UKNF dotyczących wpływu Frontier AI na cyberbezpieczeństwo sektora finansowego. UKNF wskazywał, że rozwój modeli Frontier AI może zwiększać skalę, szybkość i złożoność cyberzagrożeń, a tym samym wymaga uwzględnienia tych ryzyk w istniejących mechanizmach zarządzania ryzykiem ICT, testowania odporności cyfrowej, obsługi incydentów oraz nadzoru nad dostawcami. Stanowisko ESA potwierdza ten kierunek na poziomie europejskim. W konsekwencji ryzyka Frontier AI powinny być traktowane nie jako samodzielny reżim obowiązków, lecz jako czynnik wymagający dostosowania funkcjonujących procedur, mechanizmów kontrolnych, modeli raportowania i procesów decyzyjnych. 

Trzy kierunki działań: zapobieganie, wykrywanie i zarządzanie 

ESA porządkują oczekiwania wobec instytucji finansowych wokół zapobiegania, wykrywania oraz zarządzania ryzykiem. W obszarze zapobiegania zasadnicze znaczenie ma aktualna i kompletna inwentaryzacja aktywów ICT, obejmująca infrastrukturę, aplikacje, dane, interfejsy API oraz komponenty AI/ML, a także identyfikacja zależności i funkcji krytycznych. Istotne pozostają również zasady security by design, ograniczanie powierzchni ataku, ochrona kodu źródłowego, segmentacja środowisk, kontrola dostępu oraz sprawne zarządzanie poprawkami bezpieczeństwa. 

W obszarze wykrywania okresowe skanowanie podatności może być niewystarczające wobec ataków wspieranych przez AI, które mogą działać szybciej, adaptować się w czasie rzeczywistym i wykorzystywać podatności niemal bezpośrednio po ich ujawnieniu. Uzasadnia to wzmocnienie ciągłego monitorowania, detekcji anomalii, logowania, monitorowania behawioralnego oraz częstszych testów i kontroli zgodności. 

W obszarze zarządzania ryzykiem instytucje finansowe powinny weryfikować procedury incydentowe, plany ciągłości działania, plany odtworzeniowe, polityki backupu oraz scenariusze testowe, zwłaszcza dla zdarzeń wielosystemowych. Reakcja na ryzyka Frontier AI powinna obejmować nie tylko techniczne zabezpieczenia, lecz także governance, eskalację, raportowanie, apetyt na ryzyko, decyzje inwestycyjne oraz odpowiedzialność organów zarządzających. 

DORA jako praktyczna rama reakcji 

Najważniejszy praktyczny wniosek ze stanowiska ESA pozostaje spójny z komunikatem UKNF: ryzyka Frontier AI powinny zostać osadzone w systemie zarządzania ryzykiem ICT wymaganym przez DORA. Instytucje finansowe powinny zatem zweryfikować, czy wdrożenie DORA obejmuje scenariusze zagrożeń wspieranych przez AI, w tym metodyki oceny ryzyka ICT, klasyfikację i priorytetyzację podatności, patch management, testy odporności cyfrowej, BCP/DRP, obsługę incydentów oraz raportowanie do organów zarządzających. 

Formalne posiadanie polityk może nie być wystarczające, jeżeli instytucja nie wykaże, że procesy działają w tempie adekwatnym do poziomu zagrożeń. Szczególnego znaczenia nabierają jakość danych, mapowanie zależności od dostawców, kompletność rejestrów oraz skuteczność procesów incydentowych. Niepełna inwentaryzacja aktywów lub niewystarczający monitoring mogą stanowić realne punkty ekspozycji na zautomatyzowane ataki. 

Dostawcy ICT i odpowiedzialność zarządu 

Stanowisko ESA ma szczególne znaczenie dla zarządzania ryzykiem dostawców ICT. Ryzyka Frontier AI mają być uwzględniane również w działaniach dotyczących krytycznych zewnętrznych dostawców usług ICT, co powinno prowadzić do wzmocnienia procesów third party risk management. W praktyce może to oznaczać bardziej szczegółowe oczekiwania wobec dostawców w zakresie zarządzania podatnościami, monitoringu, reagowania na incydenty, bezpieczeństwa łańcucha dostaw, ochrony kodu źródłowego, podwykonawstwa, testów odporności oraz wykorzystywania AI po stronie dostawcy. 

Odpowiedzialność za zarządzanie tymi ryzykami nie powinna pozostawać wyłącznie po stronie funkcji technologicznych lub bezpieczeństwa. Organy zarządzające powinny zapewnić właściwe ramy governance, zasoby, nadzór oraz raportowanie obejmujące nie tylko formalny status wdrożenia wymogów, lecz także skuteczność procesów, czas reakcji, ekspozycję kluczowych aktywów, ryzyko koncentracji oraz gotowość organizacji do scenariuszy wielosystemowych. 

Podsumowanie 

Stanowisko ESA potwierdza, że Frontier AI staje się istotnym obszarem zainteresowania nadzorczego w kontekście operacyjnej odporności cyfrowej sektora finansowego. Podmioty finansowe powinny traktować rekomendacje UKNF i stanowisko ESA jako spójny sygnał, że nadzór będzie oczekiwał nie tylko formalnej zgodności, lecz również wykazania rzeczywistej skuteczności przyjętych mechanizmów. Kluczowe będzie udokumentowanie, że ryzyka Frontier AI zostały przełożone na konkretne działania, mierniki, testy, decyzje inwestycyjne oraz mechanizmy nadzoru nad dostawcami ICT.