WiedzaCase study
Sztuczna inteligencja

AI Act wchodzi w fazę realnego egzekwowania

Od 2 sierpnia 2026 r. unijne organy nadzoru mogą korzystać z uprawnień dochodzeniowych i sankcyjnych w odniesieniu do przepisów AI Act, które są już stosowane

2 sierpnia 2026 r. rozpoczął się kolejny istotny etap wdrażania unijnego rozporządzenia w sprawie sztucznej inteligencji. AI Act przestaje być regulacją postrzeganą przede wszystkim przez pryzmat przyszłych obowiązków i przygotowań compliance. W odniesieniu do kolejnych grup przepisów staje się podstawą konkretnych działań nadzorczych, dochodzeniowych i sankcyjnych.

Od tej daty stosowane są uprawnienia egzekucyjne Komisji Europejskiej i działającego w jej strukturach AI Office, Europejskiego Inspektora Ochrony Danych oraz właściwych organów krajowych — w zakresie tych przepisów AI Act, które są już obowiązujące.

Egzekwowanie rozporządzenia zostało podzielone pomiędzy kilka kategorii organów. AI Office odpowiada przede wszystkim za nadzór nad dostawcami modeli AI ogólnego przeznaczenia, w tym nad najbardziej zaawansowanymi modelami mogącymi stwarzać ryzyko systemowe. Do jego kompetencji należą również określone systemy AI opracowane przez dostawcę modelu GPAI lub podmiot należący do tej samej grupy kapitałowej, a także systemy zintegrowane z bardzo dużymi platformami internetowymi lub bardzo dużymi wyszukiwarkami internetowymi objętymi Digital Services Act.

Krajowe organy właściwe odpowiadają za egzekwowanie przepisów dotyczących pozostałych systemów AI. Europejski Inspektor Ochrony Danych sprawuje natomiast nadzór nad systemami AI wykorzystywanymi przez instytucje, organy i jednostki organizacyjne Unii Europejskiej.

Które obowiązki podlegają obecnie egzekwowaniu?

AI Act jest stosowany etapami. Data 2 sierpnia 2026 r. nie oznacza zatem, że wszystkie obowiązki przewidziane w rozporządzeniu mogą być już egzekwowane w pełnym zakresie.

Na obecnym etapie działania organów koncentrują się w szczególności na trzech obszarach.

Zakazane praktyki AI

Egzekwowaniu podlegają przepisy dotyczące praktyk uznanych przez prawodawcę unijnego za niedopuszczalne ze względu na ich potencjalny wpływ na prawa podstawowe, bezpieczeństwo i wartości Unii Europejskiej.

Zakazy dotyczą między innymi określonych systemów wykorzystujących techniki manipulacyjne lub wprowadzające w błąd, systemów wykorzystujących podatność określonych osób lub grup, niektórych form scoringu społecznego oraz indywidualnej oceny ryzyka popełnienia przestępstwa opartej wyłącznie na profilowaniu lub cechach osobowości.

Zakres poszczególnych zakazów wymaga każdorazowo dokładnej analizy warunków przewidzianych w AI Act. Sam fakt wykorzystywania technik perswazyjnych, profilowania czy oceny zachowania nie prowadzi automatycznie do uznania systemu za zakazany. Kluczowe są cel systemu, sposób jego działania, kategoria osób, których dotyczy, oraz potencjalne lub rzeczywiste skutki.

Obowiązki dostawców modeli AI ogólnego przeznaczenia

Drugim istotnym obszarem są obowiązki dostawców modeli AI ogólnego przeznaczenia, czyli GPAI.

Obejmują one między innymi obowiązki związane z przygotowywaniem i aktualizowaniem dokumentacji technicznej, przekazywaniem informacji dostawcom systemów AI integrujących dany model, wdrożeniem polityki zgodności z prawem autorskim oraz publikowaniem odpowiednio szczegółowego podsumowania treści wykorzystanych do trenowania modelu.

Dodatkowe wymagania dotyczą modeli GPAI stwarzających ryzyko systemowe. Ich dostawcy podlegają między innymi obowiązkom związanym z oceną modeli, identyfikowaniem i ograniczaniem ryzyk systemowych, dokumentowaniem i zgłaszaniem poważnych incydentów oraz zapewnianiem odpowiedniego poziomu cyberbezpieczeństwa.

W praktyce oznacza to, że egzekwowanie AI Act może dotyczyć nie tylko dokumentacji modelu, ale również sposobu zarządzania ryzykiem, relacji z downstream providers, bezpieczeństwa technicznego oraz zdolności dostawcy do wykazania, że wdrożone środki odpowiadają charakterowi i skali ryzyka.

Obowiązki w zakresie przejrzystości

Od 2 sierpnia 2026 r. stosowane są również obowiązki przejrzystości dotyczące określonych systemów AI oraz treści wygenerowanych lub zmanipulowanych przy użyciu AI.

Obejmują one w szczególności informowanie osób, że wchodzą w interakcję z systemem AI, o ile nie jest to oczywiste dla odpowiednio poinformowanej, uważnej i rozsądnej osoby. Dotyczą również technicznego oznaczania określonych treści syntetycznych, ujawniania wykorzystania systemów rozpoznawania emocji lub kategoryzacji biometrycznej oraz oznaczania deepfake’ów i niektórych tekstów generowanych przez AI w celu informowania opinii publicznej.

Obowiązki te nie są jednolite. Ich zakres zależy między innymi od tego, czy organizacja występuje jako dostawca systemu, czy jako podmiot stosujący AI, jaki rodzaj treści jest generowany oraz w jakim kontekście treść jest udostępniana.

AI Act przewiduje także wyjątki, między innymi dla określonych celów związanych z wykrywaniem przestępstw, a także szczególne zasady dotyczące dzieł artystycznych, satyrycznych, fikcyjnych i podobnych. Nie każde użycie AI do stworzenia tekstu, obrazu lub nagrania będzie zatem wymagało identycznego oznaczenia.

Nie wszystkie przepisy AI Act są już egzekwowane

Istotne jest zachowanie precyzji przy opisywaniu obecnego etapu wdrażania rozporządzenia. Rozpoczęcie stosowania uprawnień egzekucyjnych od 2 sierpnia 2026 r. nie oznacza rozpoczęcia pełnego egzekwowania wszystkich obowiązków AI Act.

Zgodnie z aktualnym harmonogramem przepisy dotyczące systemów wysokiego ryzyka wymienionych w załączniku III mają być stosowane od 2 grudnia 2027 r. Chodzi między innymi o wybrane systemy wykorzystywane w zatrudnieniu, edukacji, dostępie do podstawowych usług, egzekwowaniu prawa, migracji czy sprawowaniu wymiaru sprawiedliwości.

Przepisy dotyczące systemów wysokiego ryzyka, które są elementami produktów objętych unijnym prawodawstwem harmonizacyjnym dotyczącym bezpieczeństwa produktów, mają być stosowane od 2 sierpnia 2028 r.

Z kolei określone zakazy związane z generowaniem lub manipulowaniem intymnymi treściami bez zgody oraz materiałami przedstawiającymi seksualne wykorzystywanie dzieci mają być stosowane od 2 grudnia 2026 r.

Dla organizacji oznacza to konieczność prowadzenia analizy harmonogramu na poziomie konkretnych obowiązków. Nie wystarczy ogólne stwierdzenie, że „AI Act obowiązuje” albo że „termin został przesunięty”. Poszczególne części rozporządzenia są stosowane w różnych terminach, a zakres uprawnień organów jest powiązany z datą rozpoczęcia stosowania danego przepisu.

Jakie uprawnienia posiada AI Office?

AI Office dysponuje zarówno uprawnieniami dochodzeniowymi, jak i sankcyjnymi.

Może kierować do dostawców żądania udzielenia informacji w celu zweryfikowania zgodności z AI Act. Żądania mogą mieć formę zwykłego wezwania albo formalnej decyzji Komisji Europejskiej. Przekazanie informacji nieprawidłowych lub wprowadzających w błąd, a w przypadku formalnej decyzji również brak odpowiedzi albo odpowiedź niepełna, może prowadzić do nałożenia kary.

W odniesieniu do modeli GPAI AI Office może przeprowadzać oceny modeli oraz żądać zapewnienia do nich dostępu. Oceny mogą być prowadzone przez samo AI Office albo przez powołanych niezależnych ekspertów. Urząd może również żądać od dostawcy zastosowania odpowiednich środków, w tym — gdy jest to konieczne — ograniczenia publicznej dostępności modelu.

W sprawach dotyczących systemów AI AI Office może prowadzić rozmowy z osobami posiadającymi informacje istotne dla postępowania, pod warunkiem ich zgody, oraz przeprowadzać inspekcje w pomieszczeniach dostawców.

Jeżeli zostanie stwierdzone umyślne lub wynikające z niedbalstwa naruszenie AI Act, Komisja Europejska może wydać decyzję nakładającą karę na dostawcę systemu AI lub modelu GPAI. Rodzaj i wysokość sankcji zależą między innymi od charakteru, wagi i czasu trwania naruszenia.

Najwyższe kary przewidziano za naruszenia dotyczące zakazanych praktyk AI. Mogą one wynieść do 35 milionów euro albo — w przypadku przedsiębiorstw — do 7% całkowitego światowego rocznego obrotu z poprzedniego roku obrotowego, w zależności od tego, która wartość jest wyższa. Inne naruszenia, w tym naruszenia obowiązków dotyczących GPAI, mogą prowadzić do kar do 15 milionów euro lub 3% światowego rocznego obrotu.

Nowa infrastruktura zgłaszania potencjalnych naruszeń

Wraz z rozpoczęciem kolejnego etapu egzekwowania AI Act uruchomione zostały narzędzia pozwalające osobom fizycznym, organizacjom, sygnalistom oraz dostawcom systemów wykorzystujących modele GPAI przekazywać AI Office informacje o potencjalnych naruszeniach.

Nie są to narzędzia o identycznym zakresie. Wybór właściwego kanału zależy od charakteru zgłoszenia, statusu osoby zgłaszającej oraz przepisów, których może dotyczyć potencjalne naruszenie.

AI Act Complaints Tool

AI Act Complaints Tool umożliwia osobom fizycznym i prawnym składanie skarg dotyczących domniemanych naruszeń AI Act przez dostawców lub podmioty stosujące systemy AI, jeżeli sprawa należy do wyłącznej kompetencji AI Office.

Skarga musi mieścić się w zakresie art. 85 AI Act. Formularz nie powinien być wykorzystywany do zgłaszania naruszeń innych przepisów prawa Unii Europejskiej, przepisów prawa krajowego ani spraw pozostających poza zakresem AI Act.

Nie jest to również właściwy kanał dla skarg odnoszących się do obowiązków wynikających z art. 53–55 AI Act, dotyczących modeli GPAI. Dla downstream providers przewidziano odrębny mechanizm.

Skargę można złożyć w każdym języku urzędowym Unii Europejskiej i dołączyć do niej odpowiednie dokumenty. Zgłoszenie powinno wskazywać państwo, w którym doszło do zdarzenia, oraz zawierać szczegółowy opis domniemanego naruszenia.

AI Act Complaints Tool nie jest kanałem anonimowym. Osoba zgłaszająca musi podać dane identyfikacyjne i kontaktowe potrzebne do oceny oraz obsługi skargi. AI Office traktuje zgłoszenia jako poufne. Jeżeli sprawa nie należy do jego właściwości, może o tym poinformować skarżącego, a po uzyskaniu jego zgody — przekazać sprawę właściwemu krajowemu organowi nadzoru rynku albo organowi odpowiedzialnemu za ochronę praw podstawowych.

AI Act Whistleblower Tool

AI Act Whistleblower Tool jest przeznaczony dla osób zawodowo związanych z dostawcami lub podmiotami stosującymi systemy AI albo z dostawcami modeli GPAI.

Narzędzie umożliwia bezpieczne, poufne i anonimowe przekazywanie informacji o potencjalnych naruszeniach. Może mieć szczególne znaczenie w sytuacjach, w których wiedza o sposobie projektowania, trenowania, wdrażania lub monitorowania systemu znajduje się wewnątrz organizacji i nie jest dostępna dla użytkowników ani innych podmiotów zewnętrznych.

Z punktu widzenia organizacji uruchomienie takiego kanału zwiększa znaczenie skutecznych wewnętrznych procedur zgłaszania nieprawidłowości. Pracownicy, współpracownicy, kontraktorzy i inne osoby posiadające profesjonalny dostęp do informacji o systemie mogą zgłaszać potencjalne naruszenia bezpośrednio do AI Office.

Kanał dla downstream providers wykorzystujących modele GPAI

Odrębny kanał został przeznaczony dla dostawców systemów AI, którzy integrują w swoich rozwiązaniach modele GPAI pochodzące od innych dostawców.

Za jego pośrednictwem mogą oni składać skargi dotyczące potencjalnego naruszenia obowiązków przewidzianych w art. 53–55 AI Act. Może to dotyczyć w szczególności niewystarczających informacji lub dokumentacji przekazywanych przez dostawcę modelu, co utrudnia downstream providerowi zrozumienie możliwości i ograniczeń modelu albo wykonanie własnych obowiązków wynikających z AI Act.

Mechanizm ten odzwierciedla znaczenie relacji pomiędzy poszczególnymi uczestnikami łańcucha wartości AI. Zgodność systemu końcowego może zależeć od jakości, kompletności i aktualności informacji przekazywanych przez dostawcę modelu bazowego.

Co rozpoczęcie egzekwowania oznacza dla organizacji?

Dotychczas znaczna część działań związanych z AI Act koncentrowała się na mapowaniu systemów AI, ustalaniu ról w łańcuchu wartości, klasyfikowaniu ryzyka i opracowywaniu polityk wewnętrznych.

Działania te nadal pozostają konieczne, ale nie są już wystarczające.

Organizacja powinna być przygotowana nie tylko do wykazania, że formalnie przyjęła określone procedury, lecz również do przedstawienia dowodów, że procedury są rzeczywiście stosowane. Organy mogą oczekiwać informacji pozwalających odtworzyć sposób podjęcia decyzji, proces oceny ryzyka, zakres przeprowadzonych testów, podstawę przyjęcia określonych środków ograniczających oraz sposób monitorowania systemu po jego wdrożeniu.

W praktyce warto zweryfikować co najmniej następujące zagadnienia:

  1. jakie systemy AI i modele GPAI są wykorzystywane, dostarczane lub integrowane przez organizację;
  2. czy prawidłowo ustalono jej rolę jako dostawcy, podmiotu stosującego, importera, dystrybutora, producenta produktu lub pełnomocnika;
  3. które przepisy AI Act są już stosowane do danego systemu lub modelu;
  4. czy system może należeć do kategorii praktyk zakazanych;
  5. czy wykonano obowiązki dotyczące modeli GPAI lub przejrzystości;
  6. gdzie znajduje się dokumentacja i kto odpowiada za jej aktualność;
  7. kto może otrzymać żądanie informacji od organu oraz kto koordynuje odpowiedź;
  8. czy organizacja będzie w stanie szybko zabezpieczyć dokumenty, logi, wyniki testów i inne dowody;
  9. czy istnieje procedura obsługi skarg i zgłoszeń dotyczących AI;
  10. czy wewnętrzne kanały sygnalizowania nieprawidłowości obejmują ryzyka związane z AI;
  11. czy umowy z dostawcami modeli, systemów i usług zapewniają dostęp do informacji potrzebnych do wykazania zgodności.

Szczególnego znaczenia nabiera również spójność pomiędzy deklaracjami publicznymi, dokumentacją techniczną, umowami, regulaminami, ocenami ryzyka oraz rzeczywistym sposobem działania systemu.

Rozbieżność między formalnie przyjętą polityką a praktyką operacyjną może zostać ujawniona nie tylko w toku kontroli, lecz także w wyniku skargi klienta, użytkownika, partnera biznesowego, downstream providera albo zgłoszenia sygnalisty.

Od compliance readiness do enforcement readiness

Rozpoczęcie stosowania uprawnień egzekucyjnych zmienia sposób, w jaki organizacje powinny podchodzić do zgodności z AI Act.

Compliance readiness oznacza przygotowanie regulaminów, polityk, klasyfikacji i planów wdrożenia. Enforcement readiness wymaga dodatkowo zdolności do obrony przyjętych rozwiązań przed organem nadzoru.

Organizacja powinna potrafić wyjaśnić:

  1. dlaczego dany system został zaklasyfikowany w określony sposób;
  2. na podstawie jakich informacji oceniono jego ryzyko;
  3. jakie osoby i jednostki uczestniczyły w procesie decyzyjnym;
  4. jakie środki ograniczające ryzyko zastosowano;
  5. w jaki sposób sprawdzono skuteczność tych środków;
  6. jakie dane, dokumenty i wyniki testów potwierdzają zgodność;
  7. jak reagowano na incydenty, skargi i sygnały o nieprawidłowościach.

AI Act przechodzi zatem z etapu przygotowań regulacyjnych do etapu praktycznego nadzoru. Uruchomienie narzędzi składania skarg i zgłoszeń, a także możliwość kierowania żądań informacji, prowadzenia ocen modeli i nakładania sankcji powodują, że ryzyko regulacyjne staje się bardziej bezpośrednie.

Dla organizacji jest to moment, aby przejść od pytania „czy posiadamy politykę AI?” do pytania „czy potrafimy wykazać przed organem, że nasze rozwiązania są zgodne, a proces zarządzania ryzykiem rzeczywiście działa?”.

Źródła

Case study
Sztuczna inteligencja
Autorka: dr Gabriela Bar