AI Act dla firm: obowiązki, terminy i praktyczny plan zgodności
Unijne rozporządzenie o sztucznej inteligencji (AI Act) to pierwszy na świecie kompleksowy akt prawny regulujący rozwój i wykorzystanie AI. Dla polskich przedsiębiorstw oznacza to konieczność uporządkowania sposobu, w jaki firma korzysta ze sztucznej inteligencji — zanim zrobi to za nią regulator. Ten artykuł wyjaśnia, kogo dotyczą nowe przepisy, jakie obowiązki nakładają na firmy oraz jak krok po kroku przygotować organizację do zgodności.
Czym jest AI Act i kogo dotyczy?
AI Act, czyli rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, weszło w życie 1 sierpnia 2024 r. Jako rozporządzenie unijne obowiązuje bezpośrednio we wszystkich państwach członkowskich — nie wymaga implementacji do prawa krajowego. Jego celem jest zapewnienie, że systemy AI są bezpieczne, przejrzyste i szanują prawa podstawowe, przy jednoczesnym wspieraniu innowacji.
Kluczowe znaczenie ma zasada eksterytorialności. AI Act dotyczy nie tylko firm z siedzibą w UE, ale także przedsiębiorstw z państw trzecich, jeśli:
- oferują system AI na rynku unijnym,
- wykorzystują system AI w UE,
- wynik działania systemu AI jest wykorzystywany w Unii Europejskiej.
Oznacza to, że polska firma korzystająca z amerykańskiego narzędzia AI, którego wyniki wpływają na osoby w UE, również może podlegać regulacji. Ignorowanie AI Act tylko dlatego, że firma nie tworzy modeli AI, nie jest już możliwe.
AI Act stosuje się do systemów AI — czyli rozwiązań opartych na maszynach, które działają z pewnym poziomem autonomii, potrafią wyciągać wnioski z danych wejściowych i generować wyniki takie jak predykcje, treści, rekomendacje lub decyzje. Definicja jest szeroka i obejmuje zarówno zaawansowane modele językowe, jak i systemy analityczne czy regułowe, które wspierają decyzje biznesowe.
Role w łańcuchu wartości: dostawca, wdrożeniowiec, importer i dystrybutor
Zakres obowiązków firmy zależy przede wszystkim od tego, jaką rolę pełni ona wobec danego systemu AI. AI Act wyróżnia kilka kategorii podmiotów.
Dostawca (provider) to podmiot, który opracowuje system AI lub zleca jego opracowanie, a następnie wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym — odpłatnie lub bezpłatnie. Dostawca ponosi największą odpowiedzialność za zgodność systemu z przepisami, w tym za ocenę zgodności, dokumentację techniczną i nadzór po wprowadzeniu do obrotu.
Wdrożeniowiec (deployer) to firma, która wykorzystuje system AI w swojej działalności zawodowej. Jeżeli przedsiębiorstwo kupuje narzędzie AI i używa go w procesach wewnętrznych lub w obsłudze klientów, staje się wdrożeniowcem. Wdrożeniowiec ma lżejsze obowiązki niż dostawca, ale nadal musi m.in. zapewnić nadzór ludzki, monitorować działanie systemu i informować pracowników o jego stosowaniu.
Importer to podmiot z siedzibą w UE, który wprowadza na rynek system AI oznaczeni nazwą lub znakiem towarowym podmiotu z państwa trzeciego.
Dystrybutor to podmiot w łańcuchu dostaw — inny niż dostawca lub importer — który udostępnia system AI na rynku unijnym.
Warto podkreślić, że jedna firma może pełnić kilka ról jednocześnie. Przykładowo przedsiębiorstwo, które kupuje system do analizy CV od zewnętrznego dostawcy, ale modyfikuje go i wdraża pod własną marką, może stać się dostawcą zmodyfikowanego systemu — z pełnym zakresem obowiązków. Zmiana roli następuje także wtedy, gdy firma zmienia przeznaczenie systemu w sposób, który czyni go systemem wysokiego ryzyka.
Poziomy ryzyka AI i obowiązki firm
AI Act opiera się na podejściu opartym na ryzyku. Im większy potencjalny wpływ systemu na bezpieczeństwo, zdrowie lub prawa podstawowe, tym surowsze wymagania. Wyróżnia się cztery główne poziomy.
Zakazane praktyki
Niektóre zastosowania AI są całkowicie zabronione. Do zakazanych praktyk należą m.in.:
- manipulacja podprogowa i techniki wprowadzające w błąd, które mogą wyrządzić znaczną szkodę,
- wykorzystywanie podatności osób ze względu na wiek, niepełnosprawność lub sytuację społeczno-ekonomiczną,
- społeczna ocena (social scoring) osób fizycznych,
- nieukierunkowane zbieranie wizerunków z internetu lub monitoringu w celu tworzenia baz rozpoznawania twarzy,
- rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych (z wyjątkami medycznymi i bezpieczeństwa),
- biometryczna kategoryzacja pozwalająca wnioskować o wrażliwych cechach, takich jak rasa, poglądy polityczne czy orientacja seksualna,
- systemy generujące niekonsensualne treści intymne lub materiały przedstawiające wykorzystywanie seksualne dzieci.
Zakazy dotyczące większości praktyk obowiązują od 2 lutego 2025 r. Nowy zakaz generowania niekonsensualnych treści intymnych i materiałów CSAM zacznie obowiązywać od 2 grudnia 2026 r.
Systemy wysokiego ryzyka
Systemy wysokiego ryzyka są dozwolone, ale podlegają najsurowszym wymaganiom. Klasyfikacja obejmuje dwie ścieżki. Pierwsza dotyczy systemów AI, które są elementami bezpieczeństwa produktów regulowanych unijnymi przepisami sektorowymi (np. wyroby medyczne, maszyny, zabawki, pojazdy) i wymagają oceny zgodności przez jednostkę notyfikowaną. Druga obejmuje systemy wykorzystywane w obszarach wskazanych w załączniku III, m.in.:
- biometria i identyfikacja,
- infrastruktura krytyczna,
- edukacja i szkolenia zawodowe,
- zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia,
- dostęp do podstawowych usług prywatnych i publicznych, w tym ocena zdolności kredytowej i scoring,
- egzekwowanie prawa,
- migracja, azyl i kontrola graniczna,
- wymiar sprawiedliwości i procesy demokratyczne.
Dla systemów wysokiego ryzyka dostawca musi m.in. wdrożyć system zarządzania ryzykiem, zapewnić wysoką jakość danych treningowych, sporządzić dokumentację techniczną, prowadzić rejestr zdarzeń, zaprojektować nadzór ludzki, zapewnić dokładność, odporność i cyberbezpieczeństwo oraz przeprowadzić ocenę zgodności i zarejestrować system w bazie UE.
Wdrożeniowiec systemu wysokiego ryzyka musi natomiast używać systemu zgodnie z instrukcją dostawcy, wyznaczyć kompetentne osoby do nadzoru, monitorować działanie systemu, przechowywać logi przez co najmniej sześć miesięcy oraz informować pracowników i osoby, których dotyczy decyzja, o stosowaniu AI.
Przejrzystość i chatboty
Systemy AI, które wchodzą w interakcję z ludźmi lub generują treści, podlegają obowiązkom przejrzystości. Chodzi o to, aby użytkownik wiedział, że rozmawia z maszyną, a nie z człowiekiem, oraz aby rozpoznawał treści wygenerowane lub zmanipulowane przez AI. Obowiązki te obejmują m.in.:
- informowanie użytkowników, że mają do czynienia z AI (np. chatbot),
- oznaczanie treści syntetycznych w formacie czytelnym maszynowo,
- ujawnianie, że treść jest deepfake’iem,
- informowanie o stosowaniu systemów rozpoznawania emocji lub kategoryzacji biometrycznej.
Obowiązki przejrzystości dotyczące m.in. chatbotów i oznaczania treści stosuje się od 2 sierpnia 2026 r. Część obowiązków związanych z oznaczaniem treści dla systemów wprowadzonych wcześniej może mieć krótszy okres przejściowy.
Modele ogólnego przeznaczenia (GPAI)
Modele ogólnego przeznaczenia, takie jak duże modele językowe, podlegają odrębnym obowiązkom. Dostawcy GPAI muszą m.in. utrzymywać dokumentację techniczną, udostępniać informacje podmiotom wdrażającym modele w systemach oraz prowadzić politykę zgodności z prawem autorskim. Modele o tzw. ryzyku systemowym (np. przekraczające próg mocy obliczeniowej 10^25 FLOP) podlegają dodatkowym wymaganiom: ocenie modelu, testom adwersarialnym, zgłaszaniu poważnych incydentów i zapewnieniu cyberbezpieczeństwa.
Terminy wdrożenia AI Act
AI Act obowiązuje etapowo. Kluczowe daty dla firm przedstawiają się następująco:
| Termin | Zakres obowiązków |
|---|---|
| 2 lutego 2025 | Zakaz praktyk niedozwolonych oraz obowiązek zapewnienia kompetencji AI (AI literacy) |
| 2 sierpnia 2025 | Obowiązki dla dostawców modeli GPAI, nadzór i kary |
| 2 sierpnia 2026 | Większość obowiązków, w tym przejrzystość, oraz część wymogów dla systemów wysokiego ryzyka |
| 2 grudnia 2026 | Zakaz generowania niekonsensualnych treści intymnych i CSAM; część obowiązków oznaczania treści |
| 2 grudnia 2027 | Wymogi dla systemów wysokiego ryzyka z załącznika III (po przesunięciu w ramach Digital Omnibus) |
| 2 sierpnia 2028 | Wymogi dla systemów wysokiego ryzyka wbudowanych w produkty regulowane (załącznik I) |
Warto śledzić zmiany wprowadzane przez tzw. Digital Omnibus, który przesunął część terminów dla systemów wysokiego ryzyka. Nie zwalnia to jednak firm z obowiązków już obowiązujących — w szczególności zakazów i wymogów dotyczących kompetencji AI.
Obowiązki dostawców i wdrożeniowców
Dostawcy systemów wysokiego ryzyka muszą wdrożyć kompletny system zarządzania zgodnością. Obejmuje on m.in.:
- identyfikację i ocenę ryzyka przez cały cykl życia systemu,
- zarządzanie danymi treningowymi, walidacyjnymi i testowymi,
- dokumentację techniczną,
- rejestrowanie zdarzeń,
- przejrzystość i instrukcje dla wdrożeniowców,
- nadzór ludzki,
- ocenę zgodności i rejestrację w bazie UE,
- monitorowanie po wprowadzeniu do obrotu i zgłaszanie poważnych incydentów.
Wdrożeniowiec systemu wysokiego ryzyka ma nieco inne zadania. Powinien:
- używać systemu zgodnie z instrukcją dostawcy,
- wyznaczyć osoby odpowiedzialne za nadzór ludzki,
- monitorować działanie systemu i zgłaszać ryzyka,
- przechowywać logi,
- informować pracowników i osoby dotknięte decyzjami,
- w określonych przypadkach przeprowadzić ocenę wpływu na prawa podstawowe (FRIA).
Dla systemów przejrzystości obowiązki są lżejsze, ale nadal istotne — chodzi przede wszystkim o klarowną komunikację z użytkownikami.
AI Act a GDPR i inne przepisy
AI Act nie zastępuje RODO. Oba akty stosuje się równolegle. Jeśli system AI przetwarza dane osobowe, firma musi mieć podstawę prawną przetwarzania, respektować prawa osób, przeprowadzić ocenę skutków dla ochrony danych (DPIA), jeśli zachodzi wysokie ryzyko, oraz zapewnić minimalizację danych. AI Act dodaje do tego wymogi dotyczące jakości danych, nadzoru ludzkiego, dokumentacji i przejrzystości.
W praktyce oznacza to, że projektując wdrożenie AI, trzeba połączyć analizę zgodności z RODO i AI Act. W sektorach regulowanych — finansach, zdrowiu, zatrudnieniu — dochodzą także przepisy sektorowe i nadzór właściwych organów.
Kary i egzekwowanie
Kary za naruszenie AI Act są wysokie. Za stosowanie zakazanych praktyk grozi kara do 35 mln euro lub do 7% całkowitego rocznego obrotu przedsiębiorstwa — w zależności od tego, która kwota jest wyższa. Za naruszenie innych obowiązków, w tym dotyczących systemów wysokiego ryzyka, kara może wynieść do 15 mln euro lub 3% obrotu. Za przekazanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji organom nadzoru grozi do 7,5 mln euro lub 1% obrotu.
Dla MŚP i startupów przewidziano łagodniejsze zasady — stosuje się niższą z dwóch kwot. Nie zmienia to jednak faktu, że nawet niższa kara może być dotkliwa dla małej firmy.
Egzekwowanie AI Act jest podzielone między Komisję Europejską (AI Office) a krajowe organy nadzoru. AI Office odpowiada przede wszystkim za modele GPAI i systemy wbudowane w bardzo duże platformy internetowe. Organy krajowe nadzorują pozostałe systemy. W Polsce nadzór będzie sprawowany przez wyznaczone organy, a ich właściwość i procedury będą doprecyzowywane w przepisach krajowych.
Checklista wdrożenia AI Act w firmie
Poniższa lista pomoże uporządkować prace. Nie chodzi o jednorazowy projekt, ale o stały proces.
Inwentaryzacja systemów AI
Zacznij od spisu wszystkich systemów AI wykorzystywanych w firmie — nie tylko tych kupionych oficjalnie, ale także narzędzi używanych przez pracowników poza polityką zakupową (tzw. shadow AI). Dla każdego systemu zapisz:
- właściciela biznesowego,
- dostawcę i model,
- cel wykorzystania,
- przetwarzane dane,
- osoby, których dotyczy,
- sposób integracji z procesami,
- lokalizację przetwarzania.
Klasyfikacja ryzyka
Dla każdego systemu oceń, czy mieści się w zakazanym zastosowaniu, czy jest systemem wysokiego ryzyka, czy podlega obowiązkom przejrzystości, czy też ma minimalne ryzyko. Klasyfikacja powinna uwzględniać rzeczywiste przeznaczenie i kontekst użycia, a nie tylko opis marketingowy dostawcy.
Polityka AI i szkolenia
Opracuj wewnętrzną politykę AI. Powinna ona określać:
- zatwierdzone narzędzia,
- zakazane zastosowania,
- zasady wprowadzania danych osobowych i poufnych,
- obowiązek weryfikacji wyników AI,
- procedurę zgłaszania incydentów,
- role i odpowiedzialności.
Przeprowadź szkolenia dopasowane do ról — inne dla działu HR, inne dla marketingu, inne dla IT i compliance. Udokumentuj szkolenia, aby móc wykazać, że firma spełnia obowiązek AI literacy.
Umowy z dostawcami
Przejrzyj umowy z dostawcami AI. Powinny one obejmować m.in.:
- informacje o przeznaczeniu systemu i jego ograniczeniach,
- obowiązki w zakresie zgodności z AI Act,
- sposób zgłaszania incydentów,
- dostęp do dokumentacji i logów,
- zasady przetwarzania danych i podpowierzenia,
- odpowiedzialność za naruszenia,
- okres przechowywania danych.
Jeśli firma modyfikuje system lub zmienia jego przeznaczenie, powinna ocenić, czy nie staje się dostawcą — z pełnym zakresem obowiązków.
Nadzór ludzki i dokumentacja
Dla systemów wysokiego ryzyka zapewnij realny nadzór ludzki: wyznacz osoby kompetentne, daj im czas i uprawnienia do zatrzymania lub zmiany decyzji systemu. Prowadź rejestr zdarzeń i dokumentuj decyzje. Dla pozostałych systemów warto wdrożyć mechanizm eskalacji do człowieka w sytuacjach niepewnych.
Monitorowanie i aktualizacja
AI Act wymaga monitorowania systemów po wdrożeniu. Ustal, kto zbiera informacje o incydentach, jak często dokonywana jest ocena ryzyka i jak aktualizowana jest dokumentacja. Pamiętaj, że zmiana modelu, danych lub przeznaczenia systemu może wymagać ponownej klasyfikacji.
FAQ
Czy AI Act dotyczy tylko firm technologicznych?
Nie. AI Act dotyczy niemal każdej firmy, która wykorzystuje AI w działalności zawodowej. Nawet jeśli przedsiębiorstwo nie tworzy modeli, ale używa narzędzi AI w HR, finansach, marketingu lub obsłudze klienta, może podlegać obowiązkom wdrożeniowca.
Czy korzystanie z ChatGPT oznacza naruszenie AI Act?
Samo korzystanie z generatora tekstu nie jest zakazane. Ryzyko pojawia się, gdy narzędzie jest używane bez kontroli, z danymi wrażliwymi lub do decyzji wymagających nadzoru, przejrzystości i dokumentacji. Kluczowe jest przeznaczenie i kontekst.
Kiedy firma staje się dostawcą systemu AI?
Gdy opracowuje system lub zleca jego opracowanie i wprowadza go do obrotu pod własną marką, a także gdy dokonuje istotnej modyfikacji systemu wysokiego ryzyka lub zmienia jego przeznaczenie w sposób powodujący, że staje się systemem wysokiego ryzyka.
Czy AI Act zastępuje RODO?
Nie. Oba akty stosuje się równolegle. AI Act nie daje nowej podstawy prawnej przetwarzania danych. Firma musi spełniać zarówno wymogi RODO, jak i AI Act.
Jakie kary grożą za niezgodność?
Maksymalne kary wynoszą do 35 mln euro lub 7% globalnego obrotu za zakazane praktyki, do 15 mln euro lub 3% obrotu za naruszenie innych obowiązków oraz do 7,5 mln euro lub 1% obrotu za wprowadzanie organów w błąd.
Od kiedy obowiązują wymogi dla systemów wysokiego ryzyka?
Część wymogów dla systemów wysokiego ryzyka z załącznika III stosuje się od 2 grudnia 2027 r., a dla systemów wbudowanych w produkty regulowane — od 2 sierpnia 2028 r. Wcześniej obowiązują zakazy, obowiązki przejrzystości i wymogi dotyczące kompetencji AI.
Podsumowanie
AI Act dla firm to nie tylko obowiązek prawny, ale także szansa na uporządkowanie sposobu wykorzystania sztucznej inteligencji. Firmy, które wcześnie zrobią inwentaryzację systemów, klasyfikację ryzyka, politykę AI i przegląd umów, będą mogły rozwijać AI w sposób kontrolowany i bezpieczny. Odwlekanie prac do momentu kontroli zwykle kończy się droższym i bardziej ryzykownym wdrożeniem.
Najważniejsze kroki to: poznanie własnych systemów AI, zrozumienie roli w łańcuchu wartości, klasyfikacja ryzyka, zabezpieczenie umów i danych, przeszkolenie zespołów oraz ustalenie zasad nadzoru ludzkiego. To fundament, na którym można budować zgodność z AI Act i jednocześnie czerpać korzyści z AI.
Źródła: Rozporządzenie (UE) 2024/1689; wytyczne Komisji Europejskiej dotyczące zakazanych praktyk i definicji systemu AI; komunikaty AI Office; materiały krajowych organów nadzoru.
Umowa SLA – co to jest, elementy, rodzaje i wzór
Outsourcing IT dla firm – kompletny przewodnik