Magazyn
Checklista wdrożeniowa AI w organizacji
Przedstawiamy prosty dokument, który może stanowić mapę drogową tego, jak prawidłowo i świadomie wdrożyć AI w organizacji, aby zapewnić zgodność z AI Act, a nawet stworzyć podstawy pod wdrożenie ISO/IEC 42001:2023
Przedstawiamy prosty dokument, który może stanowić mapę drogową tego, jak prawidłowo i świadomie wdrożyć AI w organizacji, aby zapewnić zgodność z AI Act, a nawet stworzyć podstawy pod wdrożenie ISO/IEC 42001:2023
Dokument pisany był przed wejściem w życie wszystkie obowiązków opisanych w AI Act - był pisany jednak dla organizacji, które chcą już teraz zapewnić zgodność z zasadami, które dopiero wejdą w życie.
Gwiazdką * oznaczono Kroki, które dotyczą tylko organizacji będących dostawcami własnych Systemów AI, przy czym dwoma gwiazdkami ** wskazano Kroki obowiązujące dostawców systemów wysokiego ryzyka (dostawcy innych systemów mogą, lecz nie muszą, zastosować się do niektórych z nich).
| KROK | CO NALEŻY ZROBIĆ | W SKRÓCIE |
|---|---|---|
| ETAP 1 - INWENTARYZACJA I PODSTAWOWA ZGODNOŚĆ | ||
| 1.1. | Dokonaj inwentaryzacji obecnych lub planowanych systemów AI | Sporządź pełną „Mapę AI w organizacji" - listę wszystkich systemów AI, które organizacja używa, wdraża lub buduje, wraz z ich przeznaczeniem, właścicielami i przepływami danych. Nie zapomnij o narzędziach używanych przez pracowników na własną rękę - nieuregulowane „shadow AI" to realne ryzyko prawne i operacyjne. |
| 1.2. | Określ rolę organizacji (dostawca/podmiot stosujący) dla każdego systemu AI w organizacji | AI Act rozróżnia dwie kluczowe role: dostawcę (provider), który tworzy lub wprowadza system na rynek, oraz podmiot stosujący (deployer), który korzysta z cudzego systemu. Jedna organizacja może jednocześnie pełnić obie role - np. budować własny produkt AI i korzystać z zewnętrznych narzędzi. Obowiązki różnią się znacząco w zależności od tej klasyfikacji. |
| 1.3. | Zidentyfikuj i wyeliminuj praktyki zakazane | AI Act bezwzględnie zakazuje określonych zastosowań AI - m.in. manipulacji podprogowej, social scoringu, rozpoznawania emocji w miejscu pracy czy masowego pozyskiwania danych biometrycznych. Dodatkowo zakazane są systemy generujące niekonsensualne materiały intymne oraz materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych. Zakazy dotyczą zastosowania, a nie samego systemu - nawet „legalny” system może naruszać AI Act, jeśli jest używany w zakazany sposób. W razie zidentyfikowania zakazanego zastosowania, należy je niezwłocznie zaprzestać. Pełną listę praktyk zakazanych znajdziesz w Artykule 5 AI Act. |
| 1.4. | Wdróż zasady wspierania kompetencji AI (AI Literacy) - obowiązek ustawowy z AI Act | AI Act nakłada na każdą organizację obowiązek podjęcia środków wspierających rozwój kompetencji w zakresie AI. Szkolenia należy dostosować do roli danej osoby (operacyjna, nadzorcza, techniczna) i zaplanować je także dla nowych członków organizacji. UWAGA: przed pakietem Omnibus dla AI Act, ww. zakres był obowiązkiem zapewnienia zapewnienia odpowiedniego poziomu wiedzy i kompetencji AI u wszystkich pracowników korzystających z systemów - został złagodzony do “podjęcia środków wspierających rozwój kompetencji AI”. |
| 1.5. | Zidentyfikuj systemy AI wysokiego ryzyka | Systemy wysokiego ryzyka to te wymienione w Załączniku III AI Act (m.in. rekrutacja, scoring kredytowy, biometria, edukacja, ochrona zdrowia) lub stanowiące element produktów objętych unijnym prawodawstwem harmonizacyjnym. Ta kategoria wymusza wdrożenie najbardziej restrykcyjnego reżimu obowiązków nakładanych przez unijnego prawodawcę - zarówno na dostawców, jak i podmioty stosujące. |
| 1.6. | Zidentyfikuj modele AI ogólnego przeznaczenia (GPAI) i pozostałe systemy AI | Modele GPAI (np. ChatGPT, Claude, Gemini) to szczególna kategoria - zdolne do wykonywania szerokiego zakresu zadań, podlegają odrębnym obowiązkom w AI Act. Organizacja musi w szczególności zweryfikować, czy dostawca takich modeli przekazał jej odpowiednią dokumentację techniczną ułatwiającą zrozumienie ich działania i prawidłowe korzystanie. |
| ETAP 2 - OCHRONA DANYCH I PROJEKTOWANIE SYSTEMÓW AI | ||
| 2.1. | Oceń, czy systemy przetwarzają dane osobowe | Praktycznie każdy system AI operujący na danych o użytkownikach, pracownikach lub klientach przetwarza dane osobowe i podlega RODO. Dla każdego systemu należy zidentyfikować kategorie danych, podstawę prawną, cel, zakres i okres retencji - zarówno jako dostawca, jak i jako podmiot stosujący. |
| 2.2. | Wdróż zasadę privacy by design oraz minimalizację danych | Już na etapie projektowania lub wyboru zewnętrznego systemu AI należy wbudować ochronę danych: minimalizacja zbieranych danych, pseudonimizacja, szyfrowanie i kontrola dostępu. Przetwarzanie powinno obejmować wyłącznie dane niezbędne do osiągnięcia konkretnego celu, a podstawa prawna przetwarzania musi być jasno ustalona przed uruchomieniem systemu. |
| 2.3. | Opisz cykl życia systemu AI (opcjonalne) | Stwórz ustrukturyzowaną dokumentację obejmującą każdą fazę wdrożenia, począwszy od określenia specyfikacji celów, przez testy, aż po proces bezpiecznego wycofania z użytku. Zapewnia to utrzymanie nadzoru w cyklu życia oprogramowania. Standard ten wywodzi się z dobrych praktyk opisywanych przez normę ISO/IEC 42001:2023. |
| 2.4. ** | Opracuj i wdróż system zarządzania jakością | Dostawcy systemów wysokiego ryzyka muszą wdrożyć udokumentowany system zarządzania jakością obejmujący procedury projektowania, testowania, walidacji, zarządzania danymi i reagowania na incydenty. System powinien być proporcjonalny do wielkości organizacji i aktualizowany w miarę postępu prac nad systemem AI. Po więcej szczegółów, zobacz art. 17 AI Act. |
| 2.5. ** | Opracuj i wdróż system zarządzania ryzykiem | Wymagany jest ciągły, udokumentowany proces zarządzania ryzykiem przez cały cykl życia systemu - obejmujący identyfikację, analizę i ocenę ryzyk dla zdrowia, bezpieczeństwa i praw podstawowych. Proces ten musi obejmować konkretne środki zaradcze wobec zidentyfikowanych ryzyk oraz regularne testy systemu. Szczegółowe wymagania określa art. 9 AI Act. Warto sprawdzić, czy nie istnieje unijne prawodawstwo harmonizacyjne, które zapewnia równoważny lub wyższy poziom ochrony - w takiej sytuacji niektóre obowiązki z zakresu zarządzania ryzykiem określone w AI Act znajdą ograniczone zastosowanie. |
| 2.6. ** | Zapewnij bezpieczeństwo i jakość danych treningowych | Dane używane do trenowania i testowania systemu AI muszą być reprezentatywne, wolne od błędów systemowych i uprzedzeń (bias), właściwie oznaczone i przetworzone zgodnie z RODO. Słaba jakość danych treningowych to jedno z głównych źródeł dyskryminacyjnych lub błędnych wyników działania systemu AI. Zwróć uwagę, że Pakiet Omnibus rozszerza podstawę prawną przetwarzania szczególnych kategorii danych osobowych w celu wykrywania i korygowania stronniczości, jeżeli nie jest to możliwe przy użyciu innych danych (np. syntetycznych lub zanonimizowanych) - ale wymaga w tym celu stosowania odpowiednich zabezpieczeń, m.in. ograniczeń technicznych dotyczących ponownego wykorzystywania danych, pseudonimizacji, ścisłej kontroli dostępu, nieudostępniania danych innym podmiotom, usuwania danych po skorygowaniu stronniczości lub upływie okresu przechowywania. |
| 2.7. ** | Zaprojektuj i wdróż mechanizmy nadzoru ludzkiego (human in the loop) | System AI musi być zaprojektowany tak, aby człowiek mógł rozumieć jego działanie, wykrywać anomalie, a w razie potrzeby - zignorować lub odwrócić decyzję systemu, a nawet go zatrzymać. |
| 2.8. ** | Zapewnij mechanizm rejestrowania zdarzeń | System musi automatycznie rejestrować zdarzenia mogące stanowić ryzyko, incydenty oraz sytuacje wpływające na monitoring systemu po wprowadzeniu na rynek. Pozwala to na sprawną reakcję incydentową oraz właściwe monitorowanie oprogramowania w środowisku rynkowym, jak i ma znaczenie audytowe dla ewentualnych postępowań przed organami nadzorczymi. W przypadku systemów biometrycznych zakres rejestrowanych danych jest rozszerzony. |
| ETAP 3 - WERYFIKACJA SYSTEMU PRZED UŻYCIEM | ||
| 3.1. | Przeprowadź ogólną ocenę ryzyka (opcjonalne) | Przed uruchomieniem systemu przeprowadź i udokumentuj ocenę ryzyk technicznych, prawnych, operacyjnych i reputacyjnych, wskazując prawdopodobieństwo i skutki każdego z nich. Ocena powinna obejmować konkretne środki zaradcze i harmonogram ich wdrożenia, a jej wyniki należy archiwizować. Należy ją powtarzać przy każdej istotnej zmianie systemu lub kontekstu jego użycia. Metodologia ta uregulowana jest w normie ISO/IEC 42001:2023. |
| 3.2. | Przeprowadź ocenę wpływu systemu AI (oraz FRIA dla wskazanych podmiotów) | Przeanalizuj oddziaływanie wykorzystywanych i rozwijanych systemów na jednostki ludzkie w zakresie dobrostanu czy implikacji społecznych (opcjonalnie). Podmioty sektora bankowo-ubezpieczeniowego i organy publiczne muszą obligatoryjnie wykonać i zaraportować Ocenę Wpływu na Prawa Podstawowe (FRIA). Podmioty stosujące mogą załączyć odniesienia do odpowiednich sekcji oceny skutków dla ochrony danych (DPIA) zamiast powielać analizę, jeżeli obowiązki FRIA zostały już częściowo spełnione w wyniku DPIA. |
| 3.3. | Zapewnij przejrzystość dla osób, które mają styczność z AI | Osoby wchodzące w interakcję z systemem AI muszą być o tym poinformowane przed rozpoczęciem korzystania z rozwiązania - dotyczy to zarówno użytkowników chatbotów, jak i osób, wobec których stosowane są systemy rozpoznawania emocji czy kategoryzacji biometrycznej. Treści generowane przez AI (deepfake, tekst, obrazy) muszą być odpowiednio oznaczone jako sztucznie wytworzone. |
| 3.4. | Zapewnij prawidłowe stosowanie systemów AI | Systemy AI należy używać wyłącznie zgodnie z ich przeznaczeniem i instrukcjami dostawcy, a personel musi posiadać odpowiednie szkolenia i uprawnienia do sprawowania nadzoru ludzkiego. Wszelkie anomalie i poważne incydenty należy zgłaszać dostawcy systemu. Niezgodne z przeznaczeniem użycie systemu AI może generować odpowiedzialność prawną po stronie podmiotu stosującego. |
| 3.5. | Dokonaj oceny skutków dla ochrony danych (DPIA) | DPIA jest obowiązkowa, gdy system AI przeprowadza profilowanie będące podstawą decyzji o skutkach prawnych, przetwarza na dużą skalę dane szczególnych kategorii lub systematycznie monitoruje miejsca publicznie dostępne. Jeśli po wdrożeniu środków zaradczych ryzyko pozostaje wysokie, przed uruchomieniem systemu wymagane są konsultacje z organem nadzorczym (w Polsce: UODO). |
| 3.6. | Zweryfikuj, czy zachodzi zautomatyzowane podejmowanie decyzji | Zbadaj procesy decyzyjne i zidentyfikuj sytuacje, w których system na bieżąco generuje rozstrzygnięcia istotnie wpływające na status człowieka. Zabezpiecz podstawy prawne i upewnij się, że zapewniono osobie fizycznej prawo do merytorycznej interwencji ludzkiej. |
| 3.7. | Zadbaj o umowy powierzenia danych | Przed uruchomieniem systemu AI, w którym dochodzi do powierzenia przetwarzania danych osobowych, należy zawrzeć umowę powierzenia (DPA) spełniającą wymogi RODO. Dotyczy to zarówno sytuacji, gdy organizacja jest dostawcą, jak i gdy korzysta z zewnętrznego systemu AI jako podmiot stosujący. |
| 3.8. | Zaktualizuj rejestr czynności przetwarzania (RCPD) | Wszystkie nowe czynności przetwarzania danych związane z= systemami AI należy wpisać do rejestru czynności przetwarzania, uwzględniając opis logiki zautomatyzowanego przetwarzania. |
| ETAP 4A*, Dokumentacja i przejrzystość przed wejściem na rynek (dla dostawców) | ||
| 4A.1. * | Przygotuj wymaganą dokumentację techniczną | Przed wprowadzeniem systemu AI na rynek należy sporządzić pełną dokumentację techniczną - obejmującą opis systemu, architekturę, dane treningowe, środki nadzoru i cyberbezpieczeństwa. Szczegółowy zakres dla systemów wysokiego ryzyka określa Załącznik IV do AI Act; dokumentacja musi być aktualizowana przez cały cykl życia systemu. Dla modeli GPAI stosuje się Załącznik XI do AI Act. MŚP, w tym przedsiębiorstwa typu start-up, i małe spółki o średniej kapitalizacji mogą przedstawić dokumentację techniczną w formie uproszczonej. Jeżeli organizacja zdecyduje się na uproszczoną formę, korzysta ze wzoru ustanowionego przez Komisję, a organy akceptują ten wzór do celów oceny zgodności. |
| 4A.2. ** | Przygotuj instrukcję użytkownika | Każdy system AI wysokiego ryzyka musi być wyposażony w jasną, kompletną instrukcję obsługi dla podmiotu stosującego, opisującą możliwości, ograniczenia, ryzyka i mechanizmy nadzoru systemu. Instrukcja powinna być napisana dostępnym językiem i obejmować m.in. wymagania techniczne, plan cyklu życia oraz opis mechanizmów logowania zdarzeń - zobacz wymogi opisane w art. 13 AI Act. |
| 4A.3. * | Zapewnij przejrzystość systemu AI zgodnie z wymogami | Każdy system AI wchodzący w bezpośrednią interakcję z osobami fizycznymi musi być zaprojektowany tak, aby użytkownicy wiedzieli, że rozmawiają z AI i byli o tym informowani - chyba że jest to dla przeciętnego użytkownika oczywiste. Obowiązek ten dotyczy wszystkich dostawców systemów AI, niezależnie od poziomu ryzyka. |
| 4A.4. * | Zapewnij oznaczenie treści generowanych przez AI | Systemy generujące obrazy, dźwięk, tekst lub wideo muszą automatycznie oznaczać te treści w formacie nadającym się do odczytu maszynowego, tak aby były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. |
| 4A.5. * | Dot. modeli GPAI - zapewnij spełnienie pozostałych wymogów dla GPAI | Dostawcy modeli GPAI muszą sporządzić i aktualizować dokumentację techniczną, udostępniać ją integratorom systemu oraz opublikować streszczenie danych treningowych zgodne ze wzorem Urzędu ds. AI. Obowiązkowe jest także wdrożenie polityki zgodności z prawem autorskim. Modele open source są częściowo zwolnione z tych obowiązków. |
| ETAP 4B** - Finalne formalności i wejście na rynek (dla dostawców systemów wysokiego ryzyka) | ||
| 4B.1. ** | Przeprowadź ocenę zgodności, wystaw Deklarację Zgodności UE i nadaj oznakowanie CE | Przed wprowadzeniem systemu na rynek należy potwierdzić jego zgodność z wymogami AI Act - w większości przypadków w formie samokontroli dostawcy. W obszarach podwyższonego ryzyka (np. biometria, infrastruktura krytyczna) wymagana jest ocena przez akredytowaną jednostkę zewnętrzną; po pozytywnej ocenie wystawia się Deklarację Zgodności UE i umieszcza oznakowanie CE. |
| 4B.2. ** | Zarejestruj system w unijnej bazie danych | Przed wprowadzeniem systemu AI wysokiego ryzyka na rynek należy zarejestrować go - wraz z danymi organizacji - w unijnej bazie danych systemów AI. Obowiązek ten dotyczy również systemów z Załącznika III, które dostawca uznał za niespełniające progu wysokiego ryzyka na podstawie art. 6 ust. 3 AI Act. |
| 4B.3. ** | Monitoruj system po wejściu na rynek i reaguj na incydenty | Po uruchomieniu systemu należy wdrożyć plan monitorowania jego efektywności i bezpieczeństwa oraz ustanowić procedury zgłaszania poważnych incydentów organom nadzorczym. W razie wystąpienia incydentu należy reagować zgodnie z procedurami i informować użytkowników systemu. |
| ETAP 5 - Mastering AI i ład organizacyjny (opcjonalny etap) | ||
| 5.1. | Przyjmij formalną Politykę AI na poziomie Zarządu | Zarząd organizacji powinien przyjąć i wdrożyć politykę AI określającą cele organizacji w zakresie AI, zobowiązanie do zgodności z prawem i ciągłego doskonalenia systemu zarządzania AI. Polityka powinna uwzględniać wewnętrzne kanały zgłaszania incydentów i obaw etycznych przez pracowników oraz klientów. |
| 5.2. | Wyznacz role i odpowiedzialność | Należy formalnie przypisać wybranym osobom w organizacji odpowiedzialność za zgodność systemów AI z prawem, raportowanie do zarządu oraz nadzór nad poszczególnymi systemami AI. Rekomendowane jest powołanie dedykowanej roli lub komitetu ds. AI - analogicznie do Inspektora Ochrony Danych (IOD) w strukturach RODO. |
| 5.3. | Określ zasady zarządzania danymi AI | Należy udokumentować procesy zarządzania danymi wykorzystywanymi przez systemy AI - wskazując źródła, wymagania jakościowe, zasady śledzenia ich pochodzenia i metody przygotowania danych. |
| 5.4. | Określ zasady zarządzania relacjami z dostawcami AI | Umowy z dostawcami zewnętrznych systemów AI powinny jasno rozdzielać odpowiedzialność, obejmować wymogi AI Act i RODO oraz zapewniać, że praktyki dostawców są zgodne z odpowiedzialnym podejściem do AI organizacji. |
| 5.5. | Określ zasady wewnętrznych audytów i przeglądów | Należy wdrożyć regularne audyty wewnętrzne systemu zarządzania AI, których wyniki, wraz z wnioskami i decyzjami o działaniach doskonalących, będą raportowane do zarządu. |
Powyższe zestawienie to solidny punkt wyjścia, ale musisz pamiętać, że bezpieczne i zgodne z unijnym rynkiem wdrożenie sztucznej inteligencji nie jest jednorazowym zadaniem. Wymaga technicznych i formalnych modyfikacji procesów Twojej firmy, precyzyjnej oceny specyfiki biznesowej oraz sporządzenia dokumentacji - a następnie ich aktualizowania wraz z rozwojem organizacji.
Jeżeli pojawią się u Ciebie wątpliwości lub chcesz oddać stworzenie niektórych procedur czy polityk profesjonalistom, zachęcamy do kontaktu z kancelarią dotlaw pod adresem kontakt@dotlaw.co lub za pośrednictwem formularza na stronie dotlaw.co. Wspólnie stworzymy polityki i procesy, które z jednej strony zabezpieczą Cię od strony formalnej, a z drugiej nie będą tylko „papierem dla audytora”, a praktycznymi instrukcjami, które pozwolą Twojej organizacji na bezpieczne i efektywne korzystanie z AI.
TagiAIChecklista
Autor
Łukasz RodakSenior Associate
Radca prawny z ponad 10-letnim doświadczeniem na styku prawa i technologii. Specjalizuje się w kontraktach IT, ochronie własności intelektualnej i compliance technologicznym, w tym cyberbezpieczeństwie. Posiada ponadto szerokie doświadczenie w tworzeniu i negocjowaniu rozbudowanych umów gospodarczych, także międzynarodowych. Przeprowadzał kompleksowe audyty due diligence oprogramowania open source, projektował wielowarstwowe umowy regulujące produkcję urządzeń objętych ochroną patentową oraz tworzył mechanizmy kontraktowe automatyzujące negocjacje cenowe w oparciu o BOM. Przed dołączeniem do dotlaw przez 5 lat doradzał polskiemu liderowi branży elektromobilności, będąc odpowiedzialnym za tematy związane z prawem IT i własności intelektualnej, tworząc także liczne szablony umów ułatwiające pracę działów sprzedaży. Absolwent Wydziału Prawa Uniwersytetu Wrocławskiego.
Poznaj autora
