Małgorzata Kozak: Nowy nadzór nad AI, ale nadal brakuje całościowego podejścia

Ministerstwo Cyfryzacji w połowie października opublikowało projekt ustawy, której celem jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi rozporządzeniem 2024/1689 (akt o AI), które weszło w życie 1 sierpnia 2024 r.

Czytaj więcej

Opinie Prawne

Maciej Gawroński: Nie mnóżmy strażników sztucznej inteligencji

„Czasy się zmieniają, ale Pan zawsze jest w komisjach”. Czyli dlaczego to Urząd Ochrony Danych Osobowych powinien kontrolować dane i sztuczną inteligencję, a nie ministerstwo cyfryzacji powoływać sobie własnego nadzorcę.

Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie muszą ustanowić lub wyznaczyć co najmniej jeden niezależny organ nadzoru rynku jako krajowy organ odpowiedzialny za nadzór.

Nowy organ, który zajmie się sztuczną inteligencją

Po przeprowadzeniu konsultacji, Ministerstwo zaproponowało utworzenie nowej instytucji wyspecjalizowanej w nadzorowaniu sektora sztucznej inteligencji oraz wspieraniu jego rozwoju. Ta instytucja, która pełniłaby rolę nie tylko organu regulacyjnego, ale także działałaby na rzecz wzmocnienia branży AI w Polsce, miałaby funkcjonować jako „jednostka ekspercka” współpracująca z innymi organami publicznymi w obszarze AI. W projekcie nazwano ją Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej "KRIBSI" lub “Komisja”). W tym krótkim artykule chciałabym przeanalizować propozycję Ministerstwa odnosząc się również do szerszego kontekstu regulacyjnego sektora nowych technologii.

W swoim artykule podnosiłam już konieczność zapewnienia ram koordynacji regulacji i nadzoru nad nowymi technologiami jak i konieczności wzmocnienia niezależności organów regulacyjnych. Mimo nowoczesnego i specjalistycznego charakteru projektu pojawia się pytanie: czy utworzenie KRIBSI to wystarczające rozwiązanie? Wciąż brak wyraźnych wskazań, jak nowy organ będzie współpracować z już istniejącymi instytucjami regulacyjnymi, a wzmocnienie ich zasobów wydaje się kluczowe. Niezbędne są też zasoby na zwiększenie obsady kadrowej i finansowania obecnych organów.

Czytaj więcej

Prawo w Polsce

Firma nie ukryje stosowania AI? Związkowcy triumfują, biznes się niepokoi

Pracodawcy mają informować związkowców o stosowanych systemach sztucznej inteligencji. Biznes się obawia, że wyciekną tajemnice przedsiębiorstw.

W uzasadnieniu zmian podkreślono, że w organach administracji publicznej brakuje wystarczającej liczby ekspertów posiadających zaawansowaną wiedzę w obszarach takich jak technologie AI, przetwarzanie i ochrona danych, cyberbezpieczeństwo, prawa podstawowe, zagrożenia dla zdrowia i bezpieczeństwa oraz obowiązujące normy i wymagania prawne. Pytanie czy nowy organ który ma zatrudniać ponad 100 pracowników stworzy taką bazę ekspercką pozostaje otwarte.

Nowy organ ds. AI. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej skład

KRIBSI ma być organem nadzoru rynku w zakresie systemów sztucznej inteligencji, pełniącym również funkcję pojedynczego punktu kontaktowego zgodnie z art. 70 ust. 2 rozporządzenia 2024/1689.

Komisja będzie organem niezależnym, co oznacza, że nie będzie podlegała bezpośredniemu nadzorowi żadnego ministerstwa. Jej struktura została zaprojektowana w taki sposób, aby zapewnić różnorodne kompetencje i niezależność, porównywalnie do Komisji Nadzoru Finansowego (KNF). W jej skład wchodzi 12 osób w tym wybierany kadencyjnie Przewodniczący Komisji, dwóch Zastępców Przewodniczącego oraz dziewięciu członków reprezentujących różne instytucje państwowe. W posiedzeniach Komisji mogą również uczestniczyć przedstawiciele kluczowych organów i instytucji, a także organizacje społeczne.

Przy Komisji ma funkcjonować Społeczna Rada do spraw Sztucznej Inteligencji, pełniąca rolę organu opiniodawczo-doradczego. W skład Rady wchodzi od dziewięciu do piętnastu członków, wybieranych przez Komisję na dwuletnią kadencję. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji.

Kompetencje Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji

Komisja, działając w ramach swoich kompetencji, podejmuje uchwały, w tym decyzje administracyjne i postanowienia zgodnie z przepisami szczegółowymi.

Czytaj więcej

Komentarze

Jan Skoumal: AI zamiast ekspertów i sztuczna Szymborska. Nowa, wspaniała oferta dla młodych?

Dziś mogliśmy posłuchać wywiadu, który dziennikarka Off Radia Kraków Emilia Nowak przeprowadziła z poetką Wisławą Szymborską. Problem w tym, że pierwsza z nich nie istnieje, a druga od lat nie żyje.

Do zadań Komisji należy kontrola przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, działania wspierające rynek wewnętrzny UE, monitorowanie i rozwój AI, przeciwdziałanie zagrożeniom bezpieczeństwa AI, opiniowanie projektów aktów prawnych, rozpatrywanie naruszeń przepisów AI, realizacja zadań nadzoru rynku, publikacje edukacyjne, współpraca międzynarodowa, gromadzenie orzecznictwa, tworzenie piaskownic regulacyjnych, prowadzenie rejestru skarg oraz wydawanie interpretacji. Komisja może również upoważniać Przewodniczącego, Zastępców oraz pracowników Biura do podejmowania działań w ramach jej kompetencji, w tym do wydawania decyzji i postanowień.

Wśród kompetencji Komisji, bardzo interesująca jest możliwość wydawania interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy w indywidualnej sprawie przez Przewodniczącego Komisji, choć możliwość dokonywania wiążącej interpretacji rozporządzenia UE przez polski organ budzi wątpliwości w świetle prawa UE. Wniosek może dotyczyć istniejącego lub przyszłego stanu faktycznego, zwłaszcza w zakresie kwalifikacji systemu jako sztucznej inteligencji i oceny ryzyka. Wniosek kosztuje 150 zł zgodnie z Ordynacją podatkową. Opłaty za wydawanie interpretacji indywidualnych są przychodem Biura Komisji.

Projekt ustawy zawiera szereg rozwiązań analogicznych do tych, które obowiązują już na podstawie ustawy o ochronie konkurencji i konsumentów, pozwalając KRIBSI m.in. na kontrolę podmiotów zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Kontrolujący mogą przeprowadzać czynności w siedzibie podmiotu lub miejscu jego działalności, wchodzić na teren i do obiektów, żądać udostępnienia dokumentów oraz zabezpieczać materiały. Mają prawo do oględzin, przetwarzania danych osobowych i opieczętowywania lokali w zakresie koniecznym do kontroli. Ochronie podlega tajemnica adwokacka i radcowska, ale wyłącznie zewnętrznego pełnomocnika. Odwołania od decyzji Komisji rozpatruje Sąd Ochrony Konkurencji i Konsumentów.

Podsumowanie. Co dalej z polską AI i nową komisją do spraw sztucznej inteligencji?

Proponowane działania wprowadzają nowatorskie rozwiązania, mające zapewnić kontrolę nad rozwojem i wdrażaniem sztucznej inteligencji. Jednak brakuje w nich konkretnych mechanizmów, które zachęcałyby przedsiębiorców do inwestycji w tę dziedzinę.

Czytaj więcej

Prawo dla Ciebie

Sztuczna inteligencja. Przyszłość, która staje się teraźniejszością

AI przenika niemal każdą branżę. W jaki sposób sztuczna inteligencja wpływa na nasze życie? Jakie niesie zagrożenia i jakie nowe szanse?