Dariusz Standerski, wiceminister cyfryzacji: Komisja rozpatrzy skargi na AI

Jeśli ktoś poczuje się dyskryminowany przez system AI, np. u lekarza, w pracy, w komunikacji miejskiej, będzie mógł złożyć skargę – mówi Dariusz Standerski, sekretarz stanu w Ministerstwie Cyfryzacji.

Publikacja: 16.10.2024 04:46

Warszawa, 13.09.2024. Wiceminister cyfryzacji Dariusz Standerski podczas briefingu.

Warszawa, 13.09.2024. Wiceminister cyfryzacji Dariusz Standerski podczas briefingu.

Foto: Tomasz Gzell/PAP

Co znajdzie się w projekcie ustawy o systemach sztucznej inteligencji?

Wdraża ona europejski AI Act, ale chcemy, żeby to wdrożenie było elastyczne i żeby dotyczyło nie tylko samych reguł, ale również dawało przestrzeń rozwoju sztucznej inteligencji. Dlatego po pierwsze, ustawa powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie organem nadzoru rynku zgodnie z rozporządzeniem. Chcemy, by komisja była organem, który w sposób sprawny będzie dopuszczał systemy wysokiego ryzyka do rynku. Nie będzie ograniczać się do sztywnych regulacji ustawowych. Planujemy przyznać jej kompetencje do wydawania interpretacji generalnych i indywidualnych. Ponieważ kolejne systemy i funkcjonalności będą interpretowane w ramach rozporządzenia, nie chcemy, by każda z nich wymagała nowej ustawy. Dlatego wzorem administracji skarbowej komisja zyska możliwość wydawania interpretacji w zakresie ważnych zmian technologicznych, jeśli chodzi o AI.

Co będą zawierały te interpretacje i czy będą wiążące?

Będą one wskazywały przedsiębiorcom kierunki. Chcąc wypuścić na rynek nową ofertę i nie wiedząc, czy będzie to system wysokiego ryzyka, czy może system zakazany, firma będzie mogła zwrócić się o interpretację. Dzięki temu przed wypusz-czeniem na rynek i poniesie-niem dużej części kosztów będzie miała już taką informację. To ma dać firmom komfort rozwijania technologii, zapewnić stabilność. Możliwości będą bardzo różne – od prostego testu na stronie internetowej organu, który pozwoli sprawdzić, czy dany system wchodzi w zakres praktyk zakazanych, po interpretacje bezpośrednio od komisji, dotyczące nowych, niezna-nych dziś systemów opartych na AI. To elastyczne podejście i możliwość dopasowywania się do rozwoju technologii.

Kto wejdzie w skład komisji?

Komisja będzie składać się z przewodniczącego, dwóch zastępców oraz dziewięciu członków, wśród których znajdą się: przedstawiciele ministra cyfryzacji, ministra koordynatora służb specjalnych, Komisji Nadzoru Finansowego, rzecznika praw obywatelskich, rzecznika praw dziecka, Krajowej Rady Telewizji i Telewizji oraz prezesi UOKiK, UODO i UKE. To będą członkowie komisji z prawem głosu, ale nie chcemy, żeby komisja „zamykała się” i dlatego przewidujemy, że w jej posiedzeniach mogą uczestniczyć przedstawiciele Kancelarii Prezydenta, Sejmu, Senatu, ministra obrony narodowej, ministra kultury, ministra rozwoju, Polskiego Centrum Akredytacji, Polskiego Komitetu Normalizacyjnego. Co ważne, chcemy też dopuścić przedstawicieli stron Rady Dialogu Społecznego, czyli pracodawców i pracowników, oraz rzecznika praw pacjenta, rzecznika finansowego, rzecznika małych i średnich przedsiębiorców, Państwowej Inspekcji Pracy, Urzędu Patentowego, no i samego Biura Komisji. Chcemy, żeby informacje o pracach komisji były szeroko znane, aby każdy mógł na nie zwracać uwagę. Planujemy też po- wołanie przy Komisji Rady Społecznej, która będzie gromadziła osoby z trzeciego sektora.

Czyli kogo dokładnie?

Chcemy, żeby przy Radzie Społecznej działały osoby, które są zgłoszone przez stronę samorządową Komisji Wspólnej Rządu i Samorządu, przez RPO, RPD, izby gospodarcze, związki zawodowe oraz organizacje pozarządowe. Chcemy, żeby ta Rada Społeczna mogła wspierać komisję swoimi opiniami i stanowiskami w poszczególnych obszarach działalności komisji.

Wracając do składu komisji – wskazane dziewięć instytucji będzie mieć po jednym przedstawicielu, a do tego powołany zostanie przewodniczący i dwóch następców. Kto ich mianuje?

Przewodniczącego powoła premier spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Będzie on musiał, poza ogólnymi warunkami, posiadać szczególny dorobek i wyróżniać się wiedzą z zakresu sztucznej inteligencji lub prawa, doświadczenie zawodowe zdobyte w czasie pracy naukowej, w obszarze cyberbezpieczeństwa lub informatyki ogólnej i trzyletni staż pracy na stanowiskach kierowniczych. Nabór ma być publicznie ogłoszony, przeprowadzi go komisja kwalifikacyjna. Wszystko tu ma być jawne, publikowane w Biuletynie Informacji Publicznej. Także zastępców przewodniczącego komisji powoła premier spośród osób wskazanych przez samego przewodniczącego. Muszą one jednak spełniać takie same warunki jak przewodniczący. Chcemy też, żeby przewodniczący mógł sobie dobrać najbliższych współpracowników, żeby praca szła szybko.

Czytaj więcej

Mirosław Wróblewski, prezes UODO: Nie dla „Pay or okey” w danych osobowych

Jakie kompetencje będzie miała komisja, będąc organem nadzoru?

Będzie stała na straży wykonywania przepisów ustawy o systemach sztucznej inteligencji i rozporządzenia unijnego. Będzie dopuszczać do obrotu systemy wysokiego ryzyka, dokonywać kontroli w zakresie przestrzegania przepisów przez podmioty obsługujące te systemy i nakładać kary stosownie do AI aktu. Dodatkowo będzie mogła podejmować działania na podstawie innych przepisów rozporządzenia, czyli m.in. przyjmować zgłoszenia o incydentach z udziałem systemów AI. W tym zakresie ma współpracować z właściwymi CSRiT-ami. Rozpatrzy też skargi na działalność systemów AI, bo każdy będzie mógł zgłosić skargę na działanie systemu sztucznej inteligencji, które go bezpośrednio dotyka. Jeśli ktoś, poczuje się dyskryminowany przez taki system u lekarza, w pracy, w komunikacji miejskiej, będzie mógł złożyć skargę. Komisja będzie te skargi rozpatrywać i sprawdzać, czy rzeczywiście nie doszło do złamania przepisów w tych systemach wysokiego ryzyka.

A jeśli by doszło, to będzie mogła zakazać stosowania danego systemu?

Może nałożyć karę, jeżeli doszło do naruszenia ustawy, choć system jest z nią zgodny, ale nastąpi jakiś błąd, zła wola i to nie zadziała tak jak powinno. Natomiast jeżeli okaże się, że system sam z siebie jest niezgodny z ustawą, to oczywiście wtedy komisja podejmie decyzję o jego wycofaniu z obrotu. Jeśli chodzi o procedury kontroli, to mamy dużo doświadczeń z tego, jak NIK je prowadzi. Mamy też przepisy z prawa przedsiębiorców i na ich podstawie to uregulowaliśmy, choć kontrola w oparciu o ustawę o systemach sztucznej inteligencji może być w całości prowadzona zdalnie. Bo wiemy, że dzisiaj kontroler nie musi fizycznie przyjść, zamachać legitymacją i wejść do budynku. Wszystko może odbyć się poprzez zdalne udostępnienie danych czy dostępu do serwerów i taka forma też jest przewidziana. Chcieliśmy od początku, żeby to była odrębna jednostka zajmująca się tą dziedziną, bo dodawanie kompetencji do dzisiaj i tak bardzo obciążonych organów i instytucji mijałoby się z celem. Zwłaszcza że chcemy utworzyć organ, który będzie sprawny, elastyczny i z któ- rego wyeliminujemy papier. Nie będzie w nim żadnych procedur papierowych. W ramach istniejących urzędów byłoby to zapewne niemożliwe.

Czy komisja skupi całość kompetencji w zakresie sztucznej inteligencji, czy część z nich dostaną organy wchodzące w jej skład, np. prezesi UODO, UOKiK czy UKE?

Samo rozporządzenie o sztucznej inteligencji przewiduje kompetencje dla określonych organów, np. nadzorujących rynek finansowy (KNF) chroniących dane osobowe (UODO) czy konkurencję i konsumentów (UOKiK). AI akt przewiduje też wykaz organów praw podstawowych, które będą mogły upominać się bezpośrednio w komisji o prawa wynikające, czy to z karty praw podstawowych, czy innych aktów ochrony praw człowieka. Te organy można będzie wskazać np. uchwałą Rady Ministrów. Przed nami ich wybór w listopadzie. Już wysłaliśmy do rzecznika praw obywa-telskich i rzeczniczki praw dziecka pytanie o taką ich rolę i czekamy na ich stanowisko. Będziemy też dalej rozszerzać to grono.

Czy jakieś nowe uprawnienia zyska Ministerstwo Cyfryzacji?

Minister cyfryzacji będzie jednostką zajmującą się notyfikacją, wyznaczaniem standardów w zakresie sztucznej inteligencji. Będzie robić to w pełnej współpracy z Polskim Centrum Akredyta-cji. Ta jednostka sprawdziła się i chcemy, by zapewniała nam profesjonalną pomoc. Jako pełnomocnik rządu ds. cyberbezpieczeństwa minister będzie miał też kompetencje w zakresie zgłaszania incydentów. Wspominałem o wspieraniu sztucznej inteligencji – wpisaliśmy również do projektu zobowiązanie ministra cyfryzacji do publikowania co roku informacji na temat wykorzystania mocy obliczeniowych, prognozowanego ich wykorzystania w kolejnym roku oraz zużycia energii elektrycznej, które będzie wymagane do obsługi tej mocy. Dla każdego, kto myśli o inwestycjach w AI, to są kluczowe informacje.

Dlaczego państwo musi w tym aspekcie interweniować? Czy moc obliczeniowa to nie jest coś, co zapewni wolny rynek?

Państwo musi dawać informacje w tym zakresie. Dziś minister ds. energii planuje, jakie będą źródła energii i prognozowana jej produkcja. Jeżeli chcemy – a to jest nasz cel – skalować wykorzystanie systemów sztucznej inteligencji, to musimy mieć świadomość, że wymaga ona odpowiedniego zwiększenia zużycia energii elektrycznej. Jeżeli nie wskażemy ministrowi energii, że jej zużycie będzie większe, niż on zakłada, to może się okazać, że będziemy sobie radośnie zwiększać moce obliczeniowe, a zabraknie nam prądu. Więc nie chcąc do tego dopuścić, musimy zebrać te informacje. Dzisiaj nie mamy pełnej informacji ds. mocy obliczeniowych w Polsce, tylko cząstkowe. Przy odpowiedniej infrastrukturze możemy też dzielić się naszymi mocami z państwami członkowskimi UE, tylko musimy mieć to dobrze zinwentaryzowane. Moce obliczeniowe są też ważne dla prowadzenia polityk publicznych, bo wyobrażam sobie, że w przyszłości warunkiem naszego rozwoju będzie albo tworzenie kolejnych centrów danych na poziomie regionalnym, albo włączanie tych danych do chmury, tak żeby mogły z niej korzystać takie jednostki jak szpitale, szkoły, lokalne firmy. A żeby dobrze wykorzystać te dane, potrzebujemy właśnie centrów obliczeniowych. Dlatego ta kompetencja ministra cyfryzacji jest dla mnie bardzo ważna. Każda strategia wymaga też twardych informacji infrastrukturalnych. Jeżeli chcemy, żeby w przyszłości milion przedsiębiorców korzystało z systemów AI, to musimy być też na to przygotowani, żeby utrzymać to sieciowo.

Czy obywatel polski będzie mógł złożyć skargę w Komisji ds. AI nawet jeśli dany system został wprowadzony do obrotu w innym państwie członkowskim?

Każdy kraj będzie miał swój organ, ale chcemy doprowadzić do sprawnej procedury, żeby nawet skarga zgłoszona do systemu, który nie jest zarejestrowany w Polsce, mogła zostać sprawnie przekazana do odpowiedniego organu w danym państwie. Na poziomie unijnym widzimy, że tworzy się sieć takich organów w całej Unii Europejskiej, powstała Rada Sztucznej Inteligencji, więc będzie tworzona taka europejska sieć w tym zakresie.

W trakcie debaty w redakcji „Rzeczpospolitej” wspominał pan, że choć teoretycznie rozporządzenia unijne mają prowadzić do ujednolicenia prawa, to różnice w ich wdrażaniu są tak duże, że możemy właściwie mówić o oddzielnych systemach. Czy to naprawdę aż tak poważny problem?

Brak harmonizacji jest poważnym problemem dla istnienia jednolitego rynku. Z tego względu, że rozporządzenie daje nam podstawy materialne, ale każde państwo samodzielnie ustala procedury i dostosowuje przepisy do lokalnych właściwości. Uważamy, że należy to też zacząć harmonizować. Jest to jeden z naszych priorytetów w czasie prezydencji – żebyśmy mogli pracować nad wdrażaniem prawa unijnego wspólnie. Bo dzisiaj dzięki ocenom skutków regulacji wiemy w jaki sposób przepisy unijne zostały wdrożone w Austrii, w Hiszpanii, Francji czy Holandii. Ale nie wiem dlaczego jedno państwo postanowiło stworzyć nowy urząd, drugie dodać kompetencje do istniejącego urzędu, jedno państwo stosuje to w ramach prawa cywilnego, inne w ramach administracyjnego. A często nie wiemy, bo nie mamy takich przestrzeni współpracy w ramach Unii Europejskiej. Dlatego będziemy chcieli, w ramach naszej prezydencji, i przewodnictwa Radzie Sztucznej Inteligencji od 1 stycznia, żeby doprowadzić do spotkań roboczych w ramach państw członkowskich poświęconych właśnie wyzwaniom i sposobom wdrożenia. AI Akt jest najlepszą do tego okazją, bo wszystkie państwa UE będą miały ten punkt kulminacyjny wdrożenia właśnie w pierwszej połowie przyszłego roku. I dlatego odrabiamy dzisiaj tę lekcję, mamy już gotowy projekt ustawy. Do rozpoczęcia prezydencji będziemy mieli go przekonsultowanego w Polsce, dzięki czemu będziemy mogli pokazać innym państwom członkowskim – zobaczcie, my już coś zrobiliśmy, więc może usiądźmy i sprawdźmy, czy procedury, które są u nas, nie mogą być wykorzystane również w waszych państwach. Już to zaczynamy robić, bo na początku września przedstawiliśmy dobre praktyki w zakresie wdrażania AI Radzie Sztucznej Inteligencji. W tej chwili umawiamy się na spotkania robocze w zakresie usług cyfrowych z innymi państwami, między innymi z Hiszpanią, więc nawiązujemy te kontakty i mam nadzieję, że to też pomoże w harmonizacji także na poziomie proceduralnym.

Czy to uda się zrobić w ciągu tej prezydencji?

Nie mam tutaj złudzeń, że w pierwszej połowie 2025 stworzymy jednolitą procedurę dla sztucznej inteligencji, ale jeżeli uda się ustalić chociażby jeden punkt tej procedury, który będzie wspólny dla wszystkich państw Unii Europejskiej, np. jeżeli chodzi o skargi, to moim zdaniem będzie to już duże osiągnięcie. Bo gra jest o to, czy w perspektywie 5-10 lat będziemy mieli w Unii zharmonizowane wdrożenia, czy dalej będziemy męczyć się z 27 rynkami.

Jakie są inne cele na tą prezydencję w kwestii sztucznej inteligencji?

Wyraziliśmy już jasno wobec Komisji Europejskiej, że nie oczekujemy w naszej prezydencji żadnych nowych, dużych aktów prawnych, ponieważ uważamy, że w poprzedniej kadencji mieliśmy już bardzo duży pakiet prawa cyfrowego. Ale niestety nie mieliśmy spójnego systemu i teraz musimy pracować nad takim systemem. Moje oczekiwanie wobec KE jest takie, że w czasie naszej prezydencji zostanie ogłoszony pierwszy projekt strategii wykorzystania sztucznej inteligencji. Ponieważ uważam, że brakuje nam nie tylko jednolitego wdrażania, ale również dokumentów strategicznych, inwestycyjnych. Mamy regulacje, ale nie mamy wspólnych planów jeżeli chodzi o inwestycje i wykorzystanie tego co mamy. Prowadzimy już rozmowy robocze z tworzącą się nową Komisją Europejską i oczekujemy, że taka strategia inwestycyjna powstanie w czasie naszej prezydencji, że zaczniemy nad nią pracę, konsultacje, uzgodnienia i negocjacje wewnątrz Unii.

A czy Polska już ma swoją strategię inwestowania i rozwoju sztucznej inteligencji?

Kończymy aktualizację polityki sztucznej inteligencji i planujemy kolejne kroki w sposób spójny. 28 października przedstawimy nasze założenia strategii cyfryzacji, a dopiero potem chcemy przedstawić politykę sztucznej inteligencji, która jest dokumentem sektorowym. Za nami kilka miesięcy pracy także z innymi ministerstwami, bo chcemy, żeby to był dokument taki, który będzie kompleksowy, ale wskaże konkretne zadania do wykonania nie tylko dla Ministerstwa Cyfryzacji, ale także dla innych resortów.

Dużo pan mówił o współpracy z innymi państwami, ale nie ukrywajmy, że będzie też sporo rywalizacji o to, by firmy rejestrowały swoje systemy AI właśnie w Polsce. Tymczasem niedawne badania Global AI Indeks wskazują, że Polska jest raczej w końcówce innowacji i inwestycji w sztuczną inteligencję. Co można zmienić, żeby tę pozycję poprawić i żeby te systemy były rejestrowane?

To nie jest zadanie tylko dla rządu, ale dla całego „ekosystemu”. Dla rządu pozostaje po pierwsze kwestia infrastruktury – dodatkowych mocy obliczeniowych oraz energii elektrycznej. Ale to także kwestia skalowania, bo dzisiaj mamy problem zarówno krótko, jak i długoterminowy. Jeżeli chodzi o problem krótkoterminowy w skalowaniu, to w mojej ocenie brakuje jasnych zasad w tej materii, a przez to pojawia się niepewność prawna dla przedsiębiorców. Dzisiaj przedsiębiorca nie wie, czy jego system będzie wysokiego ryzyka, czy nie będzie, czy będzie zakazany, czy w ogóle jest sens inwestować, czy też nie. Dlatego kiedy wprowadzimy już stabilne prawo w tym zakresie zdejmiemy część odpowiedzialności z przedsiębiorców. Bo jeśli system spełnia konkretne wymagania, to można go odpowiedzialnie kupić do swojej firmy. Problem długoterminowy wiąże się zaś z niskim poziomem podstawowych umiejętności cyfrowych. Tu jesteśmy w ogonie Unii Europejskiej. A jeżeli mamy niskie umiejętności cyfrowe, tzn. że mamy ograniczony rynek dla rozwoju systemów sztucznej inteligencji. No bo jak ktoś nie ma umiejętności cyfrowych, to prawdopodobnie nie zainwestuje, nie skorzysta z AI. Dlatego tu jest jeszcze duże pole do działań i współpracujemy z Ministerstwem Edukacji Narodowej, czy to w ramach polityki cyfrowej transformacji, czy podstaw programowych w długim terminie. Razem z Ministerstwem Obrony Narodowej, z PFR, z NCBiR i z innymi jednostkami, które mają zasoby, i już dzisiaj wydają pieniądze na sztuczną inteligencję, pracujemy nad Funduszem sztucznej inteligencji, który skoordynuje wydatki państwowe na AI. Dajemy sobie czas do końca roku.

Dużo się mówi w przestrzeni publicznej o inwestowaniu przez państwa w sztuczną inteligencję, ale zapomina się, że państwo też powinno na tej technologii korzystać. Co zrobić, by nie było tak, że inwestycje państwowe, a zyski tylko prywatne?

Oczywiście przewidujemy, żeby państwo mogło korzystać z systemów AI i w tym przypadku to nie jest tylko kwestia strategii, ale też naszych innych działań wdrożeniowych w ramach Ministerstwa Cyfryzacji. Chcemy coraz szerzej wykorzystywać narzędzia sztucznej inteligencji czy do pracy urzędniczej, czy usług publicznych. I dzięki ustawie o systemach sztucznej inteligencji to też będzie możliwe, bo da podstawę prawną. Musimy pamiętać, że organy publiczne działają na podstawie i w granicach prawa. Więc jak będziemy mieli już usankcjonowane także przepisy dotyczące systemów wysokiego ryzyka, to będziemy mogli notyfikować konkretne systemy i wykorzystywać w administracji publicznej, szeroko rozumianej. Czyli także w ochronie zdrowia czy wymiarze sprawiedliwości. Jest bardzo duże zainteresowanie w administracji wykorzystaniem AI. 

Co znajdzie się w projekcie ustawy o systemach sztucznej inteligencji?

Wdraża ona europejski AI Act, ale chcemy, żeby to wdrożenie było elastyczne i żeby dotyczyło nie tylko samych reguł, ale również dawało przestrzeń rozwoju sztucznej inteligencji. Dlatego po pierwsze, ustawa powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie organem nadzoru rynku zgodnie z rozporządzeniem. Chcemy, by komisja była organem, który w sposób sprawny będzie dopuszczał systemy wysokiego ryzyka do rynku. Nie będzie ograniczać się do sztywnych regulacji ustawowych. Planujemy przyznać jej kompetencje do wydawania interpretacji generalnych i indywidualnych. Ponieważ kolejne systemy i funkcjonalności będą interpretowane w ramach rozporządzenia, nie chcemy, by każda z nich wymagała nowej ustawy. Dlatego wzorem administracji skarbowej komisja zyska możliwość wydawania interpretacji w zakresie ważnych zmian technologicznych, jeśli chodzi o AI.

Pozostało 95% artykułu
Sądy i trybunały
Po co psuć świeżą krew, czyli ostatni tegoroczni absolwenci KSSiP wciąż na lodzie
Nieruchomości
Uchwała wspólnoty musi mieć poparcie większości. Ważne rozstrzygnięcie SN
Edukacja i wychowanie
Ferie zimowe 2025 później niż zazwyczaj. Oto terminy dla wszystkich województw
Praca, Emerytury i renty
Ile trzeba zarabiać, żeby na konto trafiło 5000 zł
Materiał Promocyjny
Klimat a portfele: Czy koszty transformacji zniechęcą Europejczyków?
Prawo karne
Śmierć nastolatek w escape roomie. Jest wyrok