Michał Boni. Dotknęła nas bezradność obywatelska

Plus Minus: Jest pan, zdaje się, jedynym polskim ministrem, z którym w czasie urzędowania osobiście spotkał się Mark Zuckerberg. Miało to miejsce w 2013 roku, a nad spotkaniem unosiła się atmosfera, jakby nasz kraj odwiedziła właśnie jakaś gwiazda rocka. Dziennikarze i publika pytali o to, czy Zuckerberg chce w Polsce zainwestować, jak podoba mu się nasz kraj, a nawet – czy poczęstował się stojącymi na stole paluszkami. Zacznijmy od pytań najważniejszych – zjadł w końcu tego paluszka czy nie?

A to ciekawa historia. Jak to w ministerstwie, założenie było takie, że nie organizujemy niczego wystawnego. Któryś z urzędników wpadł więc na to, żeby wystawić paluszki. Ani ja, ani pan Zuckerberg tych paluszków nie zjedliśmy, ale rzeczywiście wyglądały na tym okolicznościowym zdjęciu bardzo śmiesznie, szczególnie że paluszki w urzędach kojarzą się przecież z zamierzchłymi czasami.

Tamto spotkanie miało otoczkę radosnego spotkania z celebrytą. Dziś takie spotkanie – i w takiej atmosferze – nie byłoby możliwe?

Myślę, że nie byłoby możliwe. To był zupełnie inny moment rozwoju świata, narzędzi cyfrowych i samego Facebooka. Pamiętajmy jednak, że to było już po zdarzeniach związanych z ACTA, które miały miejsce na przełomie roku 2011 i 2012, a w Polsce, jak pamiętamy, protesty związane z ACTA były bardzo duże. Lata już minęły od tamtego momentu, więc może warto przypomnieć – tamte protesty były skierowane przeciwko polskiemu rządowi i przeciwko innym rządom na świecie, które chciały wprowadzić umowę handlową pomiędzy Unią Europejską a Stanami Zjednoczonymi dotyczącą chronienia pewnych treści i ich dostępności. Szczególną burzę wywołał pewien zapis, że odpowiednie osoby w celu sprawdzenia legalności treści mogą nawet wejść do naszych domów. Moim zdaniem było to przekroczenie granicy bardzo ważnego doświadczenia, szczególnie dla młodej generacji. Po pierwsze, dom jest domem, i to nie jest tak, że można do niego wejść na kontrolę, a po drugie, internet jest domem. Sprawa ACTA jest ciekawa – wcześniej przez długie lata wokół internetu panowała bardzo optymistyczna atmosfera. Twórcy, przedsiębiorcy czy naukowcy liczyli na stworzenie przestrzeni wolnej wymiany wiedzy czy umożliwienie każdemu, by został twórcą po założeniu bloga. Sprawa ACTA to jest pierwszy moment, w którym zobaczyliśmy wychodzącą poza niszowość krytykę kierunku rozwoju internetu, czy to jest ten moment, od którego zaczyna rosnąć sceptycyzm? Nie byłbym taki pewien, czy należy łączyć ACTA z rosnącą krytyką technologii. Niewątpliwie pierwsza dekada XXI wieku była technooptymistyczna, rzeczywiście przełom pierwszej i drugiej dekady stał się takim momentem, w którym oprócz tej radości, zachwytu nad nowymi technologiami zaczęto coraz mocniej formułować różnego rodzaju zastrzeżenia. Czy ten sceptycyzm ma się rozwijać i jakie podstawy ma sceptycyzm wobec technologii, a jakie wobec nauki. Ja bym rozdzielił te sprawy. Sceptycyzm wobec technologii to krytyka sposobu jej wykorzystywania – ma on swoje uzasadnienie. Natomiast sceptycyzm wobec nauki jest zjawiskiem w stu procentach niebezpiecznym – dlatego że nauka prowadzi nas do rozwoju. Rozmawialiśmy wcześniej o nadziejach, że internet stanie się przestrzenią wolnej wymiany wiedzy. Otwarta nauka, oparta na internecie wymiana publikacji, danych, analiz jest przecież ogromnym sukcesem ludzkości. Niedawno ktoś powiedział, że dzięki tej otwartej wymianie wiedza medyczna zwiększa się dzisiaj dwukrotnie co 73 dni. Bez otwartego obiegu danych i wiedzy nie bylibyśmy w stanie tak szybko poznać sekwencji genetycznej koronawirusa, opracować szczepionki czy zapewnić przepływu informacji na temat jego charakteru. Oddzieliłbym sferę nauki od tego, jak stosujemy technologię w powszechnym użytku, szczególnie komercyjnie.

Czy te zastosowania słusznie wzbudzają krytykę?

One wzbudzają i powinny wzbudzać różnego rodzaju sceptycyzm. Przede wszystkim trzeba sobie uświadomić, że istnieje w kulturze popularnej bardzo silne źródło pokazujące technologię jako zagrożenie dla człowieka, dla świata – wszystkie te postacie Terminatorów, które niszczą człowieka i podporządkowują go sobie. Oprócz tego w drugiej dekadzie XXI wieku skala gospodarki cyfrowej zaczęła rosnąć. Jej rozwój stał się turbodoładowaniem dla gospodarki rynkowej i kapitalizmu, zwiększył zachłanność kapitalizmu. W efekcie tego doświadczenia połączyły się dwa lęki: przed nieznaną siłą rewolucji cyfrowej oraz przed turbodoładowanym kapitalizmem. Powstało coś, co nie wchodząc w szczegóły, zaczęto nazywać złym kapitalizmem i złymi firmami technologicznymi. Wreszcie doprowadziło to do poczucia, że mamy do czynienia z kapitalizmem inwigilacji, jak nazwała to Shoshana Zuboff. To znaczy, że funkcjonując obecnie w internecie, wymieniamy nasze dane na darmowe usługi, ale przy okazji firmy technologiczne monetyzują naszą uwagę, sterują naszymi chęciami zakupowymi, rozpraszają naszą uwagę. W gospodarce uwagi nasz wolny wybór konsumenta staje się podporządkowany sile algorytmów, które wybierają za nas. Do tego dodam jeszcze jeden element – internetowe narzędzia i rządzące nimi regulacje prawne są dla nas często przezroczyste, nie widzimy ich, nie rozumiemy reguł ich działania. Po prostu z nich korzystamy. Rozmawiam bardzo często z różnymi środowiskami, także tymi naukowymi, i mam wrażenie, że wielu z nich niekoniecznie wie, że np. istnieje regulacja dotycząca ochrony prywatności czy że istnieją reguły dotyczące cyberbezpieczeństwa i że dane przypływają – ale pod różnymi warunkami. W wielu miejscach w Polsce cały czas rozmawia się tak, jakby nie było regulacji o ochronie danych osobowych i naszych praw obywatelskich związanych ze sprawami cyfrowymi.

Sceptycyzm odnosi się nie tylko do amerykańskich czy chińskich firm, bo podobnie duże obawy mamy wobec wykorzystania danych przez państwa. Dlaczego?

Myślę, że ten proces wygląda mniej więcej w ten sposób: pojawiały się nowe technologie, użytkownicy z zachwytem je przyjmowali i dopiero po jakimś czasie zaczęło do nas docierać, że w sumie nie mamy wpływu na to, co nam te aplikacje podpowiadają czy reklamują. Firmy zaczęły korzystać z przetwarzających wielkie zbiory algorytmów, które pozwalały opracować profile preferencji poszczególnych osób. Zamiast kierowanych do wszystkich reklam, takich jak w gazetach czy telewizji, zaczęliśmy widzieć coraz więcej reklam zaskakująco dobrze trafiających w nasze zainteresowania. Co do państw i tego, jak one używają danych: muszą podporządkować się wspólnym regułom, muszą, używając danych, robić to, budując zarazem zaufanie do swoich działań. Zaufanie jest w ogóle kluczem. W kraju, w którym władze ( jak w Polsce) co chwila mówią, że w imię bezpieczeństwa mogą robić wszystko z naszymi danymi, a publiczna instytucja mająca chronić zasad wykorzystywania danych jest spolityzowana, takiego zaufania brakuje.

Jeżeli poszukam w Google'u wózka dla dziecka, to pewnie potem będą mi się pokazywać reklamy pieluch i ubranek, co dla użytkownika zaczyna w końcu być przerażające.

To samo zresztą dzieje się z treściami politycznymi – jeśli ileś tam razy odwiedzę czy polubię treści na przykład o charakterze prawicowym, to później one będą się w tym układzie preferencji pojawiały jako pierwsze. Z biegiem czasu powstało więc moim zdaniem poczucie bezradności użytkownika i konsumenta. Ono miało dwa wymiary. Pierwszym jest bezradność obywatelska, trudność w egzekucji moich praw. A oprócz tego pojawił się lęk konsumenta, który de facto zaczynał tracić poczucie, że to on dokonuje jakiegoś wyboru. 

Czy po drugiej dekadzie XXI wieku, w której zorientowaliśmy się, że brak nam decyzyjności i podmiotowości, kolejna dekada będzie dziesięcioleciem, powszechnego potępienia technologii internetowych, czyli tzw. techlashu?

Według mnie możliwe są dwa scenariusze: pierwszy oznacza, że ten technosceptycyzm będzie ciągle rósł. Scenariusz, w którym czuję się ciągle oszukiwany, manipulowany, prowadzony za rękę bez możliwości zmiany zachowania, będzie rodził coraz większe niezadowolenie. Drugą opcją jest scenariusz pewnej równowagi – taki nowy habitat. Ta równowaga oparta byłaby na inteligentnym obramowaniu zastosowań technologii mądrymi regulacjami. Dlaczego inteligentnym? Bo tam, gdzie powstawałyby systemy wysokiego ryzyka, stosowalibyśmy twarde reguły wymogów prawnych (co można, czego nie można), ale wszędzie tam, gdzie technologia znajduje zastosowanie niemogące wyrządzić szkód społecznych, tam stosowalibyśmy raczej wspólne standardy, reguły, kodeksy postępowania współtworzone przez firmy, naukowców i użytkowników.

Czyli to dobrze, że przyszła era sceptycyzmu?

Ona musiała nadejść i uważam, że dobrze, że przyszła. Nadmierny optymizm rodził i rodzi różnego rodzaju niebezpieczeństwa. Jest taka świetna książka Carla Benedikta Freya pt. „The Technology Trap". W historii naszej cywilizacji pojawienie się nowych technologii zawsze powodowało lęk. W wielu miejscach, w których przepisywano księgi, kiedy pojawił się wynalazek Gutenberga, protestowano (w tamtejszych formach) i odmawiano szczególnie w pierwszych dziesięcioleciach książce drukowanej jakości i ducha. Te pułapki technologiczne zdarzają się co pewien czas i ludzkość zawsze wyciąga z tego wnioski: adaptuje się, oswaja się z nowym, a elementem tego oswojenia jest większa świadomość roli technologii i jej ograniczeń. Łatwiej to zrobić, jeśli mogę się odnieść do jakichś norm czy instytucji. Przekładając to na dzisiejszą sytuację: bardzo dużo moich danych jest rozsianych w internecie. Ja chciałbym mieć nad nimi kontrolę. Nie oznacza ona zakazania komukolwiek dostępu, ale możliwość określenia, kto, do jakich celów i na jakich zasadach może z moich danych i informacji korzystać – na przykład w celach naukowych. Jeśli ktoś mnie będzie pytał o zgodę i moje zasady, to stanę się podmiotowym obywatelem świata cyfrowego. Według mnie nie byłoby szansy na taką zmianę podejścia bez tego sceptycyzmu. Tak jak bez sceptycyzmu i walki Schremsa o jego prawa nie byłoby europejskiej regulacji chroniącej moje dane i dającej mi możliwość wyrażania zgody na przetwarzanie moich danych. Oczywiście, to oznacza też, że nie możemy się po prostu zanurzać w kolejnych falach sceptycyzmu, chcąc cofnąć technologiczne zmiany i ograniczyć rolę technologii w naszym życiu do zera.

To scenariusz kompromisu. A może ta kolejna dekada powinna być jeszcze bardziej sceptyczna i krytyczna wobec technologii?

Ta dekada powinna być dekadą świadomości – po stronie twórców różnych nowych rozwiązań technologicznych i użytkowników. Dlatego np. tak ważne jest, by przy propozycji regulacji UE dotyczącej sztucznej inteligencji mówiło się o piramidzie ryzyk związanych z jej działaniem oraz o obwarowaniu regułami dopuszczającymi systemy sztucznej inteligencji na rynek odpowiednimi wymogami (ale to dotyczy 10–15 proc. wszystkich działających). A jedną z tych reguł jest coś zupełnie nowego – potrzeba dokonania oceny skutków ex ante (oceny uprzedniej) urządzenia czy aplikacji. To jest właśnie ochrona nas i naszych praw dokonywana z wyprzedzeniem, zapewniająca, że np. rozwiązanie SI nie będzie nikogo dyskryminowało.

A jeśli ten kompromis się nie uda? Zamiast nadania nam podmiotowości, „standardy" tworzone przez branżowe korporacje będą nas jej pozbawiać – tak jak dziś akceptowane przez nas z automatu warunki użytkowania platform. Może lepiej zmaksymalizować ochronę prywatności – powiedzieć sobie, że państwa i firmy nie powinny móc gromadzić naszych danych ani używać systemów automatycznego podejmowania decyzji?

To zawracanie kijem Wisły, które wyeliminowałoby nas z rozwoju. Jesteśmy w pewnym trendzie rozwojowym całego świata i musimy zrozumieć, że on działa nie tylko dla zysku paru firm. Niektórzy skupiają się wyłącznie na tym, a to jest nieprawda. Są osoby o takiej skrajnie sceptycznej postawie, chcące wyeliminować możliwość stosowania algorytmów sztucznej inteligencji z różnych rozwiązań. Wszystkie przełomy technologiczne w historii ludzkości coś zmieniały i nie inaczej jest z internetem. Dziś na przykład w medycynie mamy możliwość obserwowania na bieżąco sytuacji pacjentów przewlekle chorych. Wkrótce może nie być tak, że człowiek nagle upadnie na ulicy albo w domu i lekarz nie zdąży przyjechać na czas. Urządzenia monitorujące najważniejsze cechy organizmu odpowiednio wcześnie mogą pewne anomalie wychwycić i uratować komuś życie. Powstały na przykład takie wygodne czapki dla dzieci chorych na padaczkę, która jest najbardziej śmiercionośna dla tych poniżej szóstego roku życia, ponieważ dopada te dzieci we śnie. To urządzenie pozwala rozpoznawać fale mózgowe, które doprowadzają do ataku padaczki – i mogą obudzić rodziców kilkanaście sekund przed atakiem, dając im chwilę na uratowanie życia dziecka. A to tylko jeden przykład. Więc gdy ktoś mi mówi, że to można wycofać, to odpowiadam – zróbmy sobie listę korzyści tych wszystkich nowych rozwiązań. Przykład z innej bajki – Unia Europejska udostępniła jednemu z krajów afrykańskich superkomputer, na potrzeby analizy niszczycielskich wylewów rzeki. One co roku tworzyły różne rozlewiska, niszcząc ogromne zasoby wodne, produkcję rolną, powodując zagrożenie głodem. Analiza danych historycznych, rodzajów gleby, roślinności i zmian pogodowych pozwoliła stworzyć algorytm, który w 80 proc. symuluje trajektorię kolejnej powodzi. Możliwość głębokiego przewidywania jest ratunkiem. To zastosowanie zwiększyło plony, nie mówiąc już o bezpieczeństwie ludności.

Ma pan poczucie, że to, co dzisiaj znajduje się na negocjacyjnym stole – między innymi europejskie regulacje dotyczące rynków cyfrowych, kontroli nad danymi i sztucznej inteligencji – to jest coś, co pomoże odwrócić ten sceptycyzm i stworzyć rozsądny kompromis?

Przede wszystkim musimy mieć świadomość, że ten sceptycyzm wcale nie jest tak powszechny. Badania Eurobarometru pokazują, że około 70 proc. Europejczyków nie ma problemu z dzieleniem się danymi. To też trzeba sobie jasno powiedzieć. Z drugiej strony uważam, że taki element sceptycyzmu czy podejrzliwości jest cały czas potrzebny, po to, żeby wymuszać społecznie korzystne zmiany. Pan używa określenia „kompromis". Ja je lubię, ale uważam, że w takich sprawach, jak ochrona danych osobowych, nie powinniśmy mówić o kompromisie, tylko przekonywaniu użytkowników do świadomego udzielenia zgody na przetwarzanie ich danych. Dzisiaj w debacie nad danymi, m.in. medycznymi, idziemy w kierunku stworzenia modelu dzielenia się nimi, opracowania zasad ich przetwarzania i udzielania zgód. O tym właśnie mówi na przykład zaprezentowany w grudniu unijny projekt rozporządzenia ws. zarządzania danymi. Powoli idziemy w dobrą stronę tworzenia norm czy standardów postępowania. W pierwszej dekadzie XXI wieku dynamikę rozwoju technologicznego zapewniło danie firmom wolnej ręki. Na początku trzeciej dekady potrzebujemy rozwoju, ale ze względu na skalę i rolę technologii takiego obwarowanego inteligentnymi regułami, normami i standardami. Co nie powinno oznaczać, jak już wspominaliśmy, dominacji wyłącznie twardych przepisów prawnych podważających tempo potrzebnej i służącej człowiekowi innowacyjności.

Czy nie jest kolejną utopią wizja, w której ja jako obywatel będę musiał za każdym razem podejmować decyzję o udzieleniu zgody, nie mając przecież pełnego zrozumienia algorytmów czy celów konkretnego zastosowania?

Ale jakbyśmy spojrzeli na nasze funkcjonowanie poza światem cyfrowym, to my dajemy sami z siebie bardzo wiele zgód i nie jest to jakieś wielkie obciążenie. To oczywiście jest kwestia konstrukcji technicznej tego mechanizmu – żebyśmy nie musieli za każdym razem tej zgody dawać, tylko mogli ustalić pewne reguły, określić, jakimi danymi chcemy się podzielić i na jakich warunkach. Przykłady Estonii w zarządzaniu danymi osobowymi w relacjach obywatela z państwem są bardzo pozytywne. To samo zresztą jak pewna aplikacja i wzorzec dzielenia się danymi, który pochodzi z Finlandii i prawdopodobnie na podstawie którego będzie budowana europejska przestrzeń danych zdrowotnych. Spójrzmy też na Tajwan. Nie jestem pewien, jak kształtuje się tam zaufanie do państwa, ale pamiętajmy, że tam ministrem cyfryzacji została osoba (Audrey Tang – red.), która radykalnie starała się wspierać otwartość rządu i jasne informowanie o tym, jakie dane i do czego są wykorzystywane. Umiała swoimi działaniami – również jeszcze zanim została ministrem – wzbudzić u ludzi w różnych grupach społecznych zaufanie. Zaufanie jest tutaj kluczem. Sceptycyzm powinien być po to, żeby pilnować, czy człowiek ma nad technologią kontrolę. Natomiast z drugiej strony powinniśmy walczyć o zaufanie. Polska niestety należy do państw, w których zaufanie do władz jest bardzo niskie, a bez niego nie zbudujemy tej nowej technologicznej równowagi. Musimy mieć pewne zaufanie do tych, którym udostępniamy nasze dane, którzy tworzą dla nas rozwiązania. Nie tylko te biznesowe – również w sferze publicznej.