Jak to się stało, że ktoś taki jak pan, człowiek o liberalnych poglądach, pomagał w tworzeniu takiego narzędzia do kreowania kampanii skrajnej amerykańskiej prawicy?
W 2013 r. firma chciała po prostu prowadzić badania w Stanach Zjednoczonych. I kiedy doszło do przejęcia jej przez Mercera, dostaliśmy miliony dolarów na naszą działalność. Z relatywnie małej, nieznanej firmy z Londynu staliśmy się ogromnym przedsiębiorstwem, które zaczęło zatrudniać rzesze ludzi. Wszystko działo się tak szybko. Pamiętam taką scenę, kiedy zaproszono do firmy grupę ludzi, na których miały być prowadzone badania fokusowe. Byli w niej Amerykanie, których wyłowiono na podstawie ich radykalnych poglądów, którymi chętnie dzielili się w sieci. Pamiętam ich gniew i to, jak zaczęli przekrzykiwać się na temat teorii spiskowych. Wszystko zostało udokumentowane. A oni nawet nie zdawali sobie sprawy, że uczestniczą w eksperymencie, który później zostanie wykorzystany w wyborach. Dysponowaliśmy dokładnymi opisami tego, jak ludzie reagują na daną informację i co budzi ich największe emocje.
By potem wykorzystać te informacje np. w reklamach albo żeby radykalizować jeszcze więcej ludzi?
Takie były intencje. Firma, którą tworzyliśmy wcześniej, czyli SCL Group, nie była już tą samą firmą, kiedy przemianowano nas na Cambridge Analytica. Na dodatek nie znaliśmy większości pracowników. Byli wśród nich ludzie, którzy wcześniej pracowali na potrzeby Rosji w Europie Wschodniej, np. na Ukrainie. Zatrudnialiśmy też ogromną liczbę psychologów. Wszyscy ci dziwni ludzie zaczęli kręcić się po firmie, a wszystkie te zmiany rozgrywały się na przestrzeni zaledwie kilku miesięcy. Innymi słowy, firma pracująca dla brytyjskiej armii została wykupiona i chwilę później spotykaliśmy w biurze osobę, która jeszcze niedawno wpływała na wybory na Ukrainie. Wtedy właśnie zrozumiałem, że nie chcę już brać w tym udziału. Oczywiście byłem naiwny, sądząc, że moja decyzja przejdzie bez echa. Pierwszą rzeczą, którą od nich usłyszałem, było to, że mnie pozwą.
Kiedyś pracowałem dla ludzi, którzy tworzyli kampanię Baracka Obamy, opowiedziałem im więc, czym zajmuje się ta firma i do czego może to doprowadzić. Nikt się tym nie przejął i odpowiedzieli, że niestety ten świat jest popaprany. Kiedy Donald Trump wygrał nominację Partii Republikańskiej, reakcje były podobne. Doradcy w Białym Domu, z którymi rozmawiałem, powtarzali, że Hillary Clinton wygra te wybory i nie ma się czego obawiać. Przecież wszyscy wiedzą, że Donald Trump jest podejrzanym biznesmenem, dla którego pracują typy spod ciemnej gwiazdy z całego świata. Hillary Clinton wygra, więc nie chcemy wpływać na wybory informacją o Cambridge Analytica – mówili.
W tamtym momencie pomyślałem sobie: „Dobrze, pewnie wiecie lepiej ode mnie, co należy robić". Wszyscy wiemy, jak sprawy potoczyły się dalej. Trump został wybrany na prezydenta, ludzie zaczęli dostrzegać, że istnieje wiele zagrożeń, które przestają być już tylko teoretyczne.
Kiedy mówimy o potencjalnym radykalizowaniu się społeczeństwa, Amerykanie czy Brytyjczycy odpowiadają, że u nich się to nie wydarzy, że takie manipulacje mogą dotyczyć innych krajów, ale nie ich.
A przecież oni są tylko ludźmi – takimi samymi jak w Afryce, Azji czy w Europie. Jednym z powodów, dla których napisałem swoją książkę, było to, że przeżyłem swego rodzaju podróż, w trakcie której wiele się nauczyłem o problemach, które pociągają za sobą technologie, i o lukach prawnych. To wszystko, o czym rozmawiamy, wydarzyło się tylko dlatego, że nie było żadnych zasad, które by tego zabraniały. A jeśli wciąż nie ma żadnej władzy, żadnych inspekcji czy regulacji, to jestem pewien, że będzie się to powtarzało. Prawdopodobnie będzie nawet jeszcze gorzej, dopóki nie ustanowimy adekwatnego prawa.
W trakcie dochodzenia w sprawie Cambridge Analytica okazało się, że w świetle prawa właściwie nic złego się nie stało. Bo jaki konkretnie przepis został złamany? Nikt nawet nie pomyślał, że coś takiego może się wydarzyć, więc nie stworzono żadnych procedur prawnych, które mogłyby być zastosowane. Kolejnym problemem było to, które prawo miałoby tutaj zastosowanie (oczywiście jeśliby istniało) – amerykańskie, brytyjskie? Prawo zakłada, że jeśli popełnię zbrodnię, np. zastrzelę kogoś w Wielkiej Brytanii, to będę osądzony zgodnie z brytyjskim prawem. Ale co będzie, jeśli działanie przestępcze dokonało się w sieci? Mamy sprawdzać, gdzie umieszczone były serwery firmy? Przecież one są rozsiane po całym świecie. Gdzie są zatem dane? Są wszędzie i nigdzie. Gdzie w takim razie zapadały decyzje? Część z nich w Wielkiej Brytanii, część w Europie Wschodniej, część w Ameryce.
Nagle okazało się, iż to jest na tyle skomplikowane, że nawet nie jesteśmy w stanie stwierdzić, gdzie doszło do przestępstwa.
Wtedy też zdałem sobie sprawę, że dane są podobne do pieniędzy, w tym sensie że pieniądze możesz przesyłać z banku A do banku B, a stamtąd do banku C, D itd. Podobnie jest z danymi, które ciągle wędrują po sieci. Każdy z naszych banków może znajdować się w innym państwie, może używać wielu firm przykrywek, a każde z państw może mieć swoje odrębne prawo. Jedna rzecz, która jest dozwolona w kraju A, może być całkowicie zakazana w kraju B. Posługując się dalej analogią pieniędzy, uważam, że to, co zrobiła Cambridge Analytica to było „pranie brudnych danych". Kiedyś pieniądze też wędrowały z banku do banku bez żadnych regulacji. Ludzie unikali w ten sposób płacenia podatków. Ale z czasem prawo finansowe i podatkowe ewoluowało wraz ze wzrostem liczby coraz to nowszych sposobów na unikanie płacenia podatków. Wytworzyły się zasady, które musiały nadążyć za globalizacją pieniądza i konieczne było ich powszechne użycie. Wracając do sieci, ona także ma zasięg globalny, a dane mają podobne cechy do pieniędzy. Dlatego potrzebne jest stworzenie podstaw prawnych, które uregulują kwestię przestępstw cyfrowych.
Po wybuchu pandemii koronawirusa nasze życie jeszcze bardziej przeniosło się do sieci. Nasz świat nie jest ani realny, ani wirtualny, tylko hybrydowy. Dobry przykład to pieniądze – one istnieją w naszym elektronicznym banku, ale nie są wirtualne, bo mogę kupić za nie realny produkt. Jaki wpływ na te zjawiska będzie miał Covid-19?
Ostatnie miesiące nauczyły nas, że dezinformacja nie jest wyłącznie sprawą związaną z polityką. Media społecznościowe szerzą nieprawdziwe informacje, a te, według ostatnich badań, roznoszą się szybciej niż prawdziwe, oparte na źródłach informacje. To dlatego że rzeczy, które są prawdziwe, często mają szerszy kontekst, tło, trzeba się w nie zagłębić, trochę więcej przeczytać. Łatwo przedstawić to na przykładzie obecnej pandemii. Fałszywe informacje są krótkie, angażujące emocje odbiorcy, są krzykliwe. I rzeczywiście są o wiele bardziej angażujące, łatwo je zrozumieć i zaniepokoić się nimi. Ludzie też są bardziej skłonni do dzielenia się takimi informacjami, umieszczają wpisy na swoich tablicach, bo po prostu są na coś wściekli albo czegoś się boją.
Covid-19 pokazał nam więc, że sprawa dezinformacji nie dotyczy już tylko republikanów i Donalda Trumpa czy też manipulacji przy wyborach w danym kraju. To już nie jest tylko sprawa Amerykanów czy Brytyjczyków. Te platformy zostały zaprojektowane w taki sposób, by częściej i łatwiej szerzyć kłamliwe informacje, niż przyswajać te prawdziwe. A jeśli mamy do czynienia z globalną pandemią, ludzie mogą nawet umierać z tego powodu, że będą źle informowani. To jest na tyle poważna sprawa, że nie można tego ukrywać. Musimy zatem wyjrzeć poza ramy myślenia o dezinformacji wyłącznie w kategorii politycznej czy militarnej. To dotyczy także naszego życia i zdrowia. Ale nie chodzi tylko o zdrowie fizyczne. W Wielkiej Brytanii i w USA badania wskazały, że śpimy mniej o godzinę tylko dlatego, że tuż przed zaśnięciem nadal korzystamy ze smartfonów.
Twórcy Netfliksa sami mówią, że sen jest ich wrogiem, bo chcą walczyć o każdą minutę zaangażowania odbiorców.
Co dzieje się ze społeczeństwem, któremu zabierana jest jedna godzina snu w czasie doby? Jak może to wpłynąć na ekonomię? I jakie skutki pociągnie to za sobą dla naszego zdrowia psychicznego? Być może osoby, którym zabrano tę godzinę snu nawet nie będą zdawać sobie z tego sprawy, ale wkrótce może okazać się, że spadnie produktywność całej populacji, co może w realny sposób wpłynąć na ekonomię. Dlatego uważam, że sprawą prawnego uregulowania funkcjonowania platform internetowych powinny zacząć angażować się rządy państw.
Mamy tu do czynienia z pewną kwestią filozoficzną. Kiedy czytałem pana książkę, przypominały mi się dylematy opisane przez Rogera McNamee, byłego doradcę Marka Zuckerberga, czy prof. Shoshanę Zuboff. W swych książkach twierdzą oni, że ambicje firm technologicznych nie kończą się na angażowaniu ludzi treściami i czerpaniu zysku z reklam. Te firmy chcą stworzyć coś na kształt systemu operacyjnego naszego życia, z którego nie będziemy mogli zrezygnować.
Czy rzeczywiście regulacje są w stanie tu pomóc?
To nie jest pytanie teoretyczne. Jeśli spojrzymy na wzór działania wszystkich tych platform, to jest on zawsze taki sam. Chodzi o tworzenie sieci powiązań i uzależnienia użytkowników. Na pozór nie wydaje się to straszne, prawda? Ale kiedy przychodzisz do domu, a lodówka obserwuje, co jesz, a kiedy oglądasz telewizję, ekran także monitoruje twoje zachowanie. I właściwie wszystkie urządzenia w domu „rozmawiają" o tobie, komunikują się, wymieniają informacjami na twój temat. W końcu wpływają też na twoje zachowanie. Kiedy wsiadasz do swojego automatycznego samochodu, który zna drogę do twojego biura, może też zdecydować, czy spóźnisz się do pracy, czy nie. I nagle okazuje się, że mamy bardzo problematyczną sytuację, w której coś dziwnego dzieje się z ludzkością, co nie miało miejsca nigdy wcześniej. Wyewoluowaliśmy jako gatunek w pasywnym środowisku – natura oczywiście wpływa na nas, ale naturalny świat nie myśli o nas, nie obmyśla planów, jak wpłynąć na nasze życie. Natura jest pasywna. Różnica polega na tym, że żyjemy w środowisku, które przestało być bierne, bo kontroluje je dzisiaj kilku miliarderów, którzy stworzyli świat, gdzie środowisko planuje i myśli za nas. I to jest właśnie największy problem, kiedy zdasz sobie sprawę, że każdy twój wybór przestaje być zależny tylko od ciebie.
Kiedy mówimy o prywatności, to ona często jest opisywana jako sytuacja, gdy ktoś chce coś ukryć przed innymi. Często powtarzana jest fraza, że jeśli nie masz niczego do ukrycia, to dlaczego się martwisz? Ale prywatność jest czymś więcej – to narzędzie, które wykorzystujemy każdego dnia do tego, by budować swoją osobowość. Dzisiaj jesteś już innym człowiekiem, niż byłeś 10–20 lat temu. I będziesz też inny za następne 10–20 lat. Jesteś inną osobą, kiedy rozmawiasz z kolegami z pracy, a inną, kiedy rozmawiasz z rodziną. Rzeczą, która daje ci siłę do tego, by się zmieniać, jest właśnie twoja prywatność. I teraz pomyślmy o tym, że istnieje sztuczna inteligencja, która jest zaprojektowana do tego, żeby profilować cię w sieci, i decyduje za ciebie, że jesteś danym typem konsumenta i należysz do pewnego segmentu, więc zaczyna pokazywać ci rzeczy, które będą do ciebie pasować. Jak możemy rozwijać się jako ludzie w środowisku, które decyduje za nas, kim jesteśmy i więcej – kim będziemy?
Brzmi to jak perwersyjny eksperyment na ludzkości, w którym naprawdę wiele rzeczy może pójść źle.
I kiedy spojrzymy na sprawę Cambridge Analytica, to faktycznie można powiedzieć, że był to nieetyczny eksperyment, który wpływał na zachowania ludzi i ich wybory. Jednak Facebook czy Google to firmy, które mają wystarczająco dużo siły, by pójść krok dalej i wpływać na każdy aspekt naszego życia. I wcale nie muszą zachowywać się przy tym przyzwoicie.
Kiedy tylko wyszła na jaw sprawa Cambridge Analytica, pierwszą rzeczą, którą zrobił Facebook, było zablokowanie mojego konta. W totalitarnych reżimach, takich jak np. Związek Radziecki, kiedy ktoś sprzeciwiał się władzy, nie znikał tylko fizycznie, czasami taki człowiek znikał nawet z artykułów w prasie czy ze zdjęć, by nie było żadnego śladu po tym, że w ogóle istniał. Korzystałem z mediów społecznościowych przez dziesięć lat i po tym, jak ujawniłem mediom sprawę CA, nagle mnie wymazano. Moi rodzice nie byli w stanie odnaleźć naszych starych konwersacji. Zdjęcia, które udostępniałem, nagle przepadły. Mamy więc do czynienia z firmami, które dosłownie mogą, ot tak, wymazać twoją obecność z sieci. Może to brzmi głupio czy trywialnie, ale pomyślmy o tym, co może się stać za dziesięć lat, kiedy np. bez tożsamości sieciowej nie będziesz wpuszczany do sklepu, a drzwi budynku, w którym mieszkasz od lat, pewnego dnia się przed tobą nie otworzą, bo system nie rozpozna twojego profilu społecznościowego i zostaniesz potraktowany jak zwierzę. Dla mnie to trochę przerażające. Zastanówmy się, czy na pewno chcemy żyć w społeczeństwie, które jest pod totalną kontrolą kilku firm.
Jeszcze nie dotarliśmy do takiego scenariusza, ale niestety zmierzamy do jego zrealizowania. Możemy podjąć decyzję, że jako społeczeństwo nie chcemy iść tą drogą i możemy stworzyć granice, dzięki którym te firmy nie zajdą tak daleko. Ale to nie będzie łatwe, bo przecież te korporacje stają się coraz większe i większe, spójrzmy choćby na Amazona. Ich celem nie jest tylko manipulowanie przemysłem, ale także manipulowanie człowiekiem – i w tym momencie wszystko wydaje się już bezsensowne i niepotrzebne, nawet rząd. Bo skoro można wpłynąć z taką łatwością na wybór prezydenta w Stanach Zjednoczonych, to co będzie się działo dalej?
Po tym jak film dokumentalny „Dylemat społeczny" ukazał się na platformie Netflix, „New York Times" skrytykował tę produkcję za rozszerzanie teorii spiskowych. Wszystko dlatego, że bohaterowie dokumentu krytykują platformy społecznościowe za szerzenie teorii spiskowych na prawicy, a sami twierdzą, że platformy społecznościowe i algorytmy rządzą naszym życiem. Taki zarzut można postawić też panu. Przed chwilą powiedział pan, że kilku miliarderów z Doliny Krzemowej chce przejąć kontrolę nad światem.
Oczywiście, można tak to ująć. Ale fakt, że ktoś nazwie mój opis rzeczywistości teorią spiskową, wcale nie oznacza, że nie jest on prawdziwy. Kiedy spotykam się ze sceptycyzmem, zawsze przed oczami mam osoby, które nie wierzą w zmiany klimatu, bo przecież dziś akurat mamy deszczową, zimną pogodę. Kiedy myślimy o przyszłości internetu, to również i przy tej kwestii tego typu argumenty powtarzają się – że to przesada, że przecież tak nie dzieje się teraz. Ale tak samo jak przy rozmowach o klimacie mamy perspektywę tego, jak będzie wyglądać Ziemia za 20–50 lat, tak samo rozmawiamy o internecie. Z tym że tutaj nie mamy już tak wiele czasu, bo wystarczy zaledwie kilka lat, żeby totalnie zmienić kształt sieci.
Nie mówię, że Amazon posiada technologię, by kontrolować umysły ludzi już dziś, i że jesteśmy codziennie poddawani praniu mózgu albo że system Alexa steruje naszymi dziećmi. Tak nie jest, ale możemy zauważyć pewien trend, który zmierza do stworzenia systemu, który będzie decydował o tym, jak będziemy prowadzić nasze życie. Moje obawy dotyczą tego, co może wydarzyć się za dziesięć lat – dziś możemy tego jeszcze nie zauważać, ale to nie znaczy, że tego nie ma. Dlatego musimy utrudnić powstanie tego sytemu, tak mocno jak tylko się da.
rozmawiał Michał Szułdrzyński, tłum. Katarzyna Płachta
Książka Christophera Wyliego pt. „Mindf*ck. Cambridge Analytica, czyli jak popsuć demokrację" ukazała się nakładem wydawnictwa Insignis w przekładzie Michała Strąkowa
