Jan Maciejewski: Sztuczna inteligencja, podstępne zagrożenie

Ważniejszym ze stojących dzisiaj przed cywilizacją wyzwań nie jest to, jak się dalej rozwijać, ale jak przed tym rozwojem się powstrzymywać.

Publikacja: 10.02.2023 17:00

Jan Maciejewski: Sztuczna inteligencja, podstępne zagrożenie

Foto: Fotorzepa/Robert Gardziński

Zęby wyszczerzone w szerokim, pogodnym uśmiechu. W dłoni nóż. Przy jego pomocy pokrojony zostanie zaraz tort ozdobiony olbrzymim, stworzonym z lukru i bitej śmietany, atomowym grzybem. Amerykański generał, który pozuje na tym zdjęciu, przeprowadził właśnie jedną z pierwszych prób nuklearnych na atolu Bikini. Nigdy wcześniej zagłada nie rozpływała się w ustach, nie zdawała się tak słodką perspektywą.

Zdjęcie to ukazało się w zachodniej prasie w 1946 roku (wspomina o nim w swym reportażu „Porwanie Europy” Sándor Márai) i zdaje się, że przeszło bez większego echa. A przecież to właśnie ono – bardziej niż wszystkie fotografie i nagrania przedstawiające prawdziwe, nie lukrowane, atomowe grzyby – spowite jest cieniem zagłady. W jowialnym uśmiechu wojskowego uchwycono sedno nuklearnego zagrożenia. Może i przed upadkiem kroczy pycha, ale za to przed unicestwieniem pełza samozadowolenie.

Czytaj więcej

Jan Maciejewski: Rzymskie misteria i maniery

Tamten niemądry uśmiech udało się na kilkadziesiąt lat wymazać z twarzy decydentów. I jest to być może jeden z nielicznych w niedawnej historii naszej cywilizacji dowodów na gotowość do samoograniczenia: zrobienia kroku w tył. Z lufą nuklearnego pistoletu przy skroni i dlatego, że największym mocarstwom było to na rękę, służyło zachowaniu równowagi sił. Ale wciąż, precedens pozostaje. Dowód, że cywilizacja jest w stanie powiedzieć samej sobie „hold your horses”. Ważniejszym ze stojących dzisiaj przed nią wyzwań nie jest to, jak się dalej rozwijać, ale jak przed tym rozwojem się powstrzymywać. Od tej umiejętności zależy też w ogóle sama istota technologicznego postępu, czym on w rzeczywistości jest. Dumnym kroczeniem ludzkości ku nowym wyzwaniom czy bezwolnym staczaniem się ku zanikowi. Marsz jest tym, co można zatrzymać. Ciało lecące w przepaść nie ma już takiej możliwości.

Tamten niemądry uśmiech udało się na kilkadziesiąt lat wymazać z twarzy decydentów. I jest to być może jeden z nielicznych w niedawnej historii naszej cywilizacji dowodów na gotowość do samoograniczenia: zrobienia kroku w tył. Z lufą nuklearnego pistoletu przy skroni i dlatego, że największym mocarstwom było to na rękę, służyło zachowaniu równowagi sił.

Analogiczna próba zaciągnięcia hamulca powinna nastąpić w przypadku lawinowego rozwoju sztucznej inteligencji. Przekroczyliśmy właśnie punkt, który Ray Kurzweil, prorok transhumanizmu, określił mianem „osobliwości”. Momentu, w którym technologia zacznie się rozwijać „samożywnie”, poza człowiekiem. Jakoś tam będzie się nią nadal posługiwać, ale efekty jej pracy będą jego samego zaskakiwać, nie będzie się ich dało przewidzieć ani zaplanować. Jej kreatywność zaczyna sięgać dalej niż jakakolwiek ludzka wizja. A relacja między nami jest grą o sumie zerowej, ktoś tu kogoś będzie zawsze kontrolował, my ją albo ona nas.

To zagrożenie dużo bardziej podstępne niż w przypadku atomu. Nie mówimy o apokaliptycznym powiewie, tumanach radioaktywnego pyłu, tylko o powolnym wypłukiwaniu człowieczeństwa. Punktowym wypieraniu wszystkiego, co ludzkie, „po naszemu” niedoskonałe, felerne i chybotliwe. Stopniowym podporządkowywaniu się wyrokom zapadającym przed nieosiągalnym dla naszego wzroku, cybernetycznym trybunałem. Ludzkość nie przestanie istnieć zalana falą powodziową sztucznie wygenerowanych treści i decyzji. Będzie się tylko powoli stawać wytworem człowiekopodobnym. Takim, który pragnie, kocha, zdradza, planuje i walczy według obcego, znajdującego się poza nim, ale cholernie logicznego wzorca. Jeśli zaczniemy się zachwycać napisanymi przez nią symfoniami, stać godzinami przed namalowanymi jej nanobotyczną dłonią malowidłami, nałogowo oglądać napisane przez nią, idealnie zoptymalizowane pod względem przyciągania uwagi seriale, to nasze dusze i umysł zacznie pożerać cybernetyczny trąd.

Czytaj więcej

Jan Maciejewski: Od satanizmu do nawrócenia

I jeśli oddamy jej prawo do zajmowania się nami w wolnym czasie, czasie „dla siebie”, to dlaczego nie mielibyśmy abdykować na jej rzecz z każdego rodzaju władzy. Prawa do decydowania o wojnie i pokoju. O rodzajach broni do użycia, tych najbardziej – z jej punktu widzenia, bo przecież inny istnieć już nie będzie – logicznych i zrozumiałych. To co miałoby ją powstrzymać przed użyciem broni atomowej, rozpętaniem nad naszymi głowami armagedonu? Ona to przecież przetrwa, jej tkanki dadzą radę się odtworzyć. A my już teraz na dobrą sprawę przestajemy jej być potrzebni. Więc co lub kto miałoby ją powstrzymać? Który, z zadowolonych z siebie, magów, wypuszczających właśnie z butelki dżina?

Zęby wyszczerzone w szerokim, pogodnym uśmiechu. W dłoni nóż. Przy jego pomocy pokrojony zostanie zaraz tort ozdobiony olbrzymim, stworzonym z lukru i bitej śmietany, atomowym grzybem. Amerykański generał, który pozuje na tym zdjęciu, przeprowadził właśnie jedną z pierwszych prób nuklearnych na atolu Bikini. Nigdy wcześniej zagłada nie rozpływała się w ustach, nie zdawała się tak słodką perspektywą.

Zdjęcie to ukazało się w zachodniej prasie w 1946 roku (wspomina o nim w swym reportażu „Porwanie Europy” Sándor Márai) i zdaje się, że przeszło bez większego echa. A przecież to właśnie ono – bardziej niż wszystkie fotografie i nagrania przedstawiające prawdziwe, nie lukrowane, atomowe grzyby – spowite jest cieniem zagłady. W jowialnym uśmiechu wojskowego uchwycono sedno nuklearnego zagrożenia. Może i przed upadkiem kroczy pycha, ale za to przed unicestwieniem pełza samozadowolenie.

Pozostało 82% artykułu
Plus Minus
Kiedy będzie następna powódź w Polsce? Klimatolog odpowiada, o co musimy zadbać
Plus Minus
Filmowy „Reagan” to lukrowana laurka, ale widzowie w USA go pokochali
Plus Minus
W walce rządu z powodzią PiS kibicuje powodzi
Plus Minus
Aleksander Hall: Polska jest nieustannie dzielona. Robi to Donald Tusk i robi to PiS
Materiał Promocyjny
Wpływ amerykańskich firm na rozwój polskiej gospodarki
Plus Minus
Prof. Marcin Matczak: PSL i Trzecia Droga w swym konserwatyzmie są bardziej szczere niż PiS