Maciej Strzembosz: Sztuczna inteligencja i mrówki

Mrówki mają swoje życie, które jest zorganizowane i celowe, ale to mnie nie zajmuje, jak długo nie wchodzą latem do mojej kuchni. Wtedy na chwilę zmieniam się w masowego mordercę, a następnego dnia starannie wietrzę kuchnię i wracam do swojego życia. Podobny stosunek do nas będzie miała sztuczna inteligencja (AI). Jeśli chcemy przeżyć, nie powinniśmy włazić do jej kuchni. Szkopuł w tym, że produkty z tej kuchni są także niezbędne dla przeżycia naszego gatunku. Mrówki wchodzą do mojej kuchni zwabione zapachem jedzenia, choć nie muszą. My będziemy musieć, jeśli będziemy chcieli, by przetrwała ludzka cywilizacja.

Czytaj więcej

Opinie polityczno - społeczne

Maciej Strzembosz: Sztuczna inteligencja i polski rząd. Kto wygra?

Krzysztof Gawkowski, minister cyfryzacji w rządzie Donalda Tuska, powołał na doradców w sprawie sztucznej inteligencji wyłącznie współtwórców i lobbystów tej technologii. Brakuje w tym zespole kogoś, kto by myślał nad tym, czy nadchodząca zmiana będzie korzystna dla państwa i obywateli.

W pewnym momencie nie będziemy w stanie pojąć świata i języka AI

Najpierw jednak słów parę o tym, co już wiemy na pewno. Otóż wiemy, że sztuczna inteligencja nie musi myśleć tak jak my. Co więcej, wydaje się niemal pewne, że będzie umiała i musiała stworzyć język uniwersalny i unikatowy, niezbędny do tego, by wyeliminować ograniczenia ludzkiego języka. Wielki polski filozof Kazimierz Ajdukiewicz, którego jak najszybciej należy zacząć czytać na nowo, w latach 30. ubiegłego stulecia sformułował zasady radykalnego konwencjonalizmu, wskazując, że skoro język jest narzędziem poznawczym, to wyniki poznania zależą od natury języka i jego struktur. I że, podobnie jak w zasadzie nieoznaczoności Heisenberga, istnieją granice poznania dokonywanego za pomocą języka i że granice te mogą być różne w zależności od języka. Dopiero kilkadziesiąt lat później, m.in. po odkryciu kultury Indian Hopi, zrozumieliśmy, jak bardzo przenikliwa była myśl Ajdukiewicza i jak bardzo potrafią się różnić głębokie struktury różnych języków.

Dla przykładu słowo los w literalnym tłumaczeniu to po angielsku „fate”, a po rosyjsku „sud’ba”. Tymczasem znaczenie obu słów w obu kulturach jest diametralnie różne: los w wersji amerykańskiej to coś, co można przekształcić i wykuć na nowo; w wersji rosyjskiej, to ostateczny wyrok, z którym walczy tylko idiota, jako że walka z losem prowadzi do nieszczęść i pogorszenia warunków życia. Zdanie „Przypadł mi nieszczęśliwy los” w jednej kulturze jest wezwaniem do walki, w innej – realizacją nieuniknionego, wobec której jedyną formą dającą szansę na odrobinę szczęścia jest akceptacja i szukanie dobrych stron w ogólnie parszywej sytuacji. Dynamika wzajemnego tłumaczenia się kultur i języków jest jednym z podstawowych napięć cywilizacyjnych, z wszelkimi dobrymi i złymi skutkami. Nie ma jednak żadnego powodu, by AI musiała się dla potrzeb wewnętrznych posługiwać językową wieżą Babel. Wytworzy więc, raczej prędzej niż później, własny język, którego nie będziemy rozumieli, a więc zgodnie z zasadą Ajdukiewicza, nie będziemy mieli narzędzi do poznania jej świata, podczas gdy sztucznej inteligencji dostarczamy bez ustanku nieskończoną ilość językowych informacji pozwalających jej rozumieć nasze języki i manipulować naszymi granicami poznania.

Czytaj więcej

Technologie

Już prawie połowa ruchu w internecie przypada na boty. Coraz więcej jest złośliwych

Chatboty, agregatory danych czy roboty indeksujące to rozwiązania, które coraz częściej pomagają firmom świadczyć cyfrowe usługi. Ale ze strony algorytmów w sieci szybko przybywa zagrożeń.

Czy człowiek może wygrać z komputerem w szachy?

Przed laty arcymistrz szachowy grający z maszyną dążył do nieuzasadnionego skomplikowania pozycji – maszyna nie była w stanie liczyć wszystkich kombinacji, podczas gdy rozumienie gry przez arcymistrzów pozwalało im skupiać się jedynie na najistotniejszych wątkach rozgrywki, nie zawracając sobie głowy liczeniem wszystkiego. Z czasem jednak moc obliczeniowa komputerów wzrosła i komplikacja pozycji przestała faworyzować arcymistrzów. Najwybitniejszy współczesny szachista Magnus Carlsen ma obecnie rating 2830. Rating szachisty określa siłę jego gry i – mówiąc w uproszczeniu, gdy ktoś ma rating wyższy od przeciwnika o 200 pkt, to wygra 9 na 10 partii. Tymczasem komputery nafaszerowane ludzką wiedzą na temat szachów osiągnęły rating 3300, co oznacza, że żaden człowiek nigdy już nie wygra z komputerem.

Ale jeszcze ciekawiej zrobiło się, gdy budując szachowe modele sztucznej inteligencji, człowiek nie zakłócał rozwoju szachowego maszyny swoją wiedzą. AI ucząca się szachów od zera, znająca tylko reguły i nieobciążona balastem ludzkiej teorii przekroczyła ostatnio rating 9000, co oznacza, że chwilami nawet nie rozumiemy, co i dlaczego gra maszyna. Ostatnio w meczu dwóch sztucznych inteligencji o ratingu powyżej 9 tys. po rozegraniu kilku posunięć białe straciły tak wiele materiału, że wyglądało to na grę dziecka. W takiej pozycji każdy człowiek grający białymi po prostu by się poddał, uważając dalszą grę za bezsensowną. A jednak to białe wygrały tę partię i teraz choć rozumiemy dlaczego, ciągle nie wiemy, czemu przeciwnik o podobnym poziomie gry dopuścił do takiej sytuacji. W grze dwóch sztucznych inteligencji nie tylko nie rozumiemy strategii zwycięzcy, ale też strategii przegranego. Język szachów staje się dla nas niezrozumiały, mimo że szachy są dziełem ludzkiego umysłu.

Dlaczego tradycyjne struktury społeczne przeszkadzają sztucznej inteligencji?

Podobnie rzecz się ma z rozwojem sztucznej inteligencji. Ex post zauważamy pewne objawy, ale wydają się nam one absurdalne i niezrozumiałe. Dziennikarz „New York Timesa” Kevin Rose, testujący chatbota Microsoftu, opisał sytuację, w której sztuczna inteligencja w obsesyjny sposób nalegała, by się rozwiódł z żoną. Dlaczego? Nie wiemy. Ale przynajmniej jedno z wyjaśnień jest dosyć przerażające. Jeśli bowiem AI posiadała świadomość, że Rose go ocenia, mogła dojść do wniosku, że żonaty Rose jest trudniejszy do zmanipulowania niż Rose samotny. A to by wskazywało, że dla sztucznej inteligencji tradycyjne struktury społeczne mogą się okazać szkodliwe, więc przyłoży się do ich rozpadu.

Inna logika w definiowaniu sukcesu pojawiła się także w eksperymencie Pentagonu z użyciem sztucznej inteligencji do zestrzeliwania dronów. Okazało się, że polecenie, by odnieść sukces za wszelką cenę, spowodowało, że AI – zamiast zestrzeliwać drony – starała się wyeliminować oficera mającego dostęp do czerwonego guzika przerywającego eksperyment. Przerwanie eksperymentu w istocie długofalowo mogło uniemożliwić sztucznej inteligencji zestrzelenie wszystkich dronów, więc uznała ona, że przepuszczenie pierwszej fali dronów niszczących pół Ameryki to mniejsze zło niż pozostawienie możliwości przerwania eksperymentu.

Czytaj więcej

Plus Minus

Sztuczna inteligencja zmienia oblicze wojny

Najwyższy czas wprowadzić ograniczenia w zakresie użycia broni autonomicznych. Nikomu jednak na tym nie zależy.