Szum według Kahnemana. Jak unikać błędnych decyzji

Gdyby surowość wyroku sądowego zależała od tego, czy zapada on na początku dnia pracy, gdy skład sędziów jest wypoczęty i nie wyczekuje przerwy na posiłek, to zależność taką uznalibyśmy za oburzającą lub co najmniej nieakceptowalną. Podobnie trudno byłoby się pogodzić z tym, że w tej samej sprawie wydawane są różne wyroki w zależności od nastroju sędziów (np. po zwycięstwie lub porażce poprzedniego dnia lokalnego zespołu futbolowego). Albo od tego, czy oskarżony obchodzi danego dnia urodziny.

Tymczasem masowe badania orzeczeń wydanych przez sędziów w USA i Francji wskazują na istnienie właśnie takich zależności. Kiedy sędziowie są głodni, stają się surowsi. Łagodnieją natomiast, gdy są w dobrym nastroju, albo gdy sprawa dotyczy osoby, która danego dnia obchodzi urodziny. Z kolei przegląd ponad 200 tys. decyzji amerykańskich sądów imigracyjnych wykazał, że trudniej było uzyskać azyl tym osobom, których decyzje wydano w upalne dni lata, niż w dniach o bardziej znośnych temperaturach.

Czytaj więcej

Plus Minus

„Dzieci Katriny”: Przypowieść o kataklizmie

Huragan Katrina nie należy do przeszłości. Jest teraźniejszością i przyszłością zarazem. Staje się żywą legendą, przekazywaną z pokolenia na pokolenie, niczym przypowieść.

***

Tego typu niepożądane i niezrozumiałe rozbieżności w osądach i decyzjach nazywane bywają szumem (ang. noise). Gdy na podejmowane decyzje wpływ mają czynniki o charakterze niemerytorycznym, to powodują one zakłócenia (szum) w prawidłowym przebiegu określonego działania. Autorzy książki pt. „Szum, czyli skąd się biorą błędy w naszych decyzjach”, Daniel Kahneman – laureat Nagrody Nobla z 1982 r., Olivier Sibony – profesor na paryskim HEC, i Cass R. Sunstein – profesor Uniwersytetu Harvarda, włożyli sporo pracy w to, aby opisać źródła tych błędów i sposoby ich eliminacji.

Podczas gdy w wielu społecznościach jesteśmy czujni i uwrażliwieni na błąd utrwalonych uprzedzeń i tendencyjności, przekładający się często na dyskryminację w podejmowanych decyzjach, zdajemy się nie doceniać innego rodzaju błędu, jakim jest szum. Oba zaś te błędy: tendencyjność (systematyczne obciążenie) oraz szum (rozproszenie, dyspersja) w równym stopniu kształtują wielkość całkowitego błędu w formułowanych przez ludzi osądach. I oba stają się groźne zwłaszcza wtedy, gdy mają wpływ na podejmowane decyzje w instytucjach, takich jak organy wymiaru sprawiedliwości, instytucje ochrony zdrowia czy ośrodki doradztwa zawodowego.

Źródłem szumu, czyli niepożądanej rozbieżności osądów i ocen, może być brak wiedzy lub niekompetencja osób reprezentujących daną instytucję. Wówczas sytuacja jest stosunkowo jasna i wiadomo, jak można stan ten poprawić. Jednak częściej są nim defekty i niedoskonałości ludzkiego umysłu, odpowiedzialne za nasze błędy poznawcze. Szeroko pisał o nich Daniel Kahneman w swojej poprzedniej książce pt. „Pułapki myślenia. O myśleniu szybkim i wolnym” (Wyd. Media Rodzina, 2012). W szczególności błędy te powstają na skutek stosowania przez człowieka różnego rodzaju heurystyk, a więc odwoływania się do szybkiego myślenia intuicyjnego oraz wielu uproszczeń w sposobach przetwarzania informacji. Przykładem takiego błędu jest zjawisko nadmiernej spójności, czyli dążenia do formułowania spójnych wewnętrznie sądów i opinii, a w konsekwencji do niechętnej ich zmiany pod wpływem nowej informacji. Związany z nim jest np. błąd potwierdzania (konfirmacji), dość powszechny w naszym codziennym myśleniu. Polega on na poszukiwaniu i akceptowaniu informacji wspierających wcześniejsze przekonania lub hipotezy, natomiast odrzucaniu tych, które je podważają.

Autorzy książki wskazują na występowanie zjawiska konfirmacji w wielu profesjach, w tym m.in. wśród specjalistów z zakresu kryminalistyki. Gdy na zjawisko to nakłada się dodatkowo tzw. efekt ślepej plamki – dostrzeganie błędu u innych, lecz nie u siebie – to eliminowanie go staje się nie lada wyzwaniem. Autorzy wspomnianej książki cytują wyniki badania przeprowadzonego wśród 400 zawodowych analityków kryminalistycznych w 21 krajach, które ujawniło, że 71 proc. z nich uznaje, iż „ogólnie rzecz biorąc, błędy poznawcze w kryminalistyce są powodem do niepokoju”. Jednocześnie tylko 26 proc. zgodziło się z tym, że błędy poznawcze mają wpływ na ich własne osądy.

***

Istotną przeszkodą w dostrzeżeniu szumu obecnego w osądach i decyzjach jest nasza skłonność do myślenia przyczynowo-skutkowego. Niezrozumiałe rozbieżności staramy się interpretować w taki sposób, aby nadać im jakiś logiczny sens przyczynowy. To, że odpowiedzialny za te rozbieżności może być szum, rzadko nasuwa się jako rozsądna hipoteza. Dzieje się tak dlatego, iż szum – „niewidzialny wróg”, jak nazywają go autorzy książki – można dostrzec dopiero wtedy, gdy myślenie przyczynowo-skutkowe ustąpi myśleniu statystycznemu. Szum najwyraźniej objawia się bowiem jako zjawisko statystyczne, w dużych zbiorach określonych osądów, ocen lub decyzji.

Często nie zwracamy na niego uwagi także z tego powodu, że niewielkie jego natężenie traktujemy jako akceptowalne. Nieduży stopień rozrzutu osądów, nawet gdy wyrażone są przez specjalistów z tej samej dziedziny, nie przyciąga szczególnej uwagi. Można nawet zaryzykować stwierdzenie, że przyzwyczailiśmy się do pewnego poziomu szumu wśród osądów na tematy polityczne, ekonomiczne czy środowiskowe. Dość powszechna jest też akceptacja dyspersji ocen w świecie akademickim – zarówno osiągnięć studentów, jak i dokonań naukowców.

Znacznie trudniej jest natomiast zaakceptować szum w tych osądach oraz podejmowanych na ich podstawie decyzjach, które determinują późniejsze losy konkretnych ludzi i w sposób znaczący wpływają na ich dalsze życie. W instytucjach wymiaru sprawiedliwości, ochrony zdrowia, doradztwa zawodowego szum jest najczęściej zjawiskiem niepożądanym. Gdy każdy z lekarzy formułuje inne zalecenia w leczeniu chorego, albo każdy z sędziów opowiada się za inną wysokością kary dla skazanego, budzi to dezorientację, a dodatkowo podważa profesjonalizm tych osób. Dlatego autorzy książki rekomendują nie tylko określone metody ulepszania osądów, ale zalecają wręcz przeprowadzenie „audytu szumu” w instytucjach, w których jego konsekwencje są najpoważniejsze. Celem tego audytu byłoby de facto poznanie procesów decyzyjnych w danej jednostce. Czyli między innymi tego, na podstawie jakich informacji i w jaki sposób decydenci dochodzą do określonych wniosków. Pomiar rozproszenia we wnioskach i decyzjach opartych na tych samych przesłankach, a więc szumu, powinien wskazać zarówno na ewentualne błędy poznawcze, jak i na braki wiedzy czy kompetencji pracowników. Ułatwiłoby to podjęcie działań naprawczych – redukcję szumu i doskonalenie procesów decyzyjnych.

Czytaj więcej

Plus Minus

Szymon Falaciński, Halszka Witkowska. Rozmowy o samobójstwie

Gdy kobieta zaczyna czuć, że pojawił się problem lub nie daje sobie rady, to zaczyna szukać możliwości wyjścia z sytuacji. A mężczyzna zostaje sam, bo wstydzi się przyznać, że potrzebuje pomocy.

***

Wydawać by się mogło, że współcześnie, gdy w procesie podejmowania decyzji coraz częściej wspomagają lub zastępują człowieka algorytmy i sztuczna inteligencja, z problemem nieuzasadnionego rozrzutu ocen łatwo można sobie poradzić. Reguły i algorytmy są bowiem nieczułe na wszelkie pozamerytoryczne wpływy i nie podlegają – w przeciwieństwie do człowieka – zmiennym nastrojom i emocjom. Ponadto lepiej sobie radzą z przetwarzaniem dużej ilości informacji oraz liczbowych wskaźników. Jednak dylematów związanych z tym, czy powinny one zastępować człowieka w podejmowaniu decyzji, a przez to niwelować szum obecny w ludzkich osądach i decyzjach, jest niemało.

Zacznijmy od kluczowego pytania, czy chcieliby takiej alternatywy sami decydenci, a także osoby, których podejmowane decyzje dotyczą? W wymiarze sprawiedliwości elementem takiego algorytmu mogłyby być ściślejsze reguły wymierzania kar za określone przestępstwa, zmierzające do zmniejszenia uznaniowości sędziów orzekających wyroki. Jednak sami sędziowie niechętnie przyjmują takie ograniczenia, widząc w nich niemożność uwzględnienia wyjątkowości i złożoności konkretnej sytuacji. Nie chcą być wykonawcami mechanicznie podejmowanych decyzji.

Podobna jest postawa lekarzy, którzy chętnie korzystają z wyników wielu szczegółowych badań i analiz, lecz decyzję o leczeniu chcieliby podejmować samodzielnie, na podstawie własnej wiedzy i doświadczenia. Ci, których decyzje bezpośrednio dotyczą, są w nieco bardziej skomplikowanym położeniu. Bo z jednej strony, nie godzą się na konsekwencje nieformalnego charakteru ludzkich osądów i powodowany przez nie szum w decyzjach. A z drugiej strony pragnęliby, aby lekarz, stawiając diagnozę, brał pod uwagę nie tylko wyniki pomiarów i badań ambulatoryjnych, ale korzystał także z własnego doświadczenia medycznego lub nawet ufundowanej na tym doświadczeniu intuicji. Podobnie chcieliby, aby sędzia lub ławnik sądowy skłonny był wziąć pod uwagę wszystkie okoliczności sprawy, także te trudne do wyrażenia, o charakterze psychologicznym, albo po prostu objawiające się jako niewytłumaczalne ludzkie słabości oskarżonego.

Same algorytmy, chociaż coraz bardziej skuteczne w redukowaniu szumu, dalekie są od doskonałości. Powielając wzorce z przeszłości, mogą przyczyniać się do utrwalania błędów tendencyjności i uprzedzeń. O zagrożeniach związanych z ich stosowaniem w różnych dziedzinach życia pisała przed kilkoma laty Cathy O’Neil w książce pt. „Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji”, (Wydawnictwo Naukowe PWN, 2017). Dodatkowo, zanurzone w danych z przeszłości, algorytmy sztucznej inteligencji są nieczułe na potrzeby zmian. Nie antycypują zmian i nie sygnalizują potrzeby ich uwzględnienia. Pełne zastąpienie nimi człowieka w procesie podejmowania decyzji hamowałoby ludzką innowacyjność i kreatywność, a ponadto utrudniałoby zmiany postaw w obliczu ewoluującej hierarchii wartości w społeczeństwie. Dlatego obok zmniejszenia szumu, jaki zapewnić mogą narzędzia sztucznej inteligencji, nie sposób pominąć zagrożeń związanych z ich stosowaniem.

***

Jest jeszcze jeden powód, słabo akcentowany we wspomnianej na wstępie książce, by dążyć raczej do ograniczenia niż do całkowitej redukcji szumu w osądach. Otóż pewien stopień rozproszenia osądów uznać należy za korzystny. Zróżnicowanie ocen i opinii wskazane jest szczególnie wówczas, gdy istnieje ryzyko wystąpienia w nich błędu systematycznego. To, że znaczna większość osądów na jakiś temat może być w określonej zbiorowości tendencyjna (często nieświadomie), nie jest niczym wyjątkowym. Wystarczy przywołać szereg badań wykonanych przed laty w krajach strefy euro, w których zaobserwowano systematyczne zawyżanie przez konsumentów szacunków wzrostu cen na rynku bezpośrednio po wprowadzeniu wspólnej waluty. Odczucia konsumentów rozmijały się z rzeczywistymi danymi statystycznymi w jednym tylko kierunku.

Źródłem takich jednokierunkowych błędów w ocenach mogą też być obecne w danej zbiorowości uprzedzenia i stereotypy (narodowościowe, płciowe itp.). Brak rozproszenia osądów oznaczać będzie brak choćby sugestii, że może być inaczej, wskazania, że być może wszyscy się mylimy. Jest to o tyle groźne zjawisko, że rozproszenie, jak wiadomo, zmniejsza się wraz ze wzrostem liczby pomiarów. Czyli każda dodatkowa osoba wydająca osąd przyczyniać się będzie do redukcji szumu, przez co bardziej nieprawdopodobne stawać się będą inne oceny, w tym wolne od tendencyjności. Coraz silniej tkwić będziemy wspólnie w błędzie.