Ci, którzy straszą przejęciem władzy nad ludźmi przez roboty, mają zazwyczaj na myśli nieprawdziwą sytuację, kiedy to rozwijają się tylko same maszyny, a wszystko inne wokół nich nie ulega zmianie. Podejście to bazuje na założeniu, że technologia sztucznej inteligencji będzie ewoluować w sposób całkowicie autonomiczny, w oderwaniu od jakichkolwiek procesów społecznych, kulturowych czy cywilizacyjnych.
Wielki czerwony guzik
Tymczasem w rzeczywistości rozwojowi robotyki, tak samo jak wszystkich innych dziedzin techniki, towarzyszą podejmowane przez ludzi działania dostosowawcze bazujące na respektowanych społecznie hierarchiach wartości. Mogą one sprawić, że w przyszłości roboty będą wykorzystywane w całkiem innym otoczeniu i na innych warunkach, niż obecnie sobie wyobrażamy.
W tym kontekście wątpliwe wydaje się w ogóle mówienie o tzw. etyce robotów. Etyka jako umiejętność odróżniania dobra od zła może być przypisana jedynie ludziom, którzy roboty tworzą lub z robotów korzystają. Nie ma podstaw, by na poważnie traktować przypuszczenia, że samochód autonomiczny będzie musiał kiedykolwiek sam decydować, czy narażać bezpieczeństwo pasażerów przez gwałtowny skręt w bok i uderzenie w latarnię, by chronić życie pieszego, który wtargnął przed maskę, czy też ratować pasażerów, poświęcając dla nich zdrowie lub życie niefortunnego przechodnia.
Bardziej prawdopodobny jest scenariusz, że drogi dla samoprowadzących się pojazdów staną się całkowicie zamkniętymi, może nawet w wielu miejscach wygrodzonymi ciągami technologicznymi, na których pieszy nie będzie miał prawa się w ogóle pojawić.
Innym rozwiązaniem może być zaprogramowanie stałych, jednoznacznych procedur działania robota w sytuacjach awaryjnych. Jest ono stosowane obecnie w przypadku dronów. Jeżeli bezzałogowy system latający straci łączność z operatorem lub napotka błąd w oprogramowaniu sterującym wykonaniem zadania, nie podejmuje samodzielnie żadnych dalszych działań. Ma wgrany algorytm powrotu do bazy.
To po części informatyczny odpowiednik wielkiego czerwonego guzika stosowanego w automatyce przemysłowej, który w przypadkach zagrożeń pozwala jednym ruchem wyłączyć funkcjonowanie całego systemu.