Gdy pierwsza maszyna oznajmi „jestem świadoma”,
czy będziemy wiedzieli co zrobić?

Wielu sądzi, że największym problemem związanym z rozwojem sztucznej inteligencji (SI) jest możliwość utraty kontroli i scenariusz widowiskowej zagłady rodem z filmów sci-fi. Choć tych zagrożeń nie można ignorować, SI niesie też znacznie bardziej subtelne, lecz równie poważne niebezpieczeństwa, którym dotąd prawie nie poświęcano uwagi.

Wbrew popularnej opinii, złożonej inteligencji wcale nie musi towarzyszyć świadomość – może się okazać, że nawet SI dorównująca zdolnościom człowiekowi nie posiada żadnego „życia wewnętrznego” i nie jest zdolna do subiektywnego doświadczania świata. Czy będziemy potrafili odróżnić maszynę świadomą od maszyny jedynie inteligentnej? Choć to niezwykle trudny problem, stawka jest ogromna, a konsekwencje pomyłki przerażające. Gdyby SI były świadome, nieuznanie ich praw i zmuszenie do służenia człowiekowi byłoby równoznaczne z niewolnictwem na bezprecedensową skalę. Z kolei jeśli przypiszemy świadomość maszynom, które w istocie jej nie posiadają, w przyszłości może się okazać, że kosmos wypełniają nasi postbiologiczni potomkowie – ale brak w nim świadomych istot.

„Świadome maszyny” to mapa intelektualna, która pomaga rozeznać się w zawiłych dylematach na styku filozofii, kognitywistyki i badań nad sztuczną inteligencją. Autorka omawia metodologię testów na świadomość SI, które opracowała dla Instytutu Studiów Zaawansowanych w Princeton, oraz rozważa czy umysł to tylko program, który możemy modyfikować lub kopiować – jak również czy pozostaje on wtedy umysłem tej samej osoby. Książka konkretyzuje pytania, których dłużej nie możemy ignorować, i dobitnie uzmysławia, że zanim wkroczymy w erę projektowania umysłów, musimy lepiej zrozumieć takie zjawiska jak świadomość, jaźń i tożsamość – gdyż dzięki rozwojowi technologii te pozornie abstrakcyjne problemy mogą stać się sprawą życia i śmierci.

„Czy możliwa jest sztuczna świadomość? Czy mógłbyś zostać sztuczną inteligencją? Czy nadal byłbyś sobą? Schneider żywo i przekonująco argumentuje, że przyszłość ludzkości może zależeć od odpowiedzi na te filozoficzne pytania. ŚWIADOME MASZYNY są pełne przydatnych narzędzi do myślenia na temat umysłu i jego przyszłości.”

David Chalmers,
autor Świadomy umysł. W poszukiwaniu teorii fundamentalnej (PWN, 2004).

• transfer umysłu
• tożsamość osobowa
• problem teleportera
• problem jaźni
• kopiowanie umysłu
• problem kontroli
• problem świadomości
• syntentyczne umysły
• świadomość robotów
• Nick Bostrom
• superinteligencja
• modyfikacja mózgu
• modyfikacja umysłu