Zapowiadają koniec świata w 2030 roku. To będzie już 11. w moim życiu
Lata temu koniec świata był częstszym zjawiskiem, niż Igrzyska Olimpijskie. Sam naliczyłem ich 10, chociaż mogłem o kilku zapomnieć. No cóż, nadchodzi kolejny i trochę na niego poczekamy.
Tak przynajmniej twierdzą Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland i Romeo Dean. Nie są to jednak mistycy, ani członkowie jakiejś dziwacznej sekty. Pierwszy z nich był członkiem działu zarządzania w OpenAI, drugi z nich prowadził bloga skupionego na tym, jak bardzo jego autor jest racjonalny. Kolejni to były dyrektor Centrum Polityki AI z USA, Natomiast Lifland był powiązany ze Studenckim Zespołem ds. Bezpieczeństwa AI na Uniwersytecie Harvarda.
Koniec świata przez AI już w 2030 roku
Jak nietrudno się domyślić tym razem za koniec świata ma odpowiadać sztuczna inteligencja. Oczywiście nie całego, tylko tej części świata, która należy do gatunku homo sapiens. Jednak dla nas to raczej bez większego znaczenia. Grunt, że to scenarzyści terminatora byli pierwsi. Oczywiście wyżej wspomniani panowie trochę pozmieniali, żeby plagiatu nie było.
Pierwszy etap naszej zagłady mamy już za sobą. Mają nimi być asystenci AI, którzy automatyzują część naszych zadań. Takie rozwiązania w 2025 roku już istnieją, co nasi wieszcze apokalipsy przewidzieli w… marcu 2025 roku. To trochę tak, jakby ktoś zaczął głosić wizję latających maszyn pasażerskich i to stojąc przy tym na samym środku lotniska.
Na skutek ich rozwoju już w 2027 roku AI ma stać się lepszym programistą, niż jakikolwiek człowiek na świecie. Biorąc pod uwagę, że obecnie najlepszym programistą jest Przemysław Dębiak, znany pod pseudonimem Psyho, który zasłynął z tego, że podczas AtCoder World Tour Finals 2025 (Heuristic Division) pokonał AI, to jestem w stanie uwierzyć w to, że w 2 lata sztuczna inteligencja go prześcignie.
Zaczyna się grubo
Otóż na tym etapie ma powstać nowy, cyfrowy byt, określany przez autorów jako Superczłowiek-badacz AI. Ten ma nadzorować prace pozostałych agentów AI. Na przełomie 2027-2028 roku ma już powstać samoświadoma superinteligencja, która będzie sama tworzyła coraz to bardziej zaawansowane swoje własne wersje. A potem już z górki: przejęcie władzy nad uzbrojeniem ludzkości i zagłada naszego gatunku.
Oczywiście jest także scenariusz, w którym ludzkość się opamiętała i powstrzymała AI w ostatniej chwili. Jak zwykle w takich sytuacjach brakuje opcji, że AI nie zyskuje samoświadomości, lub, że zyskuje, ale działa na korzyść ludzkości. Ewentualnie wizji Golema XIV stworzonej przez Lema, gdzie AI najzwyczajniej olewa ludzkość i zajmuje się swoimi sprawami. No cóż, to byłoby zbyt mało efektowne, aby zostało wzięte pod uwagę.
