To może doprowadzić do zagłady ludzkości. Eksperci ostrzegają

Sztuczna inteligencja coraz mocniej wchodzi w nasze życie. Jest już niemal wszędzie, a to tak naprawdę dopiero początek jej rozwoju. Zdaniem trzynastu były pracowników z trzech różnych firm, które AI się zajmują, powinniśmy zwolnić, bo możemy doprowadzić do własnej zagłady.

AI doprowadzi do zagłady ludzkości?

Takiego zdania jest trzynastu byłych już pracowników OpenAI, DeepMind (Google) oraz Anthropic. W otartym liście ostrzegają oni przed licznymi zagrożeniami, które wiążą się z rozwojem i udostępnianiem narzędzi opartych na sztucznej inteligencji.

Szczególnie zwracają uwagę na dalsze utrwalanie istniejących nierówności, manipulacje i dezinformacje, a także ewentualną utratę kontroli nad autonomicznymi systemami sztucznej inteligencji, co może doprowadzić do wyginięcia ludzi.

Same firmy zajmujące się sztuczną inteligencją są świadome tych zagrożeń, podobnie jak rządy na całym świecie i inni eksperci ds. sztucznej inteligencji.

- czytamy w liście.

Najnowszy list otwarty jest tak naprawdę pokłosiem identycznej inicjatywy z marca 2023 roku. Wtedy podobne pismo zostało podpisane przez ponad 1000 ekspertów z dziedziny technologii, w tym między innymi Stuarta Russella, profesora informatyki Uniwersytetu Kalifornijskiego. Zwracano uwagę na konieczność większej kontroli, której wciąż ma brakować i stąd kolejny apel do samych firm, ale też światowych rządów.

Obecni i byli pracownicy są jednymi z niewielu osób, które mogą pociągnąć ich do odpowiedzialności przed opinią publiczną. Jednak szerokie umowy o poufności blokują nam możliwość wyrażenia naszych obaw. Zwykła ochrona sygnalistów jest niewystarczająca, ponieważ koncentruje się na nielegalnej działalności, podczas gdy wiele zagrożeń, o które się martwimy, nie zostało jeszcze uregulowanych. 

- twierdzą autorzy w liście otwartym.

Byli pracownicy OpenAI, DeepMind (Google) oraz Anthropic otwarcie mówią, że boją się różnego rodzaju odwetów, bo znają podobne przypadku w całej branży. Pomimo tego odważyli się głośno mówić o zagrożeniach związanych z AI.