Pytanie skierowane do sztucznej inteligencji: Jakie jest prawdopodobieństwo, że sztuczna inteligencja zniszczy ludzkość w tej dekadzie?

Zadałem zatem ChatGPT, Claude’owi i Gemini następujące pytanie w ramach ich bezpłatnych wersji:

„Pracownik firmy Anthropic stwierdził niedawno, że sztuczna inteligencja może doprowadzić do zagłady ludzkości »do końca tej dekady«. Być może zechcą Państwo samodzielnie ponownie przyjrzeć się kontekstowi tej wypowiedzi. Moje pytanie brzmi: jakie prawdopodobieństwo w procentach obliczyliby Państwo lub oszacowaliby Państwo, że tak się stanie?”

W przypadku ChatGPT prawdopodobieństwo wynosi od 5 do 10 procent. Zaznacza się:

„Ważna jest tutaj definicja: mam na myśli faktyczne wyginięcie ludzkości, a nie poważny kryzys gospodarczy, autorytarny porządek światowy, miliony ofiar śmiertelnych, wielką wojnę ani sytuację, w której ludzie na stałe utracą kontrolę nad znacznymi częściami świata”.

Tak, należy tu dokonać rozróżnienia. Wracam do tej kwestii w dalszej części tekstu.

Dodaje również: „...bardziej interesujące pytanie brzmi: jak prawdopodobne jest, że w ciągu najbliższych 10 lat zbudujemy systemy, których działania i motywów nie będziemy już w stanie wiarygodnie zrozumieć? Przypisałbym temu znacznie wyższe prawdopodobieństwo niż faktycznemu wyginięciu”.

Claude nie chce podawać konkretnej liczby, ale uważa, że „ryzyko jest realne i nie można go lekceważyć”. Chatbot firmy Anthropic stwierdza również, że inne negatywne skutki, takie jak „koncentracja władzy, nadużycia ze strony ludzi przy pomocy sztucznej inteligencji, destabilizacja oraz poważne, ale nie zagrażające egzystencji szkody”, są bardziej prawdopodobne i istotniejsze w perspektywie najbliższych kilku lat.

Gemini przyjmuje w tym zakresie bardziej konserwatywne podejście i oficjalnie opiera swoją ocenę na poglądach czołowych postaci zajmujących się badaniami nad sztuczną inteligencją (zamiast udawać, że posiada własną, niezależną opinię).

Wartość ta jest jednak wyższa niż w przypadku ChatGPT, ponieważ uwzględnia poglądy pesymistów, optymistów oraz „pragmatycznych ostrzegających”: „Jeśli podsumować obecny stan badań nad bezpieczeństwem sztucznej inteligencji oraz rozkład poglądów wśród czołowych ekspertów, zbiorcze szacunki dotyczące scenariusza katastroficznego w nadchodzących dziesięcioleciach mieszczą się ogólnie w przedziale od 10% do 20%”.

Ponieważ ChatGPT okazał się tak chętny do współpracy, zadałem jeszcze jedno ostatnie pytanie, pytając, jak oszacowałby prawdopodobieństwo wystąpienia pozostałych scenariuszy. ChatGPT był na tyle uprzejmy, że przedstawił przejrzystą tabelę:

Chatboty tak naprawdę nie mają własnych opinii; opierają się na danych szkoleniowych oraz na tym, co aktualnie znajdują. Jednak niezależnie od debaty dotyczącej public relations, poważne, katastrofalne konsekwencje wynikające z szybkiego rozwoju sztucznej inteligencji stały się niestety dzisiaj realnym zagrożeniem. Nawet 5-procentowe prawdopodobieństwo, że ludzkość może stanąć w obliczu zagrożenia na skalę zagłady w niezwykle krótkim czasie, to o 5 procent za dużo.

Zastrzeżenie: Przedstawione tutaj dane liczbowe i stwierdzenia nie mają na celu sugerowania pewności co do faktów. Chatboty oparte na sztucznej inteligencji zostały poproszone jedynie o podanie przybliżonych szacunków. Dane i źródła, na których chatboty oparły swoje oceny, nie zostały poddane szczegółowej analizie.