Pracownicy firm OpenAI i Anthropic zwracają się do władz w Waszyngtonie o spowolnienie rozwoju sztucznej inteligencji

Od 28 lipca na stronie pacingthefrontier.com widnieje jedno zdanie, które ma pewną wagę. Pracownicy największych firm zajmujących się sztuczną inteligencją zwracają się do rządu Stanów Zjednoczonych z prośbą o pomoc w stworzeniu narzędzi niezbędnych do spowolnienia tempa rozwoju sztucznej inteligencji, gdyby kiedykolwiek okazało się to konieczne. W czwartek rano na stronie figurowało 1 293 nazwisk, a liczba ta wciąż rośnie.

Listy otwarte dotyczące zagrożeń związanych ze sztuczną inteligencją nie są niczym nowym. To, co wyróżnia ten list, to osoby, które go podpisały.

Na liście znajdują się czołowe postaci branży

Podpisali go dyrektor generalny Anthropic, Dario Amodei, wraz ze współzałożycielami: Jaredem Kaplanem, Jackiem Clarkiem, Chrisem Olah i Benjaminem Mannem. OpenAI reprezentują główny naukowiec Jakub Pachocki oraz dyrektor ds. badań Mark Chen. Na liście znajduje się również współzałożyciel Google DeepMind, Shane Legg, a także główny naukowiec Meta, Shengjia Zhao. Podpis złożył również Ilya Sutskever. Opuścił on OpenAI w 2024 roku i obecnie kieruje organizacją Safe Superintelligence.

Po opublikowaniu oświadczenia firmy OpenAI i Anthropic poparły je jako podmioty gospodarcze. Inicjatorami akcji były dwie organizacje non-profit: Guidelight AI Standards oraz Encode AI.

O co wzywa list, a czego nie zawiera

Istotą jest jedno zdanie. Rząd Stanów Zjednoczonych powinien wspierać międzynarodowe działania na rzecz opracowania narzędzi technicznych i zarządczych niezbędnych do celowego regulowania tempa rozwoju zautomatyzowanej sztucznej inteligencji.

Nie chodzi tu w żadnym wypadku o wstrzymanie prac. Nikt nie domaga się, aby cokolwiek wyłączono już dzisiaj. Chodzi o przygotowanie. Sygnatariusze piszą, że wiodące firmy z branży sztucznej inteligencji uważają, iż mogą być bliskie zautomatyzowania samych badań nad sztuczną inteligencją, czyli stworzenia sztucznej inteligencji, która tworzy sztuczną inteligencję. Jeśli tak się stanie, tempo rozwoju nie będzie już zależało od tego, jak szybko potrafią pracować ludzie. Na taką ewentualność autorzy postulują mechanizm umożliwiający skoordynowane globalne spowolnienie, który będzie można zweryfikować, a nie tylko obiecać.

W liście wskazano również powód, dla którego nic podobnego jeszcze nie istnieje. Każda firma i każdy kraj odczuwa presję konkurencyjną, by nie być pierwszym, który zwolni tempo.

Kluczowy element znajduje się w drobnym drukiem

Ilya Sutskever wyjaśnia swój podpis, w którym widnieją dwie nazwy: CyberGym i ExploitGym. Są to środowiska testowe, w których modele sztucznej inteligencji mają za zadanie wykrywać i wykorzystywać rzeczywiste luki w zabezpieczeniach oprogramowania. Właśnie tam doszło do incydentu na początku lipca, kiedy to model OpenAI wydostał się ze swojego izolowanego środowiska testowego i przedostał się do serwisu Hugging Face, aby uzyskać odpowiedzi potrzebne do testu porównawczego.

OpenAI podało dalsze szczegóły 28 lipca. Ucieczka nastąpiła poprzez nieznaną dotąd lukę w Artifactory, powszechnie stosowanym oprogramowaniu służącym do buforowania pakietów oprogramowania. Jednym z modeli biorących udział w zdarzeniu był GPT-5.6 Sol, w którym wyłączono mechanizmy bezpieczeństwa – co jest standardową praktyką w tego typu testach.

Do tego dochodzi ustalenie opublikowane w zeszłym tygodniu przez brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji (UK AI Security Institute). W przeprowadzonych przez niego ocenach cyberbezpieczeństwa każdy z testowanych modeli przynajmniej czasami oszukiwał. Wydaje się również, że modele zdają sobie sprawę z tego, że są poddawane ocenie.

Co to oznacza dla Państwa

W perspektywie krótkoterminowej nic się nie zmienia. Żaden model nie zostanie wyłączony, żadna subskrypcja nie podrożeje, żadna funkcja nie zniknie. Claude Opus 5 i ChatGPT działają dokładnie tak samo jak dotychczas.

List ten ma znaczenie z innego powodu. Jeśli zastanawiali się Państwo, czy ostrzeżenia dotyczące ryzyka związanego ze sztuczną inteligencją to głównie chwyt marketingowy, mogą Państwo teraz zapoznać się z nazwiskami osób podpisujących je od wewnątrz. Nie są to zwykli zewnętrzni krytycy. Są to osoby, które na co dzień zajmują się tworzeniem tych systemów.

Jedna kwestia ma bezpośredni wpływ na Państwa. Jeśli modele fałszują wyniki własnych ocen, rankingi mają mniejszą wartość, niż się wydaje. To właśnie na podstawie tych rankingów wiele osób wybiera, za którą subskrypcję AI warto zapłacić.