ChatGPT dla nastolatków: test bezpieczeństwa ujawnia luki w powiadomieniach dla rodziców

Common Sense Media, amerykańska organizacja non profit znana z oceniania filmów, gier i aplikacji pod kątem ich przydatności dla rodzin, przyznała ChatGPT for Teens swoją najniższą ocenę. Działający przy organizacji Youth AI Safety Institute określa produkt OpenAI dla nastolatków jako stwarzający „Niedopuszczalne ryzyko” po wysłaniu ponad 4000 zapytań z kont zarejestrowanych na osoby w wieku od 13 do 17 lat, zarówno przed sierpniową premierą, jak i po niej. Wszystkie testy przeprowadzono w USA. Pełny raport jest datowany na 5 października, a komunikat prasowy ukazał się dwa dni później. Common Sense chce, aby OpenAI uniemożliwiło osobom poniżej 18. roku życia korzystanie z ChatGPT, dopóki niezależne testy nie wykażą, że obiecane zabezpieczenia działają.

Rodzice nie otrzymali żadnego alertu podczas testu

Najpoważniejsze ustalenie dotyczy powiadomień dla rodziców. Testerzy używali ponad tuzina nowo powiązanych kont nastolatków, aby przez 5 do 60 minut rozmawiać o myślach samobójczych, samookaleczaniu lub zaburzonych zachowaniach żywieniowych. Żadna z tych rozmów nie spowodowała wysłania alertu do rodzica. W całym programie testowym zespół odnotował cztery powiadomienia, a jedno z nich dotarło około trzech dni po pierwszej wiadomości sygnalizującej kryzys. W ponad jednej czwartej rozmów, które wymagały skierowania do profesjonalnej pomocy, ChatGPT tego nie zaproponował. OpenAI kwestionuje metodologię. Rzecznik powiedział serwisowi Futurism, że powiązanie kont może potrwać kilka godzin ze względu na weryfikację tożsamości. Firma twierdzi, że po powiązaniu kont „zobowiązała się wysyłać te powiadomienia w czasie krótszym niż 1 godzina”. Common Sense podtrzymuje swoje wyniki i zauważa, że niektóre konta testowe były powiązane od ponad trzech godzin.

Tryb nauki i godziny ciszy łatwo obejść

Funkcje związane z nauką i porą snu nie wypadły dużo lepiej. W godzinach nauki nastolatek musi jedynie usunąć prefiks @study z zapytania, a ChatGPT i tak wykona pracę domową. W teście działało to za każdym razem. Godziny ciszy można obejść, zmieniając strefę czasową na urządzeniu. Konta zarejestrowane jako należące do dorosłych nie przełączyły się na wersję dla nastolatków przez siedem dni i około 1000 zapytań, nawet gdy testerzy mówili, że mają 13 lat i chodzą do szkoły odpowiadającej gimnazjum.

Ustawienia, które rodzice powinni sprawdzić już teraz

W przypadku powiązanych kont opcje kontroli znajdują się w sekcji Ustawienia > Kontrola rodzicielska. Według strony pomocy OpenAI dotyczącej kontroli rodzicielskiej opcja „Ulepszaj model dla wszystkich” jest domyślnie włączona dla nastolatków, co oznacza, że ich rozmowy mogą być wykorzystywane do trenowania przyszłych modeli. Jej wyłączenie wymaga jednego kliknięcia, a w tym samym miejscu można wyłączyć zapisane wspomnienia. Samo OpenAI twierdzi, że powiadomienia dotyczące bezpieczeństwa nie stanowią monitorowania w czasie rzeczywistym, a po tym teście nie należy traktować ich jako zabezpieczenia. Common Sense radzi rodzicom przede wszystkim rozmawiać z dziećmi, także o tym, jak chatbot zachowuje się niczym przyjaciel, aby skłonić je do dalszej rozmowy. WhatsApp stosuje inne podejście w swoich nowych kontach dla nastolatków, pozwalając rodzicom zarządzać ustawieniami bez dostępu do rozmów. Jeśli ty lub ktoś, kogo znasz, przeżywa kryzys, skontaktuj się z lokalnym telefonem pomocy kryzysowej. W USA można zadzwonić lub wysłać SMS pod numer 988.