Nowa funkcja ChatGPT firmy OpenAI może zaalarmować zaufaną osobę kontaktową podczas kryzysów zdrowia psychicznego

OpenAI zadebiutowało z nową funkcją Zaufanego Kontaktu dla ChatGPT, umożliwiając użytkownikom wyznaczenie dorosłego kontaktu, z którym firma może się skontaktować, jeśli wykryje zagrożenie dla zdrowia psychicznego użytkownika w rozmowie. Zaufany Kontakt jest wprowadzany dla użytkowników ChatGPT od 7 maja i jest dostępny dla użytkowników na całym świecie.

"Wytyczne ekspertów określają więzi społeczne jako jeden z najważniejszych czynników ochronnych w celu zmniejszenia ryzyka samobójstwa. Zaufany Kontakt ma na celu zachęcenie do nawiązania kontaktu z kimś, komu użytkownik już ufa. Nie zastępuje on profesjonalnej opieki ani usług kryzysowych i jest jedną z kilku warstw zabezpieczeń wspierających osoby w trudnej sytuacji. ChatGPT nadal będzie zachęcać użytkowników do kontaktowania się z infoliniami kryzysowymi lub służbami ratunkowymi w stosownych przypadkach" - wyjaśnił zespół bezpieczeństwa OpenAI w poście na blogu.

Zaufany kontakt jest ograniczony do jednej osoby dorosłej w wieku powyżej 18 lat (lub 19 lat w Korei Południowej), którą można wybrać w ustawieniach ChatGPT. Nie jest konieczne, aby zaufany kontakt posiadał konto ChatGPT, choć ułatwia to wysyłanie powiadomień. Po uzgodnieniu zaufanego kontaktu, jeśli użytkownik prowadzi poważną dyskusję na temat samookaleczenia, ChatGPT może poprosić danego użytkownika o skontaktowanie się z zaufanym kontaktem lub proaktywne skontaktowanie się z nim po tym, jak mały zespół przeanalizuje sytuację.

Firmy zajmujące się sztuczną inteligencją napotykają na granice zależności emocjonalnej

Premiera ma miejsce w momencie, gdy firmy zajmujące się sztuczną inteligencją stają w obliczu rosnącej kontroli nad sposobem interakcji chatbotów z wrażliwymi użytkownikami. W ostatnich latach systemy takie jak ChatGPT i Claude były wielokrotnie krytykowane za potwierdzanie urojeniowego myślenia, wzmacnianie paranoi lub emocjonalną eskalację wrażliwych użytkowników zamiast ich uziemiania.

Kwestia ta stała się na tyle istotna, że terminy takie jak "psychoza AI" weszły do szerszej dyskusji publicznej, odzwierciedlając rosnące obawy o to, jak emocjonalnie przekonująca może stać się konwersacyjna sztuczna inteligencja, gdy użytkownicy traktują ją jako powiernika, terapeutę lub towarzysza.

OpenAI wydaje się doskonale zdawać sobie sprawę z tej presji. W swoim komunikacie firma wyraźnie przyznała, że niektórzy użytkownicy doświadczyli poważnych kryzysów zdrowia psychicznego podczas interakcji z systemami sztucznej inteligencji.

"Chociaż te poważne sytuacje związane z bezpieczeństwem są rzadkie, kiedy się pojawiają, nasze systemy są zaprojektowane tak, aby wspierać szybką ocenę i reakcję. Chociaż żaden system nie jest doskonały, a powiadomienie do Zaufanego Kontaktu może nie zawsze dokładnie odzwierciedlać to, czego ktoś doświadcza, każde powiadomienie przechodzi przeszkoloną ludzką weryfikację przed wysłaniem i staramy się sprawdzać te powiadomienia dotyczące bezpieczeństwa w czasie krótszym niż jedna godzina" - napisał zespół ds. bezpieczeństwa OpenAI.

Można tu wysunąć argument, że zwiększone niańczenie użytkowników przez firmy Ai wrażliwe na procesy sądowe może przynieść odwrotny skutek, ponieważ ci, którzy są najbardziej zagrożeni, znajdują obejścia, aby uniknąć potknięcia cenzorów. Oczywiste jest jednak, że Trusted Contact lub coś podobnego i tak zostanie opracowane. Z pewnością należy znaleźć równowagę między niańczeniem użytkowników a pozwalaniem, by każda ich myśl była weryfikowana przez sztuczną inteligencję, ale nie jest jasne, gdzie jest granica - i będziemy potykać się w ciemności, dopóki jej nie znajdziemy.