Ostrzeżenie przed oszustwem w WhatsApp: Sztuczna inteligencja sprawdza wyłącznie nieznajomych, a nie Państwa kontakty

12 sierpnia firma Meta opublikowała opis techniczny funkcji Scam Alert, nowej funkcji serwisu WhatsApp. Została ona zaprojektowana w celu ostrzegania użytkowników przed wiadomościami oszukańczymi, zanim ktokolwiek da się na nie nabrać. Proces weryfikacji odbywa się w całości na telefonie użytkownika.

Po włączeniu tej funkcji WhatsApp pobiera na urządzenie niewielki model sztucznej inteligencji. Model ten analizuje przychodzące wiadomości i porównuje je ze wzorcami zgłoszonych oszustw, czyli z wątkami rozmów i sformułowaniami typowymi dla znanych oszustw. Żadna treść wiadomości nie opuszcza telefonu w tym celu. Szyfrowanie typu end-to-end, w którym tylko nadawca i odbiorca widzą tekst jawny, pozostaje nienaruszone.

Ostrzeżenie widzi wyłącznie odbiorca

Jeśli model wykryje prawdopodobną próbę oszustwa, powiadomienie pojawia się bezpośrednio na czacie. Nadawca nie otrzymuje powiadomienia. W takiej sytuacji użytkownik może zablokować nadawcę, zgłosić go lub po prostu kontynuować rozmowę. WhatsApp nie zgłasza automatycznie żadnych informacji do Meta. Dzieje się tak wyłącznie wtedy, gdy użytkownik aktywnie kliknie opcję „Zgłoś”.

Sprawdzane są wyłącznie wiadomości od nadawców, których nie ma w książce adresowej

Jest to ograniczenie, o którym wspomina sam Meta w swoim opisie. Model klasyfikuje wyłącznie wiadomości od nadawców, którzy nie są zapisani w kontaktach użytkownika. Wiadomości od osób już znajdujących się w książce adresowej nie są sprawdzane.

Oznacza to, że – jak na ironię – oszustwo, które działa najskuteczniej, pozostaje poza zasięgiem systemu. Jeśli konto WhatsApp znajomego lub krewnego zostanie przejęte, wiadomość oszukańcza pochodzi z prawdziwego, znanego konta. W takich przypadkach funkcja „Ostrzeżenie o oszustwie” pozostaje cicha. Przypadek fałszywej aplikacji, która przejmuje konta WhatsApp, pokazał, jak działa takie przejęcie. Nawet szokująca rozmowa telefoniczna z klonowanym głosem omija tę kontrolę, ponieważ w ogóle nie odbywa się za pośrednictwem WhatsApp.

Wystarczy raz oznaczyć kontakt jako godny zaufania, a ostrzeżenie już nigdy się nie pojawi

Jeśli uznają Państwo, że ostrzeżenie jest fałszywe, mogą Państwo oznaczyć czat jako zaufany. Ostrzeżenie zniknie wówczas na stałe dla tego kontaktu. Jest to wygodne, ale stanowi również słaby punkt: jest to właśnie rodzaj decyzji, którą podejmują Państwo pod presją, gdy doświadczony oszust nawiązał już rozmowę. Każdy, kto oznaczy czat w ten sposób, może również dobrowolnie przesłać do serwisu WhatsApp pięć ostatnich otrzymanych wiadomości.

Zaprojektowane z myślą o weryfikowalności

Jeśli chodzi o przejrzystość, firma Meta wykracza poza standardowe praktyki. Każda wersja modelu jest rejestrowana w publicznym rejestrze wraz z sumą kontrolną przed jej wdrożeniem. Podpis pochodzi od firmy Cloudflare; Meta nie posiada klucza niezbędnego do tego celu. Wagi modelu są publikowane, aby badacze mogli zweryfikować, czy model rzeczywiście wykrywa wyłącznie oszustwa. Użytkownicy mogą samodzielnie znaleźć dziennik w sekcji „Konto” > „Poproś o informacje” > „Aktywność alertów o oszustwach”, który pokazuje, które wiadomości zostały sprawdzone oraz która wersja modelu była wówczas uruchomiona.

Statystyki dotyczące częstotliwości wydawania ostrzeżeń oraz reakcji użytkowników są przetwarzane w izolowanych środowiskach obliczeniowych. Zanim dane te trafią do Meta, są one agregowane i zanonimizowane, tak aby nie można było wyciągać wniosków dotyczących poszczególnych użytkowników.

Funkcja nie jest jeszcze dostępna

Funkcja „Scam Alert” działa obecnie w ramach ograniczonej wersji beta, równolegle z programem nagród za wykrywanie błędów firmy Meta. Firma nie ogłosiła jeszcze daty pełnego uruchomienia ani krajów, w których funkcja ta będzie dostępna. Jak dotąd nie pojawiło się żadne oświadczenie dotyczące Niemiec. Do tego czasu obowiązuje stara zasada: jeśli otrzymają Państwo prośbę o pieniądze lub rzekomo nowy numer telefonu, proszę skontaktować się z daną osobą za pośrednictwem innego kanału, najlepiej dzwoniąc na stary numer. Jeśli chcą Państwo dowiedzieć się, jak szybko konto może zostać przejęte nawet bez hasła, zapoznajcie się Państwo z raportem na temat skradzionego pliku cookie sesji.