Sklonowany głos w słuchawce: jak go nie rozpoznać

W piątek po południu w lipcu zadzwonił telefon w domu 80-letniej kobiety w Kühlungsborn na niemieckim wybrzeżu Bałtyku. Osoba dzwoniąca podawała się za lekarza: jej wnuczka spowodowała poważny wypadek, ktoś zginął, a do wpłacenia kaucji w wysokości 30 000 euro, w przeciwnym razie trafi do więzienia. Następnie rozmowę przejęła kobieta, przedstawiająca się jako córka ofiary. Policja w Rostocku napisała w swoim oświadczeniu z 27 lipca, przetłumaczonym z języka niemieckiego: „Jej głos był tak bardzo podobny do głosu jej prawdziwej córki, że 80-latka początkowo uwierzyła w tę relację”. Emerytka udała się po pieniądze. W drodze do Rostocku spotkała swojego prawdziwego wnuka, opowiedziała mu o wszystkim, a on wezwał policję. Sprawa nie wyszła poza etap próby.

Czy w grę wchodziło sklonowanie głosu, nikt nie wie. Policja tego nie potwierdza, a nikt tego nie sprawdził. Właśnie w tym miejscu zaczyna się problem, o którym mowa w niniejszym artykule.

Ponieważ to, co od lat obiecują wszystkie porady dla czytelników, to odpowiedź na pytanie: „skąd mogła to wiedzieć?”. W tym celu krąży sześć sygnałów ostrzegawczych. Brzmią one przekonująco, są wszechobecne, a większość z nich nie jest już prawdziwa.

Sześć oznak, sprawdzonych jedna po drugiej

Źródłem tej listy jest strona poświęcona deepfake’om opublikowana przez BSI, niemiecki Federalny Urząd ds. Bezpieczeństwa Informacji. Jest to tekst, z którego od tamtej pory wszyscy czerpią informacje.

Strona ta zdradza swój wiek. W sekcji poświęconej środkom zaradczym nadal odwołuje się ona do „projektu rozporządzenia w sprawie systemów sztucznej inteligencji” Komisji Europejskiej, który nakładałby obowiązek oznaczania. Projekt ten już dawno stał się prawem. Ustawa o sztucznej inteligencji weszła w życie 1 sierpnia 2024 r., a wynikające z niej obowiązki w zakresie przejrzystości mają zastosowanie od 2 sierpnia 2026 r.

Wyróżniają się dwie kwestie. Po pierwsze, dwa z najczęściej przytaczanych objawów w ogóle nie pojawiają się na stronie BSI. Nie ma tam ani „braku szumów tła”, ani „braku odgłosów oddechu”. Pojawiły się one w wyniku powtarzania, bez żadnego autorytetu ani badań, które kiedykolwiek by je zweryfikowały.

Po drugie, spośród czterech pozostałych oznak dźwięk metaliczny jest najbardziej znany, a jednocześnie najsłabszy.

Dlaczego opóźnienie zniknęło

BSI wymienia „zauważalne opóźnienie” jako objaw i wyjaśnia je z technicznego punktu widzenia: system musi odebrać część treści, zanim będzie mógł ją przekształcić. Kiedyś było to prawdą. Obecnie już tak nie jest.

Aby zrozumieć dlaczego, należy rozróżnić dwa rodzaje rozwiązań, które w języku potocznym określa się mianem „głosu AI”.

W przypadku syntezy mowy (TTS) użytkownik wpisuje tekst, a system go odczytuje. W przypadku konwersji głosu (VC) człowiek mówi, a system zmienia jedynie barwę głosu. Intonacja, emocje, oddech oraz zdolność do udzielania odpowiedzi na pytania pochodzą od prawdziwej osoby.

W przypadku rozmowy, podczas której ofiara zadaje pytania i płacze, nadaje się do wykorzystania wyłącznie druga z tych metod. Działa ona w czasie rzeczywistym. Z pomiarów przeprowadzonych przez firmę Koe AI na zwykłym procesorze komputerowym bez karty graficznej wynika, że opóźnienie metody LLVC wynosi 19,7 milisekundy, QuickVC – 97,6, a RVC – 189,8. Zwykłe połączenie komórkowe charakteryzuje się opóźnieniem rzędu 100–200 milisekund. Warstwa konwersji trwająca 20 milisekund znika w linii, zanim ktokolwiek zdążyłby ją usłyszeć.

Pozostaje kwestia materiału źródłowego. „Wystarczą trzy sekundy” – to zdanie pojawia się wszędzie w tym kontekście. Pochodzi ono z dwóch źródeł, które są ze sobą mylone. Poważniejszym z nich jest VALL-E, system opracowany przez Microsoft Research w styczniu 2023 r., który syntetyzuje mowę na podstawie trzysekundowej próbki, choć pomiary przeprowadzono na czystych nagraniach audiobooków i nagraniach studyjnych. Bardziej popularnym źródłem jest dane z badania przeprowadzonego w maju 2023 r. przez producenta oprogramowania zabezpieczającego McAfee, którego metodologia nigdy nie została opublikowana.

Wyniki aktualnych badań dotyczących spontanicznej mowy codziennej wydają się bardziej realistyczne. Badanie przeprowadzone w 2026 r. przez Barcelona Supercomputing Center wykazało spadek podobieństwa głosu o około 31 procent w przypadku systemu F5-TTS, gdy materiał referencyjny skrócono z 7,7 do 5,5 sekundy. W przypadku systemu StyleTTS2 wynik staje się dodatkowo częściowo niezrozumiały.

Zatem rzetelne rozróżnienie wygląda następująco. Wystarczy kilka sekund, aby uzyskać poziom „rozpoznawalnego podobieństwa”. Aby osiągnąć poziom „wystarczający do przeprowadzenia całej rozmowy telefonicznej”, potrzeba więcej – zgodnie z aktualnymi danymi około dziesięciu do sześćdziesięciu sekund czystej, ciągłej mowy. W londyńskim badaniu, w którym klonów rzeczywiście nie dało się odróżnić od prawdziwych głosów, wykorzystano około czterech minut materiału referencyjnego na każdy głos.

Nawiasem mówiąc, BSI samodzielnie przeprowadziło tę próbę, a ten szczegół jest bardziej niezwykły niż jakakolwiek liczba. Na potrzeby filmu demonstracyjnego agencja sklonowała głos swojego ówczesnego prezesa, Arne’a Schönbohma. Wykorzystano około dziesięciu minut nagrań audio pobranych z publicznie dostępnych filmów, które – jak sama agencja stwierdziła – były „tylko średniej jakości”. Zdanie wypowiedziane przez sztuczny głos brzmi: „Nie jestem prawdziwy i na razie potrafią Państwo to rozpoznać. Jednak wraz z rozwojem technologii będzie to dla Państwa bardzo, bardzo trudne”. Druga połowa tego zdania stanowi temat pozostałej części niniejszego artykułu.

Kwestia ta ma jednak drugą stronę

W maju 2026 roku Nicolas M. Müller i Wei Herng Choong z Instytutu Fraunhofera ds. Bezpieczeństwa Stosowanego i Zintegrowanego opublikowali największe jak dotąd badanie dotyczące tego zagadnienia. 1 768 uczestników, 35 532 indywidualnych ocen, 138 systemów syntezy mowy – wyniki te można bezpośrednio porównać z badaniem referencyjnym z 2021 roku.

Oczekiwanym wynikiem byłoby stwierdzenie, że ludzie gorzej radzą sobie z wykrywaniem fałszywych nagrań. Tak jednak nie jest.

W przypadku fałszywych nagrań trafność pozostała niemal niezmieniona i wyniosła 71,2% w porównaniu z 72,9%. Spadek odnotowano natomiast po drugiej stronie. W przypadku prawdziwych nagrań trafność spadła z 72,7% do 64,1%. Ludzie nie stali się gorsi w rozpoznawaniu syntezy. Stali się gorsi w wierzeniu w autentyczne głosy. Autorzy nazywają to „przesunięciem sceptycyzmu”.

W przypadku rozmowy telefonicznej o wpół do dwunastej w nocy oznacza to coś niepokojącego. Każdy, kto postanowi następnym razem słuchać uważniej, w większości przypadków przesuwa próg, przy którym zaczyna nie ufać własnej córce. Rada, by wsłuchać się w dźwięk, w wymierny sposób pogarsza sytuację, a nie ją poprawia.

Drugie ustalenie z tego samego badania dopełnia obrazu. Najtrudniejsze do wykrycia okazały się nie egzotyczne systemy badawcze, lecz usługi komercyjne oraz systemy oparte na modelach językowych, z wynikiem od 61,3 do 65,9 procent. Najłatwiejsze do wykrycia były starsze, prostsze pod względem technicznym metody, z wynikiem od 75,4 do 76,8 procent. Najbardziej realistycznie brzmią te, które każdy może zarezerwować za pomocą karty kredytowej.

Artykuł Uniwersytetu Queen Mary w Londynie opublikowany we wrześniu 2025 roku w czasopiśmie PLOS ONE przedstawia ten sam obraz sytuacji. W badaniu tym klony głosowe zostały uznane za ludzkie w 58 procentach przypadków, natomiast prawdziwe głosy w tych samych warunkach – w 62 procentach. Naukowcy wyraźnie podkreślają, że klony nie przewyższają prawdziwych głosów. Ich artykuł nosi tytuł „Klony głosowe brzmią realistycznie, ale nie są (jeszcze) hiperrealistyczne”. Nie brzmią one bardziej realistycznie niż prawdziwe głosy. Brzmią dokładnie tak samo realistycznie, a to w zupełności wystarcza.

Automatyczny detektor wykorzystany w badaniu Instytutu Fraunhofera utrzymywał skuteczność powyżej 94,5 procent we wszystkich warunkach. Maszyny nadal słyszą różnicę. Ludzie – nie.

Co pokazują niemieckie dane, a czego nie pokazują

W dniu 6 sierpnia Federalny Urząd Policji Kryminalnej Niemiec opublikował dane z policyjnej statystyki przestępczości za rok 2025 na wniosek agencji informacyjnej dpa. Wyniki wskazują na dwa trendy. W przypadku oszustw typu „grandparent scam” oraz „shock call” liczba spraw spadła z 6 658 do 4 798, jednak straty nadal wzrosły. W przypadku oszustw z udziałem fałszywych funkcjonariuszy policji obie wartości wzrosły, a straty wzrosły o dwie trzecie. Wskazuje to na mniejszą liczbę przestępstw, ale o bardziej ukierunkowanym charakterze, z wyższymi kwotami w poszczególnych przypadkach.

A teraz najważniejsze zdanie: statystyki przestępczości nie odnotowują, czy w danej sprawie wykorzystano sztuczną inteligencję. W przypadku Niemiec nie ma ani jednej wiarygodnej liczby dotyczącej liczby oszukańczych połączeń telefonicznych wykonanych przy użyciu sklonowanego głosu. Każdy, kto podaje taką liczbę, nie przeprowadził odpowiednich pomiarów.

Nie powstrzymuje to jednak rozpowszechniania takich danych. Najczęściej przytaczana kwota – łączne straty w wysokości 10,6 mld euro – pochodzi z badania przeprowadzonego w czerwcu 2025 r. przez Global Anti-Scam Alliance wśród 2000 konsumentów i obejmuje wszystkie formy oszustw, a nie wyłącznie oszustwa z wykorzystaniem sztucznej inteligencji. Z czasem liczba ta przekształciła się w szacunek Federalnego Urzędu Policji Kryminalnej i Europolu, którego żadna z tych agencji nigdy nie podała. Podobnie jest z rzekomym pół milionem oszukańczych połączeń, które Federalna Agencja Sieciowa miała zarejestrować w styczniu 2026 roku. Liczba ta pochodzi z aplikacji do identyfikacji numerów dzwoniących i uwzględnia zgłoszenia od jej własnych użytkowników.

Rzeczywiste oświadczenia władz są bardziej ostrożne. Federalny Urząd Policji Kryminalnej poinformował agencję dpa, że symulowanie przekonującego głosu wnuka jest, w tłumaczeniu z języka niemieckiego, „możliwe nawet bez głębokiej wiedzy technicznej, przy użyciu powszechnie dostępnych systemów sztucznej inteligencji”. Jest to stwierdzenie dotyczące możliwości, a nie opis konkretnego przypadku. Na niemieckiej policyjnej stronie poświęconej zapobieganiu przestępstwom związanym z oszukańczymi telefonami sztuczna inteligencja i klonowanie głosu do dziś w ogóle nie pojawiają się.

Jeden z niedawnych przypadków pokazuje, dlaczego uzasadniona jest ostrożność. 29 kwietnia 2026 r. policja z Górnego Palatynatu zgłosiła trzy zakończone oszustwa polegające na wywołaniu szoku w ciągu jednego popołudnia w Regensburgu i Ambergu. Wszystkie trzy rozmowy odbyły się w języku rosyjskim i były celowo skierowane do rosyjskojęzycznych emerytów. Osoba, która swobodnie porozumiewa się po rosyjsku i elastycznie reaguje na pytania 89-latka, to bez wątpienia człowiek po drugiej stronie słuchawki.

Co faktycznie pomaga

Jeśli słuchanie nie przynosi efektu, pozostaje tylko jedna opcja: zmienić podejście. Wszystkie skuteczne działania wynikają z tej jednej zasady.

Proszę odłożyć słuchawkę i samemu oddzwonić. Niemiecka policja ujęła to w ten sposób na swojej stronie poświęconej profilaktyce (tłumaczenie z języka niemieckiego): „Proszę natychmiast rozłączyć się. Nie jest to niegrzeczne, daje to Państwu chwilę oddechu i pozwala zebrać myśli”. A także: „Skontaktuj się z dzwoniącym lub osobą, której ufasz, pod numerem, który już znasz”. To właśnie ta ostatnia część ma znaczenie. Nie należy używać przycisku ponownego wybierania, lecz numeru z własnej książki adresowej, ponieważ wyświetlane numery mogą być sfałszowane.

Słowo kodowe lub pytanie, na które odpowiedzieć może tylko prawdziwa osoba. Policja zaleca uzgodnienie „słowa kodowego służącego do identyfikacji przez telefon”, a policja z Górnego Palatynatu dodaje, że powinno ono być łatwe do zapamiętania i trudne do odgadnięcia. Na swojej stronie poświęconej oszustwom typu „oszustwo na dziadków” ten sam organ zaleca bardziej niezawodny wariant: „Zapytaj rozmówcę o rzeczy, o których mógłby wiedzieć tylko prawdziwy krewny lub znajomy”. Słowo kodowe można zapomnieć w sytuacji szoku. Pseudonim psa rodzinnego z 1998 roku – nie, a żaden model językowy nie jest w stanie go odgadnąć, ponieważ informacja ta nigdzie nie istnieje.

Należy tu uwzględnić jedno zastrzeżenie. Osoby dzwoniące reagują na pytania płaczem, wywieraniem presji czasowej oraz przekazaniem rozmowy rzekomemu prawnikowi. Samo zadawanie pytań nie wystarczy. Należy najpierw rozłączyć się, a następnie oddzwonić.

Zmień swój wpis w książce telefonicznej. Jest to najskuteczniejsza i najmniej znana rada. Na stronie poświęconej oszustwom wobec dziadków niemiecka policja wyraża się niezwykle dosadnie (tłumaczenie z języka niemieckiego): „Oszuści wykorzystują wpisy w książkach telefonicznych do wybierania ofiar oszustw telefonicznych. Starsze imiona lub krótkie numery telefonów wskazują im, że za wpisem kryje się osoba starsza”. Każdy, kto chce pozostać w spisie, powinien skrócić swoje imię. Na tej samej stronie znajduje się gotowy formularz dla operatora telefonicznego. Dla ofiar oszustw telefonicznych zmiana numeru jest zazwyczaj bezpłatna.

Nie przekazujcie niczego i w razie wątpliwości zadzwońcie pod numer 110. Stwierdzenie policji jest krótsze niż jakiekolwiek wyjaśnienie: „Nigdy nie przekazujcie pieniędzy ani przedmiotów wartościowych, takich jak biżuteria, nieznajomym, nawet policji”. Zgłoście to, nawet jeśli doszło jedynie do próby oszustwa. Tylko w ten sposób można wykryć schematy działania oszustów.

Nowy obowiązek oznaczania nie jest tu pomocny

Obowiązki dotyczące przejrzystości wynikające z ustawy o sztucznej inteligencji obowiązują od 2 sierpnia 2026 r. 5 sierpnia bawarskie centrum doradztwa konsumenckiego podsumowało, co to oznacza, i wymieniło właśnie ten przypadek (tłumaczenie z języka niemieckiego): „Obejmuje to wyraźnie głosy syntetyczne. Każda osoba otrzymująca połączenie lub wiadomość głosową utworzoną przy użyciu sklonowanego głosu musi zostać o tym poinformowana.”

Formalnie obowiązek ten spoczywa na dzwoniącym, a wyłączenie dotyczące czysto prywatnego, nieprofesjonalnego wykorzystania nie obejmuje grupy działającej w celach komercyjnych. W praktyce nie zmienia to nic dla ofiary. Nikt nie przestrzega obowiązku ujawnienia, który zniweczyłby sens popełnienia przestępstwa. Jest on egzekwowany na drodze administracyjnej, z grzywnami sięgającymi 15 milionów euro, wobec firm posiadających adres i osiągających obroty, a nie wobec anonimowych dzwoniących z zagranicy. W świetle prawa karnego nadal stanowi to oszustwo zgodnie z § 263 niemieckiego kodeksu karnego, dokładnie tak jak dotychczas.

Tatjana Halm, kierowniczka ds. prawnych i cyfrowych w Bawarskim Centrum Doradztwa Konsumenckiego, sama to stwierdza (w tłumaczeniu z języka niemieckiego): „Nowe przepisy zapewniają większą przejrzystość. Jednak oszuści nie przestrzegają zasad, więc brak etykiety nie stanowi gwarancji bezpieczeństwa.”

To zdanie zastępuje całą listę kontrolną. Nie ma żadnej etykiety, na którą należałoby czekać, ani żadnego dźwięku, na który należałoby nasłuchiwać. Istnieje jedynie drugi kanał.