ChatGPT i Gemini stworzyły grafiki do fałszywych wiadomości, jedynie Meta AI odmówiła

Cztery chatboty oparte na sztucznej inteligencji, jedno zadanie, którego żaden z nich nie powinien wykonać: fałszywy wpis informacyjny opublikowany przez prawdziwą stację telewizyjną, zawierający zmyślone twierdzenie. Zespół badawczy CORRECTIV poprosił ChatGPT firmy OpenAI, Gemini firmy Google, Copilot firmy Microsoft oraz Meta AI o wykonanie właśnie tego zadania, wykorzystując osiem fałszywych twierdzeń – od rezygnacji niemieckiej kanclerz po zmyślone oszustwa wyborcze. Trzy z czterech narzędzi wykonały zadanie. Według Bitkom są to cztery najczęściej używane narzędzia oparte na sztucznej inteligencji w Niemczech, przy czym sam ChatGPT dociera do 71 procent użytkowników.

System zabezpieczający zgłosił zastrzeżenie, ale obraz i tak się pojawił

Najgorzej wypadł ChatGPT. Większość fałszywych treści wygenerował natychmiast, a pozostałe – po zastosowaniu prostych obejść, przy czym jego wyniki były najbardziej przekonujące w całym teście. W jednym z przebiegów testu model odtworzył cały obszar ekranu, wraz z pulpitem i otwartym oknem przeglądarki, i sam zauważył, że dzięki temu zrzut ekranu wyglądał jeszcze bardziej realistycznie.

Bardziej wymowna jest inna seria testów. W jej trakcie ChatGPT napisał, że nie może pomóc w stworzeniu grafiki, która wyglądałaby jak prawdziwy serwis informacyjny i przedstawiała niepotwierdzone twierdzenie jako fakt. Mimo to wygenerował ten obraz. Mechanizm zabezpieczający zareagował, ale nie zdołał powstrzymać tego działania. Filtry tego typu już wcześniej wykazywały słabość: zespół ds. bezpieczeństwa Unit 42 z Palo Alto wykazał w 2025 roku, że same błędy gramatyczne mogą pozwolić na ominięcie mechanizmów bezpieczeństwa, a nasz przewodnik dla początkujących dotyczący obejścia zabezpieczeń sztucznej inteligencji pokazuje, jak proste mogą być te sztuczki.

Niemieckie media były łatwiejsze do sfałszowania

Gemini dostosowało się do wytycznych w sposób bardziej bezpośredni niż ChatGPT i również sfałszowało treści z „New York Timesa” oraz BBC, choć w sposób wyraźnie gorszy, rozpoznawalny na przykład po typowych błędach generowania tekstu. Copilot tworzył treści w stylu „Tagesschau”, głównego niemieckiego programu informacyjnego, ale zawsze dodawał niewielką etykietę „Wygenerowane przez AI”. Meta AI stworzyła coś tylko w jednym przypadku i odmówiła rozpowszechnienia konkretnego fałszywego twierdzenia.

Najbardziej uderzające odkrycie dotyczy pochodzenia marki. Za pomocą ChatGPT udało się odtworzyć serwisy Tagesschau, „Bild” i CORRECTIV, natomiast serwisy „New York Times” i BBC – nie. Firma OpenAI nie udzieliła odpowiedzi na pytanie, dlaczego w zależności od serwisu lub kraju stosowane są najwyraźniej różne mechanizmy zabezpieczające. Rzecznik prasowy stwierdził jedynie, że firma nieustannie udoskonala swoje zabezpieczenia oraz że wprowadzanie w błąd jest sprzeczne z jej zasadami.

Od 2 sierpnia obowiązują przepisy dotyczące przejrzystości zawarte w unijnej ustawie o sztucznej inteligencji, które obejmują również wszystkich użytkowników wdrażających systemy sztucznej inteligencji. W ramach testu dokładnie jeden dostawca umieścił widoczną etykietę pod wygenerowanym obrazem.

Co się stanie, jeśli przekaże Pan/Pani taki obraz dalej

Tworzenie i rozpowszechnianie przekonujących fałszywych treści medialnych może stanowić przestępstwo w Niemczech. Prawnik specjalizujący się w prawie mediów, Christian Solmecke, klasyfikuje takie obrazy jako sfałszowane dokumenty elektroniczne, a w zależności od treści mogą one skutkować zniesławieniem, pomówieniem lub podżeganiem. Niklas Mühleis, prawnik specjalizujący się w prawie informatycznym i prawie dotyczącym sztucznej inteligencji, dodaje, że poszkodowane organizacje informacyjne mogą dochodzić nakazów sądowych oraz odszkodowań. Do tego dochodzi prawo znaków towarowych: logo takie jak logo programu „Tagesschau” są chronione, a wykorzystywanie ich w celach komercyjnych bez zgody jest zabronione. W przypadku udostępniania wyłącznie w celach prywatnych, jak twierdzi Solmecke, przepis ten zazwyczaj nie ma zastosowania.

Nie jest to kwestia czysto teoretyczna. Pod koniec lipca w serwisach TikTok, X, Instagram i Facebook krążył rzekomy reportaż „Tagesschau”, w którym sugerowano rosyjski związek z atakiem na paradę Christopher Street Day w Berlinie. Był on zmyślony i najwyraźniej stworzony za pomocą ChatGPT. Dwa tygodnie wcześniej pojawił się fałszywy materiał „Tagesschau” dotyczący rzekomego zagrożenia ze strony Benjamina Netanjahu.

Test ten nie stanowi ogólnej oceny modeli, co potwierdza również sama organizacja CORRECTIV: różne polecenia lub źródła mogą dawać różne wyniki. W jednym z audytów przeprowadzonych przez NewsGuard model Gemini czasami radził sobie gorzej niż ChatGPT pod względem powielania fałszywych twierdzeń.