Claude może teraz pozostawić niewidoczny ślad w Państwa tekście, nawet jeśli napisali go Państwo samodzielnie

Firma Anthropic wprowadziła nowy system, który osadza niewidoczne znaki wodne bezpośrednio w tekście generowanym przez Claude’a. W odróżnieniu od metadanych dołączanych do dokumentu lub obrazu, nowy system znakowania został zaprojektowany tak, aby towarzyszył wygenerowanemu tekstowi w przypadku jego skopiowania i wklejenia w innym miejscu, a nawet zachowywał się po niektórych późniejszych edycjach.

Unia Europejska może przypisać sobie przynajmniej część zasług – lub winy – za ten rozwój sytuacji. Firma Anthropic oświadcza, że jako dostawca zarówno generatywnych modeli sztucznej inteligencji, jak i systemów podpisała Kodeks postępowania w sprawie przejrzystości treści generowanych przez sztuczną inteligencję, przewidziany w art. 50 ust. 2 unijnej ustawy o sztucznej inteligencji. Nowy system oznaczania stanowi sposób, w jaki firma zamierza obecnie zrealizować te zobowiązania w praktyce, choć wdraża go na całym świecie, a nie ogranicza się wyłącznie do obszaru, który stał się motorem zmian regulacyjnych.

Firma informuje, że wszystkie modele Claude wprowadzone na rynek 2 sierpnia 2026 r. lub później będą obsługiwać tę technologię od momentu premiery. Anthropic zamierza również z czasem rozszerzyć tę funkcję na starsze modele. System ten nie ogranicza się również do rynków, na których wymogi dotyczące oznaczania treści generowanych przez sztuczną inteligencję mogłyby sprawić, że takie środki stałyby się konieczne, ponieważ firma wdraża go na całym świecie.

Firma Anthropic nie ujawnia, na jakiej zasadzie działa ten znak wodny

Według firmy Anthropic znak wodny jest wpleciony bezpośrednio w tekst generowany przez Claude’a bez widocznej zmiany końcowej odpowiedzi. To sprawia, że zasadniczo różni się on od konwencjonalnych metadanych pochodzenia, które mogą po prostu zniknąć w momencie, gdy treść zostanie wyodrębniona z oryginalnego pliku.

Dokładny sposób, w jaki firma Anthropic to osiąga, pozostaje w pewnym sensie tajemnicą. Firma dotychczas odmówiła opublikowania szczegółowej dokumentacji technicznej wyjaśniającej, w jaki sposób znak wodny jest osadzany w tekście lub wykrywany. Twierdzi jednak, że oznaczenie to nie wpływa na „znaczenie, jakość ani styl” odpowiedzi generowanych przez Claude’a.

System wykracza również znacznie poza przeznaczony dla konsumentów chatbot Claude. Firma Anthropic twierdzi, że obsługiwane modele generują tekst opatrzony znakiem identyfikacyjnym, gdy uzyskuje się do nich dostęp za pośrednictwem Claude’a, Claude Code, Cowork, jej interfejsu API oraz zewnętrznych platform chmurowych. Programiści wykorzystujący modele Claude’a za pomocą środków innych niż natywne nie są zatem zwolnieni z obowiązku stosowania nowego systemu śledzenia pochodzenia.

Firma Anthropic planuje w przyszłości udostępnić mechanizmy wykrywania stronom trzecim, choć nie ujawniła jeszcze, w jaki sposób narzędzia te będą działać, ani kto będzie uprawniony do ich użytkowania.

Jak na ironię, znak wodny Claude’a nie dowodzi, że to właśnie Claude napisał dany tekst

Istnieje jednak dość istotne zastrzeżenie. Wykrycie znaku wodnego Claude’a niekoniecznie oznacza, że to właśnie Claude faktycznie napisał dany materiał. Każdy tekst przetworzony przez Claude’a może potencjalnie otrzymać ten znak, co sprawia, że jego obecność stanowi raczej dowód zaangażowania Claude’a niż potwierdzenie autorstwa sztucznej inteligencji.

Sama firma Anthropic przyznaje, że nawet tekst napisany w całości przez człowieka może otrzymać znak wodny po przetworzeniu przez Claude’a. Autor mógłby na przykład samodzielnie napisać cały artykuł, a Claude’a wykorzystać jedynie do korekty, tłumaczenia lub edycji. Powstały tekst może jednak pojawić się z niewidocznym znakiem Claude’a.

Każdy, kto jest zdecydowany pozbyć się wspomnianego znaku wodnego, będzie musiał uciec się do szeroko zakrojonej edycji, parafrazowania, tłumaczenia lub łączenia wyników pracy Claude’a z innymi materiałami, co w praktyce podważa sens jego stosowania. Wydaje się również nieuniknione, że technologia ta spowoduje powstanie mnóstwa małych firm zajmujących się usuwaniem tego niepożądanego znaku wodnego z tekstów wygenerowanych przez Claude’a.

Powstała sytuacja jest zatem nieco osobliwa. Pozytywny wynik może wskazywać, że Claude przetworzył dany fragment tekstu w pewnym momencie, ale nie pozwala jednoznacznie stwierdzić, że to właśnie Claude go napisał. Z drugiej strony brak wykrywalnego znaku wodnego niekoniecznie dowodzi, że Claude nie miał z tym nic wspólnego. 

Czy rzeczywiście ograniczy to „błędną produkcję” generowaną przez sztuczną inteligencję? Prawdopodobnie nie

To w zasadzie sprowadza nas z powrotem do punktu wyjścia, ponieważ obecność lub brak znaku wodnego Claude’a niczego nie dowodzi. Wydaje się, że rozprzestrzenianie się treści generowanych przez sztuczną inteligencję będzie postępować niezakłócone, przynajmniej w dającej się przewidzieć przyszłości. 

Stwarza to jednak niepokojący precedens dla innych firm zajmujących się sztuczną inteligencją, które bez wątpienia pójdą w ślady Anthropic i będą próbowały wbudować mechanizmy potwierdzające pochodzenie w swoje wyniki generowane przez sztuczną inteligencję. „Nie zanieczyszczamy naszych wyników niewidocznymi oznaczeniami” stanie się zatem w najbliższej przyszłości uzasadnionym hasłem marketingowym dla firm z branży sztucznej inteligencji. 

Obrazy i niektóre inne pliki generowane za pomocą Claude’a są traktowane inaczej. Firma Anthropic stosuje certyfikaty pochodzenia C2PA (Content Credentials) w przypadku obsługiwanych wyników nietekstowych, dołączając do wygenerowanych plików informacje o pochodzeniu podpisane kryptograficznie, zamiast poddawać je tej samej technice znakowania tekstowego.

Na razie być może największym pytaniem bez odpowiedzi jest to, na czym faktycznie polega niewidoczne znakowanie tekstu przez Claude’a. Gdyby system wpływał na dobór tokenów podczas generowania, jego wdrożenie i potencjalny wpływ na wyniki modelu mogłyby okazać się znacznie bardziej interesujące niż konwencjonalne pochodzenie oparte na metadanych.

Firma Anthropic informuje, że w przyszłości opublikowana zostanie dodatkowa dokumentacja techniczna dotycząca stosowanego przez nią podejścia do znakowania wodnego. Do tego czasu nie wiadomo dokładnie, co dokładnie dzieje się za kulisami działania systemu Claude.