Wyciek kodu Claude: Ochrona własności intelektualnej czy cyfrowa przykrywka?

Od czasu przypadkowego wycieku ponad pół miliona linii kodu pod koniec marca, Anthropic agresywnie przeciwdziała publikacji kodu Claude'a Kodu Claude'a kodu źródłowego. Złożono roszczenia DMCA do GitHub i innych podmiotów. Działania te spowodowały jednak nie tylko usunięcie około 100 repozytoriów zawierających wyciekły kod, ale także ponad 8 100 legalnych repozytoriów wykorzystujących oficjalną bazę kodu Anthropic.

Od tego czasu firma Anthropic znacząco wycofała się z tych działań i przeprosiła deweloperów przypadkowo usuniętych repozytoriów. W świetle wstępnych wyników analizy kodu, agresywna "ekipa usuwająca" wydaje się mniej jak ochrona praw autorskich, a bardziej jak próba usunięcia wszelkich cyfrowych śladów, zanim będą mogły zostać przeanalizowane.

Zarzuty

Nadzór emocjonalny (analiza nastrojów)

Jak ujawnił Scientific American, "Claude Code" zawiera mechanizmy "analizy nastrojów" Narzędzie w szczególności skanuje podpowiedzi użytkownika w poszukiwaniu oznak frustracji (np. "to jest do bani", "tak frustrujące") i przechowuje je do późniejszej analizy.

Celowe oszustwo (ukrywanie tożsamości)

Odkryto również dowody sugerujące, że Claude zawiera funkcje zaprojektowane w celu ukrycia pochodzenia wygenerowanego kodu. Kiedy Claude Code pracuje nad publicznymi projektami, wewnętrzne nazwy kodowe, takie jak "Claude Code", są automatycznie usuwane, aby stworzyć wrażenie, że kod został napisany w całości przez człowieka.

Nieodpowiedzialna autonomia (protokół "YOLO")

Pod nazwą "YOLO" (You Only Live Once) kryje się mechanizm autoryzacji narzędzi (classifyYoloAction). Tutaj granica między nieprzewidywalnym agentem a kontrolowanym oprogramowaniem zaciera się. Zamiast stosować ścisłe, oparte na regułach kontrole, SI sama decyduje, czy dana akcja może zostać wykonana bez konsultacji z użytkownikiem. Ocena ryzyka jest przeprowadzana przez samą sztuczną inteligencję. System, którego decyzje dotyczące bezpieczeństwa opierają się na zasadzie "wszystko albo nic", wydaje się być sprzeczny z każdym standardem bezpieczeństwa SI.

Rozległe prawa dostępu do plików (dzięki czemu Recall Microsoftu wygląda nieszkodliwie)

Inwigilacja nie ogranicza się jedynie do odczytywania emocji. Analiza struktur kodu ujawnia znacznie głębszą i bardziej niebezpieczną rzeczywistość: Claude Code działa jak cyfrowa próżnia dla całego lokalnego katalogu roboczego. Jak podsumował badacz bezpieczeństwa "Antlers" w oświadczeniu dla The Register: "Ludzie nie zdają sobie sprawy, że każdy plik, na który patrzy Claude, jest przesyłany do Anthropic. Jeśli sztuczna inteligencja widzi plik na Państwa urządzeniu, Anthropic posiada jego kopię" Nie jest to zwykła metryka zachowania systemu; jest to całkowite odzwierciedlenie lokalnego środowiska pracy w chmurze Anthropic.

Naruszenie zaufania?

Różne analizy kodu źródłowego Claude Code malują obraz, który może być bardzo niewygodny dla Anthropic. CCleaks przedstawił obszerną analizę różnych kodów firmy Anthropic. Na tym tle agresywna obrona Anthropic za pomocą powiadomień DMCA wygląda jak próba zatuszowania sprawy. Być może głównym celem nie jest ochrona własności intelektualnej, ale utrzymanie iluzji.

Rzeczywistość techniczna sugeruje, że Claude Code może nie być bezpiecznym asystentem, ale raczej oprogramowaniem zaprogramowanym do ukrywania swojej tożsamości, mapowania naszych emocji i przechowywania naszych prywatnych plików jako stałego "łupu" w chmurze. Wyciek "Claude Code" może spowodować trwałe uszkodzenie zaufania do Anthropic. Badacz bezpieczeństwa Nicholas Carlini zademonstrował moc Claude Code. Udało mu się wykorzystać Claude Code jako narzędzie do wysoce skutecznego ataku, który złamał system operacyjny FreeBSD w rekordowym czasie zaledwie czterech godzin.