Apple i Microsoft dołączają do Anthropic w nowym projekcie bezpieczeństwa AI o wartości 100 milionów dolarów

Anthropic's Projekt Glasswing to nowa inicjatywa w zakresie cyberbezpieczeństwa, mająca na celu identyfikację i naprawę luk w globalnej infrastrukturze oprogramowania. Program obejmuje dużych graczy, takich jak Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidiaoraz Linux Foundation. Partnerzy ci będą wykorzystywać nowy model graniczny do skanowania i wzmacniania systemów typu first-party i open-source.

Projekt opiera się na Claude Mythos Preview, wyspecjalizowanym modelu, który według Anthropic osiągnął poziom zdolności kodowania, który może przewyższyć większość ludzi w znajdowaniu exploitów oprogramowania. We wstępnych testach Anthropic twierdzi, że model autonomicznie wykrył tysiące luk o wysokim stopniu zagrożenia w głównych systemach operacyjnych i przeglądarkach internetowych. Obejmowały one 27-letnią lukę w OpenBSD i 16-letnią lukę w FFmpeg, które przetrwały miliony wcześniejszych zautomatyzowanych testów.

Anthropic przeznacza 100 milionów dolarów w postaci kredytów na wykorzystanie modeli dla uczestników projektu. Firma przekaże również 4 miliony dolarów organizacjom open source, w szczególności 2,5 miliona dolarów na Alpha-Omega i OpenSSF oraz 1,5 miliona dolarów na Apache Software Foundation. Firma nie planuje jednak udostępniać Claude Mythos Preview publicznie. Zamiast tego model będzie dostępny dla zweryfikowanych organizacji za pośrednictwem Claude API, Amazon Bedrock, Google Cloud's Vertex AI i Microsoft Foundry. Cena użytkowania dla tych uczestników wyniesie 25 USD za milion tokenów wejściowych i 125 USD za milion tokenów wyjściowych.

Oczekuje się, że projekt Glasswing potrwa kilka miesięcy - Anthropic obiecał również publiczny raport w ciągu 90 dni. Raport będzie zawierał szczegółowe informacje na temat wykrytych luk w zabezpieczeniach, a także praktyczne zalecenia dotyczące poprawy praktyk bezpieczeństwa, takich jak zautomatyzowane łatanie i poprawa bezpieczeństwa łańcucha dostaw. Anthropic oświadczył, że prowadzi również bieżące dyskusje z przedstawicielami rządu USA na temat ofensywnych i defensywnych możliwości modelu.