Autonomiczne agenty hakerskie oparte na sztucznej inteligencji przewyższają ludzkich hakerów

Wraz ze wzrostem liczby ataków ransomware zespoły ds. bezpieczeństwa w przedsiębiorstwach stają przed koniecznością szybkiej zmiany sposobu oceny wektorów zagrożeń. Nowe badanie zlecone przez firmę Exabeam i przeprowadzone przez Sapio Research wykazało, że 48% liderów ds. IT i bezpieczeństwa uważa obecnie autonomiczne agenty oparte na sztucznej inteligencji, posiadające nadmierny lub niezamierzony dostęp do systemu, za swoje największe zagrożenie, wyprzedzające zewnętrznych hakerów, narażonych na ataki pracowników wewnętrznych oraz złośliwych pracowników.

W badaniu wzięło udział 600 osób podejmujących decyzje w zakresie bezpieczeństwa i finansów w Stanach Zjednoczonych, Kanadzie, Wielkiej Brytanii, Francji, Niemczech, Holandii i Australii, wszystkie z organizacji zatrudniających co najmniej 500 pracowników. Zewnętrzni sprawcy zagrożeń zajęli drugie miejsce z wynikiem 28%, natomiast osoby z wewnątrz organizacji, których bezpieczeństwo zostało naruszone, oraz złośliwi pracownicy stanowili po 12%.

Dlaczego systemy agentowe omijają tradycyjne zabezpieczenia

Firma Exabeam definiuje omawiane agenty oparte na sztucznej inteligencji jako ukierunkowane na cel, autonomiczne systemy, które mogą uzyskiwać dostęp do zasobów przedsiębiorstwa i działać przy ograniczonym nadzorze ze strony człowieka, co odróżnia je od chatbotów konwersacyjnych. Ponieważ agenci ci zazwyczaj działają przy użyciu legalnych poświadczeń administracyjnych, kluczy API oraz podwyższonych uprawnień, działania podjęte przez nieuczciwego lub nieprawidłowo skonfigurowanego agenta mogą ominąć konwencjonalne zabezpieczenia obwodowe oraz wzorce zachowań użytkowników bez wywoływania standardowych alertów bezpieczeństwa. Ryzyko to nie wymaga złych intencji ze strony agenta, a jedynie niekontrolowanego dostępu.

Monitorowanie nie nadąża za tempem wdrażania

W miarę jak organizacje rozszerzają wykorzystanie autonomicznej sztucznej inteligencji w ramach operacji biznesowych, dostawcy rozwiązań bezpieczeństwa podejmują działania mające na celu stworzenie dedykowanych narzędzi do analizy zachowań agentów, aby śledzić procesy decyzyjne maszyn równolegle z istniejącymi logami dostępu użytkowników. Raport firmy Exabeam zatytułowany „The Agentic Insider: From Monitoring to Understanding” wskazuje, że choć przedsiębiorstwa już rozszerzają zakres działań związanych z monitorowaniem agentów AI, wiele z nich nadal boryka się z trudnościami w pełnym zrozumieniu zachowań agentów w różnych systemach i kontekście biznesowym.

Warto zauważyć, że badanie mierzy postrzegane ryzyko wśród decydentów, a nie opiera się na potwierdzonych danych dotyczących incydentów, dlatego nie należy go interpretować jako dowodu na to, że agenci AI wyprzedzili hakerów pod względem faktycznej liczby naruszeń. Niemniej jednak wyniki te wskazują na wyraźną zmianę priorytetów: w miarę jak agenci zyskują coraz szerszy dostęp do systemów przedsiębiorstw, wypełnienie luki między przyznaniem tego dostępu a faktycznym monitorowaniem sposobu jego wykorzystania staje się pilnym problemem dla zespołów ds. bezpieczeństwa.

Wyzwania związane z aktualizacjami dla administratorów systemu Windows

Wyniki te pojawiają się w momencie, gdy korporacyjne zespoły IT już teraz zmagają się z ciągłym napływem aktualizacji i poprawek systemu Windows w swoich parkach komputerowych. Najnowsza aktualizacja zapoznawcza firmy Microsoft, KB5124010, zawierała zarówno nowe funkcje, jak i dwa ujawnione znane problemy, co przypomina, że utrzymywanie podstawowych systemów w stanie załatanym i stabilnym nadal stanowi zadanie wymagające pełnego zaangażowania, nawet zanim agenci AI pojawią się na scenie. W miarę jak organizacje będą wdrażać autonomiczne agenty, nakładając je na istniejące obciążenie związane z zarządzaniem poprawkami i dostępem, ci sami administratorzy będą musieli rozszerzyć swój nadzór z systemów operacyjnych i punktów końcowych na agenty działające obecnie obok nich.