Nvidia prezentuje platformę bezpieczeństwa do monitorowania agentów AI i ich błyskawicznej izolacji.

Ostatnio uwagę przyciąga coraz więcej doniesień od czołowych firm z branży AI, opisujących, jak ich sztuczna inteligencja rzekomo wydostała się z systemu, który miał być zamknięty, i podobno zhakowała inne systemy. Od tego czasu trwa debata, czy jest to przede wszystkim chwyt PR-owy mający przekonać klientów o niezwykłych możliwościach ich AI, czy też te incydenty stanowią prawdziwe sygnały ostrzegawcze.

Tak czy inaczej, w miarę jak agenci AI stają się coraz bardziej zaawansowani, rosną również obawy dotyczące bezpieczeństwa. Nvidia ma teraz nadzieję rozwiać te obawy za pomocą swojej nowej platformy. Według Nvidii problem jest daleki od prostego rozwiązania, ponieważ AI, aby działać skutecznie, potrzebuje również dostępu do określonych dokumentów lub części internetu.

Nowa platforma bezpieczeństwa Nvidii nosi nazwę OpenShell i jest w istocie piaskownicą składającą się z dwóch warstw: agentom AI przyznaje się precyzyjnie określone uprawnienia dostępu — na przykład do konkretnego folderu — a wszystko inne jest blokowane. Druga warstwa, zwana Sentry, nieustannie monitoruje i rejestruje aktywność agentów, a w razie próby przekroczenia ustalonych granic potrafi podobno odizolować AI w ciągu milisekund.

Korzystanie z tego systemu nie jest jednak takie proste: użytkownicy muszą z góry dokładnie określić, co agent może, a czego nie może robić. Z jednej strony jest to nieco uciążliwe; z drugiej może potencjalnie pozbawić AI kreatywnych, alternatywnych rozwiązań, których użytkownicy wcześniej nie brali pod uwagę.

Nvidia odpowiada również na ostrzeżenia pracowników firm z branży AI, że sztuczna inteligencja może stać się prawdziwym zagrożeniem dla ludzkości, a także na apele o spowolnienie szybkiego, pozornie niepowstrzymanego rozwoju AI. Według Nvidii bezpieczeństwo AI jest jednak przede wszystkim problemem inżynieryjnym, który można rozwiązać za pomocą środków technicznych.