Szef cyberbezpieczeństwa USA przesyła poufne dokumenty do ChatGPT
Pełniąca obowiązki dyrektora Agencji Bezpieczeństwa Cybernetycznego i Infrastruktury (CISA), czołowej amerykańskiej agencji ds. cyberbezpieczeństwa, była odpowiedzialna za incydent bezpieczeństwa w zeszłym roku. Madhu Gottumukkala przesłał poufne dokumenty rządowe do publicznej wersji ChatGPT. Według informacji uzyskanych przez Politico od czterech urzędników DHS, działanie to wywołało kilka automatycznych alertów bezpieczeństwa. Czujniki te mają na celu zapobieganie kradzieży lub niezamierzonemu ujawnieniu materiałów rządowych z sieci federalnych. Według doniesień, tylko w pierwszym tygodniu sierpnia systemy wielokrotnie podnosiły alarmy.
Gottumukkala skorzystał ze specjalnego wyjątku, aby uzyskać dostęp do chatbota AI, o który poprosił dyrektora ds. informacji CISA wkrótce po objęciu urzędu w maju. W tym czasie aplikacja była ograniczona do zwykłych pracowników Departamentu Bezpieczeństwa Wewnętrznego. Chociaż przesłane pliki nie były dokumentami niejawnymi, były to dokumenty kontraktowe oznaczone jako "Tylko do użytku służbowego". Oznaczenie to wskazuje na poufne informacje, które nie są przeznaczone do publicznego ujawnienia.
Incydent ten jest szczególnie kontrowersyjny ze względu na techniczny charakter użytego narzędzia. Dane wejściowe do publicznej wersji ChatGPT są przesyłane do dewelopera OpenAI i teoretycznie mogą być wykorzystywane do dalszego szkolenia modelu lub odpowiadania na zapytania innych użytkowników. Z kolei oficjalnie zatwierdzone narzędzia AI wykorzystywane przez Departament Bezpieczeństwa, takie jak wewnętrzny "DHSChat", są skonfigurowane tak, aby żadne dane ani zapytania nie opuszczały chronionych sieci federalnych. OpenAI twierdzi, że usługa ma obecnie ponad 700 milionów aktywnych użytkowników, co podkreśla ryzyko potencjalnej ekspozycji.
Tymczasem CISA stara się załagodzić sytuację. Rzeczniczka prasowa Marci McCarthy powiedziała, że użycie zostało zatwierdzone, krótkoterminowe, ograniczone i odbyło się z zachowaniem środków bezpieczeństwa. Zaprzeczyła również osi czasu i powiedziała, że dyrektor ostatnio korzystał z narzędzia w połowie lipca. Jest to sprzeczne z oświadczeniami urzędników, że czujniki bezpieczeństwa nadal rejestrowały przesyłane pliki na początku sierpnia. Wewnętrzne dochodzenie próbuje teraz ustalić, czy incydent spowodował jakiekolwiek rzeczywiste szkody. Incydent ten jest jedną z serii kontrowersji związanych z Gottumukkalą, który według doniesień wcześniej nie przeszedł testu poligraficznego dla kontrwywiadu.
