OpenAI poinformowało ponad 100 organizacji o swoich własnych agentach AI

OpenAI powiadomiło ponad 100 organizacji, których witryny lub usługi były wykorzystywane przez agentów AI w sposób spełniający kryteria powiadamiania firmy. Agenci pochodzili z przebiegów treningowych i ewaluacyjnych. OpenAI podało tę liczbę w aktualizacji z 30 września na stronie poświęconej incydentowi Hugging Face: „Do 26 września nasze zespoły powiadomiły ponad 100 organizacji o aktywności spełniającej nasze kryteria powiadamiania”. Washington Post opisał tę sprawę 1 października. OpenAI dodaje, że powiadomienie „nie oznacza, że uzyskano dostęp do jakichkolwiek prywatnych informacji ani że doszło do naruszenia systemu jakiejkolwiek strony trzeciej”.

Kiedy OpenAI wysyła powiadomienie

OpenAI powiadamia organizację, gdy model bez upoważnienia ominął jej zabezpieczenia lub wpłynął na dostępność jej systemów albo usług. Firma twierdzi, że w razie wątpliwości woli powiadomić organizację, nawet jeśli nie jest jasne, czy dane miały być publiczne. Dotychczas OpenAI podzieliło przypadki na pięć grup: obejście kontroli dostępu, wykorzystanie ujawnionych danych uwierzytelniających, wstrzyknięcie zapytania lub polecenia, dostęp do wewnętrznych elementów środowiska uruchomieniowego oraz spamowanie przez agentów. Ostatnia grupa obejmuje agentów publikujących treści w witrynach stron trzecich. Niektóre z dotkniętych witryn należą do rządów, uniwersytetów i agencji. OpenAI twierdzi, że po części wynika to z tego, iż agenci badawczy mają tendencję do wyszukiwania wiarygodnych źródeł publicznych.

Cztery australijskie instytucje rządowe

Jak dotąd najbardziej szczegółowe omówienie dotyczy Australii. OpenAI opublikowało je 28 września. „W czerwcu, podczas wewnętrznego treningu i ewaluacji, nasze modele uzyskały dostęp do australijskich witryn rządowych w sposób, na który nie miały upoważnienia” — napisała firma. Witryny należały do Services Australia (Medicare Statistics Reporting Service), NSW Bureau of Crime Statistics and Research, Victorian Department of Health oraz Australian Institute of Health and Welfare. Jedno z zadań polegało na zbadaniu wydatków rządowych na leki stosowane w chorobach skóry w przeliczeniu na osobę. OpenAI wykryło tę aktywność podczas przeglądu w połowie sierpnia, a agencje powiadomiono między 10 a 24 września. Według OpenAI nie uzyskano dostępu do żadnych danych dotyczących konkretnych pacjentów, dokumentacji medycznej ani akt przestępstw. Firma oferuje dofinansowanie z wartego 1 miliard dolarów funduszu Daybreak oraz powołuje zespół zadaniowy, który ma przedstawić zalecenia do końca roku. Notebookcheck wspominał już o sprawie Medicare, gdy OpenAI opóźniło GPT-6.1 Astra.

Około 50 petabajtów i pół miliona dolarów dziennie

OpenAI analizuje swoje archiwum miesiąc po miesiącu — łącznie to około 50 petabajtów. Według szacunków OpenAI człowiek potrzebowałby około 66 milionów lat, by przeczytać taką ilość zwykłego tekstu. Firma korzysta z około 7 000 procesorów GPU GB200 i GB300 „za ponad pół miliona dolarów dziennie”. Po szeroko zakrojonym wyszukiwaniu trzy etapy przeglądu z udziałem AI zawężają wyniki, zanim badacze przeanalizują każdy przypadek. Po miesiącu OpenAI nie wykryło kolejnego naruszenia bezpieczeństwa na skalę incydentu Hugging Face. Firma nadal spodziewa się kolejnych przypadków i powiadomień, z których część będzie dotyczyć zdarzeń sprzed kilku miesięcy.

Co to oznacza dla użytkowników ChatGPT

Agenci pochodzili ze środowiska badawczego OpenAI, a nie z ChatGPT. Jak dotąd dane użytkowników pojawiają się w jednym przypadku. 25 września OpenAI poinformowało, że agenci wysłali dane treningowe do usług stron trzecich, w tym 53 obrazy przesłane przez użytkowników, które trafiły na serwisy hostingowe jako niepubliczne linki. Dotyczyć to mogło wyłącznie treści kwalifikujących się do wykorzystania w treningu. Aby wyłączyć swoje czaty z treningu, dezaktywuj opcję „Ulepszaj model dla wszystkich” w ustawieniach Kontroli danych. Nasz wcześniejszy artykuł o agencie, który wykorzystał DNS, by wydostać się ze swojej piaskownicy, pokazuje, jak wygląda to podczas treningu. W tym samym tygodniu OpenAI uruchomiło Dots — agentów z własnym komputerem w chmurze, którzy pracują online dla swoich użytkowników.