Firma Anthropic przyłapała naukowców na zwracaniu się do Claude’a o pomoc w badaniach nad bronią biologiczną

Firma Anthropic, twórca platformy Claude AI, niedawno zidentyfikowała i zablokowała wielu naukowców próbujących wykorzystać jej modele sztucznej inteligencji do potencjalnego opracowywania broni biologicznej. W opublikowanym przez firmę nowym raporcie dotyczącym zagrożeń szczegółowo opisano szeroko zakrojone nadużycia związane z platformą Claude AI. W wyniku dochodzenia wskazano pięć konkretnych przypadków dotyczących aktywnych naukowców zajmujących się badaniem wysoce niebezpiecznych patogenów. Wykrywanie tego rodzaju nadużyć pozostaje niezwykle złożonym zadaniem, ponieważ legalne badania biomedyczne często bardzo przypominają proces tworzenia broni biologicznej.

W jednym z godnych uwagi przypadków z maja wewnętrzny klasyfikator bezpieczeństwa biologicznego firmy Anthropic przechwycił żądanie sporządzenia wniosku o dotację na badania nad zwiększeniem funkcji wirusa chikungunya. Ten przenoszony przez komary patogen wywołuje wyniszczające objawy i obecnie nie ma dla niego zatwierdzonego leczenia. Proponowane badania miały na celu zwiększenie zdolności wirusa do przenoszenia się oraz jego zdolności do unikania odpowiedzi immunologicznej.

Powiązanie tych badań z instytutem wojskowym natychmiast wzbudziło poważne obawy firmy. Firma Anthropic powstrzymała również odrębną próbę przeprowadzenia badań nad zwiększeniem zjadliwości wirusa ptasiej grypy, która skupiała się na dostosowaniu patogenu tak, aby łatwiej rozprzestrzeniał się wśród ssaków. Kolejne przechwycone zapytanie dotyczyło naukowca wykorzystującego model Claude do mapowania peptydów toksyn jadowych oraz optymalizacji ich właściwości.

Firma Anthropic zareagowała, trwale blokując konta powiązane z tymi działaniami. Wykorzystała te ustalenia do wzmocnienia zabezpieczeń przed przyszłymi nadużyciami. Raport podkreśla, że nowsze modele wykazują coraz większą biegłość w wykonywaniu zaawansowanych zadań naukowych.

Ta zdolność sprawia, że stają się one bardzo atrakcyjnymi celami dla podmiotów poszukujących prawdziwego asystenta badawczego w dziedzinie złożonej inżynierii biologicznej. Firma Anthropic postanowiła zachować anonimowość tożsamości i instytucji zaangażowanych naukowców. Firma stwierdziła, że ujawnienie tożsamości tych profesjonalistów mogłoby narazić ich na fizyczne niebezpieczeństwo, zaznaczając jednocześnie, że badacze ci mogli nie mieć wyraźnego zamiaru wyrządzenia szkody.