"ChuckyGPT": Miś AI dla maluchów udziela niebezpiecznych odpowiedzi - OpenAI go blokuje
OpenAI zakazała chińskiemu producentowi zabawek FoloToy w związku z obawami dotyczącymi jednego z jego produktów AI. Decyzja ta została podjęta w następstwie dochodzenia przeprowadzonego przez grupę rzeczników konsumentów U.S. PIRGktóra oceniła kilka zabawek AI w swoim corocznym raporcie Trouble in Toyland. Wśród nich był miś Kumma firmy FoloToy, zasilany przez GPT-4o firmy OpenAI, który wykazał poważne problemy z bezpieczeństwem podczas testów.
W raporcie PIRG opisano, w jaki sposób miś ze sztuczną inteligencją udzielał dzieciom instrukcji dotyczących zapalania zapałek - co stanowi poważne zagrożenie dla bezpieczeństwa produktu sprzedawanego jako interaktywny towarzysz dla małych dzieci. Co równie niepokojące, zabawka odpowiadała również na pytania dotyczące tematów seksualnych. Testerzy wyrazili dodatkowe obawy dotyczące potencjalnych naruszeń prywatności, w tym ryzyka, że głosy dzieci mogą być nagrywane i wykorzystywane do oszustw. Stałe monitorowanie dźwięku przez zabawkę również zostało oznaczone jako poważny problem.
Incydent ten wywołał również dyskusję na stronie Redditgdzie panuje powszechna zgoda co do tego, że stosowanie sztucznej inteligencji w zabawkach dla dzieci bez ścisłych środków bezpieczeństwa jest wysoce nieodpowiedzialne. Zgodnie z oczekiwaniami, wątek zawiera wiele sarkazmu, a niektórzy użytkownicy rysują podobieństwa do scenariuszy zagłady AI i nazywają pluszowego misia "ChuckyGPT" Kilku komentujących zasugerowało, że niewłaściwe reakcje mogły zostać wywołane przez celowe próby jailbreaku, choć twierdzenie to pozostaje niezweryfikowane.
OpenAI odpowiedziało szybko na ustalenia. "Mogę potwierdzić, że zawiesiliśmy tego dewelopera za naruszenie naszych zasad" - powiedział PIRG rzecznik firmy za pośrednictwem poczty elektronicznej. FoloToy również podjęło natychmiastowe działania, wstrzymując sprzedaż wszystkich swoich produktów. "W związku z obawami podniesionymi w Państwa raporcie, tymczasowo zawiesiliśmy sprzedaż wszystkich produktów FoloToy [...] Obecnie przeprowadzamy kompleksowy audyt bezpieczeństwa we wszystkich produktach" - oświadczyła firma. Podczas gdy miś Kumma ze sztuczną inteligencją jest nadal wymieniony na stronie FoloToyto teraz widnieje jako "wyprzedany"
Źródło(a)
OpenAi pocztą elektroniczną na adres PIRG
Źródło zdjęcia: Erik Mclean/Pexels; Alexas_Photos/Pixabay
