„Jawnie nieuczciwe”: matematyk twierdzi, że firma OpenAI okłamała go w sprawie szkolenia opartego na jego prywatnych rozmowach

Andreas Thom, teoretyk grup z Politechniki w Dreźnie, publicznie wyraził wątpliwości, czy jego prywatne sesje z ChatGPT wpłynęły na wynik OpenAI, który doprowadził do powstania pierwszej znanej grupy niebędącej grupą soficką — jednego z dziesięciu problemów, które według OpenAI firma Astra rozwiązała 1 sierpnia.

W obszernym, trzyczęściowym poście opublikowanym na platformie Mathstodon Thom napisał, że wkrótce po tej zapowiedzi wysłał e-mail do badaczy z OpenAI, Marka Sellke i Sebastiena Bubecka. Wraz z kolegą z Drezna spędził miesiące na pracy nad problemem dopasowania ekspanderów oraz rozszerzeniami swoich badań prowadzonych wspólnie z Gaborem Kunem w ramach ChatGPT i zadał dwa pytania: czy ta korespondencja trafiła do danych szkoleniowych oraz czy system mógł uzyskać do niej dostęp podczas pracy nad dowodem. Odpowiedź Sellke’a, jak cytuje ją Thom, składała się z jednego zdania: tak się nie stało. Thom twierdzi, że odpowiedź dotyczyła wyłącznie kwestii „bezpośredniego dostępu”. Obecnie określa ją jako nieuzasadnioną i zbyt ogólną, a z perspektywy czasu – nieuczciwą.

Post by @[email protected]

View on Mastodon

Sprawa ta powróciła w tym tygodniu wraz z ogłoszeniem OpenAI dotyczącym modelu Navier-Stokes. OpenAI oświadczyło wówczas, że ani jego badacze, ani przedstawiciele firmy nie zapoznali się z pracą tej pary przed publikacją oraz że nie uzyskano dostępu do żadnych konkretnych danych użytkowników. Dodano również, że nie można wykluczyć, iż zanonimizowane dane pochodzące z korzystania przez nich z produktów firmy przyczyniły się do udoskonalenia jej modeli. 

Jego argumentację potwierdzają również dwie inne kwestie. 29 czerwca wyłączył on proces uczenia modelu. Uczenie modelu jest ustawieniem, którego użytkownicy nie mogą poddać audytowi — nie dostarcza ono żadnych informacji na temat wcześniejszych rozmów. Większość badaczy preferowała metody oparte na grach kwantowych zamiast podejścia, które przyjął wraz z Kunem, dlatego był zaskoczony, że firma Astra wybrała tę samą ścieżkę co on.

W chwili pisania tego tekstu Thom nie posunął się jeszcze do przedstawienia dowodów. Zamiast tego zwrócił się do OpenAI o ujawnienie podstaw swojego zaprzeczenia.

OpenAI nie odniosło się publicznie do jego wpisów.