Sąd Najwyższy nałożył grzywnę na adwokata za wykorzystanie ChatGPT w procesie o morderstwo

Sąd Najwyższy stanu Nowy Meksyk uznał niedawno adwokata ze Santa Fe, Stephena Aaronsa, za winnego znieważenia sądu po tym, jak złożył on apelację zawierającą zeznania i nazwiska świadków wymyślonych przez ChatGPT. W ubiegłym roku Aarons bronił klienta skazanego za morderstwo, kiedy to wykorzystał chatbota do skrócenia protokołów sądowych, a następnie złożył powstały dokument bez uprzedniej korekty. W piśmie znalazły się oświadczenia przypisywane nieistniejącym świadkom, a także sfabrykowane uwagi, które fałszywie przypisano prawdziwemu świadkowi.

Reakcja sądu była bezkompromisowa. Sędzia C. Shannon Bacon dosadnie zapytał Aaronsa, czy w ogóle śledzi on aktualności, biorąc pod uwagę, jak często „halucynacje” sztucznej inteligencji w pismach procesowych trafiają na pierwsze strony gazet, i zasugerował, że albo zignorował on to zjawisko, albo lekkomyślnie zaryzykował sprawą swojego klienta. Aarons, który praktykuje prawo od ponad czterech dekad, przyznał się do własnej „głupoty”, dodając, że błędnie założył, iż oprogramowanie wygeneruje wiarygodne streszczenie.

Oprócz upomnienia sąd nałożył grzywnę w wysokości 5 000 dolarów, przeznaczoną na fundusz ochrony klientów, oraz skierował sprawę do stanowej komisji dyscyplinarnej adwokatów. Sprawa ta jest kolejnym z szeregu przypadków, w których prawnicy ponieśli sankcje lub zostali poddani postępowaniu dyscyplinarnemu po przedłożeniu w sądzie niezweryfikowanych materiałów wygenerowanych przez sztuczną inteligencję (1, 2, 3).