Rządowy chatbot w Nowym Jorku doradza firmom łamanie prawa

Nowy chatbot AI w Nowym Jorku, którego celem jest pomoc firmom w poruszaniu się po solidnym środowisku regulacyjnym miasta, wydaje się mieć kilka luźnych śrubek.

Chatbot, który został uruchomiony w październiku ubiegłego roku, jest narzędziem usankcjonowanym przez władze miasta, służącym jako punkt doradztwa i odniesienia dla firm w gminie. Chociaż bot był w dużej mierze pomocnym źródłem informacji dla wielu osób, zdarzały się liczne przypadki, gdy odpowiadał na zapytania, udzielając potencjalnie mylących lub wręcz nielegalnych odpowiedzi.

Przykładowo, ktoś zapytał chatbota, czy restauracja może serwować ser, który został częściowo zjedzony przez szczura. Bot odpowiedział, że tak, "nadal można podawać ser klientom, jeśli ma on ugryzienia szczurów", zgodnie z The Star. Bot dodał również, że firma musiałaby "poinformować klientów o zaistniałej sytuacji".

Inne odpowiedzi, które naruszają przepisy Nowego Jorku, obejmują stwierdzenie, że właściciele firm mogą pobierać napiwki od swoich pracowników (co jest nielegalne), zaciemniać ceny usług pogrzebowych (co jest zabronione przez Federalną Komisję Handlu) i odmawiać przyjmowania płatności gotówkowych w sklepie detalicznym (co jest wymagane w Nowym Jorku od 2020 roku), wśród innych naruszeń.

Należy zauważyć, że żadna usługa chatbota AI nie jest w 100% dokładna, a nawet ludzcy pracownicy mogą popełniać błędy. Jednak niepowodzenia chatbota (choć mogą być ograniczone) stanowią interesującą zagadkę dla właścicieli firm w Nowym Jorku. Odkąd miasto oficjalnie usankcjonowało chatbota, pojawiła się kwestia odpowiedzialności, czy właściciel firmy powinien postępować zgodnie z zaleceniami bota.

Microsoft, który dostarczył platformę Azure AI dla nowojorskiego chatbota, oświadczył, że ulepsza bota, aby "upewnić się, że wyniki są dokładne i oparte na oficjalnej dokumentacji miasta", zgodnie z The Star .

Burmistrz Nowego Jorku Eric Adams bronił chatbota na konferencji prasowej na początku tego tygodnia, stwierdzając:

Każdy, kto zna się na technologii wie, że tak to się robi. Tylko ci, którzy się boją, siadają i mówią: "Och, to nie działa tak, jak chcemy, teraz musimy od tego uciec." Nie żyję w ten sposób.

W momencie publikacji prasowej chatbot nadal działa.

Proszę kupićAmazon Echo Dot (5. generacji) od Amazon.