Sztuczna inteligencja błędnie identyfikuje torebkę Doritos jako broń - policja celuje w 17-letniego ucznia

Kenwood High School w Maryland korzysta z opartego na sztucznej inteligencji systemu bezpieczeństwa o nazwie Omnilert, który łączy się z istniejącymi kamerami monitorującymi w celu ciągłego skanowania w poszukiwaniu potencjalnej broni. Ale system nie zawsze działa prawidłowo. Wieczorem 20 października omyłkowo oznaczył torbę Doritos - popularną przekąskę w USA - jako broń palną.

Chipsy należały do Taki Allena, 17-letniego ucznia, który czekał na podwózkę po treningu piłki nożnej około godziny 19:00, gdy nagle rozległy się syreny policyjne i podjechało osiem wozów patrolowych. Funkcjonariusze wyskoczyli i wycelowali w niego broń. "Myślałem, że umrę... mieli na mnie broń " - powiedział CNN Allen. Został zmuszony do uklęknięcia, skuty kajdankami i przeszukany - tylko po to, by funkcjonariusze znaleźli na ziemi tylko pustą torbę po chipsach.

Według dyrektor Kate Smith, alarm SI został odwołany jeszcze przed przybyciem policji. Jednak aktualizacja nie została przekazana na czas, rzecznik okręgu szkolnego powiedział WBAL-TV 11. Kurator Myriam Rogers nazwała incydent "niefortunnym" i ogłosiła pełną rewizję. Zaangażowanym uczniom zostanie zapewnione wsparcie psychologiczne.

Wezwania do reformy po fałszywym alarmie

Po incydencie dziadek Allena, Lamont Davis, wezwał do odpowiedzialności i reform w zakresie korzystania z nadzoru AI. Wydarzenie to wywołało również intensywną debatę w mediach społecznościowych. Na stronie Redditużytkownicy wyrazili ostrą krytykę wobec policji, urzędników szkolnych i zaangażowanej technologii. Wielu twierdziło, że prawdziwym problemem nie była sama sztuczna inteligencja, ale sposób, w jaki ludzie zareagowali po alarmie. "Błąd ludzki, a nie awaria sztucznej inteligencji" - brzmiał jeden z najpopularniejszych komentarzy.

System zaprojektowany do wczesnego wykrywania broni ma sens - szczególnie w Stanach Zjednoczonych, gdzie strzelaniny w szkołach pozostają poważnym problemem. Kluczowe jest jednak zapewnienie, że narzędzia te same nie staną się zagrożeniem. Oznacza to zminimalizowanie liczby fałszywych alarmów i utrzymanie jasnej komunikacji między personelem ochrony a organami ścigania.