Naoružana policija uhitila je tinejdžere nakon što je sustav umjetne inteligencije zamijenio vrećicu čipsa za pištolj

Američkog tinejdžera stavila je policija u lisice nakon što je sustav umjetne inteligencije (AI) pogrešno procijenio da nosi pištolj – iako je zapravo držao vrećicu čipsa.

„Došlo je osam policijskih automobila, svi su izašli s uperenim oružjem i vikali da legnem na tlo“, rekao je 16-godišnji učenik iz Baltimorea, Taki Allen, za lokalnu postaju WMAR-2 News, prenosi BBC.

Policijska uprava okruga Baltimore priopćila je da su njihovi službenici „reagirali primjereno i razmjerno informacijama koje su tada imali“.

Naveli su da je AI sustav poslao upozorenje ljudskim recenzentima koji su zaključili da ne postoji prijetnja – no ravnatelj škole to je previdio i obavijestio školskog policajca, koji je zatim pozvao policiju.

Incident je potaknuo pozive da se preispitaju školski protokoli koji uključuju uporabu takve tehnologije.

Allen je za lokalne medije rekao da je nakon nogometnog treninga pojeo vrećicu Doritosa i spremio praznu ambalažu u džep. Dvadesetak minuta kasnije stigla je naoružana policija.

„Rekao mi je da kleknem, stavio mi lisice i priveo me“, rekao je.

Policija je za BBC News izjavila da je Allen bio stavljen u lisice, ali nije bio uhićen.

„Incident je sigurno razriješen nakon što je utvrđeno da ne postoji prijetnja“, stoji u priopćenju, piše BBC.

Allen kaže da sada nakon treninga čeka unutra jer smatra da „nije dovoljno sigurno izlaziti van, pogotovo ako jedeš čips ili piješ nešto“.

-/panthermedia/profimedia/-/panthermedia/profimedia

„Prepoznavanje oružja je neprecizno“

U pismu roditeljima, ravnateljica škole Kate Smith navela je da je školski sigurnosni tim „brzo pregledao i poništio početno upozorenje nakon što je potvrđeno da nema oružja“.

„Kontaktirala sam našeg školskog policajca i prijavila mu situaciju, a on je zatražio dodatnu podršku lokalne postaje“, napisala je.

„Policijski službenici stigli su u školu, pretražili učenika i brzo potvrdili da ne posjeduje oružje.“

Unatoč tome, lokalni političari zatražili su dodatnu istragu incidenta.

„Pozivam javne škole okruga Baltimore da preispitaju procedure vezane uz sustav za detekciju oružja koji koristi umjetnu inteligenciju“, napisao je vijećnik Izzy Pakota na Facebooku.

Tvrtka Omnilert, koja je razvila AI alat, izjavila je za BBC News: „Žao nam je što se incident dogodio te izražavamo zabrinutost zbog učenika i zajednice pogođene ovim događajem.“

Tvrtka je navela da je njihov sustav u početku detektirao ono što je izgledalo kao vatreno oružje, a sliku je zatim provjerio njihov tim.

Potom je informacija proslijeđena sigurnosnom timu javnih škola okruga Baltimore (BCPS) „u roku od nekoliko sekundi“ radi njihove procjene.

Sigurnosna tvrtka dodala je da je njihova uloga završila onog trenutka kada je incident u sustavu označen kao riješen – te da je sustav „radio prema predviđenom“.

„Iako se kasnije pokazalo da predmet nije vatreno oružje, proces je funkcionirao kako je zamišljeno – s ciljem zaštite i brzog reagiranja kroz ljudsku provjeru“, naveli su iz Omnilerta.

Omnilert tvrdi da je „vodeći pružatelj“ AI detekcije oružja, te na svojoj web-stranici navodi niz američkih škola među svojim korisnicima.

„Prepoznavanje oružja u stvarnim situacijama je neuredan proces“, ističu.

Allen, međutim, kaže: „Ne mislim da bi se vrećica čipsa ikada trebala zamijeniti za pištolj.“