У Балтиморі в США 16-річного школяра оточили озброєні поліцейські через хибний сигнал штучного інтелекту. Алгоритм розпізнав у нього зброю, але в руках у підлітка була всього лише порожня пачка чіпсів Doritos.
Як розповів потерпілий Такі Аллен місцевому телеканалу WMAR-2, після тренування він їв чіпси, а через 20 хвилин біля школи зупинилися 8 поліцейських машин. Офіцери наказали йому встати на коліна і вдягли кайданки: "Вони всі вийшли зі зброєю, спрямованою на мене. Казали лягти на землю".
Поліція округу Балтимор пізніше заявила, що діяла "відповідно до отриманої інформації" і відпустила підлітка, коли переконалася, що загрози немає.
Помилка сталася через збій у роботі шкільної системи відеоспостереження з ШІ-детектором зброї, розробленим компанією Omnilert. Алгоритм зафіксував "підозрілий об'єкт", який здався схожим на пістолет.
Зображення відправили на перевірку операторам і ті підтвердили, що загрози немає. Але директор школи не помітила цей звіт і повідомила про тривогу команді безпеки, яка викликала поліцію.
Компанія Omnilert вибачилася і заявила, що система спрацювала як задумано. Однак багато місцевих політиків і батьків вимагають перегляду процедур і точності подібних рішень.
Місцевий депутат Іззі Пакота вже звернувся до департаменту освіти округу з проханням перевірити використання ШІ-детекторів зброї в школах. Сам Аллен тепер намагається не виходити після тренувань: "Не відчуваю себе в безпеці - особливо якщо просто їм чіпси".
Раніше ми розповідали, що поліція США попросила підлітків не влаштовувати АІ-пранки з безхатченком у їхній квартирі. Офіцер попередив, що виклик на такий фейковий випадок може закінчитися плачевно.
