ШІ знову спричинив хаос у школі США: замість чоловіка у камуфляжі з рушницею поліція знайшла учня з кларнетом

Шкільна система безпеки зі штучним інтелектом ZeroEyes прийняла кларнет за зброю, пише Ars Technica.

Поліція миттєво відреагувала на повідомлення ШІ-системи про «чоловіка у камуфляжі, який тримає підозрілий предмет, націлений у коридор, так само як тримають гвинтівку під час стрільби». 

Натомість не знайшовши жодних доказів присутності стрільця, поліцейські перевірили інформацію у диспетчерів. Ті підтвердили: детальніший аналіз зображень вказує на те, що «підозріла гвинтівка могла бути музичним інструментом».

Серед охоплених панікою учнів, що ховалися в кабінеті музики, поліція врешті знайшла підозрюваного — школяра, одягненого у військового персонажа з різдвяного фільму ‘Red One’ з нагоди святкової вечірки в школі. 

Співзасновник ZeroEyes Сем Алаймо вважає, що штучний інтелект у цьому випадку діяв саме так, як мав би, застосувавши підхід «краще перестрахуватися, ніж потім шкодувати».

«Ми не вважаємо, що зробили помилку, як і школа», — сказав Алаймо. «Краще було відправити, ніж не відправляти».

Поліція поїхала після того, як розгублений учень підтвердив: він «навіть не усвідомлював», що те, як він тримав кларнет, могло спровокувати тривогу.

Проте речник ZeroEyes заявив, що хлопець «навмисно тримав інструмент у положенні гвинтівки, притиснутої до плеча». І замість того щоб з’ясувати, чому зображення не перевірили ретельніше для запобігання хибній тривозі, школа, схоже, погодилася з ZeroEyes і переклала провину на учня. 

У листі до батьків директорка школи Мелісса Лаудані зазначила: «Хоча жодної загрози для закладу не було, я хотіла б попросити вас поговорити з вашими дітьми про небезпеку імітації зброї на території школи».