Про це повідомляє TechCrunch з посиланням на заяву представників Discord. За даними розробників, проблема впливала на акаунти користувачів ще з травня. Останні 200 профілів заблокували безпосередньо перед тим, як команда інженерів виявила та виправила системну помилку. Наразі триває процес відновлення всіх постраждалих облікових записів.
Читайте также: Відкритий код проти балістики рф. Як працює антибалістичний щит Freyja і коли українська FP-7.x почне збивати «іскандери»
Як пояснили в Discord, їхня автоматизована система безпеки працює шляхом зіставлення завантаженого контенту з базами даних відомих небезпечних матеріалів. Хоча технологія розроблена для оперативного виявлення незаконних файлів, компанія визнала можливість помилкових спрацювань. Зазвичай такий контент має додатково перевіряти модератор-людина, проте через технічний збій система миттєво та безповоротно блокувала постраждалі акаунти в обхід людського контролю.
Користувачі X (Twitter) та Reddit почали скаржитися на довічні бани за завантаження картинок із квадратними сітковими візерунками. Дехто припустив, що ШІ-модератор Discord став надто чутливим до таких сіток, оскільки зловмисники раніше використовували подібні паттерни для маскування чутливого (NSFW) або забороненого контенту від автоматичних фільтрів виявлення.
Постраждалі юзери висловлюють обурення в соцмережах, наголошуючи, що раптові блокування руйнують ігрові спільноти та заважають робочим процесам тих, хто використовує платформу для професійної комунікації.
Читайте также: Китай може обмежити доступ до своїх найкращих моделей ШІ для іноземців
«Ми працюємо над вдосконаленням заходів безпеки, щоб таке більше не повторилося», — запевнили представники Discord.
Раніше стало відомо, що 50-річна Анджела Ліпс з Теннессі помилково провела понад п’ять місяців у в’язниці після того, як поліцейська ШІ-система розпізнавання обличчя пов’язала її зі злочинами в іншому штаті (у якому вона ніколи не бувала).