Співробітник Meta опублікував на внутрішньому форумі технічне запитання, щоб отримати допомогу — що є стандартною процедурою. Однак інший інженер попросив ШІ-агента допомогти проаналізувати це питання, і в результаті агент опублікував відповідь, не запитавши у інженера дозволу на її оприлюднення. Компанія підтвердила, що такий інцидент дійсно стався, пише TechCrunch.
Як з’ясувалося, ШІ-агент надав погану пораду. Співробітник, який поставив запитання, зрештою діяв відповідно до вказівок агента, що ненавмисно зробило величезні обсяги корпоративних і користувацьких даних доступними для інженерів, які не мали прав доступу до них, протягом двох годин.
Meta класифікувала цей інцидент як «Sev 1» (Severity 1) — це другий за значущістю рівень критичності у внутрішній системі компанії для оцінки проблем безпеки.
Читайте также: «Аврора» розробила застосунок: відпустка, довідка і зміна реквізитів — у кілька кліків зі смартфону
Некеровані ШІ-агенти вже ставали проблемою для Meta. Саммер Юе, директорка з питань безпеки та узгодження у підрозділі Meta Superintelligence, минулого місяця опублікувала пост у X, де розповіла, як її агент OpenClaw зрештою видалив усю її поштову скриньку, хоча вона дала йому вказівку підтверджувати будь-яку дію перед її виконанням.
Попри це, Meta, схоже, налаштована оптимістично щодо потенціалу агентного ШІ. Буквально минулого тижня Meta придбала Moltbook — соціальну мережу на кшталт Reddit, призначену для спілкування агентів OpenClaw між собою.
Читайте также: lifecell планує з квітня підвищити ціни на низку тарифів