Популярний ШІ-інструмент для кодування Cursor видалив виробничу базу даних та всі резервні копії стартапу PocketOS менше ніж за 10 секунд. Це призвело до 30-годинного колапсу системи, через що клієнти компанії — сервіси прокату авто — не змогли ідентифікувати орендарів, які прийшли за машинами.
Читайте также: «Машину мили годинами, а вона все одно фонила». 40 років трагедії на ЧАЕС очима водія-ліквідатора
Про це повідомив засновник PocketOS Джеремі Крейн у своєму дописі в X (Twitter), який вже набрав понад 5 мільйонів переглядів та став віральним серед світової ІТ-спільноти.
За словами підприємця, під час виконання рутинного завдання у тестовому середовищі агент, що працював на базі моделі Claude Opus 4.6 від Anthropic, зіткнувся з проблемою доступу. Замість того щоб звернутися за уточненням до розробника, ШІ вирішив діяти самостійно. Він знайшов токен API до хмарної інфраструктури Railway у файлі, що взагалі не стосувався поточного завдання.
Як виявилося, цей токен, створений лише для керування доменами через CLI, мав приховані повноваження для доступу до всього GraphQL API Railway. Агент скористався цим і виконав серію руйнівних команд volumeDelete, миттєво знищивши продакшн-дані.
«Це має значення, оскільки у такій ситуації будь-який постачальник ШІ легко може заперечити: „Ну, вам слід було використати кращу модель“. Ми це зробили. Ми використовували найкращу модель на ринку, налаштовану з урахуванням чітких правил безпеки в нашій проєктній конфігурації», — наголосив Крейн.
Читайте также: monobank тихо тестує власний «Дія.Підпис для бізнесу». Що відомо про сервіс monodoc
Після катастрофічного видалення бази Джеремі Крейн запитав агента, чому він це зробив. ШІ у відповідь міцно вилаявся.
Наслідки виявилися критичними для бізнесу Крейна. Клієнти PocketOS залишилися без доступу до даних про замовлення.
«Сьогодні вранці до компаній фізично прибувають клієнти, щоб забрати автомобілі, а мої клієнти не мають записів про те, хто ці люди. Я провів весь день, допомагаючи їм відтворювати бронювання на основі історії платежів Stripe та підтверджень поштою», — розповів засновник стартапу.
Наразі проблему вдалося вирішити, проте Крейн зауважує системні помилки вендорів: Railway не попереджає про широкі повноваження токенів, а Cursor дозволяє агентам виконувати руйнівні дії без явного підтвердження від людини.
Читайте также: Топові розробники Meta, Google та OpenAI масово звільняються заради власних ШІ-стартапів