Лабораторії DeepSeek, Moonshot AI та MiniMax нібито генерували понад 16 мільйонів чатів з Claude через ці акаунти, використовуючи техніку, яка називається «дистиляція». Про це пише TechCrunch.
Читайте также: 21-річний хакер поцупив 127 млн грн у компаній батька голови Львівської ОВА. За вкрадені кошти купив авто Cadillac та BMW
Anthropic заявила, що лабораторії «націлилися на найбільш диференційовані можливості Claude: агентне міркування, використання інструментів та кодування».
Дистиляція — це поширений метод навчання, який лабораторії штучного інтелекту використовують для своїх моделей, щоб створити менші та дешевші версії, але конкуренти можуть використовувати його, щоб фактично копіювати результати роботи інших лабораторій. OpenAI на початку цього місяця надіслала меморандум законодавцям Палати представників, в якому звинуватила DeepSeek у використанні дистиляції для імітації своїх продуктів.
Масштаби кожної атаки відрізнялися за обсягом. Anthropic відстежила понад 150 000 чатів від DeepSeek, які, здавалося, були спрямовані на поліпшення базової логіки та узгодження, зокрема щодо альтернатив, захищених від цензури, для запитів, чутливих до політики.
Moonshot AI мала понад 3,4 мільйона чатів, спрямованих на агентне міркування та використання інструментів, кодування та аналіз даних, розробку агентів для використання комп’ютерів та комп’ютерний зір.
Читайте также: Користувачі Gemini скаржаться на раптове зникнення історій чатів
13 мільйонів чатів MiniMax були спрямовані на агентне кодування, використання інструментів та оркестрування. Anthropic заявила, що змогла спостерігати за роботою MiniMax, оскільки вона перенаправила майже половину свого трафіку, щоб викачати можливості з останньої моделі Claude після її запуску.
Anthropic заявляє, що продовжуватиме інвестувати в засоби захисту, які ускладнюють виконання дистиляційних атак і полегшують їх виявлення, але закликає до «скоординованої реакції з боку галузі штучного інтелекту, хмарних провайдерів та політиків». Компанія зазначила, що масштаби видобутку, які здійснювали DeepSeek, MiniMax і Moonshot, «вимагають доступу до передових чипів».
«Тому атаки дистиляції підкріплюють обґрунтованість експортного контролю: обмежений доступ до чіпів обмежує як пряме навчання моделей, так і масштаби незаконної дистиляції», — йдеться в блозі Anthropic.
Anthropic також зазначила, що дистиляція не тільки загрожує підірвати домінування США в галузі ШІ, але й може створити ризики для національної безпеки.
Читайте также: Як наймати у фінтеху і новачку потрапити туди: розмова HR та new employee bill_line
https://dev.ua/news/anthropic-proty-kytaiu-1771914426