Про це стало відомо після того, як робочі матеріали щодо моделі були залишені у незахищеному, загальнодоступному сховищі даних на вебсайті Anthropic.
Читайте также: Розробник створив програму SlapMac, яка змушує MacBook стогнати у відповідь на ляскання, і заробив $5000 за три дні
Двоє дослідників у сфері кібербезпеки — Рой Паз із LayerX Security та Александр Паувельс із Кембриджського університету — на прохання видання Fortune незалежно один від одного проаналізували ці документи. Паувельс нарахував майже 3 000 файлів, пов’язаних із блогом Anthropic, які раніше не з’являлися на жодній із публічних сторінок компанії.
Anthropic пояснила витік даних помилкою в налаштуваннях одного зі своїх зовнішніх інструментів управління контентом, назвавши це «людською помилкою». Згодом компанія обмежила доступ до сховища даних.
У чернетці допису в блозі назви Claude Mythos і Capybara стосувалися однієї моделі, яка перевершила Opus 4.6 за кількома показниками — зокрема, у сферах кібербезпеки, кодування програмного забезпечення та академічного міркування. У документі також зазначалися високі експлуатаційні витрати моделі та вказувалося, що дата публічного запуску ще не визначена. Розробники також вважають, що вона становить безпрецедентні ризики для кібербезпеки.
Представник Anthropic вказав, що нова модель є «кардинальним кроком» у розвитку ШІ та «найпотужнішою з усіх, що ми створили на сьогодні». Компанія повідомила, що модель наразі тестується «користувачами із раннім доступом».
Читайте также: «Спроба втручання в незалежність корпоративного управління»: «Укрпошта» оскаржуватиме у суді 250 000 грн штрафу від НБУ
«Ми розробляємо модель загального призначення зі значними досягненнями в логічному мисленні, кодуванні та кібербезпеці. З огляду на потужність її можливостей, ми ретельно обмірковуємо, як її випустити. Як це прийнято в галузі, ми працюємо з невеликою групою клієнтів, які отримали ранній доступ, щоб протестувати модель. Ми вважаємо цю модель проривом і найпотужнішою з тих, що ми створили на сьогодні», — заявив представник Anthropic.
У витоках висвітлювалися значні ризики кібербезпеки, пов’язані з моделлю. У чернетці допису в блозі система характеризувалася як більш досконала у завданнях кібербезпеки, ніж будь-яка конкурентна модель ШІ, і містилося попередження, що вона може дозволити атакам поширюватися швидше, ніж захисники зможуть їм протидіяти.
Anthropic заявила, що розгортання раннього доступу буде зосереджено на організаціях кіберзахисту, надаючи їм час для зміцнення своїх систем перед більш широким випуском.
Читайте также: Українська WIY Drones оснастить свій дрон-перехоплювач ракетним прискорювачем та ШІ