Як пише Engadget, компанія оновила Responsible Scaling Policy. Це документ, у якому Anthropic описує, коли і за яких умов вона має «тиснути на паузу» під час створення потужніших моделей. Раніше центральною обіцянкою було таке: якщо Anthropic не може заздалегідь гарантувати конкретні заходи безпеки, тренування нової моделі потрібно зупинити. Тепер підхід інший — без жорсткого правила «зупиняємося за будь-яких умов», натомість компанія пропонує м’якшу систему контролю.
У новій версії політики Anthropic робить ставку на публічні звіти про ризики та дорожні карти безпеки. Тобто компанія обіцяє регулярно пояснювати, які саме загрози вона бачить у своїх моделях, які обмеження й перевірки додає, і що планує змінювати далі. Своє рішення Anthropic пояснює конкуренцією: мовляв, якщо вона одна зупиниться, а інші гравці продовжать випускати моделі без достатніх запобіжників, це не зробить світ безпечнішим.
Ці зміни збіглися з повідомленнями про тиск з боку Пентагону. За інформацією, наведеною в матеріалі, міністр оборони США Піт Гегсет вимагав від Anthropic розширити доступ військових до Claude та послабити обмеження на використання, погрожуючи санкціями й важелями на кшталт оборонних процедур, які можуть вплинути на контракти та партнерів компанії. При цьому Anthropic, за текстом Engadget, не хоче погоджуватися на сценарії масового стеження за американцями або на використання ШІ у зброї, яка може діяти без рішення людини.
У матеріалі також зазначається, що Claude вже застосовують у найбільш чутливих оборонних задачах США, тому конфлікт навколо «обмежень заради безпеки» став для Anthropic не теоретичним, а практичним — між вимогами держави, конкуренцією на ринку та власними правилами відповідального використання.
Читайте также: «Автомобільна галузь – стратегічний напрям». CEO Intellias розповів, яку частку виторгу приносять її рішення для виробників авто
Раніше dev.ua писав про те, як Міністр війни США Піт Гегсет висунув жорстку вимогу генеральному директору ШІ-компанії Anthropic Даріо Амодеї. Пентагон вимагає до вечора п’ятниці надати військовим безперешкодний доступ до передової моделі штучного інтелекту Claude без жодних обмежень.
Читайте также: «Було відчуття, ніби ти можеш подорожувати всередині книги». Як ігри чеської Amanita Design вплинули на розробку української Tukoni