«Open Secure AI Alliance, спираючись на лідерство ініціативи Akrites від Linux Foundation та роботу спільноти OpenSSF, працюватиме над усуненням і розкриттям уразливостей за допомогою відкритих технологій», — зазначили в NVIDIA, повідомляє Engadget.
Читайте также: В Японії створили персональний холодильник для людей, щоб рятуватися в спеку
Учасники альянсу стверджують: щоб ефективно захищатися від атак в епоху ШІ-моделей на кшталт Mythos 5 від Anthropic, дослідникам із безпеки потрібен доступ як до відкритих, так і до закритих передових моделей. Як яскравий приклад NVIDIA навела нещодавню зухвалу атаку OpenAI на Hugging Face. Спочатку Hugging Face намагалася використати закриті комерційні передові моделі для виявлення та відбиття злому, однак її запити заблокували захисні системи. Тоді компанія переключилася на моделі з відкритим кодом і успішно зупинила атаку.
«Коли закриті інструменти ШІ, неспроможні відрізнити нападників від захисників, заблокували критично важливий цифровий аналіз, Hugging Face розгорнула модель із відкритими вагами GLM 5.2 на власній інфраструктурі, щоб проаналізувати понад 17 000 дій та локалізувати вторгнення», — зазначили в NVIDIA.
Читайте также: Сили оборони отримають новий броньований евакуаційний тягач INGUAR-4 вітчизняного виробництва
NVIDIA та деякі її партнери долучаються до ініціативи, надаючи різні компоненти для альянсу. У NVIDIA заявили, що нададуть відкриті моделі, ваги моделей, дані та нові середовища розробки агентів, щоб прискорити створення нових інструментів і методів кібербезпеки. Компанія HPE зробить свій внесок у вигляді стандартів і методів для криптографічної перевірки ШІ-агентів та сервісів, тоді як Hugging Face надасть безпечний формат для зберігання ваг ШІ-моделей під назвою Safetensors. Microsoft, SpaceXAI, IBM та Red Hat також нададуть свої ШІ-технології з відкритим кодом.
Група також закликає уряди співпрацювати з компаніями та інвестувати у спільну відкриту інфраструктуру штучного інтелекту. В альянсі додали, що регулятори мають сприймати відкриті моделі як «активи для захисту, а не загрозу». Вони наголосили, що суцільні обмеження щодо відкритих передових ШІ-систем «послаблюють захисний потенціал та створюють ризик концентрації влади» в руках кількох закритих постачальників.
Читайте также: Відеокарти NVIDIA та AMD знову починають дорожчати через дефіцит пам’яті