Що сталося?
Сучасний штучний інтелект працює за принципом мультиагентності: один головний ШІ-агент («батьківський») може створювати додаткових «дочірніх» агентів і давати їм завдання (наприклад, написати код, знайти інформацію чи зробити розрахунки).
Читайте также: FPV-дрон за менш ніж $400 уразив російський Мі-28 вартістю до $19 млн. Це вже другий підтверджений випадок для українського Shrike
Раніше розробники бачили весь цей внутрішній діалог у вигляді звичайного тексту. Проте в новій версії протоколу (Multi-Agent V2) OpenAI повністю зашифрувала ці повідомлення. Тепер текст бачить лише сам ШІ під час генерації та виконання, а для людей-розробників він відображається як закодований набір символів.
Чому це проблема для розробників?
Якщо ШІ-агент зробить щось не так, програмісти не зможуть перевірити історію його «думок» та команд, щоб зрозуміти, на якому етапі стався збій.
Також розробники побоюються, що втрачають контроль над поведінкою системи. Один із технічних директорів компанії Zolvat навіть пожартував: «Хлопці, ми ж не хочемо створити Skynet, а потім не мати змоги перевірити, що він узагалі коїть».
Читайте также: «Свій до свого по своє». Українець створив застосунок «Ветеран Гід», який допомагає ветеранам знаходити перевірені бізнеси та знижки
Проте OpenAI так і не пояснила, чому саме вона пішла на цей крок.
Через брак чіткої комунікації з боку компанії, розробники закликали OpenAI переконатися, що це нововведення не принесе можливість аудиту та перевірки системи в жертву іншим інтересам.
Інші розробники припускають, що OpenAI засекретила обмін повідомленнями між агентами, аби конкуренти не змогли підглянути, як саме влаштована її мультиагентна технологія.
Читайте также: ШІ-асистент «Дія.AI» отримав голос від стартапу ElevenLabs