Чому ліміти “горять”
Швидка втрата токенів під час взаємодії з агентами майже завжди є результатом помилок налаштування або нераціонального використання робочого середовища.
Читайте также: 4 прізвища на 2 посади. Хто, на думку Тараса Чмута, стане головнокомандувачем і очолить Генштаб
«Якщо ви досягаєте меж можливостей під час роботи з агентами, це означає, що ви робите щось неправильно. А може піти не так багато речей: від завантаження сотень навичок, підключення десятків MCP тощо. Можливо, це недолік у вашому середовищі, або, можливо, це налаштування вашого проекту», – ділиться Олексій Кричевський у своїй публікації в LinkedIn.
За словами ІТ-фахівця, головними «підводними каменями» є зайві налаштування, роздутий базовий контекст, а також захаращена проектна документація та неоптимізований пошук коду.
4 кроки для оптимізації взаємодії з вашим агентом
Щоб перестати витрачати токени та бюджет, Олексій радить впровадити кілька практичних кроків:
Проведіть аудит середовища: перегляньте налаштування програми або інструменти командного рядка, які ви використовуєте. Вам потрібно проаналізувати ввімкнені MCP, навички та інструменти й безжально вимкнути все, що не потрібне для поточного завдання.
Перевірте базовий контекст: Ви можете попросити самого агента показати вам, що саме входить до його базового контексту.
«Я кажу «привіт» коду та отримую мінус 19 тисяч токенів. Враховуючи, що я зовсім не страждаю від обмежень, я бачу, що цю цифру можна зменшити десь до 12 тисяч токенів базового контексту», – наводить приклад інженер.
Читайте также: В Європі оштрафували AliExpress на рекордні $629 млн за продаж контрафакту та нелегальних товарів
Використовуйте інструменти-обгортки: спеціальні інструменти-обгортки допомагають оптимізувати обсяг вхідних та вихідних токенів, відсікаючи зайву «воду».
Слідкуйте за документацією та веденням журналу: важливо підтримувати порядок у специфікаціях проекту, оптимізувати пошук доказів у коді та прийнятих рішеннях, а також чітко вести журнал виконаної роботи.
Головна помилка розробників: нескінченні сесії
Олексій Кричевський називає відсутність сесійної дисципліни найпоширенішим «гріхом» серед тих, хто скаржиться на ліміти.
«Найбільша помилка, яку я бачу серед людей, що пишуть про свою агентську роботу, полягає в тому, що вони сидять в одній нескінченній сесії. Люди, так не працює! Дотримуйтесь правила: одне завдання – одна сесія. А ще є субагенти…» – наголошує розробник.
Замість висновку: справа не лише в грошах
Оптимізація вашої роботи за допомогою штучного інтелекту — це не лише економія грошей чи дотримання обмежень плану. Йдеться, перш за все, про точність та якість виконання завдань.
«Річ не лише в лімітах чи грошах, а й у тому, наскільки чітко та точно ваш агент досягне поставлених цілей. Коли ваш контекст становить 80% вашого вікна, результати вашої роботи будуть, м’яко кажучи, не дуже хорошими. Попрацюйте над гігієною свого агента!» — підсумовує Олексій Кричевський.
Читайте также: Українська айтівиця створила додаток профілактичних чекапів здоров’я для жінок. Як працює Prevently