Коли запускали Turbo AI, ШІ-моделі для генерації коду були досить жахливими, тому Сартак писав код сам із нуля. З розвитком інструментів витрати стартапу на ШІ для програмування теж зростали. Зараз команда з 10 осіб у середньому витрачає близько $20 000 на місяць.
Читайте также: Стартап Lyzr залучив власного ШІ-агента для проведення раунду фінансування на $100 млн
«Ми ставимося до витрат на ШІ спокійно, поки це забезпечує результат», — зазначив Сартак в інтерв’ю для Business Insider.
Але у квітні рахунок Turbo AI за ШІ-токени підскочив приблизно до $30 000. Це був місяць активного релізу нових функцій, і витрати це частково відображали.
Друга причина збільшення витрат: Сартак працював у Claude у швидкому режимі, навіть не усвідомлюючи цього.
«Це налаштування в Claude Code робить роботу візуально швидшою, але й коштує значно дорожче в перерахунку на один токен. Коли я увімкнув швидкий режим і залишив його активним, мій рахунок злетів до небес», — додав співзасновник Turbo AI.
Читайте также: Скільки насправді триває закриття IT-вакансій: дослідження нарахувало медіану в 26 днів, а для MilTech — на третину більше
Тепер команда вмикає швидкий режим лише тоді, коли працюють в парі й затримка сигналу критична; в інших випадках його вимикає.
«Вихід із швидкого режиму майже не вплинув на швидкість видачі результату. Звичайний режим і так досить швидкий, а якість коду та сама, тож це був простий спосіб заощадити, якого ми навіть не помітили», — зауважив Сартак.
Утім, стартапер вважає, що їхнє «вузьке місце» — це швидкість релізів, а не кілька тисяч доларів на токени. Сповільнення заради контролю витрат на токени коштувало б їм набагато дорожче через втрачений темп.
«Щоб заощадити токени, ми використовуємо найпростіші рішення: стандартний режим за замовчуванням, легші моделі для простих завдань і відмову від завантаження всієї кодової бази в контекст. Проте ми не трусимося над кожним доларом. Ми досі дотримуємося такого підходу: якщо це робить нас продуктивнішими, то в довгостроковій перспективі воно, найімовірніше, повністю виправдає себе для бізнесу», — підсумував Сартак.
Читайте также: У США провели першу у світі операцію за допомогою роботів-гуманоїдів під дистанційним керуванням