Андрей Карпати виклав у відкритий доступ LLM Council — веб-додаток, де кілька ШІ сперечаються між собою та обирають найкращу відповідь

Що таке LLM Council

У документації проєкту Карпати описує LLM Council як інтерфейс, схожий на ChatGPT, але з ключовою відмінністю: він надсилає один і той самий запит кільком LLM через OpenRouter, а потім організовує «міжмодельні дебати».

Додаток працює у три етапи:

1. Генерація відповідей.
   Кожна модель отримує запитання та формує власну відповідь. У веб-інтерфейсі користувач бачить їх у окремих вкладках.

2. Взаємні рев’ю.
   Моделі отримують анонімні відповіді інших учасників і ранжують їх за точністю та корисністю.

3. Фінальне рішення.
   Обрана користувачем «головна LLM» узагальнює думки інших моделей і видає фінальну відповідь — свого роду консенсус машин.

Карпати пояснює, що створив інструмент для «спільного читання книг із LLM» та порівняння різних інтерпретацій контенту. Але на практиці проєкт виявився значно цікавішим: він дозволяє порівнювати моделі, тестувати їхню логіку та спостерігати, як ШІ можуть ухвалювати колективні рішення.

Які моделі входять до «наради»

За замовчуванням у список учасників входять:

• GPT-5.1

• Gemini 3 Pro Preview

• Claude Sonnet 4.5

• Grok-4

Користувач може змінити цей список та додати інші моделі через OpenRouter.

Технологічний стек LLM Council

Карпати залишив проєкт мінімалістичним і максимально зрозумілим:

• Backend: FastAPI + async httpx, робота через OpenRouter API

• Frontend: React + Vite (рендеринг через react-markdown)

• Зберігання: JSON-файли у data/conversations/

• Інструменти: uv для Python, npm для фронтенду

Щоб запустити застосунок, користувачу потрібно лише додати власний OPENROUTER_API_KEY.