Multi-Agent · LLM

Оркестратор LLM-агентов с контролем бюджета

State-machine для многошаговых AI-задач: шаги-агенты, проверка результата и выбор лучшего ответа — без неконтролируемого расхода токенов.

PythonFastAPILLMState MachineSQLite
Зачем это

Управляемые AI-пайплайны, которые не улетают по токенам

Задача проходит через граф состояний: рабочий агент генерирует ответ, верификатор проверяет его на соответствие критериям, адъюдикатор выбирает лучший вариант. На каждую задачу задан бюджет токенов, а статус и история доступны через REST API.

Возможности

Что внутри

🧩

State-machine агентов

Граф состояний в стиле LangGraph: шаги, переходы, ветвления для сложных задач.

💰

Контроль бюджета

Лимит токенов на задачу — пайплайн останавливается, не сжигая деньги.

Verifier

Автоматическая проверка результата на соответствие заданным критериям.

⚖️

Adjudicator

Выбор лучшего ответа из нескольких кандидатов.

🛰️

REST API

Создание задач, опрос статуса, бюджет, удаление — всё по API.

💾

Персистентность

Задачи и история сохраняются в БД, переживают рестарт.

Архитектура

Как это работает

API задача
Orchestrator
Worker LLM
Verifier
Adjudicator
Результат

Задача ставится в API → оркестратор ведёт её по графу состояний → агент работает под контролем бюджета → результат проверяется и выбирается лучший.

Стек

Технологии

PythonFastAPILLMState MachineSQLitehttpx

Нужно что-то похожее?

Опишите задачу — отвечу быстро и сделаю рабочее демо до оплаты.

Написать в Telegram →