Платформа
Конструктор запросов
Как использовать bodybuilder для генерации нескольких параллельных запросов под разные модели.
bodybuilder превращает текстовую инструкцию в готовые JSON-тела запросов для нескольких моделей. Это удобно, если вы хотите быстро запустить одну и ту же задачу параллельно на разных моделях и сравнить результат.
Что это делает
Вместо того чтобы вручную собирать несколько тел запросов, вы отправляете одну инструкцию в bodybuilder, а в ответ получаете набор готовых запросов, которые можно сразу выполнить параллельно.
Это полезно для:
- сравнения моделей
- параллельного прогона одной задачи
- быстрых экспериментов
- подбора лучшей модели под конкретный тип задачи
Сам bodybuilder только генерирует тела запросов. Основная нагрузка и тарификация начинаются уже на этапе выполнения сгенерированных запросов.
Базовый пример
Используйте model: "bodybuilder":
Формат ответа
Обычно bodybuilder возвращает JSON-объект с массивом requests:
{
"requests": [
{
"model": "anthropic/claude-sonnet-4",
"messages": [
{ "role": "user", "content": "Посчитай до 10" }
]
},
{
"model": "openai/gpt-5.1",
"messages": [
{ "role": "user", "content": "Посчитай до 10" }
]
}
]
}
Каждый элемент в requests — это обычное тело запроса, которое потом можно отправить в POST /api/v1/chat/completions.
Как выполнить сгенерированные запросы
После генерации вы можете выполнить все запросы параллельно.
Когда это полезно
Сравнение моделей
Например:
Напиши хайку про программирование с помощью Claude Sonnet, GPT-5 и Gemini
Проверка надёжности
Можно запустить один и тот же вопрос на нескольких моделях и сравнить ответы:
Ответь на вопрос "Сколько будет 2+2?" с помощью трёх разных моделей
A/B-тестирование промптов
Можно быстро посмотреть, какая модель лучше справляется с вашей задачей:
Сделай краткое резюме этой статьи с помощью пяти сильных текстовых моделей
Исследование моделей
Если вы ещё не знаете, какая модель лучше для творчества, кода, анализа или резюме, bodybuilder помогает быстро собрать серию параллельных запусков.
Как он выбирает модели
bodybuilder ориентируется на вашу текстовую инструкцию и старается:
- понять, какие модели вы имели в виду
- подобрать актуальные идентификаторы моделей
- собрать минимально достаточные тела запросов
Если вы называете семейство моделей неформально, bodybuilder обычно пытается подобрать подходящие конкретные ID автоматически.
Стоимость
- генерация тел запросов через
bodybuilderне является основным платным прогоном модели под вашу задачу - выполнение самих сгенерированных запросов тарифицируется по обычным правилам выбранных моделей
Ограничения
- входной запрос должен использовать формат
messages - ответы
bodybuilderнужно парсить как JSON перед выполнением - сгенерированные тела запросов могут потребовать вашей валидации перед массовым запуском
- если вам нужна строгая структура, полезно дополнительно проверять
requestsперед отправкой
Когда лучше не использовать bodybuilder
Лучше обойтись без него, если:
- вы уже точно знаете, какие модели хотите вызвать
- вам не нужен параллельный запуск
- вы хотите полностью вручную контролировать каждое тело запроса
Частые вопросы
Чем bodybuilder отличается от alltokens/auto?
Чем bodybuilder отличается от alltokens/auto?
alltokens/auto выбирает одну подходящую модель и сразу выполняет запрос. bodybuilder не выполняет задачу напрямую, а сначала генерирует несколько готовых тел запросов под разные модели.
Можно ли сразу выполнить все сгенерированные запросы?
Можно ли сразу выполнить все сгенерированные запросы?
Да. Обычно их выполняют параллельно через Promise.all, asyncio.gather или аналогичный механизм.
Можно ли доверять сгенерированным телам запросов без проверки?
Можно ли доверять сгенерированным телам запросов без проверки?
Для быстрых экспериментов — обычно да. Для продакшен-сценариев лучше валидировать JSON и проверять выбранные модели перед массовым запуском.
Это заменяет route preview?
Это заменяет route preview?
Нет. route preview показывает кандидатов для маршрутизации, а bodybuilder собирает несколько отдельных тел запросов для параллельного запуска.