Автоматический выбор оптимальной модели (Auto-Exacto)
Динамическая интеллектуальная маршрутизация запросов к наиболее подходящей и экономичной модели на основе анализа задачи.
Отправлять простые классификационные задачи или перевод коротких фраз в гигантские флагманские модели рассуждений неэффективно и дорого. Алгоритм Auto-Exacto оценивает сложность входящего промпта и автоматически направляет его на модель с идеальным соотношением цены и качества.
Классификатор сложности запроса
Легковесный эвристический анализатор на границе сети сканирует длину контекста, наличие кода, формул и системных инструкций, выбирая либо ультра-быструю компактную модель, либо тяжелую модель рассуждений.
Ключевые технические возможности
- Экономия бюджета до 60%: Простые запросы обрабатываются по минимальным тарифам без переплаты за избыточную мощность.
- Сохранение высокого качества: Сложные логические рассуждения и математика автоматически уходят флагманам.
- Единый идентификатор модели: Вам достаточно указать в коде model: 'auto', и платформа возьмет принятие решений на себя.
- Адаптивное обучение роутера: Алгоритм постоянно калибруется на основе метрик успешности выполнения задач.
Пример интеграции в коде
Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API:
import OpenAI from "openai";
// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
baseURL: "https://api-router.velar.plus/v1",
apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});
async function run() {
const response = await client.chat.completions.create({
model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
messages: [
{ role: "system", content: "Вы профессиональный инженер-архитектор." },
{ role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
],
temperature: 0.2,
});
console.log("Ответ модели:", response.choices[0].message.content);
}
run();
Связанные разделы документации
Для глубокого погружения в тему изучите следующие материалы: