API ROUTER.
Вход

Пакетная обработка (Batch API со скидкой 50%)

Массовая асинхронная обработка сотен тысяч запросов в течение 24 часов со снижением тарифа в два раза.

Когда перед инженерной командой стоит задача разметить миллион строк в датасете, суммаризировать исторический архив переписок или сгенерировать описания для каталога товаров, моментальная интерактивная отдача не требуется. Пакетная обработка Batch API предназначена специально для нечувствительных ко времени задач.

Асинхронная очередь и балансировка свободных мощностей

Вы загружаете файл задач в формате JSONL. Шлюз ставит пакет в фоновую очередь низкого приоритета и выполняет запросы в моменты спада глобальной нагрузки на нейросети, возвращая готовый файл результатов по завершении.

Ключевые технические возможности

  • Экономия 50% бюджета: Все токены в рамках батча тарифицируются ровно вдвое дешевле стандартного прайс-листа.
  • Отсутствие таймаутов соединения: Клиент не держит постоянное HTTP-соединение часами — пакет выполняется на стороне инфраструктуры.
  • Увеличенные лимиты квот (High Rate Limits): Пакетные задания не конкурируют с интерактивным лимитом запросов в минуту (RPM).
  • Вебхуки по завершении: Автоматическое уведомление вашего бэкенда сразу после формирования результирующего файла.

Пример интеграции в коде

Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API: 


import OpenAI from "openai";

// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
  baseURL: "https://api-router.velar.plus/v1",
  apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});

async function run() {
  const response = await client.chat.completions.create({
    model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
    messages: [
      { role: "system", content: "Вы профессиональный инженер-архитектор." },
      { role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
    ],
    temperature: 0.2,
  });

  console.log("Ответ модели:", response.choices[0].message.content);
}

run();

Связанные разделы документации

Для глубокого погружения в тему изучите следующие материалы: