API ROUTER.
Вход

Диагностические метаданные роутера (HTTP Headers)

Анализ служебных заголовков ответа: определение фактического поставщика инфраструктуры, чистой задержки апстрима и факта failover.

В отличие от непрозрачных шлюзов, Api Router возвращает исчерпывающую техническую телеметрию в стандартных заголовках HTTP-ответа. Это позволяет вашим системам мониторинга точно знать, какой узел обработал вызов и какова была реальная сетевая задержка.

Реестр служебных заголовков ответа

Каждый ответ сервера содержит группу заголовков с префиксом x-router-*, позволяющих анализировать поведение маршрутизатора программно.

Ключевые технические возможности

  • x-router-provider: Идентификатор конкретного узла инфраструктуры, выполнившего вычисления.
  • x-router-latency-upstream: Чистое время вычислений модели на GPU в миллисекундах без учета сетевого RTT.
  • x-router-failover: Булев флаг (true/false), сигнализирующий о том, что основной узел дал сбой и сработал резерв.
  • x-router-cache: Статус кэширования: HIT (отдано из оперативного кэша) или MISS (произведена новая генерация).

Пример интеграции в коде

Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API: 


import OpenAI from "openai";

// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
  baseURL: "https://api-router.velar.plus/v1",
  apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});

async function run() {
  const response = await client.chat.completions.create({
    model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
    messages: [
      { role: "system", content: "Вы профессиональный инженер-архитектор." },
      { role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
    ],
    temperature: 0.2,
  });

  console.log("Ответ модели:", response.choices[0].message.content);
}

run();

Связанные разделы документации

Для глубокого погружения в тему изучите следующие материалы: