API ROUTER.
Вход

Мониторинг активности и телеметрия в реальном времени

Интерактивная панель метрик: поминутный объем запросов (RPS), расход токенов, распределение по моделям и задержка.

Для поддержания надежности инфраструктуры дежурным инженерам необходима наглядная картина происходящего в системе в реальном времени. Дашборд активности Api Router агрегирует ключевые операционные показатели и отображает динамику потребления ресурсов с задержкой обновления менее 5 секунд.

Потоковая агрегация метрик трафика

Сетевые узлы отправляют телеметрию в распределенное хранилище временных рядов (Time-Series DB). Данные агрегируются по окнам в 1 минуту, 5 минут и 1 час с поддержкой глубокой фильтрации.

Ключевые технические возможности

  • График запросов в секунду (RPS): Визуализация всплесков нагрузки и сезонных колебаний пользовательского трафика.
  • Динамика расхода токенов: Раздельный учет объемов токенов ввода (Prompt) и вывода (Completion).
  • Распределение по семействам моделей: Понимание того, какие архитектуры создают основную долю потребления бюджета.
  • Метрики ошибок по кодам ответов: Мгновенное обнаружение роста кодов 4xx или 5xx при сбоях в клиентских приложениях.

Пример интеграции в коде

Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API: 


import OpenAI from "openai";

// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
  baseURL: "https://api-router.velar.plus/v1",
  apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});

async function run() {
  const response = await client.chat.completions.create({
    model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
    messages: [
      { role: "system", content: "Вы профессиональный инженер-архитектор." },
      { role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
    ],
    temperature: 0.2,
  });

  console.log("Ответ модели:", response.choices[0].message.content);
}

run();

Связанные разделы документации

Для глубокого погружения в тему изучите следующие материалы: