Пресеты параметров и системных инструкций

Создание и повторное использование именованных серверных шаблонов конфигурации моделей для стандартизации приложений.

Когда в компании разрабатывается несколько десятков сервисов или фронтенд-виджетов, дублирование длинных системных промптов и параметров выборки (temperature, top_p) в клиентском коде создает хаос при обновлении инструкций. Пресеты позволяют зафиксировать конфигурацию на стороне шлюза.

Серверное разрешение пресетов

Вы создаете именованный пресет в кабинете и передаете его идентификатор в запросе. Роутер автоматически подставляет зафиксированный системный промпт и параметры генерации перед отправкой модели.

Ключевые технические возможности

  • Централизованное обновление промптов: Корректировка инструкций бота в кабинете мгновенно применяется во всех приложениях без редеплоя кода.
  • Защита системного промпта от утечки: Секретные инструкции компании не передаются на сторону браузера или мобильного приложения.
  • Фиксация параметров качества: Защита от случайного изменения температуры и top_p клиентскими разработчиками.
  • Версионирование шаблонов: Возможность отката на предыдущие редакции пресета при регрессиях качества.

Пример интеграции в коде

Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API:


import OpenAI from "openai";

// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
  baseURL: "https://api-router.velar.plus/v1",
  apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});

async function run() {
  const response = await client.chat.completions.create({
    model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
    messages: [
      { role: "system", content: "Вы профессиональный инженер-архитектор." },
      { role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
    ],
    temperature: 0.2,
  });

  console.log("Ответ модели:", response.choices[0].message.content);
}

run();
  

Связанные разделы документации

Для глубокого погружения в тему изучите следующие материалы: