Приватные модели и выделенные инстансы
Изолированные вычислительные мощности для корпоративных заказчиков с повышенными требованиями к безопасности.
Для финансовых институтов, финтеха и крупных ритейлеров совместное использование публичных очередей нейросетей может быть неприемлемо из-за строгих требований комплаенса. Контур приватных моделей предоставляет выделенные инстансы с изолированной памятью и гарантированным SLA.
Физическая и логическая изоляция контура
Вычислительные узлы развертываются в закрытом сегменте сети. Данные передаются по выделенным защищенным TLS-туннелям без выхода в публичный пул маршрутизации.
Ключевые технические возможности
- Гарантированная пропускная способность: Фиксированное количество токенов в секунду без влияния внешних всплесков нагрузки.
- Изолированные веса моделей: Возможность развертывания дообученных под задачи заказчика специализированных моделей.
- Индивидуальный корпоративный SLA: Юридически закрепленные финансовые гарантии доступности 99.95%+.
- Аудит безопасности: Предоставление полной документации и возможность проведения независимого пентеста.
Пример интеграции в коде
Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API:
import OpenAI from "openai";
// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
baseURL: "https://api-router.velar.plus/v1",
apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});
async function run() {
const response = await client.chat.completions.create({
model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
messages: [
{ role: "system", content: "Вы профессиональный инженер-архитектор." },
{ role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
],
temperature: 0.2,
});
console.log("Ответ модели:", response.choices[0].message.content);
}
run();
Связанные разделы документации
Для глубокого погружения в тему изучите следующие материалы: