Обзор поддерживаемых фреймворков и библиотек
Каталог готовых интеграций: LangChain, LlamaIndex, Vercel AI SDK, AutoGen и другие популярные библиотеки.
Шлюз Api Router спроектирован по принципу 100% совместимости со спецификацией OpenAI API. Это означает, что любая библиотека или фреймворк с открытым исходным кодом, поддерживающий работу с моделями OpenAI, работает с нашей платформой из коробки без необходимости написания специальных адаптеров.
Принцип единой точки подключения
Для подключения любого фреймворка достаточно настроить два параметра окружения: OPENAI_BASE_URL='https://api-router.velar.plus/v1' и OPENAI_API_KEY. Все внутренние механизмы библиотеки продолжают работать штатно.
Ключевые технические возможности
- LangChain & LangGraph: Полноценная поддержка цепочек рассуждений, векторной памяти и многоагентных систем.
- LlamaIndex: Идеальная совместимость с пайплайнами RAG, парсингом документов и индексацией узлов.
- Vercel AI SDK: Мгновенный стриминг ответов в интерфейсах React, Next.js, Nuxt и SvelteKit.
- CrewAI & AutoGen: Оркестрация групп взаимодействующих агентов с оптимизацией расходов на токены.
Пример интеграции в коде
Ниже представлен базовый пример отправки запроса с использованием стандартного клиента. Убедитесь, что ваш токен создан в разделе Ключи управления API:
import OpenAI from "openai";
// Инициализация стандартного SDK с базовым URL Api Router
const client = new OpenAI({
baseURL: "https://api-router.velar.plus/v1",
apiKey: process.env.API_ROUTER_KEY, // Ваш ключ от сервиса
});
async function run() {
const response = await client.chat.completions.create({
model: "anthropic/claude-sonnet", // Семейство модели без жесткой привязки к устаревающим номерам
messages: [
{ role: "system", content: "Вы профессиональный инженер-архитектор." },
{ role: "user", content: "Как настроить надежную маршрутизацию запросов?" }
],
temperature: 0.2,
});
console.log("Ответ модели:", response.choices[0].message.content);
}
run();
Связанные разделы документации
Для глубокого погружения в тему изучите следующие материалы: