Создание пакета (POST /v1/batches)
Эндпоинт для запуска асинхронной обработки сотен тысяч или миллионов запросов со скидкой 50% от стандартного тарифа. Запросы выполняются в течение 24 часов в моменты низкой загрузки узлов.
POST
https://api-router.velar.plus/v1/batches
Метод POST /v1/batches инициирует асинхронное пакетное задание для массовой обработки миллионов запросов со скидкой 50% от стандартного прайс-листа. Входные данные передаются в виде файла JSONL, а вычисления производятся в моменты спада глобальной нагрузки на вычислительные мощности.
Формат файла входных данных (.jsonl)
Каждая строка файла содержит отдельный независимый запрос в формате JSON:
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "openai/gpt-mini", "messages": [{"role": "user", "content": "Классифицируй текст 1"}]}}
{"custom_id": "req-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "openai/gpt-mini", "messages": [{"role": "user", "content": "Классифицируй текст 2"}]}}
Связанные разделы документации
Рекомендуем также изучить смежные технические руководства и спецификации: