Быстрый старт LLM API: эндпоинты совместимые с OpenAI

Аутентификация и базовый URL

Чтобы начать использовать услуги провайдера llm api, вам нужен API-ключ. Зарегистрируйтесь на странице Получить API-ключ, указав только email и пароль. Ваш ключ появится сразу. Для пробного баланса не требуется номер телефона или кредитная карта. Храните ключ в безопасности; вы можете сгенерировать новый в любое время, что сделает предыдущий ключ недействительным.

Настройте клиент на указание нашего базового URL. Это гарантирует, что все запросы будут направляться к нашей модели без цензуры. Структура эндпоинта зеркально отражает стандартный интерфейс завершения чата OpenAI.

• Базовый URL: https://api.comparellmapi.com/v1
• Заголовок: Authorization: Bearer YOUR_API_KEY

Эта настройка работает с любым SDK, совместимым с OpenAI. Вам нужно только изменить базовый URL и внедрить свой ключ.

Ваш первый запрос

Отправьте простой запрос на завершение текста, чтобы проверить подключение. Это подтвердит, что ваш API-ключ действителен и кредиты доступны. Используйте идентификатор модели uncensored для доступа к сырой модели. Эндпоинт принимает запросы POST с телом JSON, содержащим сообщения.

Убедитесь, что тело вашего запроса не превышает 8 МБ. Если вы превысите этот лимит, сервер отклонит запрос. Для большинства текстовых приложений один ход или короткий разговор хорошо вписываются в это ограничение.

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

При успешном выполнении вы получите JSON-ответ с сгенерированным текстом. Это подтверждает, что структура тарифов LLM API применяется к вашему использованию. Каждый токен учитывается в вашем предоплаченном балансе.

Интеграция Python SDK

Используйте официальную библиотеку OpenAI Python для самой простой интеграции. Установите пакет через pip, затем настройте клиент с нашим базовым URL. Это позволяет вам использовать знакомые методы, такие как chat.completions.create().

Установите модель в uncensored. Передавайте свои сообщения в стандартном формате. SDK автоматически выполняет сериализацию и разбор ошибок.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Этот подход идеален для фоновых служб или скриптов. Библиотека управляет повторными попытками и базовой обработкой ошибок. Не забудьте проверить содержимое ответа на наличие сгенерированного текста. Вы также можете получить данные об использовании токенов для прозрачности выставления счетов.

Настройка Node.js SDK

Для сред JavaScript или TypeScript SDK OpenAI для Node.js работает без проблем. Установите пакет и инициализируйте клиент, указав наш базовый URL. Это сохраняет совместимость со стандартным интерфейсом API.

Определите системные и пользовательские сообщения. Идентификатор модели остается uncensored. SDK возвращает обещание (Promise) с результатом завершения. Обработайте ошибки соответствующим образом, чтобы управлять лимитами API или недостатком средств.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Этот метод подходит для веб-серверов или приложений Node.js. Структура кода зеркально отражает пример Python, обеспечивая согласованность между языками. Вы можете легко интегрировать это в маршруты Express или серверные функции.

Потоковые ответы (SSE)

Для приложений реального времени включите потоковую передачу, установив параметр stream в true. Сервер отправляет серию событий Server-Sent Events (SSE). Каждое событие содержит частичный фрагмент ответа.

Это снижает воспринимаемую задержку для пользователей. Клиент получает токены по мере их генерации. Это полезно для интерфейсов чата или генерации текста в реальном времени.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Разберите поток SSE, чтобы извлечь каждый токен. Накопите текст, чтобы сформировать полный ответ. стоимость API ChatGPT и других провайдеров часто взимается аналогично за потоковую передачу, но наша модель без цензуры предоставляет сырой вывод без дополнительных сборов за этот режим. Отслеживайте событие завершения потока, чтобы завершить ответ.

Лимиты, ошибки и контекст

Поймите операционные ограничения, чтобы обеспечить плавную интеграцию. Вам разрешено 300 запросов в минуту на API-ключ. Если вы превысите этот лимит, вы получите ошибку лимита запросов 429. Подождите перед повторной попыткой.

Распространенные ошибки включают 401 для недействительных ключей и 402 для недостатка средств. Убедитесь, что ваш предоплаченный баланс достаточен. Контекстное окно поддерживает до 100 000 токенов для промпта и ответа. Тщательно управляйте использованием токенов, чтобы избежать усечения.

Подробные тарифы LLM API см. на странице с ценами. Каждый токен оплачивается согласно ставкам за ввод и вывод. Скрытых комиссий нет. Эта прозрачность помогает вам точно планировать бюджет для вашего приложения.