LLM API-snelstart: OpenAI-compatible endpoints

Authenticatie en Base URL

Om de diensten van de llm api provider te gebruiken, heb je een API-sleutel nodig. Meld je aan op de pagina API-sleutel ophalen met alleen een e-mailadres en wachtwoord. Je sleutel verschijnt direct. Er is geen telefoonnummer of creditcard nodig voor het gratis proeftegoed. Houd je sleutel veilig; je kunt hem op elk moment opnieuw genereren, waardoor de vorige sleutel ongeldig wordt.

Configureer je client om naar onze base URL te wijzen. Dit zorgt ervoor dat alle verzoeken worden doorgestuurd naar ons ongecensureerde model. De endpointstructuur is identiek aan de standaard OpenAI chat completions interface.

• Basis-URL: https://api.comparellmapi.com/v1
• Koptekst: Authorization: Bearer YOUR_API_KEY

Deze setup werkt met elke OpenAI-compatible SDK. Je hoeft alleen de base URL aan te passen en je sleutel toe te voegen.

Je eerste verzoek

Stuur een eenvoudig tekstcompletion-verzoek om de connectiviteit te testen. Dit bevestigt dat je API-sleutel geldig is en dat er tegoed beschikbaar is. Gebruik de model-ID uncensored om toegang te krijgen tot het ruwe model. De endpoint accepteert POST-verzoeken met een JSON-body met berichten.

Zorg ervoor dat je request body onder de 8 MB blijft. Als je deze limiet overschrijdt, wordt het verzoek door de server afgewezen. Voor de meeste tekstgebaseerde applicaties past een enkele beurt of kort gesprek goed binnen deze beperking.

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Bij succes ontvang je een JSON-response met de gegenereerde tekst. Dit bevestigt dat de llm api pricing-structuur van toepassing is op je gebruik. Elke token telt mee voor je prepaid tegoed.

Python SDK-integratie

Gebruik de officiële OpenAI Python library voor de makkelijkste integratie. Installeer het package via pip en configureer de client met onze base URL. Hiermee kun je bekende methoden gebruiken zoals chat.completions.create().

Stel het model in op uncensored. Geef je berichten door in het standaardformaat. De SDK verwerkt serialisatie en error parsing automatisch.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Deze aanpak is ideaal voor backend services of scripts. De library beheert retries en basis error handling. Vergeet niet om de response content te controleren op de gegenereerde tekst. Je kunt ook token usage data opvragen voor transparantie in de facturatie.

Node.js SDK-setup

Voor JavaScript- of TypeScript-omgevingen werkt de OpenAI Node SDK naadloos. Installeer het package en initialiseer de client met onze base URL. Dit behoudt de compatibiliteit met de standaard API-interface.

Definieer je system- en user messages. De model-ID blijft uncensored. De SDK retourneert een promise met het completion-resultaat. Verwerk fouten appropriate om API-limieten of onvoldoende tegoed te beheren.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Deze methode is geschikt voor web servers of Node.js applicaties. De codestructuur is identiek aan het Python-voorbeeld, wat consistentie tussen talen waarborgt. Je kunt dit eenvoudig integreren in Express routes of serverless functions.

Streaming responses (SSE)

Voor real-time applicaties schakel je streaming in door de stream parameter op true te zetten. De server stuurt een reeks Server-Sent Events (SSE). Elk event bevat een gedeeltelijke chunk van de response.

Dit vermindert de perceived latency voor gebruikers. De client ontvangt tokens zodra ze gegenereerd zijn. Dit is handig voor chat interfaces of live tekstgeneratie.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parse de SSE stream om elke token te extraheren. Accumuleer de tekst om de complete response te vormen. De chatgpt api cost en andere providers rekenen vaak vergelijkbaar voor streaming, maar ons ongecensureerde model biedt ruwe output zonder extra kosten voor deze modus. Monitor het stream end event om de response te finaliseren.

Limieten, fouten en context

Begrijp de operationele limieten om een vlotte integratie te garanderen. Je mag 300 verzoeken per minuut per API-sleutel doen. Als je dit overschrijdt, ontvang je een 429 rate limit error. Wacht voordat je opnieuw probeert.

Veelvoorkomende fouten zijn 401 voor ongeldige sleutels en 402 voor onvoldoende tegoed. Zorg dat je prepaid saldo voldoende is. Het contextvenster ondersteunt tot 100.000 tokens voor prompt plus completion. Beheer je token usage zorgvuldig om truncatie te vermijden.

Voor gedetailleerde llm api pricing, raadpleeg de pricing pagina. Elke token wordt gefactureerd volgens de input- en output tarieven. Er zijn geen verborgen kosten. Deze transparantie helpt je om je budget voor je applicatie nauwkeurig te plannen.