Panduan Cepat API LLM: Endpoint Kompatibel OpenAI

Autentikasi dan URL Dasar

Untuk mulai menggunakan layanan penyedia api llm, Anda memerlukan kunci API. Daftar di halaman Dapatkan kunci API hanya dengan email dan kata sandi. Kunci Anda muncul segera. Tidak diperlukan nomor telepon atau kartu kredit untuk kredit uji coba. Jaga kunci Anda agar aman; Anda dapat membuat ulang kapan saja, yang akan membuat kunci sebelumnya tidak valid.

Konfigurasikan klien Anda untuk mengarah ke URL dasar kami. Ini memastikan semua permintaan dialihkan ke model tanpa sensor kami. Struktur endpoint meniru antarmuka penyelesaian obrolan OpenAI standar.

• URL Dasar: https://api.comparellmapi.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Pengaturan ini berfungsi dengan SDK apa pun yang kompatibel dengan OpenAI. Anda hanya perlu menyesuaikan URL dasar dan menyisipkan kunci Anda.

Permintaan Pertama Anda

Kirim permintaan penyelesaian teks sederhana untuk menguji konektivitas. Ini mengonfirmasi bahwa kunci API Anda valid dan kredit tersedia. Gunakan ID model uncensored untuk mengakses model mentah. Endpoint menerima permintaan POST dengan tubuh JSON yang berisi pesan.

Pastikan tubuh permintaan Anda tetap di bawah 8 MB. Jika Anda melebihi batas ini, server akan menolak permintaan. Untuk sebagian besar aplikasi berbasis teks, satu giliran atau percakapan singkat cocok dengan baik dalam batasan ini.

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Jika berhasil, Anda menerima respons JSON dengan teks yang dihasilkan. Ini mengonfirmasi bahwa struktur harga api llm berlaku untuk penggunaan Anda. Setiap token dihitung terhadap saldo prabayar Anda.

Integrasi SDK Python

Gunakan pustaka Python OpenAI resmi untuk integrasi termudah. Instal paket melalui pip, lalu konfigurasi klien dengan URL dasar kami. Hal ini memungkinkan Anda menggunakan metode yang sudah familiar seperti chat.completions.create().

Atur model menjadi uncensored. Kirim pesan Anda dalam format standar. SDK menangani serialisasi dan parsing error secara otomatis.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pendekatan ini ideal untuk layanan backend atau skrip. Pustaka menangani percobaan ulang dan penanganan error dasar. Ingatlah untuk memeriksa konten respons untuk teks yang dihasilkan. Anda juga dapat mengakses data penggunaan token untuk transparansi penagihan.

Pengaturan SDK Node.js

Untuk lingkungan JavaScript atau TypeScript, OpenAI Node SDK bekerja dengan lancar. Instal paket dan inisialisasi klien dengan URL dasar kami. Ini menjaga kompatibilitas dengan antarmuka API standar.

Tentukan pesan sistem dan pengguna. ID model tetap uncensored. SDK mengembalikan Promise dengan hasil penyelesaian. Tangani error dengan tepat untuk mengelola batas API atau kredit yang tidak mencukupi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Metode ini cocok untuk server web atau aplikasi Node.js. Struktur kode meniru contoh Python, memastikan konsistensi di seluruh bahasa. Anda dapat mengintegrasikannya ke rute Express atau fungsi serverless dengan mudah.

Respons Streaming (SSE)

Untuk aplikasi waktu nyata, aktifkan streaming dengan mengatur parameter stream menjadi true. Server mengirim serangkaian Event yang Dikirim Server (SSE). Setiap event berisi potongan parsial dari respons.

Ini mengurangi latensi yang dirasakan bagi pengguna. Klien menerima token saat token tersebut dihasilkan. Ini berguna untuk antarmuka obrolan atau generasi teks langsung.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parse stream SSE untuk mengekstrak setiap token. Akumulasi teks untuk membentuk respons lengkap. Biaya chatgpt api cost dan penyedia lain sering kali mengenakan biaya serupa untuk streaming, tetapi model tanpa sensor kami menawarkan output mentah tanpa biaya tambahan untuk mode ini. Pantau event akhir stream untuk menyelesaikan respons.

Batas, Error, dan Konteks

Pahami batas operasional untuk memastikan integrasi yang lancar. Anda diizinkan melakukan 300 permintaan per menit per kunci API. Jika Anda melebihi batas ini, Anda akan menerima error batas laju 429. Tunggu sebelum mencoba lagi.

Error umum termasuk 401 untuk kunci tidak valid dan 402 untuk kredit tidak mencukupi. Pastikan saldo prabayar Anda cukup. Jendela konteks mendukung hingga 100.000 token untuk prompt ditambah penyelesaian. Kelola penggunaan token Anda dengan hati-hati untuk menghindari pemotongan.

Untuk harga api llm terperinci, lihat halaman harga. Setiap token dibebankan sesuai dengan tingkat input dan output. Tidak ada biaya tersembunyi. Transparansi ini membantu Anda membuat anggaran secara akurat untuk aplikasi Anda.