LLM API Hızlı Başlangıç: OpenAI Uyumlu Uç Noktalar

Kimlik Doğrulama ve Temel URL

LLM API sağlayıcısı hizmetlerini kullanmaya başlamak için bir API anahtarına ihtiyacınız vardır. Sadece bir e-posta ve şifre ile API anahtarı al sayfasında kaydolun. Anahtarınız hemen görünür. Deneme kredisi için telefon numarası veya kredi kartı gerekmez. Anahtarınızı güvende tutun; istediğiniz zaman yenileyebilirsiniz, bu da önceki anahtarı geçersiz kılar.

İstemcinizi temel URL'mize yönlendirecek şekilde yapılandırın. Bu, tüm isteklerin sansürsüz modelimize yönlendirilmesini sağlar. Uç nokta yapısı standart OpenAI sohbet tamamlama arayüzünü yansıtır.

• Temel URL: https://api.comparellmapi.com/v1
• Başlık: Authorization: Bearer YOUR_API_KEY

Bu kurulum herhangi bir OpenAI uyumlu SDK ile çalışır. Temel URL'yi ayarlamanız ve anahtarınızı eklemeniz yeterlidir.

İlk İsteğiniz

Bağlantıyı test etmek için basit bir metin tamamlama isteği gönderin. Bu, API anahtarınızın geçerli olduğunu ve kredilerin mevcut olduğunu doğrular. Ham modele erişmek için uncensored model kimliğini kullanın. Uç nokta, mesajlar içeren bir JSON gövdesi ile POST isteklerini kabul eder.

İstek gövdenizin 8 MB sınırını aşmadığından emin olun. Bu sınırı aşarsanız sunucu isteği reddeder. Çoğu metin tabanlı uygulama için tek bir dönüş veya kısa bir sohbet bu kısıtlama içinde rahatça yer alır.

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

İşlem başarılı olursa, oluşturulan metni içeren bir JSON yanıtı alırsınız. Bu, LLM API fiyatlandırması yapısının kullanımınız için geçerli olduğunu doğrular. Her token, ön ödemeli bakiyenize dahil edilir.

Python SDK Entegrasyonu

En kolay entegrasyon için resmi OpenAI Python kütüphanesini kullanın. Paketi pip aracılığıyla yükleyin, ardından istemciyi temel URL'mizle yapılandırın. Bu, chat.completions.create() gibi tanıdık yöntemleri kullanmanızı sağlar.

Modeli uncensored olarak ayarlayın. Mesajlarınızı standart formatta iletin. SDK serileştirmeyi ve hata ayrıştırmayı otomatik olarak yönetir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bu yaklaşım arka uç hizmetleri veya betikler için idealdir. Kütüphane yeniden denemeleri ve temel hata yönetimini yönetir. Yanıt içeriğini oluşturulan metin için kontrol etmeyi unutmayın. Faturalandırma şeffaflığı için token kullanım verilerine de erişebilirsiniz.

Node.js SDK Kurulumu

JavaScript veya TypeScript ortamları için OpenAI Node SDK sorunsuz çalışır. Paketi yükleyin ve istemciyi temel URL'mizle başlatın. Bu, standart API arayüzü ile uyumluluğu korur.

Sistem ve kullanıcı mesajlarınızı tanımlayın. Model kimliği uncensored olarak kalır. SDK, tamamlama sonucunu içeren bir promise döndürür. API limitlerini veya yetersiz kredileri yönetmek için hataları uygun şekilde işleyin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bu yöntem web sunucuları veya Node.js uygulamaları için uygundur. Kod yapısı Python örneğini yansıtır ve diller arasında tutarlılık sağlar. Bu kodu Express rotalarına veya sunucusuz işlevlere kolayca entegre edebilirsiniz.

Akışlı Yanıtlar (SSE)

Gerçek zamanlı uygulamalar için stream parametresini true olarak ayarlayarak akış özelliğini etkinleştirin. Sunucu, Sunucu Tarafından Gönderilen Olaylar (SSE) dizisi gönderir. Her olay, yanıtın bir kısmını içerir.

Bu, kullanıcılar için algılanan gecikmeyi azaltır. İstemci, tokenlar oluşturuldukça onları alır. Bu, sohbet arayüzleri veya canlı metin üretimi için faydalıdır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

SSE akışını ayrıştırarak her token'ı çıkarın. Metni biriktirerek tam yanıtı oluşturun. ChatGPT API maliyeti ve diğer sağlayıcılar akış için benzer şekilde ücretlendirme yaparken, sansürsüz modelimiz bu mod için ek ücret olmadan ham çıktı sunar. Yanıtı tamamlamak için akış sonu olayını izleyin.

Limitler, Hatalar ve Bağlam

Sorunsuz entegrasyon için operasyonel limitleri anlayın. Her API anahtarı için dakikada 300 istek yapmanıza izin verilir. Bu sınırı aşarsanız 429 hız limiti hatası alırsınız. Yeniden denemeden önce bekleyin.

Yaygın hatalar arasında geçersiz anahtarlar için 401 ve yetersiz kredi için 402 bulunur. Ön ödemeli bakiyenizin yeterli olduğundan emin olun. Bağlam penceresi, istem ve tamamlama için toplam 100.000 tokena kadar destekler. Kesilmeyi önlemek için token kullanımınızı dikkatlice yönetin.

Detaylı LLM API fiyatlandırması için fiyatlandırma sayfasına bakın. Her token, giriş ve çıkış oranlarına göre ücretlendirilir. Gizli ücret yoktur. Bu şeffaflık, uygulamanız için bütçenizi doğru bir şekilde planlamanıza yardımcı olur.