เริ่มต้นใช้งาน LLM API: เอนด์พอยต์ที่เข้ากันได้กับ OpenAI

การตรวจสอบสิทธิ์และ URL พื้นฐาน

เพื่อเริ่มใช้บริการ ผู้ให้บริการ LLM API คุณจำเป็นต้องมีคีย์ API สมัครสมาชิกที่หน้า รับคีย์ API โดยใช้เพียงอีเมลและรหัสผ่าน คีย์ของคุณจะปรากฏทันที ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์หรือบัตรเครดิตสำหรับเครดิตทดลองใช้ เก็บคีย์ของคุณให้ปลอดภัย คุณสามารถสร้างคีย์ใหม่ได้ทุกเมื่อ ซึ่งจะทำให้คีย์ก่อนหน้าหมดอายุ

กำหนดค่าไคลเอนต์ของคุณให้ชี้ไปที่ URL พื้นฐานของเรา สิ่งนี้ทำให้แน่ใจว่าคำขอทั้งหมดจะถูกจัดเส้นทางไปยังโมเดลที่ไม่เซ็นเซอร์ของเรา โครงสร้างเอนด์พอยต์จะสะท้อนอินเทอร์เฟซการเสร็จสิ้นการสนทนาของ OpenAI มาตรฐาน

• URL พื้นฐาน: https://api.comparellmapi.com/v1
• ส่วนหัว: Authorization: Bearer YOUR_API_KEY

การตั้งค่านี้ทำงานกับ SDK ที่เข้ากันได้กับ OpenAI ใดก็ได้ คุณเพียงแค่ต้องปรับ URL พื้นฐานและใส่คีย์ของคุณ

คำขอแรกของคุณ

ส่งคำขอสร้างข้อความแบบง่ายเพื่อทดสอบการเชื่อมต่อ สิ่งนี้ยืนยันว่าคีย์ API ของคุณใช้งานได้และมียอดเครดิตเหลืออยู่ ใช้ ID โมเดล uncensored เพื่อเข้าถึงโมเดลพื้นฐาน เอนด์พอยต์รองรับคำขอ POST ที่มี body เป็น JSON ประกอบด้วย messages

ให้แน่ใจว่าร่างคำขอของคุณมีขนาดไม่เกิน 8 MB หากเกินขีดจำกัดนี้ เซิร์ฟเวอร์จะปฏิเสธคำขอ สำหรับแอปพลิเคชันส่วนใหญ่ที่เน้นข้อความ การสนทนาหนึ่งรอบหรือสั้นๆ จะอยู่ในขอบเขตนี้ได้ดี

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

หากสำเร็จ คุณจะได้รับการตอบกลับเป็น JSON พร้อมข้อความที่สร้างขึ้นมา สิ่งนี้ยืนยันว่าโครงสร้าง ราคา LLM API ถูกนำไปใช้กับการใช้งานของคุณ แต่ละโทเคนจะถูกหักจากเครดิตแบบเติมเงินล่วงหน้าของคุณ

การผสานรวม Python SDK

ใช้ไลบรารี Python ของ OpenAI ทางการสำหรับการผสานรวมที่ง่ายที่สุด ติดตั้งแพ็คเกจผ่าน pip จากนั้นกำหนดค่าไคลเอนต์ด้วย URL พื้นฐานของเรา สิ่งนี้ทำให้คุณสามารถใช้วิธีการที่คุ้นเคยเช่น chat.completions.create() ได้

ตั้งค่าโมเดลเป็น uncensored ส่ง messages ของคุณในรูปแบบมาตรฐาน SDK จะจัดการการแปลงข้อมูลและการแยกวิเคราะห์ข้อผิดพลาดโดยอัตโนมัติ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วิธีนี้เหมาะสำหรับบริการแบ็กเอนด์หรือสคริปต์ ไลบรารีจัดการการลองใหม่และการจัดการข้อผิดพลาดพื้นฐาน อย่าลืมตรวจสอบเนื้อหาการตอบสนองสำหรับข้อความที่สร้าง คุณยังสามารถเข้าถึงข้อมูลการใช้งานโทเคนเพื่อความโปร่งใสในการเรียกเก็บเงิน

การตั้งค่า Node.js SDK

สำหรับสภาพแวดล้อม JavaScript หรือ TypeScript OpenAI Node SDK ทำงานได้อย่างราบรื่น ติดตั้งแพ็กเกจและเริ่มต้นไคลเอนต์ด้วย base URL ของเรา สิ่งนี้รักษาความเข้ากันได้กับอินเทอร์เฟซ API มาตรฐาน

กำหนด messages ของระบบและผู้ใช้ โมเดล ID ยังคงเป็น uncensored SDK จะส่งคืน promise พร้อมผลลัพธ์การสร้างข้อความ จัดการข้อผิดพลาดอย่างเหมาะสมเพื่อจัดการขีดจำกัดอัตราหรือเครดิตไม่เพียงพอ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

วิธีนี้เหมาะสำหรับเว็บเซิร์ฟเวอร์หรือแอปพลิเคชัน Node.js โครงสร้างโค้ดสะท้อนตัวอย่าง Python เพื่อให้แน่ใจความสอดคล้องข้ามภาษา คุณสามารถผสานรวมสิ่งนี้เข้ากับเส้นทาง Express หรือฟังก์ชันไร้เซิร์ฟเวอร์ได้ง่าย

การตอบสนองแบบสตรีมมิง (SSE)

สำหรับแอปพลิเคชันแบบเรียลไทม์ ให้เปิดใช้งานสตรีมมิงโดยการตั้งค่าพารามิเตอร์ stream เป็น true เซิร์ฟเวอร์จะส่งชุดของ Server-Sent Events (SSE) แต่ละเหตุการณ์จะมี partial chunk ของการตอบกลับ

สิ่งนี้ลดความล่าช้าที่รับรู้สำหรับผู้ใช้ ไคลเอนต์ได้รับโทเคนเมื่อสร้างเสร็จ สิ่งนี้มีประโยชน์สำหรับอินเทอร์เฟซแชทหรือการสร้างข้อความแบบสด

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

แยก SSE stream เพื่อดึง token แต่ละตัว รวมข้อความเพื่อสร้าง response ที่สมบูรณ์ chatgpt api cost และผู้ให้บริการอื่นมักคิดค่า streaming คล้ายกัน แต่ uncensored model ของเราให้ raw output โดยไม่มีค่าธรรมเนียมเพิ่มสำหรับโหมดนี้ ตรวจสอบเหตุการณ์ stream end เพื่อสรุป response

ขีดจำกัด ข้อผิดพลาด และบริบท

ทำความเข้าใจขีดจำกัดการทำงานเพื่อให้การผสานการผสานรวมที่ราบรื่น คุณได้รับอนุญาต 300 คำขอต่อนาทีต่อคีย์ API หากเกินขีดจำกัดนี้ คุณจะได้รับข้อผิดพลาด rate limit 429 รอแล้วลองใหม่

ข้อผิดพลาดทั่วไปรวมถึง 401 สำหรับคีย์ที่ไม่ถูกต้องและ 402 สำหรับเครดิตไม่เพียงพอ ตรวจสอบให้แน่ใจว่าเครดิตแบบเติมเงินล่วงหน้าของคุณเพียงพอ หน้าต่างบริบทรองรับสูงสุด 100,000 token สำหรับ prompt plus completion จัดการการใช้ token ของคุณอย่างระมัดระวังเพื่อหลีกเลี่ยงการตัดทอน

สำหรับ llm api pricing ที่ละเอียด โปรดดูหน้าราคา แต่ละโทเคนจะถูกเรียกเก็บตามอัตราอินพุตและเอาต์พุต ไม่มีค่าธรรมเนียมซ่อนเร้น ความโปร่งใสนี้ช่วยให้คุณจัดงบประมาณสำหรับแอปพลิเคชันของคุณได้อย่างแม่นยำ