Hướng dẫn nhanh LLM API: Endpoint tương thích OpenAI

Xác thực và URL cơ sở

Để bắt đầu sử dụng dịch vụ nhà cung cấp llm api, bạn cần một khóa API. Đăng ký trên trang Lấy khóa API chỉ bằng email và mật khẩu. Khóa của bạn xuất hiện ngay lập tức. Không cần số điện thoại hoặc thẻ tín dụng cho tín dụng dùng thử. Giữ khóa của bạn an toàn; bạn có thể tạo lại nó bất cứ lúc nào, điều này làm vô hiệu hóa khóa trước đó.

Cấu hình máy khách của bạn để trỏ đến URL cơ sở của chúng tôi. Điều này đảm bảo tất cả các yêu cầu được định tuyến đến mô hình không kiểm duyệt của chúng tôi. Cấu trúc endpoint sao chép giao diện hoàn thành trò chuyện OpenAI tiêu chuẩn.

• URL cơ sở: https://api.comparellmapi.com/v1
• Tiêu đề: Authorization: Bearer YOUR_API_KEY

Cài đặt này hoạt động với bất kỳ SDK tương thích OpenAI nào. Bạn chỉ cần điều chỉnh URL cơ sở và đưa khóa của bạn vào.

Yêu cầu đầu tiên của bạn

Gửi một yêu cầu hoàn thành văn bản đơn giản để kiểm tra kết nối. Điều này xác nhận khóa API của bạn hợp lệ và tín dụng có sẵn. Sử dụng ID mô hình uncensored để truy cập mô hình thô. Endpoint chấp nhận các yêu cầu POST với thân JSON chứa các thông báo.

Đảm bảo thân yêu cầu của bạn không vượt quá 8 MB. Nếu bạn vượt quá giới hạn này, máy chủ sẽ từ chối yêu cầu. Đối với hầu hết các ứng dụng dựa trên văn bản, một lượt hoặc cuộc trò chuyện ngắn phù hợp tốt với ràng buộc này.

Copycurl https://api.comparellmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Nếu thành công, bạn nhận được phản hồi JSON với văn bản được tạo. Điều này xác nhận cấu trúc giá llm api áp dụng cho việc sử dụng của bạn. Mỗi token đều tính vào số dư tín dụng trả trước của bạn.

Tích hợp SDK Python

Sử dụng thư viện Python OpenAI chính thức để tích hợp dễ nhất. Cài đặt gói qua pip, sau đó cấu hình máy khách với URL cơ sở của chúng tôi. Điều này cho phép bạn sử dụng các phương thức quen thuộc như chat.completions.create().

Đặt mô hình thành uncensored. Chuyển các thông báo của bạn ở định dạng tiêu chuẩn. SDK xử lý tuần tự hóa và phân tích lỗi tự động.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phương pháp này lý tưởng cho các dịch vụ backend hoặc tập lệnh. Thư viện quản lý việc thử lại và xử lý lỗi cơ bản. Hãy nhớ kiểm tra nội dung phản hồi để tìm văn bản được tạo. Bạn cũng có thể truy cập dữ liệu sử dụng token để minh bạch hóa hóa đơn.

Thiết lập SDK Node.js

Đối với môi trường JavaScript hoặc TypeScript, SDK Node.js OpenAI hoạt động liền mạch. Cài đặt gói và khởi tạo máy khách với URL cơ sở của chúng tôi. Điều này duy trì khả năng tương thích với giao diện API tiêu chuẩn.

Xác định các thông báo hệ thống và người dùng của bạn. ID mô hình vẫn là uncensored. SDK trả về một promise với kết quả hoàn thành. Xử lý lỗi thích hợp để quản lý giới hạn API hoặc tín dụng không đủ.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.comparellmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phương pháp này phù hợp cho máy chủ web hoặc các ứng dụng Node.js. Cấu trúc mã sao chép ví dụ Python, đảm bảo tính nhất quán trên các ngôn ngữ. Bạn có thể tích hợp điều này vào các tuyến Express hoặc các hàm không máy chủ một cách dễ dàng.

Phản hồi truyền phát (SSE)

Đối với các ứng dụng thời gian thực, hãy bật truyền phát bằng cách đặt tham số stream thành true. Máy chủ gửi một loạt các Sự kiện được gửi bởi Máy chủ (SSE). Mỗi sự kiện chứa một phần nhỏ của phản hồi.

Điều này giảm độ trễ cảm nhận đối với người dùng. Máy khách nhận được token khi chúng được tạo. Điều này hữu ích cho các giao diện trò chuyện hoặc tạo văn bản trực tiếp.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phân tích luồng SSE để trích xuất từng token. Tích lũy văn bản để tạo thành phản hồi hoàn chỉnh. Chi phí chatgpt api và các nhà cung cấp khác thường tính phí tương tự cho việc truyền phát (streaming), nhưng mô hình không kiểm duyệt của chúng tôi cung cấp đầu ra thô mà không có phí bổ sung cho chế độ này. Theo dõi sự kiện kết thúc luồng để hoàn tất phản hồi.

Giới hạn, Lỗi và Ngữ cảnh

Hiểu các giới hạn hoạt động để đảm bảo tích hợp mượt mà. Bạn được phép 300 yêu cầu mỗi phút trên mỗi khóa API. Nếu bạn vượt quá giới hạn này, bạn sẽ nhận được lỗi giới hạn tốc độ 429. Hãy đợi trước khi thử lại.

Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ và 402 cho tín dụng không đủ. Đảm bảo số dư tín dụng trả trước của bạn đủ. Cửa sổ ngữ cảnh hỗ trợ lên đến 100.000 token cho prompt cộng với phần hoàn thành. Quản lý việc sử dụng token của bạn cẩn thận để tránh bị cắt ngắn.

Đối với giá llm api chi tiết, hãy tham khảo trang giá. Mỗi token được tính phí theo tỷ lệ đầu vào và đầu ra. Không có phí ẩn áp dụng. Sự minh bạch này giúp bạn lập ngân sách chính xác cho ứng dụng của mình.