LLM API 與 OpenRouter：哪條路適合你

通往相同協議的兩條不同路線

llm API 與 OpenRouter之爭的本質是關於結構的問題。OpenRouter 公開描述為單一 API，讓你能透過一個帳戶存取來自許多不同供應商的模型。此網站上的專屬 API 則正好相反：一個模型，由一個獨立供應商運行，位於一個端點後方。

兩者皆支援 OpenAI Chat Completions 格式。這是好消息，因為這表示你不會被鎖定。為其中一個撰寫的程式碼，在更改 Base URL、金鑰和模型名稱後，可在另一個上運行。因此決策不在於重寫應用程式，而在於你需要哪種模型存取、希望行為多可預測，以及如何付費。

關於公平性的一句話：此網站銷售專屬選項，請在閱讀時留意此點。以下關於另一項服務的內容僅限於公開資訊，關於其模型列表、價格和政策，請查閱其當前定價和文件。

並排比較

表格顯示了核心權衡：廣度與專注。在抽象層面上，兩者並無優劣之分。

當聚合器是較佳選擇時

誠實面對這些情況，因為在每種情況下，專屬單一模型 API 都不是合適的工具。

• 你需要多個模型。 如果一項任務需要大型推理模型，另一項需要便宜的小型模型，第三項需要視覺能力，聚合器可讓你免於管理多個帳戶。
• 你想比較模型。 在同一提示詞下評估五個模型時，若它們共用一個金鑰和格式，將變得最容易。
• 你需要圖片、音訊或嵌入向量。此服務僅限文字。無圖片或音訊生成、無嵌入向量，亦無微調功能。
• 你需要跨供應商的備援。 單一專屬模型無法故障轉移至不同的模型系列。
• 你需要以名稱指定的官方供應商模型。 這不是 Meta、Mistral、Qwen、DeepSeek、OpenAI、Google、Anthropic 或任何其他供應商的官方 API，也不是跨供應商的路由器。

若上述兩項或以上適用於你，請從聚合器開始，並忽略本文其餘部分。

當專屬無審查 API 是較佳選擇時

當產品需求狹窄且穩定時，專屬路線有意義。

你需要每次相同的行為

當應用程式從模型池中取得答案時，行為可能會有所不同，且模型可能會變更或消失。使用單一模型 ID uncensored，你的提示詞是針對單一對象進行測試。對於小說工具、角色扮演以及成人陪伴應用程式而言，這種可預測性比長長的模型列表更有價值。

拒絕是你正在解決的問題

若你的用戶撰寫成人小說或討論一般助手會拒絕的主題，你需要一個針對合法成人用途無內容拒絕進行調整的模型。唯一的硬性限制是，涉及未成年人的性內容永遠不被允許。

你想要簡單的計費

有一個定價方案，輸入 token 每 1M 個 $0.15，輸出 token 每 1M 個 $0.50。失敗或被拒絕的請求不會收費。額度為預付額度，不會過期，付款方式金額從 $20 到 $500 不等，$50 以上加贈 5%，$100 以上加贈 10%，$200 以上加贈 15%。完整詳情請見定價頁面。

一個月可能花費的成本計算

假設一個聊天應用程式每月有 2,000 次對話。每次對話有 10 個回合，平均每回合 1,800 個輸入 token 和 350 個輸出 token。

• 回合數：2,000 x 10 = 20,000
• 輸入 token：20,000 x 1,800 = 36,000,000，即 36 x $0.15 = $5.40
• 輸出 token：20,000 x 350 = 7,000,000，即 7 x $0.50 = $3.50
• 總計：每月 $8.90

由於最低付款方式為 $20，這約等於一次付款方式可支撐兩個月此工作量的費用，且額度不會過期。要對其他服務進行相同計算，請從其當前定價頁面獲取每百萬 token 價格，並代入相同公式。不要相信從部落格文章（包括本文）複製的數字，因為價格會變動。

成本比較中還有一個陷阱：每 token 最便宜的模型，並不代表每項任務最便宜。需要三次重試或拒絕並浪費一個回合的模型，實際成本更高。請計算完成每項任務的實際 token 數。

無需重寫即可在兩者之間移動

由於兩條路線共用協議，你可以保持選擇彈性。將 Base URL、金鑰和模型名稱放在設定檔中，而非程式碼中。然後將任務從一條路線切換到另一條路線只需更改環境設定。

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: process.env.LLM_BASE_URL ?? "https://api.comparellmapi.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const model = process.env.LLM_MODEL ?? "uncensored";

const resp = await client.chat.completions.create({
  model,
  messages: [{ role: "user", content: "Summarize the plot of a heist story in three lines." }],
});
console.log(resp.choices[0].message.content);

常見模式是將一般任務（摘要、分類、程式碼協助）發送到你偏好的任何通用模型，並將創意或成人內容任務發送至無審查端點。你可以在需要的地方獲得廣度，在不希望被拒絕的地方不會被拒絕。

在承諾採用前需解決的問題

1. 是否需要多個模型？如果是，請針對這些部分使用聚合器。
2. 我的內容現在會被拒絕嗎？如果是，請針對這些確切的提示詞測試專屬端點。
3. 是否需要非文字輸出？如果是，此服務無法提供。
4. 我需要多少並行流量？請與完整金鑰的 8 個並行請求進行比較。

選擇前應知的限制

公平的比較應包含此側的約束條件。

• 上下文視窗：100,000 token，包含提示詞與補全。
• 完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個和 60 個。
• 最大請求主體：8 MB。
• 429 錯誤會帶有程式碼：rate_limited、concurrency，或帶有 Retry-After: 5的短暫過載狀態。
• 支援的功能：串流輸出、函式呼叫、JSON 模式以及一般的採樣參數。

如果你的應用程式需要數千個並行請求，8 個並行將是你的上限，你應為此做好規劃或選擇其他方式。另請參閱我們的 token 成本比較以獲取更多定價細節。

可靠性是另一個問題

人們常將服務可用性納入此決策，但沒有任何部落格文章能評判這兩種路線。閘道器會增加一跳，且取決於你所選模型後方的提供者。專屬端點則取決於單一營運商和單一模型。兩者都不是自動更安全。如果你的產品需要可用性，請自行測試：發送穩定的請求流一週，記錄錯誤和延遲，並根據你自己的數據做出決定。

無論你選擇哪種路線，都應為 429 和 5xx 錯誤建立重試機制，並將 Base URL 保留在設定中，以便其中一方狀況不佳時可以切換。這個習慣比任何比較表都更有價值。

試用只需十分鐘

做出決策最簡單的方式就是測試。新用戶可以在 API 金鑰頁面上一鍵領取 $0.50 的免費試用額度，有效期 7 天，無需信用卡，每人限領一次。然後將你現有的 OpenAI 用戶端指向此端點：

Copyimport os
from openai import OpenAI

client = OpenAI(base_url="https://api.comparellmapi.com/v1", api_key=os.environ["LLM_API_KEY"])

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a two-line villain monologue."}],
)
print(resp.choices[0].message.content)

執行你現有設定拒絕或處理不佳的提示詞並進行比較。由於格式相同，你可以在程式碼中保留兩條路徑並根據任務進行選擇。文件涵蓋了串流輸出和 tool calls。提示詞不會用於訓練。

更多指南

• 無審查 LLM API：定價與 Token 成本比較