LLM 託管：LLM API 快速入門指南

身份驗證與金鑰

要使用 llm hosting API，你需要從帳戶儀表板取得 API 金鑰。金鑰用於驗證所有請求。請妥善保管；任何擁有金鑰的人都可以使用你的預付額度。你可以隨時重新產生金鑰，這會立即使舊金鑰失效。每個帳戶僅支援一個有效金鑰。開始使用無需電話號碼或信用卡，因為新帳戶會獲得免費試用額度。

基礎 URL 設定

我們的 API 完全與 OpenAI 相容。要切換，請將用戶端的基礎 URL 更新為 https://api.llmhostingapi.com/v1，並在授權標頭中設定你的 API 金鑰。這適用於官方的 OpenAI SDK 以及任何相容的用戶端程式庫。你無需更改程式碼邏輯，只需更改端點和憑證即可。要使用的模型識別符為 uncensored。

Copycurl https://api.llmhostingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

聊天補全端點

透過 POST /v1/chat/completions 向模型發送文字。API 接受訊息並返回文字回應。我們支援 100,000 token 的上下文視窗，適用於輸入和輸出。支援函式呼叫以進行結構化資料擷取。該模型經過調校，可針對合法的成人用途無審查地回答，非常適合創意、研究或成人內容生成，無需額外設定。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmhostingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

串流回應 (SSE)

為了降低延遲並提供即時使用者體驗，請透過設定 stream: true 啟用串流輸出。API 會返回伺服器發送事件 (SSE) 區塊。這允許您在生成時顯示部分回應。串流輸出不會影響計費或 token 計數。對於期望即時回饋的聊天介面，建議使用此功能。請確保您的客戶端能正確解析 SSE。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

函式呼叫支援

在請求主體中使用 tools 參數定義函式。在適當情況下，模型將返回函式呼叫而非純文字。您必須在您的端執行函式，並在下一個對話回合中將結果發送回去。這 enables 複雜的工作流程，如資料庫查詢或 API 整合。模型會根據使用者的提示詞和可用的函式定義自動處理工具選擇。

模型列表端點

查詢 GET /v1/models 以列出可用模型。您將看到 uncensored 模型及其 ID、建立日期和擁有者欄位。此端點有助於驗證連線和模型可用性。它返回標準 OpenAI 格式的 JSON。在發送聊天請求之前，請使用此端點除錯身份驗證問題。此端點輕量且會立即返回。

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmhostingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);