LLM-Hosting: LLM-API Schnellstartanleitung

Authentifizierung & Schlüssel

Um die LLM-Hosting-API zu nutzen, benötigst du einen API-Schlüssel aus deinem Kontodashboard. Der Schlüssel authentifiziert alle Anfragen. Bewahre ihn sicher auf; jeder mit dem Schlüssel kann dein Prepaid-Guthaben nutzen. Du kannst den Schlüssel jederzeit neu generieren, wodurch der vorherige sofort ungültig wird. Jedes Konto unterstützt einen aktiven Schlüssel. Keine Telefonnummer oder Kreditkarte ist für den Start erforderlich, da neue Konten Testguthaben erhalten.

Basis-URL-Konfiguration

Unsere API ist vollständig OpenAI-kompatibel. Um zu wechseln, aktualisiere die Basis-URL deines Clients auf https://api.llmhostingapi.com/v1 und setze deinen API-Schlüssel in den Autorisierungsheader. Dies funktioniert mit den offiziellen OpenAI-SDKs und jeder kompatiblen Client-Bibliothek. Du musst deine Code-Logik nicht ändern, nur den Endpunkt und die Anmeldeinformationen. Die zu verwendende Modell-ID ist uncensored.

Copycurl https://api.llmhostingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Chat-Vervollständigungs-Endpunkt

Sende Text an das Modell über POST /v1/chat/completions. Die API akzeptiert Nachrichten und gibt Textantworten zurück. Wir unterstützen ein Kontextfenster mit 100.000 Token sowohl für Input als auch Output. Function Calling wird zur strukturierten Datenextraktion unterstützt. Das Modell ist darauf abgestimmt, ohne Inhaltsablehnungen für legale erwachsene Nutzung zu antworten, was es ideal für kreative, Forschungs- oder Erwachseneninhalte ohne zusätzliche Konfiguration macht.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmhostingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming-Antworten (SSE)

Für geringere Latenz und Echtzeit-Benutzererfahrungen aktiviere Streaming, indem du stream: true setzt. Die API gibt Server-Sent Events (SSE)-Chunks zurück. Dies ermöglicht es dir, teilweise Antworten anzuzeigen, während sie generiert werden. Streaming hat keinen Einfluss auf die Preise oder Token-Anzahlen. Es wird für Chat-Schnittstellen empfohlen, bei denen Benutzer sofortiges Feedback erwarten. Stelle sicher, dass dein Client die SSE-Parsing korrekt handhabt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Unterstützung für Function Calling

Definiere Funktionen in deinem Anforderungstextkörper über den tools-Parameter. Das Modell antwortet mit Function-Calls statt mit normalem Text, wenn dies angemessen ist. Du musst die Funktion auf deiner Seite ausführen und das Ergebnis im nächsten Gesprächszug zurücksenden. Dies ermöglicht komplexe Workflows wie Datenbankabfragen oder API-Integrationen. Das Modell wählt die Tools automatisch basierend auf dem Prompt des Benutzers und den verfügbaren Funktionsdefinitionen aus.

Modell-Auflistungs-Endpunkt

Führe GET /v1/models aus, um verfügbare Modelle aufzulisten. Du siehst das uncensored-Modell mit seiner ID, dem Erstellungsdatum und dem Feld „owned by“. Dieser Endpunkt hilft, die Konnektivität und die Verfügbarkeit von Modellen zu überprüfen. Er gibt JSON im Standard OpenAI-Format zurück. Nutze dies, um Authentifizierungsprobleme zu debuggen, bevor du Chat-Anfragen sendest. Der Endpunkt ist leichtgewichtig und gibt sofort zurück.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmhostingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);