Hébergement LLM : Guide de démarrage API LLM

Authentification et clés

Pour utiliser l'API llm hosting, vous avez besoin d'une clé API depuis le tableau de bord de votre compte. La clé authentifie toutes les requêtes. Gardez-la en sécurité ; quiconque possède la clé peut utiliser votre crédit prépayé. Vous pouvez régénérer la clé à tout moment, ce qui invalide immédiatement la précédente. Chaque compte prend en charge une clé active. Aucun numéro de téléphone ni carte bancaire n'est requis pour commencer, car les nouveaux comptes reçoivent un crédit d'essai gratuit.

Configuration de l'URL de base

Notre API est entièrement compatible OpenAI. Pour basculer, mettez à jour l'URL de base de votre client vers https://api.llmhostingapi.com/v1 et définissez votre clé API dans l'en-tête d'autorisation. Cela fonctionne avec les SDK officiels OpenAI et toute bibliothèque cliente compatible. Vous n'avez pas besoin de modifier la logique de votre code, seulement l'endpoint et les identifiants. L'identifiant de modèle à utiliser est uncensored.

Copycurl https://api.llmhostingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Endpoint de complétion de chat

Envoyez du texte au modèle via POST /v1/chat/completions. L'API accepte des messages et renvoie des réponses textuelles. Nous prenons en charge une fenêtre de contexte de 100 000 tokens pour l'entrée et la sortie. L'appel de fonctions est pris en charge pour l'extraction de données structurées. Le modèle est ajusté pour répondre sans refus de contenu pour une utilisation adulte légale, ce qui le rend idéal pour la génération de contenu créatif, de recherche ou pour adultes sans configuration supplémentaire.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmhostingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Réponses en streaming (SSE)

Pour une latence plus faible et des expériences utilisateur en temps réel, activez le streaming en définissant stream: true. L'API renvoie des chunks d'événements envoyés par le serveur (SSE). Cela vous permet d'afficher des réponses partielles au fur et à mesure de leur génération. Le streaming n'affecte pas la tarification ni les comptes de tokens. Il est recommandé pour les interfaces de chat où les utilisateurs s'attendent à une rétroaction immédiate. Assurez-vous que votre client analyse correctement les SSE.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Support d'appel de fonctions

Définissez des fonctions dans le corps de votre requête en utilisant le paramètre tools. Le modèle répondra par des appels de fonctions au lieu de texte brut lorsque cela est approprié. Vous devez exécuter la fonction de votre côté et renvoyer le résultat dans le tour de conversation suivant. Cela permet des workflows complexes comme des requêtes de base de données ou des intégrations API. Le modèle gère la sélection des outils automatiquement en fonction du prompt de l'utilisateur et des définitions de fonctions disponibles.

Endpoint de liste des modèles

Interrogez GET /v1/models pour lister les modèles disponibles. Vous verrez le modèle uncensored avec son ID, sa date de création et le champ owned by. Cet endpoint aide à vérifier la connectivité et la disponibilité des modèles. Il renvoie du JSON au format OpenAI standard. Utilisez-le pour déboguer les problèmes d'authentification avant d'envoyer des requêtes de chat. L'endpoint est léger et renvoie immédiatement.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmhostingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);