Alojamiento LLM: Guía de inicio rápido de la API LLM

Autenticación y claves

Para usar la API de llm hosting, necesitas una clave de API desde el panel de tu cuenta. La clave autentica todas las peticiones. Mantén-la segura; quien la tenga puede usar tu crédito prepago. Puedes regenerarla en cualquier momento, lo que invalida la anterior. Cada cuenta admite una clave activa. No se requiere teléfono ni tarjeta de crédito; las cuentas nuevas reciben crédito de prueba gratis.

Configuración de URL base

Nuestra API es totalmente compatible con OpenAI. Para cambiar, actualiza la URL base de tu cliente a https://api.llmhostingapi.com/v1 y establece tu clave de API en el encabezado de autorización. Esto funciona con los SDK oficiales de OpenAI y cualquier biblioteca cliente compatible. No necesitas cambiar la lógica de tu código, solo el endpoint y las credenciales. El identificador de modelo a usar es uncensored.

Copycurl https://api.llmhostingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Endpoint de completados de chat

Envía texto al modelo mediante POST /v1/chat/completions. La API admite mensajes y devuelve respuestas de texto. Admitimos una ventana de contexto de 100.000 tokens tanto para entrada como para salida. Se admiten llamadas a funciones para la extracción de datos estructurados. El modelo está ajustado para responder sin rechazos de contenido para uso adulto lícito, lo que lo hace ideal para la generación de contenido creativo, de investigación o para adultos sin configuración adicional.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmhostingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Respuestas en streaming (SSE)

Para una menor latencia y experiencias de usuario en tiempo real, habilita el streaming estableciendo stream: true. La API devuelve fragmentos de Server-Sent Events (SSE). Esto te permite mostrar respuestas parciales a medida que se generan. El streaming no afecta los precios ni los recuentos de tokens. Se recomienda para interfaces de chat donde los usuarios esperan retroalimentación inmediata. Asegúrate de que tu cliente analice correctamente SSE.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Soporte para llamadas a funciones

Define funciones en el cuerpo de tu solicitud usando el parámetro tools. El modelo responderá con llamadas a funciones en lugar de texto plano cuando sea apropiado. Debes ejecutar la función en tu lado y enviar el resultado de vuelta en el siguiente turno de conversación. Esto habilita flujos de trabajo complejos como consultas a bases de datos o integraciones de API. El modelo maneja la selección de herramientas automáticamente según el prompt del usuario y las definiciones de funciones disponibles.

Endpoint de listado de modelos

Consulta GET /v1/models para listar modelos disponibles. Verás el modelo uncensored con su ID, fecha de creación y campo de propiedad. Este endpoint ayuda a verificar la conectividad y la disponibilidad del modelo. Devuelve JSON en formato estándar de OpenAI. Úsalo para depurar problemas de autenticación antes de enviar solicitudes de chat. El endpoint es ligero y devuelve inmediatamente.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmhostingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);