استضافة LLM: دليل البدء السريع لواجهة LLM API

المصادقة والمفاتيح

لاستخدام واجهة llm hosting API، تحتاج إلى مفتاح API من لوحة حسابك. يوثّق المفتاح جميع الطلبات. احفظه بأمان؛ فأي شخص يملك المفتاح يمكنه استخدام رصيدك المسبق الدفع. يمكنك إعادة توليد المفتاح في أي وقت، مما يلغي سريان سريان المفتاح السابق فوراً. يدعم كل حساب مفتاحاً نشطاً واحداً. لا يتطلب الأمر رقم هاتف أو بطاقة ائتمان للبدء، حيث تتلقى الحسابات الجديدة رصيداً تجريبياً مجانياً.

تكوين عنوان URL الأساسي

تتوافق واجهة API لدينا تماماً مع OpenAI. للتبديل، حدّث عنوان URL الأساسي لعميلك إلى https://api.llmhostingapi.com/v1 وضع مفتاح API في رأس المصادقة. يعمل هذا مع مكتبات SDK الرسمية لـ OpenAI وأي مكتبة عميل متوافقة. لا تحتاج إلى تغيير منطق الكود الخاص بك، فقط نقطة النهاية وبيانات الاعتماد. معرف النموذج الذي يجب استخدامه هو uncensored.

Copycurl https://api.llmhostingapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

نقطة نهاية إكمال الدردشة

أرسل النص إلى النموذج عبر POST /v1/chat/completions. تقبل واجهة برمجة التطبيقات الرسائل وتعيد استجابات نصية. نحن ندعم نافذة سياق بحجم 100,000 رمز لكل من الإدخال والإخراج. يتم دعم استدعاء الدوال لاستخراج البيانات المهيكلة. النموذج مضبوط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين، مما يجعله مثاليًا لإنشاء المحتوى الإبداعي، أو البحث، أو المحتوى للبالغين بدون تكوين إضافي.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmhostingapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

استجابات البث المتدفق (SSE)

لتأخير أقل وتجارب مستخدم في الوقت الفعلي، فعّل البث المتدفق عن طريق تعيين stream: true. تعيد واجهة برمجة التطبيقات كتل أحداث الموجه من الخادم (SSE). هذا يسمح لك بعرض الاستجابات الجزئية أثناء إنشائها. لا يؤثر البث المتدفق على التسعير أو عدد الرموز. يوصى به لواجهات الدردشة حيث يتوقع المستخدمون ملاحظات فورية. تأكد من أن عميلك يعالج تحليل SSE بشكل صحيح.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

دعم استدعاء الدوال

عرّف الدوال في جسم طلبك باستخدام المعلمة tools. سيجيب النموذج باستدعاءات الدوال بدلاً من النص العادي عندما يكون ذلك مناسبًا. يجب عليك تنفيذ الدالة من جانبك وإرسال النتيجة مرة أخرى في دور المحادثة التالي. هذا يمكّن من سير العمل المعقد مثل استعلامات قاعدة البيانات أو تكاملات واجهة برمجة التطبيقات. يتعامل النموذج مع اختيار الأدوات تلقائيًا بناءً على الموجّه الخاص بالمستخدم وتعريفات الدوال المتاحة.

نقطة نهاية سرد النماذج

أرسل طلب GET /v1/models لعرض النماذج المتاحة. سترى نموذج uncensored مع معرفه وتاريخ إنشائه ومجال المالك. تساعد هذه النقطة في التحقق من الاتصال وتوفر النموذج. يعيد بيانات بتنسيق JSON. استخدم هذا لتصحيح أخطاء المصادقة قبل إرسال طلبات الدردشة. النقطة خفيفة الوزن وتعيد البيانات على الفور.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmhostingapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);