API क्विकस्टार्ट: अपने क्लाइंट को हमारे अनसेंसर्ड मॉडल से कनेक्ट करें

प्रमाणीकरण और बेस यूआरएल

प्रत्येक अनुरोध भेजा जाता है https://doesgrokhaveanapi.com/v1 और आपके की को Authorization हेडर को एक bearer टोकन के रूप में उपयोग करें। की को Get API key पेज से कॉपी करें; यह साइन अप करने के बाद दिखाई देता है, और आप इसे किसी भी समय बदल सकते हैं।

छोटा और सीधा: मौजूदा क्लाइंट को स्थानांतरित करते समय बेस यूआरएल और कुजी केवल दो मान हैं जो बदलते हैं।

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

चैट कंप्लीशंस एंडपॉइंट

भेजें POST /v1/chat/completions संदेशों की एक सूची के साथ। प्रतिक्रिया का आकार OpenAI चैट कंप्लीशंस रिस्पॉन्स जैसा ही होता है, इसलिए मौजूदा पार्सर काम करते रहते हैं।

• भूमिका का उपयोग करें user अपने प्रॉम्प्ट के लिए और system निर्देशों के लिए।
• से उत्तर पढ़ें choices[0].message.content.
• टोकन गणना वापस आती है usage, और आपके क्रेडिट के लिए इसी की वसूली की जाती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

समर्थित मॉडल: 'uncensored'

मॉडल फ़ील्ड को सेट करें uncensored. यह सेवा पर एकमात्र मॉडल आईडी है, इसलिए चुनने के लिए कुछ नहीं है। GET /v1/models वापस करता है, जो यह पुष्टि करने का एक तेज़ तरीका है कि की काम कर रही है।

मॉडल एक ओपन-वेइट मॉडल है जो हमारे अपने सर्वरों पर चलता है। यह कानूनी वयस्क, काल्पनिक या विवादास्पद अनुरोधों को अस्वीकार नहीं करता है। एकमात्र कठोर सीमा किशोरों के साथ यौन सामग्री है।

स्ट्रीमिंग और फंक्शन कॉलिंग

जोड़ें stream: true सर्वर-सेंट इवेंट्स के रूप में टोकन प्राप्त करने के लिए। अंतिम चंक उपयोग संख्याएं लेता है, इसलिए आप दूसरी कॉल के बिना प्रति रिक्वेस्ट लागत लॉग कर सकते हैं।

फंक्शन कॉलिंग मानक के माध्यम से काम करती है tools और tool_choice फ़ील्ड्स। प्रत्येक फ़ंक्शन को एक JSON स्कीमा के साथ परिभाषित करें और tool_calls प्रतिक्रिया के एरे में रखता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

पैरामीटर: तापमान, शीर्ष P, और स्टॉप

समर्थित सैंपलिंग पैरामीटर हैं temperature, top_p, stop, seed, presence_penalty और frequency_penalty. कोड और एक्सट्रैक्शन के लिए कम तापमान का उपयोग करें, और कथा के लिए उच्च तापमान का उपयोग करें।

यदि आप सेट नहीं करते max_tokens, डिफ़ॉल्ट आउटपुट सीमा 2,048 टोकन है। प्रति अनुरोध कठोर अधिकतम 16,000 टोकन है।

JSON मोड और प्रतिक्रिया प्रारूप

सेट करें response_format को { 'type': 'json_object' } जब आपको मशीन-रीडेबल आउटपुट की आवश्यकता हो। प्रॉम्प्ट में JSON मांगें, क्योंकि मॉडल निर्देश और फॉर्मेट दोनों का पालन करता है।

1. सिस्टम संदेश में आपको जिन फ़ील्डों की आवश्यकता है, उनका वर्णन करें।
2. उदाहरण छोटा रखें, दो या तीन कुंजियाँ।
3. अपने कोड में परिणाम को सहेजने से पहले सत्यापित करें।

रेट लिमिट्स और एरर हैंडलिंग

प्रति मिनट प्रत्येक कुंजी 300 अनुरोध भेज सकती है और एक ही समय पर 8 अनुरोध। 8 MB से अधिक बॉडी वाले अनुरोध अस्वीकार कर दिए जाते हैं। 401 का अर्थ है कि कुंजी गलत है, 402 का अर्थ है कि क्रेडिट खत्म हो गया है, और 429 का अर्थ है कि आपने रेट लिमिट पार कर ली है: प्रतीक्षा करें और बैकऑफ़ के साथ पुनः प्रयास करें।

त्रुटियां और अस्वीकृतियां चार्ज नहीं की जातीं। लंबी थ्रेड्स के लिए 100,000 टोकन के संदर्भ विंडो को ध्यान में रखें: प्रॉम्प्ट और कंप्लीशन का योग।

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);