התחלה מהירה ל-API: חבר את הלקוח שלך למודל הלא-מסונן שלנו

אימות וכתובת בסיס

כל בקעה נשלחת ל https://doesgrokhaveanapi.com/v1 וגם נושא את המפתח שלך בתוך Authorization כותרת ה-header כטוקן bearer. העתק את המפתח מדף קבלת מפתח API; הוא מוצג לאחר ההרשמה, וניתן להחליפו בכל עת.

קצר וישיר: כתובת ה-URL הבסיסית והמפתח הם שני הערכים היחידים שמשתנים כשעוברים לקליינט קיים.

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

נקודת הקצה להשלמת צ'אט

שלח POST /v1/chat/completions עם רשימת הודעות. לתשובה יש את אותו מבנה כמו לתשובת השלמת צ'אט של OpenAI, כך שנתחים קיימים ימשיכו לעבוד.

• השתמשו בתפקיד user לגבי ההזמנה שלך ואת system להנחיות.
• קראו את התשובה מ choices[0].message.content.
• ספירות טוקנים חוזרות ב usage, וזה מה שגובים מהקרדיט שלך.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

דגם נתמך: 'uncensored'

הגדירו את שדה המודל ל uncensored. זוהי מזהה המודל היחיד בשירות, ולכן אין מה לבחור. GET /v1/models מחזיר אותו, שזו דרך מהירה לאשר שהמפתח עובד.

המודל הוא מודל בעל משקל פתוח הפועל על השרתים שלנו. הוא אינו מסרב לבקשות בוגרות, בדיוניות או שנויות במחלוקת. הגבול הקשיח היחיד הוא תוכן מיני העוסק בקטינים.

זרם נתונים וקריאה לפונקציות

הוסף stream: true כדי לקבל אסימונים כאירועים שנשלחים מהשרת (server-sent events). החלק הסופי כולל את מספרי השימוש, כך שתוכל לרשום עלות לכל בקשה ללא צורך בשיחה נוספת.

Function Calling עובד דרך ה-standard tools וגם tool_choice שדות. הגדר כל פונקציה עם סכמת JSON וקרא את ה- tool_calls מערך התשובה.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

פרמטרים: טמפרטורה, Top P ו-Stop

פרמטרי הדגימה הנתמכים הם temperature, top_p, stop, seed, presence_penalty וגם frequency_penalty. השתממו בטמפרטורה נמוכה לקוד וחילוץ, וטמפרטורה גבוהה יותר לסיפורת.

אם לא תגדיר max_tokens, מגבלת הפלט המובנית היא 2,048 אסימונים. המקסימום המוחלט לכל בקשה הוא 16,000 אסימונים.

מצב JSON ופורמטים של תגובה

הגדר response_format אל { 'type': 'json_object' } כאשר אתה צריך פלט שניתן לקריאה על ידי מכונה. בקש JSON בהזמנה שלך גם כן, מכיוון שהמודל עוקב אחר ההוראה והפורמט יחד.

1. תאר את השדות שאתה צריך בהודעת המערכת.
2. שמור על הדוגמה קצרה, שניים או שלושה מפתחות.
3. אמתו את התוצאה בקוד שלכם לפני אחסון אותה.

מגבלות קצב וטיפול בשגיאות

כל מפתח יכול לשלוח 300 בקשות לדקה ו-8 בקשות בו זמנית. בקשות עם גוף מעל 8 MB יידחו. שגיאת 401 משמעותה שהמפתח שגוי, 402 משמעותה שהקרדיט אזל, ו-429 משמעותה שהגעתם למגבלת הקצב: חכו ונסו שוב עם backoff.

שגיאות וסירובים אינם נגבים. זכרו את חלון הקונטקסט של 100,000 טוקנים לשיחות ארוכות: ספירת ה-prompt וה-completion יחד.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);