API-snelstart: verbind je client met ons ongecensureerde model

Authenticatie en basis-URL

Elke request gaat naar https://doesgrokhaveanapi.com/v1 en voert je sleutel in de Authorization header als een bearer token. Kopieer de sleutel van de pagina 'API-sleutel ophalen'; deze wordt eenmalig getoond na aanmelding en je kunt hem op elk moment vervangen.

Kort en direct: de basis-URL en de sleutel zijn de enige twee waarden die veranderen wanneer u een bestaande client verplaatst.

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

Het Chat Completions Endpoint

Verzenden POST /v1/chat/completions met een lijst van berichten. Het antwoord heeft dezelfde structuur als het OpenAI chat-completions antwoord, dus bestaande parsers blijven werken.

• Gebruik de rol user voor je prompt en system voor instructies.
• Lees het antwoord van choices[0].message.content.
• Tokenaantallen worden geretourneerd in usage, en daarvoor wordt je tegoed in rekening gebracht.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ondersteund model: 'uncensored'

Stel het modelveld in op uncensored. Dit is het enige model-id op de dienst, dus er is niets om uit te kiezen. GET /v1/models terug, wat een snelle manier is om te bevestigen dat de sleutel werkt.

Het model is een open-weight model dat op onze eigen servers draait. Het weigert geen wettelijke volwassen, fictieve of controversiële verzoeken. De enige harde limiet is seksuele inhoud met minderjarigen.

Streaming en Function Calling

Toevoegen stream: true om tokens te ontvangen als server-sent events. Het laatste chunk bevat de gebruikscijfers, zodat je de kosten per verzoek kunt loggen zonder een tweede call.

Function calling werkt via de standaard tools en tool_choice velden. Definieer elke functie met een JSON-schema en lees de tool_calls array van het antwoord.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parameters: Temperatuur, Top P en Stop

De ondersteunde sampling parameters zijn temperature, top_p, stop, seed, presence_penalty en frequency_penalty. Gebruik een lage temperatuur voor code en extractie, en een hogere voor fictie.

Als u max_tokens, de standaard uitvoergrens is 2.048 tokens. De harde maximum per verzoek is 16.000 tokens.

JSON-modus en responsformaten

Instellen response_format naar { 'type': 'json_object' } wanneer je machine-leesbare uitvoer nodig hebt. Vraag ook om JSON in de prompt, omdat het model de instructie en het formaat samen volgt.

1. Beschrijf de velden die je in het systeembericht nodig hebt.
2. Houd het voorbeeld kort, twee of drie sleutels.
3. Valideer het resultaat in je code voordat je het opslaat.

Rate Limits en Fouthantering

Elke sleutel mag 300 requests per minuut versturen en 8 requests tegelijk. Requests met een body boven de 8 MB worden afgewezen. Een 401 betekent dat de sleutel fout is, een 402 betekent dat het tegoed op is, en een 429 betekent dat u de rate limit heeft bereikt: wacht en probeer opnieuw met backoff.

Fouten en weigeringen worden niet in rekening gebracht. Houd rekening met het contextvenster van 100.000 tokens voor lange threads: prompt en completion samen geteld.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);