API-hurtigstart: Forbind din klient til vores ucensurerede model

Autentificering og Base URL

Hver anmodning går til https://doesgrokhaveanapi.com/v1 og medbringer din nøgle i Authorization header som en bearer token. Kopier nøglen fra siden 'Hent API-nøgle'; den vises, når du tilmelder dig, og du kan erstatte den til enhver tid.

Kort og direkte: base-URL'en og nøglen er de eneste to værdier, der ændres, når du flytter en eksisterende klient over.

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

Chat Completions-endepunktet

Send POST /v1/chat/completions med en liste af beskeder. Svaret har samme struktur som OpenAI chat completions-svaret, så eksisterende parsere fortsætter med at virke.

• Brug rollen user til din prompt og system til instruktioner.
• Læs svaret fra choices[0].message.content.
• Token-tællinger returneres i usage, og det er det, din kredit opbruges for.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Understøttet model: 'uncensored'

Indstil model-feltet til uncensored. Dette er den eneste model-id på tjenesten, så der er intet at vælge imellem. GET /v1/models returnerer det, hvilket er en hurtig måde at bekræfte, at nøglen virker.

Modellen er en open-weight-model, der kører på vores egne servere. Den afviser ikke lovligt voksen-, fiktivt eller kontroversielt indhold. Den eneste hårde grænse er seksuelt indhold, der involverer mindreårige.

Streaming og funktionssamtaler

Tilføj stream: true for at modtage tokens som server-sendte begivenheder. Den sidste chunk indeholder brugsnumrene, så du kan logge omkostninger pr. anmodning uden et andet kald.

Function calling fungerer gennem standard tools og tool_choice felter. Definér hver funktion med et JSON-schema og læs tool_calls arrayet af svaret.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parametre: Temperatur, Top P og Stop

De understøttede stikparametre er temperature, top_p, stop, seed, presence_penalty og frequency_penalty. Brug en lav temperatur til kode og udtrækning, og en højere til fiktion.

Hvis du ikke indstiller max_tokens, standard output-grænsen er 2.048 tokens. Den hårde maksimum per anmodning er 16.000 tokens.

JSON-tilstand og svarformater

Indstil response_format til { 'type': 'json_object' } når du har brug for maskinlæsbart output. Bed om JSON i prompten også, fordi modellen følger instruktionen og formatet sammen.

1. Beskriv de felter, du har brug for i systemmeddelelsen.
2. Hold eksemplet kort, to eller tre nøgler.
3. Valider resultatet i din kode, før du gemmer det.

Ratebegrænsninger og fejlhåndtering

Hver nøgle kan sende 300 anmodninger i minuttet og 8 anmodninger samtidigt. Anmodninger med en krop over 8 MB afvises. En 401 betyder, at nøglen er forkert, en 402 betyder, at kreditten er løbet ud, og en 429 betyder, at du har ramt hastighedsgrænsen: vent og prøv igen med backoff.

Fejl og afslag opkræves ikke. Husk kontekstvinduet på 100.000 tokens til lange tråde: prompt og completion tæller sammen.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);