API-pikaopas: Yhdistä asiakasohjelmasi sumentamattomaan malliimme

Todennus ja base URL

Jokainen pyyntö menee https://doesgrokhaveanapi.com/v1 ja sisältää avaimen Authorization otsikkoon kantatokenina. Kopioi avain API-avainsivulta; se näytetään rekisteröitymisen jälkeen, ja voit vaihtaa sen milloin tahansa.

Lyhyesti ja ytimekkäästi: perus-URL ja avain ovat ainoat arvot, jotka muuttuvat, kun siirrät olemassa olevan asiakkaan.

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

Chat Completions -päätepiste

Lähetä POST /v1/chat/completions luettelolla viestejä. Vastaus on samanmuotoinen kuin OpenAI:n keskusteluloppujen vastaus, joten olemassa olevat jäsentimet toimivat edelleen.

• Käytä roolia user promptillesi ja system ohjeita varten.
• Lue vastaus osoitteesta choices[0].message.content.
• Token-laskelmat tulevat takaisin usage, ja siitä laskutetaan luottokrediittiäsi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tuki malli: 'uncensored'

Aseta mallikentäksi uncensored. Tämä on ainoa mallitunnus palvelussa, joten valittavana ei ole muuta. GET /v1/models palauttaa sen, mikä on nopea tapa vahvistaa, että avain toimii.

Malli on avoin malli, jota ajetaan omilla palvelimillamme. Se ei hylkää laillisia aikuisille tarkoitettuja, fiktiivisiä tai kiistanalaisia pyyntöjä. Ainoa tiukka raja on seksuaalinen sisältö, joka liittyy alaikäisiin.

Virrantaisto ja funktiokutsut

Lisää stream: true vastaanottamaan tunnuspalveluita palvelimen lähettäminä tapahtumina. Lopullinen lohko sisältää käyttöluvut, joten voit kirjata kustannukset pyyntöä kohden ilman toista kutsua.

Funktio kutsu toimii standardin tools ja tool_choice kentät. Määrittele jokainen funktio JSON-kaavalla ja lue tool_calls vastauksen taulukossa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parametrit: Lämpötila, Top P ja Stop

Tuetut otanta-parametrit ovat temperature, top_p, stop, seed, presence_penalty ja frequency_penalty. Käytä matalaa lämpötilaa koodin ja tiedon erottelun yhteydessä sekä korkeampaa arvoa fiktiiviseen sisältöön.

Jos et aseta max_tokens, oletusarvoinen tulostusraja on 2 048 tokenia. Kunkin pyynnön maksimiraja on 16 000 tokenia.

JSON-tila ja vastausmuodot

Aseta response_format vastaan { 'type': 'json_object' } kun tarvitset koneellisesti luettavissa olevan lähtöpyynnön. Pyydä JSONia promptissa myös, koska malli noudattaa ohjetta ja muotoa yhdessä.

1. Kuvaile järjestelmäviestissä tarvitsemasi kentät.
2. Pidä esimerkki lyhyenä, kaksi tai kolme avainta.
3. Vahvista tulos koodissasi ennen tallentamista.

Nopeusrajoitukset ja virheidenkäsittely

Jokainen avain voi lähettää 300 pyyntöä minuutissa ja 8 pyyntöä samanaikaisesti. Runkoa suuremmat kuin 8 Mt -pyynnöt hylätään. 401 tarkoittaa, että avain on väärä, 402 tarkoittaa, että luottokrediitti on loppunut ja 429 tarkoittaa, että olet ylittänyt nopeusrajoituksen: odota ja yritä uudelleen taaksepäin suuntautuvalla viiveellä.

Virheet ja hylkäykset eivät ole maksullisia. Pidä mielessä 100 000 merkin kontekstiikkuna pitkissä keskusteluissa: promptin ja suorituksen lasketaan yhteen.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);