Hướng dẫn nhanh API: Kết nối ứng dụng của bạn với Model không kiểm duyệt của chúng tôi

Xác thực và Base URL

Mọi yêu cầu đều được gửi đến https://doesgrokhaveanapi.com/v1 và mang theo khóa của bạn trong Authorization tiêu đề dưới dạng mã thông báo bearer. Sao chép khóa từ trang Lấy khóa API; khóa này được hiển thị sau khi bạn đăng ký và bạn có thể thay thế nó bất cứ lúc nào.

Ngắn gọn và trực tiếp: URL cơ sở và khóa là hai giá trị duy nhất thay đổi khi bạn di chuyển một client hiện có.

Copycurl https://api.doesgrokhaveanapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API endpoint for the model?"}]
  }'

Điểm cuối Chat Completions

Gửi POST /v1/chat/completions với một danh sách các thông điệp. Phản hồi có cùng cấu trúc với phản hồi hoàn thành trò chuyện của OpenAI, vì vậy các trình phân tích cú pháp hiện có vẫn hoạt động bình thường.

• Sử dụng vai trò user cho lời nhắc của bạn và system để biết hướng dẫn.
• Đọc câu trả lời từ choices[0].message.content.
• Số lượng token được trả về trong usage, và đó là lý do bạn bị trừ tiền từ số dư.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.doesgrokhaveanapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mô hình được hỗ trợ: 'uncensored'

Đặt trường model thành uncensored. Đây là model id duy nhất trên dịch vụ, nên không có gì để chọn. GET /v1/models trả lại, đây là cách nhanh chóng để xác nhận khóa hoạt động.

Mô hình là một mô hình trọng lượng mở chạy trên máy chủ riêng của chúng tôi. Nó không từ chối các yêu cầu hợp pháp, người trưởng thành, hư cấu hoặc gây tranh cãi. Giới hạn cứng duy nhất là nội dung tình dục liên quan đến trẻ vị thành niên.

Streaming và Gọi hàm

Thêm stream: true để nhận token dưới dạng sự kiện do máy chủ gửi. Chunk cuối cùng chứa các số liệu sử dụng, vì vậy bạn có thể ghi lại chi phí cho mỗi yêu cầu mà không cần gọi thêm.

Gọi hàm hoạt động thông qua tiêu chuẩn tools và tool_choice trường. Xác định từng hàm bằng lược đồ JSON và đọc tool_calls của phản hồi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tham số: Nhiệt độ, Top P và Dừng

Các tham số lấy mẫu được hỗ trợ là temperature, top_p, stop, seed, presence_penalty và frequency_penalty. Sử dụng nhiệt độ thấp cho mã và trích xuất, và nhiệt độ cao hơn cho văn học sáng tạo.

Nếu bạn không đặt max_tokens, giới hạn đầu ra mặc định là 2.048 token. Giới hạn cứng tối đa cho mỗi yêu cầu là 16.000 token.

Chế độ JSON và Định dạng Phản hồi

Đặt response_format để { 'type': 'json_object' } khi bạn cần đầu ra có thể đọc được bằng máy. Hãy yêu cầu JSON trong lời nhắc, vì mô hình sẽ tuân theo cả hướng dẫn và định dạng cùng lúc.

1. Mô tả các trường bạn cần trong thông báo hệ thống.
2. Giữ ví dụ ngắn gọn, chỉ hai hoặc ba khóa.
3. Xác thực kết quả trong mã của bạn trước khi lưu trữ nó.

Giới hạn tốc độ và Xử lý lỗi

Mỗi khóa có thể gửi 300 yêu cầu mỗi phút và 8 yêu cầu cùng lúc. Các yêu cầu có thân lớn hơn 8 MB sẽ bị từ chối. Mã 401 có nghĩa là khóa không đúng, mã 402 có nghĩa là số dư đã hết, và mã 429 có nghĩa là bạn đã đạt giới hạn tốc độ: hãy đợi và thử lại với cơ chế backoff.

Lỗi và từ chối không được tính phí. Hãy nhớ cửa sổ ngữ cảnh 100.000 token khi xử lý các chuỗi dài: tổng số token của prompt và completion phải được tính toán.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.doesgrokhaveanapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);