GLM API: Chuyển đổi client của bạn trong ba dòng

Yêu cầu tiên quyết: Lấy khóa của bạn

Trước khi viết mã, bạn cần một khóa API. Truy cập trang Lấy khóa API trên trang web này để đăng ký bằng email và mật khẩu. Không cần số điện thoại hoặc thẻ tín dụng để bắt đầu. Khi đăng ký, bạn nhận được tín dụng dùng thử miễn phí trị giá $0.50 có hiệu lực trong 7 ngày, hoặc bạn có thể nạp tiền bằng tiền điện tử (USDT hoặc USDC). Khóa của bạn được hiển thị ngay sau khi đăng ký. Hãy lưu trữ nó một cách an toàn, vì bạn có thể tạo lại khóa bất cứ lúc nào để thu hồi khóa cũ.

Khóa này xác thực tất cả các yêu cầu đến endpoint glm api của chúng tôi. Chúng tôi không sử dụng prompt của bạn để huấn luyện, và khóa được liên kết với một tài khoản duy nhất. Nếu bạn cần khối lượng lớn hơn, bạn có thể mua tín dụng trả trước không bao giờ hết hạn.

Cấu hình Base URL và Khóa

Để sử dụng dịch vụ của chúng tôi như một giải pháp thay thế trực tiếp cho OpenAI, bạn phải trỏ SDK của bạn đến base URL của chúng tôi. Đây là thay đổi cơ sở hạ tầng duy nhất cần thiết. Base URL là https://api.glmapikey.com/v1. Bạn cũng cần đặt tiêu đề ủy quyền hoặc khóa client SDK của bạn thành giá trị bạn nhận được khi đăng ký.

Hầu hết các client tương thích OpenAI, bao gồm cả SDK Python và Node.js chính thức, cho phép bạn ghi đè base URL. Điều này cho phép bạn giữ nguyên logic ứng dụng hiện có trong khi chuyển đổi mô hình nền tảng. Đảm bảo khóa của bạn được đặt chính xác trước khi thực hiện các yêu cầu để tránh lỗi xác thực.

Thực hiện yêu cầu Chat Completion đầu tiên của bạn

Gửi yêu cầu POST đến /v1/chat/completions để tạo văn bản. Mô hình của chúng tôi chấp nhận các cấu trúc thông báo tiêu chuẩn với các vai trò như user và assistant. ID mô hình bạn phải chỉ định là uncensored. Điều này kích hoạt mô hình trọng số mở được lưu trữ trên GPU của chúng tôi, được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp.

Phản hồi sẽ là JSON chứa văn bản được tạo. Nếu bạn gặp lỗi 401, hãy xác minh khóa của bạn. Nếu bạn thấy 402, tín dụng trả trước của bạn đã cạn kiệt. Bạn có thể nạp tiền bắt đầu từ $10. Lưu ý rằng chúng tôi không hỗ trợ embeddings, hình ảnh hoặc fine-tuning trong endpoint này.

Sử dụng SDK Python

Thư viện Python OpenAI chính thức hoạt động trực tiếp với API của chúng tôi. Khởi tạo client với khóa và base URL cụ thể của bạn. Cách tiếp cận này lý tưởng cho các dịch vụ backend hoặc script nơi bạn cần phản hồi JSON có cấu trúc. Client xử lý serialization và logic thử lại tự động.

Đặt tên mô hình uncensored để đảm bảo bạn đang truy cập endpoint cụ thể của chúng tôi. Cửa sổ ngữ cảnh hỗ trợ lên đến 100.000 token cho cả prompt và completion kết hợp. Điều này cho phép dữ liệu đầu vào đáng kể mà không bị cắt ngắn, miễn là bạn vẫn nằm trong giới hạn 8 MB của thân yêu cầu.

Sử dụng SDK Node.js

Đối với các ứng dụng JavaScript và TypeScript, gói NPM openai tương thích. Cấu hình client với cùng base URL và khóa như ví dụ Python. Điều này cho phép hiển thị phía máy chủ hoặc các endpoint API yêu cầu tạo văn bản không kiểm duyệt. SDK truyền dữ liệu hiệu quả nếu được cấu hình đúng.

Gọi hàm được hỗ trợ trong SDK này. Bạn có thể xác định lược đồ hàm trong yêu cầu, và mô hình sẽ trả về các đầu ra JSON có cấu trúc khớp với lược đồ của bạn. Điều này giúp dễ dàng tích hợp các nguồn dữ liệu hoặc hành động bên ngoài vào luồng ứng dụng của bạn mà không cần phân tích cú pháp văn bản thô.

Bật phản hồi truyền phát (streaming)

Đặt stream: true trong yêu cầu của bạn để nhận các sự kiện do máy chủ gửi (SSE). Điều này cho phép bạn hiển thị văn bản cho người dùng khi nó được tạo, cải thiện độ trễ cảm nhận. API trả về các đoạn văn bản, mà client của bạn phải nối hoặc hiển thị từng phần.

Truyền phát (streaming) được hỗ trợ cho cả SDK Python và Node.js. Nó đặc biệt hữu ích cho các giao diện trò chuyện nơi người dùng mong đợi phản hồi ngay lập tức. Mỗi đoạn chứa một phần của phản hồi. Mô hình tiếp tục tạo cho đến khi hoàn thành hoặc đạt giới hạn cửa sổ ngữ cảnh. Đảm bảo client của bạn xử lý đúng các cấu trúc JSON một phần nếu sử dụng gọi hàm với truyền phát (streaming).

Giới hạn, Lỗi và Mô hình

API của chúng tôi áp dụng giới hạn tốc độ 300 yêu cầu mỗi phút mỗi khóa. Nếu bạn vượt quá giới hạn này, bạn sẽ nhận được lỗi 429. Kích thước thân yêu cầu tối đa là 8 MB. Để khám phá mô hình, hãy sử dụng endpoint GET /v1/models. Nó trả về danh sách các mô hình có sẵn, bao gồm ID mô hình uncensored.

Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ và 402 cho tín dụng không đủ. Tín dụng không hết hạn, nhưng tín dụng dùng thử có hiệu lực trong 7 ngày. Chúng tôi không cung cấp SLA hoặc chứng nhận. Mô hình chặn nội dung tình dục liên quan đến trẻ vị thành niên nhưng nói chung là không kiểm duyệt. Sử dụng các giới hạn này để thiết kế logic thử lại và thông báo người dùng của bạn một cách phù hợp.

cURL

Copycurl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Truyền phát (streaming)

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)