繁中 ▾
取得 API 金鑰

GLM API 範例:Python、JSON 模式與串流輸出

這些 GLM API 範例皆針對單一 OpenAI 相容端點執行,Base URL 為 https://api.glmapikey.com/v1,模型為 uncensored。每個程式碼片段都簡短且獨立,您可以直接貼上、加入金鑰並執行。

更新於

終端機視窗串流輸出發光的資料 token 至雲端伺服器,說明 API 程式碼範例

重點摘要

  • 每個範例都使用 Base URL https://api.glmapikey.com/v1、Bearer 驗證以及模型 ID uncensored。
  • 串流輸出、JSON 模式與函式呼叫皆在同一個聊天完成端點支援。
  • 讀取 X-Balance-USD 與用量區塊以追蹤每次請求的支出。
  • 透過程式碼處理 429:rate_limited、concurrency或 Retry-After: 5 過載。

執行前請注意

你只需要金鑰,不需要其他東西。在 API 金鑰頁面建立一個;新帳戶可以一鍵領取 $0.50 的免費試用額度,無需信用卡。匯出它以便範例可以讀取:

export API_KEY="YOUR_KEY"
pip install openai
npm install openai

API 遵循 OpenAI 聊天完成格式。它提供 POST /v1/chat/completions 與 GET /v1/models,接受 Authorization: Bearer,並提供單一模型,ID 為 uncensored。該模型為開放權重模型,由獨立供應商運行,針對合法成人用途調整為無內容審查。它並非任何模型供應商的官方 API。僅處理文字:不含圖片、音訊、嵌入或微調。

下方的範例從最簡單的請求到函式呼叫。如果您只需要最短的檢查以確認金鑰是否有效,第一個 curl 指令即可。

第一次 curl 請求與關鍵參數

curl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "What is a mutex, in one sentence?"}
    ],
    "temperature": 0.3,
    "max_tokens": 80
  }'

回應為 JSON 物件,choices[0].message.content 包含答案,usage 物件包含 prompt_tokens 與 completion_tokens。回應標頭包含 X-Request-Id、X-Balance-USD 以及兩個 X-RateLimit-Limit 標頭。在 curl 中加入 -i 即可查看。

temperature、top_p、stop、seed 欄位以及 presence 和 frequency penalties 會直接傳遞給模型。max_tokens 是選填的。若未指定,補全內容可以使用提示詞之後剩餘的 100,000 token 上下文視窗空間。

聊天補全主體包含許多選填欄位,但其中五個承擔了大部分工作。所有這些欄位都會直接傳遞給模型。

欄位功能典型用途
temperature較高的值會產生更多樣化的詞彙資料擷取設為 0.2,小說創作設為 0.8
top_p將採樣限制在最可能的 token除非你調整它,否則保持預設值
stop當出現特定字串時結束回覆在分隔符號(如空行)處截斷
seed以最佳努力方式使抽樣結果可重複比較兩個提示詞版本
presence_penalty、frequency_penalty減少 token 重複文字循環時使用 0.3 等小值

每次只更改一個值並保持提示詞不變,否則你無法知道是哪個變更帶來了幫助。對於任何輸入程式碼的任務,例如分類或資料擷取,請使用低 temperature 和固定的 seed,以便你可以重新執行測試並看到相同的結果。對於創意寫作,提高 temperature 並讓 penalties 處理重複內容。

此處的 max_tokens 欄位為選填。若省略該欄位,回覆可能會使用 100,000-token 上下文視窗中剩餘的所有空間,這通常不是一行答案所期望的。若您知道答案長度,請設定此欄位。

Python:帶有記憶的對話

API 為無狀態,因此您需要自行維護對話並每次傳送。此迴圈維護訊息列表並附加雙方內容:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.glmapikey.com/v1",
    api_key="YOUR_KEY",
)

messages = [{"role": "system", "content": "You are a helpful assistant."}]

while True:
    user = input("you> ")
    if not user:
        break
    messages.append({"role": "user", "content": user})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    reply = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": reply})
    print("bot>", reply)

由於每次呼叫都會重新傳送完整列表,輸入 token 數量會隨著聊天長度而增加。每 100 萬個輸入 token 價格為 $0.15,這很便宜,但在長對話中會累積,因此一旦對話串超過你想付費的大小,就請刪除舊訊息。定價頁面有實際範例。

Python 與 Node 的串流輸出

設定 stream: true,伺服器會透過伺服器發送的事件將產生的 token 傳送給你。在 Python 中:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write four lines about the sea."}],
    stream=True,
)

text = ""
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        piece = chunk.choices[0].delta.content
        text += piece
        print(piece, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

串流結束時會包含用量資訊,因此迴圈會檢查該資訊。Node 範例:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.glmapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write four lines about the sea." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

關於限制的一項細節:串流請求會保留其並行請求槽位直到串流結束。若您啟動串流但未讀取至結束,該槽位將保持忙碌。請務必消耗或關閉串流。

用於結構化輸出的 JSON 模式

當你的程式碼需要解析回應時,請使用 response_format 要求 JSON 物件。同時在提示詞中說明你希望的格式,因為格式標記保證有效的 JSON 語法,而非你特定的 schema。

import json

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON: {\"title\": string, \"tags\": [string]}."},
        {"role": "user", "content": "Suggest a title and three tags for a post about home espresso."},
    ],
    temperature=0.2,
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

在使用之前,請檢查所需的鍵是否存在,並對資料提取工作保持低溫度。若解析失敗,使用相同輸入重試一次通常會成功,且失敗的請求不會收費。

函式呼叫:完整的往返流程

函式呼叫讓模型要求您的程式碼執行函式。您在 tools 中描述函式,模型回覆包含 tool_calls 項目,您執行後以 role: "tool" 訊息回傳結果。

import json

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "Is it warm in Lisbon right now?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        messages.append({
            "role": "tool",
            "tool_call_id": call.id,
            "content": json.dumps(get_weather(**args)),
        })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)
else:
    print(msg.content)

此處的函式回傳固定資料,請替換為實際查詢。工具參數以 JSON 字串形式到達,因此請務必解析並驗證值後再執行。使用 stream: true 時,tool_calls 會分段到達,您需先組裝再解析。使用 tool_choice 可在需要時強制使用特定工具。

範例的成本與浪費一小時的錯誤

執行範例成本極低,但了解計算方式有幫助。每 1M 輸入 token 價格為 $0.15,每 1M 輸出 token 價格為 $0.50:

  • 對話迴圈,使用 1,200-token 提示詞與 300-token 回覆:輸入費用 $0.00018 加上輸出費用 $0.00015 共 $0.00033。一千次對話成本為 $0.33。
  • 工具往返流程進行兩次呼叫。若第一次輸入 400 token 輸出 60 token,第二次輸入 500 token 輸出 150 token,總計輸入 900 token 輸出 210 token:費用為 $0.000135 加上 $0.000105 共 $0.00024。
  • 串流輸出的成本與具有相同 token 計數的一般呼叫相同。差異在於您可以即時看到文字,而非成本變化。

$0.50 的免費試用額度足以支付超過 1,500 次該大小的對話迴圈($0.50 / $0.00033),因此您可以在儲值前自由實驗。失敗與被拒絕的請求不會收費,這表示解析錯誤導致您重新執行呼叫時,不會為失敗的嘗試付費。

  • 錯誤的 Base URL。 必須以 /v1 結尾。若自行在 SDK Base URL 加上 /chat/completions,會得到 404 錯誤,因為 SDK 會自動加上路徑。
  • 不同的模型名稱。 從其他平台複製的名稱在此無效。ID 為 uncensored。
  • 期望有記憶。 API 不會記住之前的呼叫。每次請務必傳送歷史紀錄。
  • 解析模型的 JSON 而不加防護。將 json.loads 包在 try 區塊中,並準備好處理錯誤回應的計畫。
  • 讓串流保持開啟。 未完成的串流會佔用一個並行請求槽位,而試用金鑰僅有兩個槽位。
  • 將金鑰放在前端程式碼中。 請將其保留在伺服器端。

如果仍有問題,請使用 curl 發送請求,並將其與你的程式碼產生的結果進行比較。使用 curl 可以排除 SDK 的干擾,使主體中的差異變得明顯。

讀取用量、餘額與錯誤

若要查看 Python SDK 的標頭資訊,請使用原始回應包裝函式:

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say ok."}],
)
print("request id:", raw.headers.get("x-request-id"))
print("balance usd:", raw.headers.get("x-balance-usd"))
print("rpm limit:", raw.headers.get("x-ratelimit-limit-requests"))
completion = raw.parse()
print(completion.usage.total_tokens)

在每次呼叫時記錄請求 ID,以便稍後指向單一請求。使用餘額標頭在額度耗盡前觸發警示。

當超過限制時,API 會回傳 HTTP 429,且錯誤程式碼會告訴你哪一種限制:

程式碼或標頭處理方式處理方式
rate_limited每分鐘請求過多(完整金鑰為 300,試用金鑰為 60)退避並分散呼叫
concurrency同時請求過多(完整金鑰為 8,試用金鑰為 2)等待正在執行的請求完成
Retry-After: 5暫時過載五秒後重試

失敗或遭拒的請求不會收費。請求主體最大可達 8 MB。完整參考資料以及如何重複使用現有客戶端程式碼,請參閱 文件。若要了解如何取得金鑰,請參閱 GLM API 金鑰文章。

問答

範例使用的 Base URL 是什麼?

每個範例都使用 https://api.glmapikey.com/v1,模型 ID 為 uncensored 並搭配 Bearer token。只要更改這些值,任何 OpenAI SDK 皆可運作。

API 支援串流輸出嗎?

是的。將 stream 設為 true 並讀取伺服器發送的事件。用量會在串流結束時回報。

我如何取得有效的 JSON?

傳入帶有 json_object 類型的 response_format,並在提示詞中描述你所需的結構。在程式碼中解析結果,並檢查你需要的金鑰。

我可以使用函式呼叫嗎?

可以。傳入 tools 和 tool_choice,執行模型請求的函式,並以 role 為 tool 的訊息回傳結果。

我可以在哪裡看到剩餘的預付額度?

每個回應都包含帶有剩餘餘額的 X-Balance-USD 標頭,用量區塊則提供 token 計數。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改Base URL。這就是整個設定過程。

取得 API 金鑰