ID ▾
Dapatkan kunci API

Contoh API GLM: Python, Mode JSON, dan Streaming

Contoh-contoh API GLM ini semuanya berjalan pada satu endpoint OpenAI-compatible, dengan base URL https://api.glmapikey.com/v1 dan model uncensored. Setiap cuplikan pendek dan mandiri, sehingga Anda dapat menempelkannya, menambahkan kunci Anda, dan menjalankannya.

Diperbarui

Jendela terminal menampilkan token data bercahaya yang mengalir ke server cloud, mengilustrasikan contoh kode API

Poin utama

  • Setiap contoh menggunakan base URL https://api.glmapikey.com/v1, autentikasi bearer dan ID model uncensored.
  • Streaming, mode JSON, dan pemanggilan fungsi semuanya didukung pada endpoint penyelesaian obrolan yang sama.
  • Baca X-Balance-USD dan blok penggunaan untuk melacak pengeluaran per panggilan.
  • Tangani 429 berdasarkan kode: rate_limited, concurrency, atau kelebihan beban dengan Retry-After: 5.

Sebelum Anda menjalankan apa pun

Anda hanya memerlukan kunci. Buat di halaman kunci API; akun baru dapat mengklaim kredit uji coba gratis senilai $0,50 dengan satu klik, tanpa kartu. Ekspor agar contoh dapat membacanya:

export API_KEY="YOUR_KEY"
pip install openai
npm install openai

API mengikuti format chat completion OpenAI. Ini mengekspos POST /v1/chat/completions dan GET /v1/models, menerima Authorization: Bearer, dan melayani satu model dengan ID uncensored. Model ini adalah model bobot terbuka yang dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari vendor model mana pun. Ini hanya menangani teks: tidak ada gambar, audio, embedding, atau fine-tuning.

Contoh-contoh di bawah ini mulai dari panggilan paling sederhana hingga pemanggilan fungsi. Jika Anda hanya membutuhkan pemeriksaan terpendek untuk memastikan kunci Anda berfungsi, perintah curl pertama sudah cukup.

Permintaan pertama dengan curl, dan parameter yang penting

curl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "What is a mutex, in one sentence?"}
    ],
    "temperature": 0.3,
    "max_tokens": 80
  }'

Responsnya adalah objek JSON dengan choices[0].message.content yang berisi jawaban dan objek usage dengan prompt_tokens dan completion_tokens. Header respons mencakup X-Request-Id, X-Balance-USD dan dua header X-RateLimit-Limit. Tambahkan -i ke curl untuk melihatnya.

Bidang temperature, top_p, stop, seed dan penalti frekuensi serta kehadiran diteruskan ke model. max_tokens bersifat opsional. Tanpanya, completion dapat menggunakan sisa jendela 100.000 token setelah prompt Anda.

Isi permintaan chat completion memiliki banyak bidang opsional, tetapi lima melakukan sebagian besar pekerjaan. Semua diteruskan ke model.

BidangApa yang dilakukannyaPenggunaan tipikal
temperatureNilai yang lebih tinggi memberikan variasi kata yang lebih beragam0,2 untuk ekstraksi, 0,8 untuk fiksi
top_pMembatasi pengambilan sampel pada token yang paling mungkinBiarkan pada nilai default kecuali Anda menyetelnya
stopMengakhiri balasan ketika string munculPotong pada pemisah seperti baris kosong
seedMembuat sampling dapat diulang dengan usaha terbaikMembandingkan dua versi prompt
presence_penalty, frequency_penaltyMengurangi pengulangan tokenNilai kecil seperti 0,3 saat terjadi pengulangan teks

Ubah satu nilai pada satu waktu dan biarkan prompt tetap sama, jika tidak Anda tidak dapat mengetahui perubahan mana yang membantu. Untuk apa pun yang memasukkan kode, seperti klasifikasi atau ekstraksi, gunakan suhu rendah dan seed tetap agar Anda dapat menjalankan ulang tes dan melihat hasil yang sama. Untuk penulisan kreatif, tingkatkan suhu dan biarkan penalti menangani pengulangan.

Bidang max_tokens bersifat opsional di sini. Ketika Anda tidak menyertakannya, balasan dapat menggunakan sisa ruang di jendela 100.000 token, yang jarang Anda inginkan untuk jawaban satu baris. Tetapkan setiap kali Anda mengetahui panjang jawaban yang diinginkan.

Python: percakapan dengan memori

API bersifat stateless, jadi Anda menyimpan percakapan sendiri dan mengirimkannya setiap kali. Loop ini menjaga daftar pesan dan menambahkan kedua sisi:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.glmapikey.com/v1",
    api_key="YOUR_KEY",
)

messages = [{"role": "system", "content": "You are a helpful assistant."}]

while True:
    user = input("you> ")
    if not user:
        break
    messages.append({"role": "user", "content": user})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    reply = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": reply})
    print("bot>", reply)

Karena setiap panggilan mengirim ulang daftar lengkap, token input bertambah sesuai panjang percakapan. Dengan harga $0,15 per 1 juta token input, ini murah, tetapi jumlahnya bertambah dalam sesi panjang, jadi hapus pesan lama saat thread melebihi ukuran yang ingin Anda bayar. Halaman harga memiliki contoh perhitungan.

Streaming di Python dan Node

Atur stream: true dan server mengirim token saat diproduksi, melalui SSE. Di Python:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write four lines about the sea."}],
    stream=True,
)

text = ""
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        piece = chunk.choices[0].delta.content
        text += piece
        print(piece, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

Stream berakhir dengan informasi penggunaan, itulah sebabnya loop memeriksanya. Hal yang sama di Node:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.glmapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write four lines about the sea." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Satu hal tentang batas: permintaan streaming mempertahankan slot konkurensinya hingga stream berakhir. Jika Anda memulai stream dan tidak membacanya hingga akhir, slot itu tetap sibuk. Selalu konsumsi atau tutup stream.

Mode JSON untuk output terstruktur

Ketika kode Anda perlu mengurai jawaban, minta objek JSON dengan response_format. Juga sebutkan dalam prompt bentuk yang Anda inginkan, karena flag format menjamin sintaks JSON yang valid, bukan skema khusus Anda.

import json

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON: {\"title\": string, \"tags\": [string]}."},
        {"role": "user", "content": "Suggest a title and three tags for a post about home espresso."},
    ],
    temperature=0.2,
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

Periksa apakah kunci yang Anda butuhkan ada sebelum menggunakannya, dan pertahankan suhu rendah untuk pekerjaan ekstraksi. Jika parsing gagal, mencoba lagi sekali dengan input yang sama biasanya berhasil, dan permintaan yang gagal tidak dikenakan biaya.

Pemanggilan fungsi: perjalanan pulang pergi penuh

Pemanggilan fungsi memungkinkan model meminta kode Anda menjalankan fungsi. Anda mendeskripsikan fungsi di tools, model membalas dengan entri tool_calls, Anda menjalankannya dan mengirim hasilnya kembali sebagai pesan role: "tool".

import json

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "Is it warm in Lisbon right now?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        messages.append({
            "role": "tool",
            "tool_call_id": call.id,
            "content": json.dumps(get_weather(**args)),
        })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)
else:
    print(msg.content)

Fungsi di sini mengembalikan data tetap, jadi ganti dengan lookup nyata. Argumen alat tiba sebagai string JSON, jadi selalu urai dan validasi nilai sebelum bertindak. Dengan stream: true, tool_calls tiba dalam potongan yang Anda kumpulkan sebelum diuraikan. Gunakan tool_choice untuk memaksa alat tertentu saat Anda membutuhkannya.

Biaya contoh-contoh ini, dan kesalahan yang membuang-buang waktu satu jam

Menjalankan contoh-contoh ini membutuhkan biaya sangat sedikit, tetapi membantu untuk melihat aritmetika sekali. Pada $0,15 per 1 juta token input dan $0,50 per 1 juta token output:

  • Loop percakapan, dengan prompt 1.200 token dan balasan 300 token: $0,00018 untuk input ditambah $0,00015 untuk output adalah $0,00033. Seribu putaran berharga $0,33.
  • Perjalanan bolak-balik alat membuat dua panggilan. Jika yang pertama menggunakan 400 token masuk dan 60 keluar, dan yang kedua 500 masuk dan 150 keluar, totalnya adalah 900 masuk dan 210 keluar: $0,000135 ditambah $0,000105 adalah $0,00024.
  • Streaming memiliki biaya yang sama dengan panggilan normal dengan jumlah token yang sama. Yang berubah adalah waktu Anda melihat teks, bukan biayanya.

Kredit uji coba $0,50 akan membayar lebih dari 1.500 putaran loop percakapan pada ukuran itu ($0,50 / $0,00033), jadi Anda dapat bereksperimen secara bebas sebelum mengisi ulang. Permintaan gagal dan ditolak tidak dibebankan biaya, yang berarti bug dalam penguraian Anda yang membuat Anda menjalankan ulang panggilan tidak membebani Anda untuk upaya yang gagal.

  • base URL yang salah. Harus diakhiri dengan /v1. Menambahkan /chat/completions sendiri ke base URL SDK memberikan 404 karena SDK menambahkan jalur.
  • Nama model yang berbeda. Nama yang disalin dari platform lain tidak ada di sini. ID-nya adalah uncensored.
  • Mengharapkan memori. API tidak mengingat panggilan sebelumnya. Kirim riwayat setiap kali.
  • Menguraikan JSON model tanpa pengaman. Bungkus json.loads dalam blok try dan miliki rencana untuk respons yang buruk.
  • Membiarkan stream terbuka. Stream yang belum selesai menjaga slot konkurensi tetap sibuk, dan kunci uji coba hanya memiliki dua slot.
  • Menempatkan kunci di kode front-end. Jaga agar tetap berada di server.

Jika masih ada yang terlihat salah, kirim permintaan dengan curl dan bandingkan dengan yang dihasilkan kode Anda. Versi curl menghilangkan SDK dari persamaan dan membuat perbedaan dalam body menjadi jelas.

Membaca penggunaan, saldo, dan kesalahan

Untuk melihat header dari SDK Python, gunakan pembungkus respons mentah:

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say ok."}],
)
print("request id:", raw.headers.get("x-request-id"))
print("balance usd:", raw.headers.get("x-balance-usd"))
print("rpm limit:", raw.headers.get("x-ratelimit-limit-requests"))
completion = raw.parse()
print(completion.usage.total_tokens)

Log ID permintaan dengan setiap panggilan sehingga Anda dapat mengidentifikasi permintaan tunggal nanti. Gunakan header saldo untuk memicu peringatan sebelum kredit habis.

Saat Anda melewati batas, API mengembalikan HTTP 429, dan kode kesalahan memberi tahu Anda mana yang:

Kode atau headerTindakanTindakan
rate_limitedTerlalu banyak permintaan per menit (300 pada kunci penuh, 60 pada uji coba)Kurangi kecepatan dan sebar panggilan
concurrencyTerlalu banyak sekaligus (8 pada kunci penuh, 2 pada uji coba)Tunggu hingga permintaan yang sedang berjalan selesai
Retry-After: 5Beban berlebih sementaraCoba lagi setelah lima detik

Permintaan gagal atau ditolak tidak dibebankan biaya. Isi permintaan dapat berukuran hingga 8 MB. Untuk referensi lengkap dan cara menggunakan ulang kode klien yang ada, lihat dokumentasi. Untuk panduan tentang cara mendapatkan kunci, lihat artikel kunci API GLM.

Tanya jawab

base URL apa yang digunakan contoh?

Setiap contoh menggunakan https://api.glmapikey.com/v1 dengan ID model uncensored dan token bearer. SDK OpenAI apa pun berfungsi setelah Anda mengubah nilai-nilai tersebut.

Apakah API mendukung streaming?

Ya. Atur stream menjadi true dan baca peristiwa yang dikirim server. Penggunaan dilaporkan di akhir stream.

Bagaimana cara mendapatkan JSON yang valid?

Lewatkan response_format dengan tipe json_object dan deskripsikan bentuk yang Anda inginkan dalam prompt. Uraikan hasilnya dalam kode Anda dan periksa kunci yang Anda butuhkan.

Bisakah saya menggunakan pemanggilan fungsi?

Ya. Lewatkan tools dan tool_choice, jalankan fungsi yang diminta model, dan kembalikan hasilnya sebagai pesan dengan role tool.

Di mana saya dapat melihat sisa kredit saya?

Setiap respons membawa header X-Balance-USD dengan saldo tersisa Anda, dan blok penggunaan memberikan jumlah token.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah base URL. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API