KO ▾
API 키 받기

GLM API 예시: Python, JSON 모드 및 스트리밍

이 GLM API 예제는 모두 Base URL https://api.glmapikey.com/v1과 모델 uncensored을 대상으로 실행됩니다. 각 코드 조각은 짧고 독립적이므로 붙여넣고 키를 추가한 후 실행할 수 있습니다.

업데이트

API 코드 예시를 보여주는 클라우드 서버로 스트리밍되는 빛나는 데이터 토큰이 있는 터미널 창

주요 포인트

  • 모든 예제에서는 Base URL https://api.glmapikey.com/v1과 Bearer 인증, 그리고 모델 ID uncensored를 사용합니다.
  • 스트리밍, JSON 모드 및 함수 호출은 동일한 chat completions 엔드포인트에서 모두 지원됩니다.
  • 호출당 지출을 추적하려면 X-Balance-USD와 사용량 블록을 읽으세요.
  • rate_limited, concurrency 또는 Retry-After: 5 과부하로 인한 429를 코드에서 처리하세요.

실행하기 전에

키 하나면 충분합니다. API 키 페이지에서 키를 생성하세요. 새 계정은 카드를 등록하지 않고 클릭 한 번으로 무료 체험 크레딧 $0.50을 청구할 수 있습니다. 예제에서 이 키를 읽을 수 있도록 내보내세요:

export API_KEY="YOUR_KEY"
pip install openai
npm install openai

API는 OpenAI chat completions 형식을 따릅니다. POST /v1/chat/completions과 GET /v1/models을 노출하고, Authorization: Bearer을 받으며, ID가 uncensored인 단일 모델을 제공합니다. 이 모델은 독립적인 제공업체가 운영하는 오픈 웨이트 모델로, 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 이는 어떤 모델 벤더의 공식 API가 아닙니다. 텍스트만 처리하며, 이미지, 오디오, embedding 또는 파인튜닝은 지원하지 않습니다.

아래 예제는 가장 간단한 호출부터 함수 호출까지 다룹니다. 키가 작동하는지 확인하기 위한 가장 짧은 코드가 필요하면 첫 번째 curl 명령어면 충분합니다.

curl로 첫 번째 요청 및 주요 매개변수

curl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "What is a mutex, in one sentence?"}
    ],
    "temperature": 0.3,
    "max_tokens": 80
  }'

응답은 답변을 포함하는 choices[0].message.content와 prompt_tokens 및 completion_tokens를 포함하는 usage 객체가 있는 JSON 객체입니다. 응답 헤더에는 X-Request-Id, X-Balance-USD 및 두 개의 X-RateLimit-Limit 헤더가 포함됩니다. curl에 -i를 추가하면 이를 확인할 수 있습니다.

temperature, top_p, stop, seed 필드와 존재 패널티 및 빈도 패널티가 모델에 전달됩니다. max_tokens은 선택 사항입니다. 이를 지정하지 않으면 완료 텍스트는 프롬프트 이후 남은 100,000토큰 컨텍스트 창을 모두 사용할 수 있습니다.

chat completions 본문에는 많은 선택적 필드가 있지만, 5개만 주로 사용됩니다. 모두 모델에 전달됩니다.

필드기능일반적인 사용 사례
temperature높은 값은 더 다양한 어휘를 제공합니다추출에는 0.2, 소설에는 0.8
top_p가장 가능성 높은 토큰으로 샘플링을 제한합니다조정하지 않는 한 기본값으로 유지하세요
stop문자열이 나타나면 응답을 종료합니다공백 줄과 같은 구분자로 잘라냅니다
seed최선의 노력으로 샘플링을 반복 가능하게 만듭니다두 프롬프트 버전 비교
presence_penalty, frequency_penalty토큰 반복을 억제합니다텍스트가 반복될 때 0.3과 같은 작은 값

한 번에 하나의 값만 변경하고 프롬프트는 동일하게 유지하세요. 그렇지 않으면 어떤 변경이 도움이 되었는지 알 수 없습니다. 분류나 추출과 같이 코드를 처리하는 작업에는 낮은 temperature와 고정된 seed를 사용하여 테스트를 다시 실행하고 동일한 결과를 확인할 수 있도록 하세요. 창의적인 글쓰기의 경우 temperature를 높이고 패널티가 반복을 처리하도록 하세요.

max_tokens 필드는 여기에서 선택사항입니다. 이를 생략하면 100,000토큰 창에 남은 공간을 모두 사용할 수 있는데, 이는 일반적으로 한 줄 답변에 원하지 않는 것입니다. 답변 길이를 알고 있을 때 설정하세요.

Python: 메모리가 있는 대화

API는 상태가 없으므로 대화를 직접 관리하여 매번 전송합니다. 이 루프는 메시지 목록을 유지하고 양쪽을 모두 추가합니다:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.glmapikey.com/v1",
    api_key="YOUR_KEY",
)

messages = [{"role": "system", "content": "You are a helpful assistant."}]

while True:
    user = input("you> ")
    if not user:
        break
    messages.append({"role": "user", "content": user})
    resp = client.chat.completions.create(model="uncensored", messages=messages)
    reply = resp.choices[0].message.content
    messages.append({"role": "assistant", "content": reply})
    print("bot>", reply)

각 호출은 전체 대화 목록을 다시 전송하므로 입력 토큰 수는 대화 길이에 따라 늘어납니다. 100만 입력 토큰당 $0.15로 저렴하지만 긴 세션에서는 비용이 누적되므로, 대화가 지불하려는 규모를 초과하면 이전 메시지를 잘라내야 합니다. 가격 책정 페이지에는 실제 예제가 있습니다.

Python 및 Node에서의 스트리밍

stream: true를 설정하면 서버는 생성된 대로 토큰을 서버 전송 이벤트(SSE)를 통해 보냅니다. Python에서는 다음과 같습니다:

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write four lines about the sea."}],
    stream=True,
)

text = ""
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        piece = chunk.choices[0].delta.content
        text += piece
        print(piece, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

스트림은 사용량 정보로 끝나므로 루프에서 이를 확인합니다. Node에서의 동일한 방식:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.glmapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write four lines about the sea." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

제한에 대한 하나의 세부 사항: 스트리밍 요청은 스트림이 끝날 때까지 동시성 슬롯을 유지합니다. 스트림을 시작하고 끝까지 읽지 않으면 해당 슬롯이 계속 사용 중입니다. 항상 스트림을 소비하거나 닫으세요.

구조화된 출력을 위한 JSON 모드

코드에서 답변을 파싱해야 할 때 response_format로 JSON 객체를 요청하세요. 또한 프롬프트에 원하는 형태를 명시하세요. 형식 플래그는 특정 스키마가 아닌 유효한 JSON 구문을 보장합니다.

import json

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply only with JSON: {\"title\": string, \"tags\": [string]}."},
        {"role": "user", "content": "Suggest a title and three tags for a post about home espresso."},
    ],
    temperature=0.2,
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

사용하기 전에 필요한 키가 존재하는지 확인하고, 추출 작업에는 temperature를 낮게 유지하세요. 구문 분석이 실패하면 동일한 입력으로 한 번 더 시도하는 것이 보통 작동하며, 실패한 요청에는 요금이 부과되지 않습니다.

도구 호출: 전체 왕복

함수 호출은 모델이 코드로 함수를 실행하도록 요청합니다. tools에 함수를 설명하고, 모델은 tool_calls 항목으로 응답하며, 실행 후 결과를 role: "tool" 메시지로 보냅니다.

import json

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "Is it warm in Lisbon right now?"}]
first = client.chat.completions.create(
    model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message

if msg.tool_calls:
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        messages.append({
            "role": "tool",
            "tool_call_id": call.id,
            "content": json.dumps(get_weather(**args)),
        })
    final = client.chat.completions.create(
        model="uncensored", messages=messages, tools=tools
    )
    print(final.choices[0].message.content)
else:
    print(msg.content)

여기서의 함수는 고정 데이터를 반환하므로 실제 조회로 교체하세요. 도구 인수는 JSON 문자열로 전달되므로 항상 구문 분석하고 값을 검증한 후 실행하세요. stream: true일 때, tool_calls은 조각으로 전달되므로 구문 분석하기 전에 조립해야 합니다. 특정 도구를 강제하려면 tool_choice를 사용하세요.

예제의 비용 및 1시간을 낭비하는 실수

예제를 실행하는 데는 비용이 거의 들지 않지만, 산술을 한 번쯤 확인하는 것이 도움이 됩니다. 1M 입력 토큰당 $0.15 및 1M 출력 토큰당 $0.50 기준:

  • 대화 루프, 1,200토큰 프롬프트 및 300토큰 응답 기준: 입력 $0.00018 및 출력 $0.00015로 총 $0.00033입니다. 1,000턴은 $0.33이 듭니다.
  • 도구 왕복은 두 번의 호출을 수행합니다. 첫 번째가 400 입력 및 60 출력, 두 번째가 500 입력 및 150 출력을 사용하는 경우, 총합은 900 입력 및 210 출력이며, 이는 $0.000135 + $0.000105 = $0.00024입니다.
  • 스트리밍은 동일한 토큰 수의 일반 호출과 요금이 동일합니다. 이는 텍스트를 볼 수 있는 시점이 달라질 뿐, 비용에는 영향을 주지 않습니다.

무료 체험 크레딧 $0.50은 해당 크기에서 대화 루프 1,500턴 이상을 커버할 수 있습니다($0.50 / $0.00033). 따라서 충전 전에 자유롭게 실험할 수 있습니다. 실패한 요청과 거부된 요청에는 요금이 부과되지 않으므로, 호출을 다시 실행하게 만드는 파싱 버그가 있어도 실패한 시도에는 요금이 청구되지 않습니다.

  • 잘못된 Base URL. /v1로 끝나야 합니다. SDK Base URL에 /chat/completions을 직접 추가하면 SDK가 경로를 추가하므로 404 오류가 발생합니다.
  • 다른 모델 이름. 다른 플랫폼에서 복사한 이름은 여기에서 존재하지 않습니다. ID는 uncensored입니다.
  • 메모리 기대. API는 이전 호출을 기억하지 않습니다. 매번 기록을 전송하세요.
  • 가드 없이 모델의 JSON을 파싱합니다. json.loads을 try 블록으로 감싸고, 응답이 잘못되었을 때를 대비한 계획을 세우세요.
  • 스트림을 열어두기. 완료되지 않은 스트림은 동시 요청 슬롯을 점유하며, 체험용 키는 두 개만 허용됩니다.
  • 키를 프론트엔드 코드에 넣기. 키는 서버에 보관하세요.

여전히 잘못된 것이 보이면 curl로 요청을 보내고 코드가 생성한 내용과 비교하세요. curl 요청은 SDK를 제거하고 본문(body)의 차이를 명확하게 보여줍니다.

사용량, 잔액 및 오류 확인

Python SDK의 헤더를 보려면 원본 응답 래퍼를 사용하세요:

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say ok."}],
)
print("request id:", raw.headers.get("x-request-id"))
print("balance usd:", raw.headers.get("x-balance-usd"))
print("rpm limit:", raw.headers.get("x-ratelimit-limit-requests"))
completion = raw.parse()
print(completion.usage.total_tokens)

모든 호출에 요청 ID를 로그에 기록하여 나중에 단일 요청을 지목할 수 있게 하세요. 잔액 헤더를 사용하여 크레딧이 떨어지기 전에 알림을 발생시키세요.

한도를 초과하면 API는 HTTP 429를 반환하며, 오류 코드는 해당 한도를 알려줍니다:

코드 또는 헤더대처 방법대처 방법
rate_limited분당 요청 수가 너무 많습니다(전용 키는 300, 체험 키는 60)백오프하고 호출을 분산하세요
concurrency동시 요청 수가 너무 많습니다(전용 키는 8, 체험 키는 2)실행 중인 요청이 완료될 때까지 기다리세요
Retry-After: 5일시적 과부하5초 후 재시도

실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 요청 본문은 최대 8 MB까지 가능합니다. 완전한 참조 및 기존 클라이언트 코드 재사용 방법은 문서를 참조하세요. 키를 얻는 방법에 대한 안내는 GLM API 키 기사를 참조하세요.

질문과 답변

예제에서 사용하는 Base URL은 무엇입니까?

모든 예제는 모델 ID uncensored와 Bearer 토큰을 사용하여 https://api.glmapikey.com/v1을 사용합니다. 이러한 값을 변경하면 어떤 OpenAI SDK도 작동합니다.

API가 스트리밍을 지원하나요?

네. stream을 true로 설정하고 server-sent events를 읽으세요. 사용량은 스트림 끝에 보고됩니다.

유효한 JSON을 어떻게 받을 수 있습니까?

response_format에 type json_object를 전달하고 프롬프트에 원하는 형태를 설명하세요. 코드에서 결과를 파싱하고 필요한 키를 확인하세요.

함수 호출을 사용할 수 있습니까?

네. tools와 tool_choice를 전달하고, 모델이 요청한 함수를 실행한 후 role이 tool인 메시지로 결과를 반환하세요.

남은 크레딧을 어디서 확인할 수 있습니까?

각 응답에는 남은 잔액을 나타내는 X-Balance-USD 헤더와 토큰 수를 제공하는 usage 블록이 포함되어 있습니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 Base URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기