GLM API: Переключите клиента за три строки

Предварительные требования: Получите ключ

Перед написанием кода вам нужен API-ключ. Перейдите на страницу Получить API-ключ на этом сайте, чтобы войти по электронной почте и паролю. Для начала не требуется номер телефона или кредитная карта. При регистрации вы получаете бесплатный пробный баланс в размере $0.50, действительный в течение 7 дней, или можете пополнить его криптовалютой (USDT или USDC). Ваш ключ отображается сразу после регистрации. Храните его в безопасности, так как вы можете сгенерировать новый ключ в любое время, чтобы отозвать старый.

Этот ключ аутентифицирует все запросы к нашему эндпоинту glm api. Мы не используем ваши промпты для обучения, а ключ привязан к одному аккаунту. Если вам нужен больший объем, вы можете приобрести предоплаченные кредиты, которые не сгорают.

Настройте базовый URL и ключ

Чтобы использовать наш сервис как готовую замену OpenAI, вы должны указать SDK на наш базовый URL. Это единственное изменение инфраструктуры, которое требуется. Базовый URL — https://api.glmapikey.com/v1. Вам также необходимо установить заголовок авторизации или ключ клиента SDK на значение, полученное при регистрации.

Большинство клиентов, совместимых с OpenAI, включая официальные Python и Node SDK, позволяют переопределить базовый URL. Это позволяет сохранить существующую логику приложения, изменив базовую модель. Убедитесь, что ключ установлен правильно перед отправкой запросов, чтобы избежать ошибок аутентификации.

Отправьте свой первый запрос на completion

Отправьте POST-запрос на /v1/chat/completions для генерации текста. Наша модель принимает стандартные структуры сообщений с ролями, такими как user и assistant. Идентификатор модели, который вы должны указать, — uncensored. Это запускает модель с открытыми весами, размещенную на наших GPU, которая настроена на ответы без отказов в контенте для законного использования взрослыми.

Ответ будет содержать JSON с сгенерированным текстом. Если вы получите ошибку 401, проверьте ключ. Если вы видите 402, ваш предоплаченный баланс исчерпан. Вы можете пополнить его начиная с $10. Обратите внимание, что мы не поддерживаем эмбеддинги, изображения или дообучение в этом эндпоинте.

Используйте Python SDK

Официальная библиотека Python OpenAI работает напрямую с нашим API. Инициализируйте клиента с вашим ключом и конкретным базовым URL. Этот подход идеален для бэкенд-сервисов или скриптов, где вам нужны структурированные ответы JSON. Клиент автоматически обрабатывает сериализацию и логику повторных попыток.

Укажите имя модели uncensored, чтобы обратиться к нашему конкретному эндпоинту. Контекстное окно поддерживает до 100 000 токенов для промпта и ответа в сумме. Это позволяет передавать значительные объёмы входных данных без усечения, при условии, что вы не превысите лимит тела запроса в 8 МБ.

Используйте Node SDK

Для приложений на JavaScript и TypeScript пакет NPM openai совместим. Настройте клиента с тем же базовым URL и ключом, что и в примере Python. Это позволяет выполнять серверный рендеринг или API-эндпоинты, требующие генерации текста без цензуры. SDK эффективно передает данные, если настроен правильно.

Вызов функций поддерживается в этом SDK. Вы можете определить схемы функций в запросе, и модель вернет структурированные выходные данные JSON, соответствующие вашей схеме. Это упрощает интеграцию внешних источников данных или действий в поток вашего приложения без разбора необработанного текста.

Включите потоковую передачу ответов

Установите stream: true в вашем запросе для получения событий, отправляемых сервером (SSE). Это позволяет отображать текст пользователям по мере его генерации, улучшая воспринимаемую задержку. API возвращает фрагменты текста, которые ваш клиент должен объединить или отобразить постепенно.

Потоковая передача поддерживается как для Python, так и для Node SDK. Это особенно полезно для интерфейсов чата, где пользователи ожидают немедленной обратной связи. Каждый фрагмент содержит часть ответа. Модель продолжает генерацию, пока не завершится или не достигнет лимита контекстного окна. Убедитесь, что ваш клиент правильно обрабатывает частичные структуры JSON, если вы используете вызов функций с потоковой передачей.

Лимиты, ошибки и модели

Наш API устанавливает лимит запросов в 300 запросов в минуту на ключ. Если вы превысите этот лимит, вы получите ошибку 429. Максимальный размер тела запроса составляет 8 МБ. Для обнаружения моделей используйте эндпоинт GET /v1/models. Он возвращает список доступных моделей, включая идентификатор модели uncensored.

Распространенные ошибки включают 401 для недействительных ключей и 402 для недостаточного кредита. Кредиты не сгорают, но пробные кредиты действительны в течение 7 дней. Мы не предлагаем SLA или сертификаты. Модель блокирует сексуальный контент с участием несовершеннолетних, но в остальном без цензуры. Используйте эти лимиты для проектирования логики повторных попыток и уведомлений пользователей.

cURL

Copycurl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)