GLM API: Zmień klienta w trzech krokach

Wymagania wstępne: Pobierz klucz

Zanim zaczniesz pisać kod, potrzebujesz klucza API. Odwiedź stronę Pobierz klucz API na tej witrynie, aby się zarejestrować, podając adres e-mail i hasło. Nie jest wymagany numer telefonu ani karta kredytowa, aby rozpocząć. Po rejestracji otrzymujesz kredyt próbny w wysokości $0,50 ważny przez 7 dni, albo możesz doładować konto kryptowalutą (USDT lub USDC). Twój klucz jest wyświetlany natychmiast po rejestracji. Przechowuj go bezpiecznie, ponieważ możesz go wygenerować ponownie w dowolnym momencie, aby unieważnić poprzedni.

Ten klucz uwierzytelnia wszystkie zapytania do naszego endpointu glm api. Nie używamy Twoich promptów do trenowania, a klucz jest powiązany z jednym kontem. Jeśli potrzebujesz większej liczby zapytań, możesz kupić przedpłacony kredyt, który nigdy nie wygasa.

Skonfiguruj bazowy URL i klucz

Aby użyć naszej usługi jako zamiennika OpenAI, musisz skierować swoje SDK do naszego bazowego URL. To jedyna wymagana zmiana infrastruktury. Bazowy URL to https://api.glmapikey.com/v1. Musisz również ustawić nagłówek autoryzacji lub klucz klienta SDK na wartość otrzymaną podczas rejestracji.

Większość klientów kompatybilnych z OpenAI, w tym oficjalne SDK Pythona i Node.js, pozwala na nadpisanie bazowego URL. Pozwala to zachować istniejącą logikę aplikacji przy jednoczesnej zmianie modelu. Upewnij się, że klucz jest poprawnie ustawiony przed wysłaniem zapytań, aby uniknąć błędów uwierzytelniania.

Wyślij pierwsze zapytanie Chat Completion

Wyślij zapytanie POST do /v1/chat/completions, aby wygenerować tekst. Nasz model akceptuje standardowe struktury wiadomości z rolami takimi jak user i assistant. ID modelu, które musisz podać, to uncensored. Uruchamia to model o otwartych wagach hostowany na naszych GPU, który jest dostrojony do odpowiadania bez odrzucania treści dla prawnego użytku dorosłych.

Odpowiedź będzie zawierać JSON z wygenerowanym tekstem. Jeśli napotkasz błąd 401, zweryfikuj swój klucz. Jeśli widzisz 402, Twój przedpłacony kredyt został wyczerpany. Możesz doładować środki od kwoty $10. Pamiętaj, że nie obsługujemy embeddingów, obrazów ani dostrajania w tym endpointzie.

Użyj SDK Pythona

Oficjalna biblioteka Pythona OpenAI działa bezpośrednio z naszym API. Zainicjuj klienta swoim kluczem i konkretnym bazowym URL. To podejście jest idealne dla usług backendowych lub skryptów, gdzie potrzebujesz strukturalnych odpowiedzi JSON. Klient obsługuje serializację i logikę ponownych prób automatycznie.

Przekaż nazwę modelu uncensored, aby upewnić się, że trafiasz do naszego konkretnego endpointu. Okno kontekstu obsługuje do 100 000 tokenów dla promptu i uzupełnienia łącznie. Pozwala to na przesłanie dużej ilości danych wejściowych bez ich obcinania, pod warunkiem zachowania limitu rozmiaru ciała zapytania na poziomie 8 MB.

Użyj SDK Node.js

Dla aplikacji JavaScript i TypeScript pakiet NPM openai jest kompatybilny. Skonfiguruj klienta z tym samym bazowym URL i kluczem co w przykładzie Pythona. Umożliwia to renderowanie po stronie serwera lub endpointy API wymagające generowania tekstu bez cenzury. SDK strumieniuje dane wydajnie, jeśli jest poprawnie skonfigurowane.

Wywoływanie funkcji jest obsługiwane w tym SDK. Możesz zdefiniować schematy funkcji w zapytaniu, a model zwróci strukturalne wyjścia JSON pasujące do Twojego schematu. Ułatwia to integrację zewnętrznych źródeł danych lub akcji w przepływie aplikacji bez parsowania surowego tekstu.

Włącz strumieniowanie odpowiedzi

Ustaw stream: true w swoim zapytaniu, aby otrzymywać zdarzenia wysyłane przez serwer (SSE). Pozwala to na wyświetlanie tekstu użytkownikom w miarę jego generowania, co poprawia postrzeganie opóźnienia. API zwraca fragmenty tekstu, które klient musi złożyć lub renderować stopniowo.

Strumieniowanie jest obsługiwane dla obu SDK: Pythona i Node.js. Jest szczególnie przydatne w interfejsach czatu, gdzie użytkownicy oczekują natychmiastowej odpowiedzi. Każdy fragment zawiera część odpowiedzi. Model kontynuuje generowanie, aż do zakończenia lub osiągnięcia limitu okna kontekstu. Upewnij się, że Twój klient poprawnie obsługuje częściowe struktury JSON, jeśli używasz wywoływania funkcji ze strumieniowaniem.

Limity, błędy i modele

Nasze API narzuca limit zapytań wynoszący 300 zapytań na minutę na klucz. Jeśli go przekroczysz, otrzymasz błąd 429. Maksymalny rozmiar ciała zapytania wynosi 8 MB. Aby odkryć dostępne modele, użyj endpointu GET /v1/models. Zwraca on listę dostępnych modeli, w tym ID modelu uncensored.

Typowe błędy to 401 dla nieprawidłowych kluczy i 402 za niewystarczający kredyt. Kredyty nigdy nie wygasają, ale kredyty próbne są ważne przez 7 dni. Nie oferujemy umów SLA ani certyfikacji. Model blokuje treści seksualne z udziałem małoletnich, ale w pozostałych aspektach jest bez cenzury. Użyj tych limitów do zaprojektowania odpowiedniej logiki ponawiania prób i powiadomień dla użytkowników.

cURL

Copycurl https://api.glmapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)