DE ▾
API-Schlüssel erhalten

GLM-API in SillyTavern: Einrichtung für Rollenspiel-Chats

SillyTavern kann sich über die benutzerdefinierte Chat-Completion-Quelle mit jedem OpenAI-kompatiblen Endpunkt verbinden, sodass die GLM-API-Einrichtung einen Bildschirm benötigt. Nachfolgend findest du die exakten Felder, sinnvolle Einstellungen für lange Rollenspiel-Sessions und die zu erwartenden Kosten.

Aktualisiert

Szene mit Sprechblasen und einer Maske, die durch ein Kabel mit einem Server verbunden ist, zur Veranschaulichung von Rollenspiel mit einer API

Wichtige Punkte

  • Wähle in SillyTavern Chat Completion, dann die Quelle Custom (OpenAI-compatible) und gib https://api.glmapikey.com/v1 ein.
  • Gib uncensored als Modell-ID ein. Dies ist das einzige Modell, das diese API bereitstellt.
  • Die Kontextgröße bestimmt die Rechnung, da jede Runde den Chat neu sendet. Rund 32k sind ein günstiger, komfortabler Standard.
  • Gruppenchats können das Concurrency-Limit erreichen. Ein Test-Schlüssel erlaubt 2 parallele Anfragen, ein Voll-Schlüssel 8.

Verbinde in fünf Schritten

Dies ist der schnelle Weg für glm api sillytavern-Setups. Es setzt voraus, dass du SillyTavern bereits ausführst und einen Schlüssel auf der API-Schlüssel-Seite erstellt hast.

  1. Öffne das Steckersymbol (API-Verbindungen) oben in SillyTavern.
  2. Setze den API-Typ auf Chat Completion.
  3. Setze die Chat Completion Source auf Custom (OpenAI-compatible).
  4. Füge https://api.glmapikey.com/v1 in das benutzerdefinierte Endpunkt-Feld ein und deinen Schlüssel in das benutzerdefinierte API-Schlüssel-Feld.
  5. Gib uncensored als Modell-ID ein und klicke auf Verbinden.

Ein grünes Statuslicht und ein Modellname unter der Schaltfläche bedeuten, dass die Verbindung funktioniert. Sende eine Nachricht an einen Charakter, und eine Antwort sollte im Streaming erscheinen. Menünamen ändern sich leicht zwischen SillyTavern-Versionen, also suche bei abweichenden Bezeichnungen nach dem Feld, das eine Endpunkt-URL erwartet; die Werte bleiben gleich.

Eine ehrliche Anmerkung zum Namen. Dieser Endpunkt ist nicht die offizielle GLM-API eines Anbieters und leitet nicht zu Modellen anderer Anbieter weiter. Es ist ein einzelnes Open-Weight-Modell, das von einem unabhängigen Anbieter betrieben wird und darauf optimiert ist, bei gesetzlich zulässiger Erwachsennutzung ohne Inhaltsfilter zu antworten. Was es mit den Modellfamilien teilt, die unter dem GLM-Namen gesucht werden, ist die Schnittstelle: eine Standard-OpenAI-Chat-Completion-API, mit der Rollenspiel-Frontends bereits umgehen können.

Was du verbindest

Die Fakten, die für Rollenspiel wichtig sind, an einem Ort:

EigenschaftWert
EndpunktPOST /v1/chat/completions
Modell-IDuncensored
Kontextfenster100.000 Token, Prompt plus Antwort
StreamingJa, Server-Sent Events
Durchgereichte Samplertemperature, top_p, stop, seed, presence und frequency penalties
Preis$0,15 pro 1M Input, $0,50 pro 1M Output
Limits, Voll-Schlüssel8 parallele, 300 pro Minute
Limits, Test-Schlüssel2 parallele, 60 pro Minute

Das Modell ist für Fiktion, Rollenspiel und Companion-Apps für Erwachsene gedacht. Es bleibt in der Rolle und unterbricht die Szene nicht, um dich zu belehren. Eine Regel kennt keine Ausnahmen: Der Dienst lehnt jegliche sexuelle Inhalte mit Minderjährigen ab, und Character-Cards, die ein solches Szenario versuchen, funktionieren nicht. Halte deine Cards und Prompts auf der richtigen Seite dieser Grenze.

Prompts werden nicht zum Training verwendet, also werden deine Charaktere und Chat-Protokolle nicht wieder in ein Modell eingespeist. Sie durchlaufen jedoch den Anbieter zur Generierung einer Antwort, wie bei jeder gehosteten API.

Einstellungen, die du nach der Verbindung ändern solltest

Öffne das AI Response Configuration-Panel (Symbol mit den Reglern). Du musst nicht viel anfassen, aber einige Werte entscheiden darüber, wie sich der Chat anfühlt und was er kostet.

Kontextgröße

So viele Token sendet SillyTavern bei jeder Anfrage: Charakterkarte, Lore, System-Prompt und so viel Chat-Verlauf wie passt. Die API erlaubt bis zu 100.000 Token, aber du musst nicht alles nutzen. Ein Setting von 16.000 bis 32.000 hält die Antworten fokussiert und die Rechnung klein. Erhöhe es, wenn eine lange Geschichte das Modell Details von weit zurück abrufen lassen muss. Die Berechnung weiter unten zeigt, warum das wichtig ist.

Maximale Antwortlänge

Setze eine Obergrenze, die zu deinem Stil passt. 300 bis 500 Token eignen sich für kurze Austausche, und 800 oder mehr für Szenenschreibung. Ein niedrigerer Wert verkürzt auch die Wartezeit, bis jede Antwort endet.

Streaming

Lass es aktiviert. Antworten erscheinen Wort für Wort, und du kannst eine Antwort stoppen, die in die falsche Richtung geht, und zahlst nicht für den Rest. Beachte, dass eine Streaming-Anfrage einen Concurrency-Slot belegt, bis der Stream endet.

Temperatur und Penalties

Starte mit einer Temperatur um 0,8 und top_p um 0,9. Wenn Antworten Phrasen wiederholen, füge eine kleine Häufigkeitsstrafe wie 0,3 hinzu. Wenn das Modell von der Karte abschweift, senke die Temperatur auf 0,6. Das sind Startwerte, die du nach Gefühl anpasst, keine magischen Zahlen, und der seed-Parameter wird durchgereicht, wenn du reproduzierbare Ausgaben möchtest, während du einstellst.

Instruct- und Prompt-Format

Mit der Chat Completion source baut SillyTavern die Nachrichtenliste selbst, sodass du keine Instruct-Vorlage auswählen musst. Nutze den Prompt-Manager, um System-Prompt, Charakterbeschreibung, Szenario und Chat-Verlauf zu ordnen, und halte deine eigenen Stil-Anweisungen kurz und direkt.

Was eine Rollenspiel-Sitzung kostet

Rollenspiel ist eingabelastig. Jede Runde sendet die Karte, die Lore und den Chat-Verlauf erneut, und das Modell antwortet mit einigen hundert Token. Nimm einen Kontext von 30.000 Token und eine Antwort von 300 Token:

  • Input: 30.000 / 1.000.000 x 0,15 $ = 0,0045 $
  • Output: 300 / 1.000.000 x 0,50 $ = 0,00015 $
  • Gesamt: 0,00465 $ pro Runde, also kosten 100 Runden 0,465 $

Vergleiche nun einen Kontext von 8.000 Token mit derselben Antwort: Eingabe kostet 0,0012 $, Ausgabe kostet 0,00015 $, also 0,00135 $ pro Runde und 0,135 $ für 100 Runden. Der kleinere Kontext kostet etwa ein Drittel. Der Nachteil ist, dass das Modell weniger Verlauf sieht, also kann es ein Detail von vor einer Stunde vergessen. Lorebook-Einträge und eine kurze fortlaufende Zusammenfassung helfen, die Fakten, die dir wichtig sind, in einem kleinen Kontext zu halten.

Selbst der höhere Betrag ist moderat. Ein Testguthaben von 0,50 $ deckt etwa 107 Runden bei 30.000 Token Kontext (0,50 $ / 0,00465 $), was ausreicht, um zu beurteilen, ob das Modell zu deinen Charakteren passt. Danach lädst du mit jedem beliebigen Betrag von 20 $ bis 500 $ auf, und Guthaben verfällt nie. Boni gelten ab 50 $ (+5 %), 100 $ (+10 %) und 200 $ (+15 %). Vollständige Zahlen findest du auf der Preisseite.

Gruppenchats und das Concurrency-Limit

SillyTavern-Gruppenchats senden eine Anfrage für jeden sprechenden Charakter. Funktionen wie Swipes, Regenerate und Hintergrund-Zusammenfassungen können auch Anfragen schnell nacheinander starten. Wenn mehrere davon überlappen, siehst du möglicherweise einen 429-Fehler mit dem Code concurrency. Das bedeutet, dass zu viele Anfragen gleichzeitig liefen, nicht dass etwas an deinem Schlüssel falsch ist.

Ein Test-Schlüssel erlaubt 2 parallele Anfragen und 60 pro Minute. Ein aufgeladener Schlüssel erlaubt 8 und 300. Um innerhalb des niedrigeren Limits zu bleiben:

  • Warte, bis eine Antwort fertig ist, bevor du sie regenerierst.
  • Halte in Gruppen die Reihenfolge der Charakter-Antworten manuell oder sequenziell, anstatt mehrere Charaktere gleichzeitig antworten zu lassen.
  • Schalte Erweiterungen aus, die bei jeder Nachricht Anfragen auslösen, wie Auto-Zusammenfassungen, bis du einen bezahlten Schlüssel hast.

Die API gibt auch 429 mit einem Retry-After: 5-Header zurück, wenn sie kurz überlastet ist. Warte in diesem Fall fünf Sekunden und klicke erneut auf Generieren. Fehlgeschlagene und abgelehnte Anfragen werden nicht berechnet, also gibt es keine Kosten für einen erneuten Versuch.

Fehlerbehebung

Wenn die Verbinden-Schaltfläche fehlschlägt, teste den Schlüssel außerhalb von SillyTavern, um zu wissen, welche Seite das Problem hat:

curl https://api.glmapikey.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Eine JSON-Liste, die uncensored enthält, bedeutet, dass Schlüssel und URL korrekt sind, und der Fehler liegt in den SillyTavern-Feldern.

  • Status bleibt rot oder du siehst einen 404. Der Endpunkt hat wahrscheinlich einen nachgestellten Pfad oder ihm fehlt /v1. Nutze genau https://api.glmapikey.com/v1.
  • 401-Fehler. Der Schlüssel wurde mit einem Leerzeichen oder Zeilenumbruch eingefügt. Füge ihn erneut ein.
  • Antworten werden mitten im Satz abgeschnitten. Deine maximale Antwortlänge ist zu niedrig. Erhöhe sie.
  • Die Antwort ignoriert den Charakter. Die Karte wird wahrscheinlich abgeschnitten, weil das Kontextfenster zu klein ist. Erhöhe das Kontextfenster oder kürze die Karte.
  • Der Schlüssel funktioniert nach einer Weile nicht mehr. Das Testguthaben gilt 7 Tage, lade auf, um fortzufahren.
  • SillyTavern auf einem Telefon oder einem anderen Gerät kann keine Verbindung herstellen. Prüfe, ob das Gerät über Internetzugang verfügt und die URL exakt eingegeben wurde, und führe dann den curl-Test von diesem Gerät aus.

Mehr zu Anfragefeldern und -headern findest du in der Dokumentation. Wenn du verstehen möchtest, wie du überhaupt einen Schlüssel erhältst, erklärt dir die GLM-Schlüssel-Erklärung den Vorgang.

Fragen und Antworten

Welche Quelle wähle ich in SillyTavern?

Wähle Chat Completion als API-Typ und Custom (OpenAI-compatible) als Quelle. Gib dann die Basis-URL, deinen Schlüssel und die Modell-ID uncensored ein.

Ist dies die offizielle GLM-API?

Nein. Es ist ein einzelnes Open-Weight-Modell, das von einem unabhängigen Anbieter über eine OpenAI-kompatible Schnittstelle betrieben wird. Es ist nicht die offizielle API eines Modell-Anbieters.

Wie viel kostet eine Rollenspiel-Sitzung?

Bei einem Kontext von 30.000 Token und 300-Token-Antworten kostet eine Runde etwa $0,00465, also 100 Runden rund $0,47. Ein kleinerer Kontext senkt diese Zahl.

Kann ich es für Rollenspiele für Erwachsene nutzen?

Das Modell ist darauf abgestimmt, bei gesetzlich zulässiger Erwachsennutzung in Fiktion und Companion-Apps ohne Inhaltsfilter zu antworten. Sexuelle Inhalte mit Minderjährigen sind jedoch niemals erlaubt.

Warum erhalte ich 429-Fehler in Gruppenchats?

Gruppenchats senden mehrere Anfragen gleichzeitig, und der Testschlüssel erlaubt nur 2 parallele Anfragen. Warte, bis die Antworten abgeschlossen sind, oder wechsle zu einem Vollschlüssel mit 8.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.

API-Schlüssel erhalten