Verbinde in fünf Schritten
Dies ist der schnelle Weg für glm api sillytavern-Setups. Es setzt voraus, dass du SillyTavern bereits ausführst und einen Schlüssel auf der API-Schlüssel-Seite erstellt hast.
- Öffne das Steckersymbol (API-Verbindungen) oben in SillyTavern.
- Setze den API-Typ auf Chat Completion.
- Setze die Chat Completion Source auf Custom (OpenAI-compatible).
- Füge
https://api.glmapikey.com/v1in das benutzerdefinierte Endpunkt-Feld ein und deinen Schlüssel in das benutzerdefinierte API-Schlüssel-Feld. - Gib
uncensoredals Modell-ID ein und klicke auf Verbinden.
Ein grünes Statuslicht und ein Modellname unter der Schaltfläche bedeuten, dass die Verbindung funktioniert. Sende eine Nachricht an einen Charakter, und eine Antwort sollte im Streaming erscheinen. Menünamen ändern sich leicht zwischen SillyTavern-Versionen, also suche bei abweichenden Bezeichnungen nach dem Feld, das eine Endpunkt-URL erwartet; die Werte bleiben gleich.
Eine ehrliche Anmerkung zum Namen. Dieser Endpunkt ist nicht die offizielle GLM-API eines Anbieters und leitet nicht zu Modellen anderer Anbieter weiter. Es ist ein einzelnes Open-Weight-Modell, das von einem unabhängigen Anbieter betrieben wird und darauf optimiert ist, bei gesetzlich zulässiger Erwachsennutzung ohne Inhaltsfilter zu antworten. Was es mit den Modellfamilien teilt, die unter dem GLM-Namen gesucht werden, ist die Schnittstelle: eine Standard-OpenAI-Chat-Completion-API, mit der Rollenspiel-Frontends bereits umgehen können.
Was du verbindest
Die Fakten, die für Rollenspiel wichtig sind, an einem Ort:
| Eigenschaft | Wert |
|---|---|
| Endpunkt | POST /v1/chat/completions |
| Modell-ID | uncensored |
| Kontextfenster | 100.000 Token, Prompt plus Antwort |
| Streaming | Ja, Server-Sent Events |
| Durchgereichte Sampler | temperature, top_p, stop, seed, presence und frequency penalties |
| Preis | $0,15 pro 1M Input, $0,50 pro 1M Output |
| Limits, Voll-Schlüssel | 8 parallele, 300 pro Minute |
| Limits, Test-Schlüssel | 2 parallele, 60 pro Minute |
Das Modell ist für Fiktion, Rollenspiel und Companion-Apps für Erwachsene gedacht. Es bleibt in der Rolle und unterbricht die Szene nicht, um dich zu belehren. Eine Regel kennt keine Ausnahmen: Der Dienst lehnt jegliche sexuelle Inhalte mit Minderjährigen ab, und Character-Cards, die ein solches Szenario versuchen, funktionieren nicht. Halte deine Cards und Prompts auf der richtigen Seite dieser Grenze.
Prompts werden nicht zum Training verwendet, also werden deine Charaktere und Chat-Protokolle nicht wieder in ein Modell eingespeist. Sie durchlaufen jedoch den Anbieter zur Generierung einer Antwort, wie bei jeder gehosteten API.
Einstellungen, die du nach der Verbindung ändern solltest
Öffne das AI Response Configuration-Panel (Symbol mit den Reglern). Du musst nicht viel anfassen, aber einige Werte entscheiden darüber, wie sich der Chat anfühlt und was er kostet.
Kontextgröße
So viele Token sendet SillyTavern bei jeder Anfrage: Charakterkarte, Lore, System-Prompt und so viel Chat-Verlauf wie passt. Die API erlaubt bis zu 100.000 Token, aber du musst nicht alles nutzen. Ein Setting von 16.000 bis 32.000 hält die Antworten fokussiert und die Rechnung klein. Erhöhe es, wenn eine lange Geschichte das Modell Details von weit zurück abrufen lassen muss. Die Berechnung weiter unten zeigt, warum das wichtig ist.
Maximale Antwortlänge
Setze eine Obergrenze, die zu deinem Stil passt. 300 bis 500 Token eignen sich für kurze Austausche, und 800 oder mehr für Szenenschreibung. Ein niedrigerer Wert verkürzt auch die Wartezeit, bis jede Antwort endet.
Streaming
Lass es aktiviert. Antworten erscheinen Wort für Wort, und du kannst eine Antwort stoppen, die in die falsche Richtung geht, und zahlst nicht für den Rest. Beachte, dass eine Streaming-Anfrage einen Concurrency-Slot belegt, bis der Stream endet.
Temperatur und Penalties
Starte mit einer Temperatur um 0,8 und top_p um 0,9. Wenn Antworten Phrasen wiederholen, füge eine kleine Häufigkeitsstrafe wie 0,3 hinzu. Wenn das Modell von der Karte abschweift, senke die Temperatur auf 0,6. Das sind Startwerte, die du nach Gefühl anpasst, keine magischen Zahlen, und der seed-Parameter wird durchgereicht, wenn du reproduzierbare Ausgaben möchtest, während du einstellst.
Instruct- und Prompt-Format
Mit der Chat Completion source baut SillyTavern die Nachrichtenliste selbst, sodass du keine Instruct-Vorlage auswählen musst. Nutze den Prompt-Manager, um System-Prompt, Charakterbeschreibung, Szenario und Chat-Verlauf zu ordnen, und halte deine eigenen Stil-Anweisungen kurz und direkt.
Was eine Rollenspiel-Sitzung kostet
Rollenspiel ist eingabelastig. Jede Runde sendet die Karte, die Lore und den Chat-Verlauf erneut, und das Modell antwortet mit einigen hundert Token. Nimm einen Kontext von 30.000 Token und eine Antwort von 300 Token:
- Input: 30.000 / 1.000.000 x 0,15 $ = 0,0045 $
- Output: 300 / 1.000.000 x 0,50 $ = 0,00015 $
- Gesamt: 0,00465 $ pro Runde, also kosten 100 Runden 0,465 $
Vergleiche nun einen Kontext von 8.000 Token mit derselben Antwort: Eingabe kostet 0,0012 $, Ausgabe kostet 0,00015 $, also 0,00135 $ pro Runde und 0,135 $ für 100 Runden. Der kleinere Kontext kostet etwa ein Drittel. Der Nachteil ist, dass das Modell weniger Verlauf sieht, also kann es ein Detail von vor einer Stunde vergessen. Lorebook-Einträge und eine kurze fortlaufende Zusammenfassung helfen, die Fakten, die dir wichtig sind, in einem kleinen Kontext zu halten.
Selbst der höhere Betrag ist moderat. Ein Testguthaben von 0,50 $ deckt etwa 107 Runden bei 30.000 Token Kontext (0,50 $ / 0,00465 $), was ausreicht, um zu beurteilen, ob das Modell zu deinen Charakteren passt. Danach lädst du mit jedem beliebigen Betrag von 20 $ bis 500 $ auf, und Guthaben verfällt nie. Boni gelten ab 50 $ (+5 %), 100 $ (+10 %) und 200 $ (+15 %). Vollständige Zahlen findest du auf der Preisseite.
Gruppenchats und das Concurrency-Limit
SillyTavern-Gruppenchats senden eine Anfrage für jeden sprechenden Charakter. Funktionen wie Swipes, Regenerate und Hintergrund-Zusammenfassungen können auch Anfragen schnell nacheinander starten. Wenn mehrere davon überlappen, siehst du möglicherweise einen 429-Fehler mit dem Code concurrency. Das bedeutet, dass zu viele Anfragen gleichzeitig liefen, nicht dass etwas an deinem Schlüssel falsch ist.
Ein Test-Schlüssel erlaubt 2 parallele Anfragen und 60 pro Minute. Ein aufgeladener Schlüssel erlaubt 8 und 300. Um innerhalb des niedrigeren Limits zu bleiben:
- Warte, bis eine Antwort fertig ist, bevor du sie regenerierst.
- Halte in Gruppen die Reihenfolge der Charakter-Antworten manuell oder sequenziell, anstatt mehrere Charaktere gleichzeitig antworten zu lassen.
- Schalte Erweiterungen aus, die bei jeder Nachricht Anfragen auslösen, wie Auto-Zusammenfassungen, bis du einen bezahlten Schlüssel hast.
Die API gibt auch 429 mit einem Retry-After: 5-Header zurück, wenn sie kurz überlastet ist. Warte in diesem Fall fünf Sekunden und klicke erneut auf Generieren. Fehlgeschlagene und abgelehnte Anfragen werden nicht berechnet, also gibt es keine Kosten für einen erneuten Versuch.
Fehlerbehebung
Wenn die Verbinden-Schaltfläche fehlschlägt, teste den Schlüssel außerhalb von SillyTavern, um zu wissen, welche Seite das Problem hat:
curl https://api.glmapikey.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Eine JSON-Liste, die uncensored enthält, bedeutet, dass Schlüssel und URL korrekt sind, und der Fehler liegt in den SillyTavern-Feldern.
- Status bleibt rot oder du siehst einen 404. Der Endpunkt hat wahrscheinlich einen nachgestellten Pfad oder ihm fehlt
/v1. Nutze genauhttps://api.glmapikey.com/v1. - 401-Fehler. Der Schlüssel wurde mit einem Leerzeichen oder Zeilenumbruch eingefügt. Füge ihn erneut ein.
- Antworten werden mitten im Satz abgeschnitten. Deine maximale Antwortlänge ist zu niedrig. Erhöhe sie.
- Die Antwort ignoriert den Charakter. Die Karte wird wahrscheinlich abgeschnitten, weil das Kontextfenster zu klein ist. Erhöhe das Kontextfenster oder kürze die Karte.
- Der Schlüssel funktioniert nach einer Weile nicht mehr. Das Testguthaben gilt 7 Tage, lade auf, um fortzufahren.
- SillyTavern auf einem Telefon oder einem anderen Gerät kann keine Verbindung herstellen. Prüfe, ob das Gerät über Internetzugang verfügt und die URL exakt eingegeben wurde, und führe dann den curl-Test von diesem Gerät aus.
Mehr zu Anfragefeldern und -headern findest du in der Dokumentation. Wenn du verstehen möchtest, wie du überhaupt einen Schlüssel erhältst, erklärt dir die GLM-Schlüssel-Erklärung den Vorgang.
