Verbind in vijf stappen
Dit is het snelle pad voor glm api sillytavern-instellingen. Het gaat ervan uit dat je SillyTavern al draait en een sleutel hebt aangemaakt op de API-sleutelpagina.
- Open het stekkerpictogram (API-verbindingen) bovenaan SillyTavern.
- Stel het API-type in op Chat Completion.
- Stel de bron voor Chat Completion in op Custom (OpenAI-compatible).
- Plak
https://api.glmapikey.com/v1in het veld voor het aangepaste endpoint en je sleutel in het veld voor de aangepaste API-sleutel. - Voer
uncensoredin als model-ID en klik op Verbinden.
Een groen statuslampje en een modelnaam onder de knop betekenen dat de verbinding werkt. Stuur een bericht naar een personage en er zou een antwoord moeten streamen. Menu-namen wijken iets af tussen SillyTavern-releases, dus als een label verschilt, zoek dan naar het veld dat een endpoint-URL accepteert; de waarden blijven hetzelfde.
Een eerlijke noot over de naam. Dit endpoint is niet de officiële GLM API van een leverancier, en het routeert niet naar modellen van andere leveranciers. Het is een enkel open-weight model dat wordt beheerd door een onafhankelijke aanbieder, afgestemd om zonder inhoudelijke weigeringen te antwoorden voor wettelijk toegestaan gebruik door volwassenen. Wat het deelt met de modelfamilies waar mensen onder de GLM-naam naar zoeken, is de interface: een standaard OpenAI-style chat-completions API die rollenspel-frontends al kennen.
Waarmee je verbinding maakt
De feiten die belangrijk zijn voor rollenspel, op één plek:
| Eigenschap | Waarde |
|---|---|
| Endpoint | POST /v1/chat/completions |
| Model-ID | uncensored |
| Contextvenster | 100.000 tokens, prompt plus antwoord |
| Streaming | Ja, server-sent events |
| Doorgestuurde samplers | temperature, top_p, stop, seed, presence en frequency penalties |
| Prijs | $0,15 per 1M input, $0,50 per 1M output |
| Limieten, volledige sleutel | 8 gelijktijdig, 300 per minuut |
| Limieten, proefsleutel | 2 gelijktijdig, 60 per minuut |
Het model is bedoeld voor fictie, rollenspel en companion-apps gebruikt door volwassenen. Het blijft in karakter en breekt een scène niet om je erover te laten preken. Een regel kent geen uitzonderingen: de dienst weigert elke seksuele inhoud met minderjarigen, en personagekaarten die zo'n scenario proberen op te zetten werken niet. Houd je kaarten en prompts aan de juiste kant van die lijn.
Prompts worden niet gebruikt voor training, dus je personages en chatlogs worden niet teruggevoerd in een model. Ze passeren wel de aanbieder om een antwoord te genereren, zoals bij elke gehoste API.
Instellingen die de moeite waard zijn om aan te passen na verbinding
Open het paneel AI Response Configuration (pictogram met schuifregelaars). Je hoeft niet veel aan te passen, maar een paar waarden bepalen hoe het gesprek voelt en wat het kost.
Contextvenstergrootte
Dit is hoeveel tokens SillyTavern verstuurt bij elk verzoek: personagekaart, lore, systeem-prompt en zoveel recent gesprek als past. De API staat maximaal 100.000 tokens toe, maar je hoeft niet alles te gebruiken. Een instelling van 16.000 tot 32.000 houdt antwoorden op onderwerp en houdt de rekening klein. Verhoog het wanneer een lang verhaal het model details van ver terug moet laten onthouden. De berekening hieronder laat zien waarom dit belangrijk is.
Maximale responslengte
Stel een plafond in dat bij jouw stijl past. 300 tot 500 tokens past bij korte uitwisselingen, en 800 of meer past bij het schrijven van scènes. Een lagere waarde verkort ook de wachttijd voordat elk antwoord eindigt.
Streaming
Laat het aan staan. Antwoorden verschijnen woord voor woord, en je kunt er een stoppen die de verkeerde kant op gaat en niet betalen voor de rest ervan. Houd er rekening mee dat een streaming-verzoek een concurrency-slot vasthoudt tot de stream eindigt.
Temperatuur en penalties
Begin met temperature rond 0,8 en top_p rond 0,9. Als antwoorden zinnen herhalen, voeg een kleine frequency penalty toe zoals 0,3. Als het model van de kaart afdwaalt, verlaag dan de temperature naar 0,6. Dit zijn startpunten om aan te passen op gevoel, geen magische getallen, en de seed parameter wordt doorgestuurd als je herhaalbare output wilt tijdens het afstellen.
Instructie en prompt-formaat
Met de bron Chat Completion bouwt SillyTavern de berichtlijst zelf, dus je hoeft geen instructie-sjabloon te kiezen. Gebruik de prompt manager om de systeem-prompt, personagebeschrijving, scenario en chatgeschiedenis te ordenen, en houd je eigen stijl-instructies kort en direct.
Wat een rollenspelsessie kost
Rollenspel is input-zwaar. Elke beurt verstuurt de kaart, de lore en het recente gesprek opnieuw, en het model antwoordt met een paar honderd tokens. Neem een context van 30.000 tokens en een antwoord van 300 tokens:
- Input: 30.000 / 1.000.000 x $0,15 = $0,0045
- Output: 300 / 1.000.000 x $0,50 = $0,00015
- Totaal: $0,00465 per beurt, dus 100 beurten kosten $0,465
Vergelijk nu een context van 8.000 tokens met hetzelfde antwoord: input is $0,0012, output is $0,00015, dus $0,00135 per beurt en $0,135 voor 100 beurten. De kleinere context is ongeveer een derde van de prijs. De afweging is dat het model minder geschiedenis ziet, dus het kan een detail van een uur geleden vergeten. Lorebook-invoer en een korte lopende samenvatting laten je de feiten die je belangrijk vindt in een kleine context houden.
Zelfs het hogere bedrag is bescheiden. Een proeftegoed van $0,50 dekt ongeveer 107 beurten bij 30.000 tokens context ($0,50 / $0,00465), wat genoeg is om te beoordelen of het model bij je personages past. Daarna laad je op met elk geheel bedrag van $20 tot $500, en tegoed vervalt nooit. Bonussen gelden vanaf $50 (+5%), $100 (+10%) en $200 (+15%). Volledige cijfers staan op de prijspagina.
Groepschats en de concurrency-limiet
SillyTavern groepschats sturen één verzoek voor elk personage dat spreekt. Functies zoals swipes, regenerate en achtergrondsamenvattingen kunnen ook verzoeken snel na elkaar starten. Als meerdere van hen overlappen, zie je misschien een 429-fout met de code concurrency. Dit betekent dat er te veel verzoeken tegelijk liepen, niet dat er iets mis is met je sleutel.
Een proefsleutel staat 2 gelijktijdige verzoeken en 60 per minuut toe. Een opgeladen sleutel staat 8 en 300 toe. Om binnen de lagere limiet te blijven:
- Wacht tot een antwoord klaar is voordat je opnieuw genereert.
- Houd in groepen de volgorde van personage-antwoorden handmatig of sequentieel in plaats van meerdere personages tegelijk laten antwoorden.
- Schakel extensies uit die verzoeken starten bij elk bericht, zoals auto-samenvattingen, tot je een opgeladen sleutel hebt.
De API retourneert ook 429 met een Retry-After: 5 header wanneer het kort overbelast is. Wacht in dat geval vijf seconden en druk opnieuw op genereren. Mislukte en geweigerde verzoeken worden niet in rekening gebracht, dus er zijn geen kosten aan het opnieuw proberen.
Probleemoplossing
Als de knop Verbinden faalt, test dan de sleutel buiten SillyTavern zodat je weet welke kant het probleem heeft:
curl https://api.glmapikey.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Een JSON-lijst met uncensored betekent dat de sleutel en URL correct zijn, en de fout in de SillyTavern-velden zit.
- Status blijft rood of je ziet een 404. Het endpoint heeft waarschijnlijk een trailing path of mist
/v1. Gebruik exacthttps://api.glmapikey.com/v1. - 401-fout. De sleutel is geplakt met een spatie of regeleinde. Plak hem opnieuw.
- Antwoorden worden afgebroken in de zin. Je maximale responslengte is te laag. Verhoog deze.
- Antwoorden negeren het personage. De kaart wordt waarschijnlijk afgekapt omdat het contextvenster te klein is. Verhoog de context of maak de kaart korter.
- De sleutel werkt na verloop van tijd niet meer. Het proeftegoed is 7 dagen geldig, dus laad op om door te gaan.
- SillyTavern op een telefoon of ander apparaat kan geen verbinding maken. Controleer of het apparaat internettoegang heeft en dat de URL correct is ingevoerd, en voer vervolgens de curl-test vanaf dat apparaat uit.
Voor meer informatie over requestvelden en headers, zie de documentatie. Als je wilt begrijpen hoe je in eerste instantie een sleutel krijgt, legt de uitleg over de GLM-sleutel dit stap voor stap uit.
