IT ▾
Ottieni la chiave API

API GLM in SillyTavern: configurazione per chat di ruolo

SillyTavern può connettersi a qualsiasi endpoint compatibile con OpenAI tramite la sua origine di completamento chat personalizzata, quindi la configurazione di un'API in stile GLM richiede una schermata. Di seguito trovi i campi esatti, le impostazioni sensate per sessioni lunghe di ruolo e i costi previsti.

Aggiornato

Fase con fumetti e una maschera collegati da un cavo a un server, che illustra il roleplay con un'API

Punti chiave

  • In SillyTavern scegli Completamento chat, poi l'origine Personalizzata (compatibile con OpenAI) e inserisci https://api.glmapikey.com/v1.
  • Digita uncensored come ID del modello. È l'unico modello servito da questa API.
  • La dimensione del contesto determina il costo, perché ogni turno reinvia la chat. Circa 32k è un valore predefinito economico e confortevole.
  • Le chat di gruppo possono superare il limite di concorrenza. Una chiave di prova permette 2 richieste alla volta, una chiave completa 8.

Connetti in cinque passaggi

Questa è la via rapida per le configurazioni glm api sillytavern. Presuppone che tu stia già eseguendo SillyTavern e abbia creato una chiave nella pagina delle chiavi API.

  1. Apri l'icona della presa (Connessioni API) nella parte superiore di SillyTavern.
  2. Imposta il tipo di API su Completamento chat.
  3. Imposta l'origine di Completamento chat su Personalizzato (compatibile con OpenAI).
  4. Incolla https://api.glmapikey.com/v1 nel campo dell'endpoint personalizzato e la tua chiave nel campo della chiave API personalizzata.
  5. Inserisci uncensored come ID del modello e premi Connetti.

Una luce di stato verde e un nome del modello sotto il pulsante indicano che la connessione funziona. Invia un messaggio a un personaggio e dovresti vedere una risposta in streaming. I nomi dei menu variano leggermente tra le versioni di SillyTavern, quindi se un'etichetta è diversa, cerca il campo che accetta un URL endpoint; i valori restano gli stessi.

Un'onesta nota sul nome. Questo endpoint non è l'API GLM ufficiale di alcun fornitore e non instrada verso i modelli di altri fornitori. È un singolo modello a pesi aperti gestito da un provider indipendente, ottimizzato per rispondere senza rifiuti sui contenuti per l'uso adulto lecito. Ciò che condivide con le famiglie di modelli che le persone cercano sotto il nome GLM è l'interfaccia: un'API standard di completamento chat in stile OpenAI che le interfacce di roleplay sanno già come utilizzare.

A cosa ti stai connettendo

I fatti importanti per il roleplay, in un unico posto:

ProprietàValore
EndpointPOST /v1/chat/completions
ID modellouncensored
Finestra di contesto100.000 token, prompt più risposta
StreamingSì, eventi inviati dal server
Sampler passati direttamentetemperature, top_p, stop, seed, penalità di presenza e frequenza
Prezzo$0,15 per 1M input, $0,50 per 1M output
Limiti, chiave completa8 concorrenti, 300 al minuto
Limiti, chiave di prova2 concorrenti, 60 al minuto

Il modello è pensato per narrativa, roleplay e app di compagnia utilizzate da adulti. Manterrà il personaggio e non interromperà la scena per farti una lezione. Una regola non ha eccezioni: il servizio rifiuta qualsiasi contenuto sessuale che coinvolga minorenni e le card dei personaggi che cercano di impostare tale scenario non funzioneranno. Mantieni le tue card e i prompt entro questi limiti.

I prompt non vengono utilizzati per l'addestramento, quindi i tuoi personaggi e i log delle chat non vengono restituiti a un modello. Passano comunque attraverso il provider per generare una risposta, come con qualsiasi API ospitata.

Impostazioni da modificare dopo la connessione

Apri il pannello di configurazione delle risposte AI (icona dei cursori). Non devi toccare molto, ma alcuni valori decidono come appare la chat e quanto costa.

Dimensione del contesto

Questo è il numero di token che SillyTavern invia con ogni richiesta: card del personaggio, lore, prompt di sistema e quanto chat recente entra. L'API permette fino a 100.000 token, ma non devi usarli tutti. Un'impostazione tra 16.000 e 32.000 mantiene le risposte pertinenti e tiene basso il costo. Aumentalo quando una storia lunga richiede che il modello ricordi dettagli lontani. Il calcolo più avanti mostra perché questo è importante.

Lunghezza massima della risposta

Imposta un limite adatto al tuo stile. 300-500 token sono adatti per scambi brevi, 800 o più per la scrittura di scene. Un valore più basso riduce anche l'attesa prima della fine di ogni risposta.

Streaming

Lascialo attivo. Le risposte appaiono parola per parola e puoi interromperne una che sta andando nella direzione sbagliata senza pagare il resto. Tieni presente che una richiesta in streaming occupa uno slot di concorrenza fino alla fine dello stream.

Temperatura e penalità

Inizia con una temperatura intorno a 0,8 e top_p intorno a 0,9. Se le risposte ripetono frasi, aggiungi una piccola penalità di frequenza come 0,3. Se il modello si allontana dalla card, abbassa la temperatura a 0,6. Questi sono punti di partenza da regolare a sensazione, non numeri magici, e il parametro seed viene passato se vuoi output ripetibili mentre regoli.

Formato di istruzione e prompt

Con l'origine Completamento chat, SillyTavern costruisce la lista dei messaggi da solo, quindi non devi scegliere un template di istruzione. Usa il gestore prompt per ordinare il prompt di sistema, la descrizione del personaggio, lo scenario e la cronologia delle chat, e mantieni le tue istruzioni di stile brevi e dirette.

Quanto costa una sessione di roleplay

Il roleplay è pesante in input. Ogni turno reinvia la card, la lore e la chat recente, e il modello risponde con qualche centinaio di token. Prendi un contesto di 30.000 token e una risposta da 300 token:

  • Input: 30.000 / 1.000.000 x $0,15 = $0,0045
  • Output: 300 / 1.000.000 x $0,50 = $0,00015
  • Totale: $0,00465 per turno, quindi 100 turni costano $0,465

Ora confronta un contesto di 8.000 token con la stessa risposta: input è $0,0012, output è $0,00015, quindi $0,00135 per turno e $0,135 per 100 turni. Il contesto più piccolo costa circa un terzo. Il compromesso è che il modello vede meno cronologia, quindi potrebbe dimenticare un dettaglio di un'ora fa. Le voci del libro della lore e un breve riepilogo continuo ti permettono di mantenere i fatti importanti in un contesto piccolo.

Anche la cifra maggiore è modica. Un credito di prova di $0,50 copre circa 107 turni con 30.000 token di contesto ($0,50 / $0,00465), che è sufficiente per valutare se il modello si adatta ai tuoi personaggi. Dopo di che ricarichi con qualsiasi importo intero da $20 a $500 e il credito non scade mai. I bonus si applicano da $50 (+5%), $100 (+10%) e $200 (+15%). I numeri completi sono nella pagina dei prezzi.

Chat di gruppo e limite di concorrenza

Le chat di gruppo di SillyTavern inviano una richiesta per ogni personaggio che parla. Funzionalità come gli swipe, la rigenerazione e i riepiloghi in background possono anche avviare richieste a breve distanza. Se alcune di esse si sovrappongono, potresti vedere un errore 429 con il codice concurrency. Significa che erano in esecuzione troppe richieste contemporaneamente, non che c'è qualcosa che non va con la tua chiave.

Una chiave di prova consente 2 richieste parallele e 60 al minuto. Una chiave finanziata ne consente 8 e 300. Per restare entro il limite inferiore:

  • Attendi che una risposta termini prima di rigenerarla.
  • Nei gruppi, mantieni l'ordine delle risposte dei personaggi manuale o sequenziale invece di lasciare che diversi personaggi rispondano insieme.
  • Disattiva le estensioni che avviano richieste su ogni messaggio, come i riepiloghi automatici, finché non hai una chiave finanziata.

L'API restituisce anche 429 con l'intestazione Retry-After: 5 quando è brevemente sovraccarica. In quel caso, attendi cinque secondi e premi di nuovo su Genera. Le richieste fallite e rifiutate non vengono addebitate, quindi non c'è alcun costo nel riprovare.

Risoluzione dei Problemi

Se il pulsante Connetti fallisce, testa la chiave al di fuori di SillyTavern per sapere quale lato ha il problema:

curl https://api.glmapikey.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Un elenco JSON che include uncensored significa che la chiave e l'URL sono corretti, e il problema è nei campi di SillyTavern.

  • Lo stato rimane rosso o vedi un 404. L'endpoint probabilmente ha un percorso finale o manca /v1. Usa esattamente https://api.glmapikey.com/v1.
  • Errore 401. La chiave è stata incollata con uno spazio o un a capo. Incollala di nuovo.
  • Risposte troncate a metà frase. La tua lunghezza massima di risposta è troppo bassa. Aumentala.
  • Le risposte ignorano il personaggio. La scheda viene probabilmente tagliata perché la dimensione del contesto è troppo piccola per essa. Aumenta il contesto o accorcia la scheda.
  • La chiave smette di funzionare dopo un po'. Il credito di prova dura 7 giorni, quindi ricarica per continuare.
  • SillyTavern su un telefono o un altro dispositivo non riesce a connettersi. Verifica che il dispositivo abbia accesso a Internet e che l'URL sia stato digitato esattamente, quindi esegui il test curl da quel dispositivo.

Per ulteriori informazioni sui campi e sulle intestazioni delle richieste, consulta la documentazione. Se vuoi capire come ottenere una chiave, la guida alla chiave GLM ti guida passo dopo passo.

Domande e risposte

Quale origine scelgo in SillyTavern?

Scegli Completamento chat come tipo di API e Personalizzata (compatibile con OpenAI) come origine. Inserisci quindi l'URL di base, la tua chiave e l'ID del modello uncensored.

Questa è l'API GLM ufficiale?

No. È un singolo modello a pesi aperti gestito da un provider indipendente dietro un'interfaccia compatibile con OpenAI. Non è l'API ufficiale di alcun fornitore di modelli.

Quanto costa una sessione di roleplay?

Con una finestra di contesto da 30.000 token e risposte da 300 token, un turno costa circa $0,00465, quindi 100 turni costano circa $0,47. Un contesto più piccolo riduce questa cifra.

Posso usarlo per il roleplay per adulti?

Il modello è ottimizzato per rispondere senza rifiuti sui contenuti per l'uso adulto legale, in app di narrativa e compagnia. I contenuti sessuali che coinvolgono minorenni non sono mai consentiti.

Perché ricevo errori 429 nelle chat di gruppo?

Le chat di gruppo inviano diverse richieste contemporaneamente e la chiave di prova consente solo 2 richieste parallele. Attendi che le risposte terminino o passa a una chiave completa con 8.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.

Ottieni la chiave API