Connetti in cinque passaggi
Questa è la via rapida per le configurazioni glm api sillytavern. Presuppone che tu stia già eseguendo SillyTavern e abbia creato una chiave nella pagina delle chiavi API.
- Apri l'icona della presa (Connessioni API) nella parte superiore di SillyTavern.
- Imposta il tipo di API su Completamento chat.
- Imposta l'origine di Completamento chat su Personalizzato (compatibile con OpenAI).
- Incolla
https://api.glmapikey.com/v1nel campo dell'endpoint personalizzato e la tua chiave nel campo della chiave API personalizzata. - Inserisci
uncensoredcome ID del modello e premi Connetti.
Una luce di stato verde e un nome del modello sotto il pulsante indicano che la connessione funziona. Invia un messaggio a un personaggio e dovresti vedere una risposta in streaming. I nomi dei menu variano leggermente tra le versioni di SillyTavern, quindi se un'etichetta è diversa, cerca il campo che accetta un URL endpoint; i valori restano gli stessi.
Un'onesta nota sul nome. Questo endpoint non è l'API GLM ufficiale di alcun fornitore e non instrada verso i modelli di altri fornitori. È un singolo modello a pesi aperti gestito da un provider indipendente, ottimizzato per rispondere senza rifiuti sui contenuti per l'uso adulto lecito. Ciò che condivide con le famiglie di modelli che le persone cercano sotto il nome GLM è l'interfaccia: un'API standard di completamento chat in stile OpenAI che le interfacce di roleplay sanno già come utilizzare.
A cosa ti stai connettendo
I fatti importanti per il roleplay, in un unico posto:
| Proprietà | Valore |
|---|---|
| Endpoint | POST /v1/chat/completions |
| ID modello | uncensored |
| Finestra di contesto | 100.000 token, prompt più risposta |
| Streaming | Sì, eventi inviati dal server |
| Sampler passati direttamente | temperature, top_p, stop, seed, penalità di presenza e frequenza |
| Prezzo | $0,15 per 1M input, $0,50 per 1M output |
| Limiti, chiave completa | 8 concorrenti, 300 al minuto |
| Limiti, chiave di prova | 2 concorrenti, 60 al minuto |
Il modello è pensato per narrativa, roleplay e app di compagnia utilizzate da adulti. Manterrà il personaggio e non interromperà la scena per farti una lezione. Una regola non ha eccezioni: il servizio rifiuta qualsiasi contenuto sessuale che coinvolga minorenni e le card dei personaggi che cercano di impostare tale scenario non funzioneranno. Mantieni le tue card e i prompt entro questi limiti.
I prompt non vengono utilizzati per l'addestramento, quindi i tuoi personaggi e i log delle chat non vengono restituiti a un modello. Passano comunque attraverso il provider per generare una risposta, come con qualsiasi API ospitata.
Impostazioni da modificare dopo la connessione
Apri il pannello di configurazione delle risposte AI (icona dei cursori). Non devi toccare molto, ma alcuni valori decidono come appare la chat e quanto costa.
Dimensione del contesto
Questo è il numero di token che SillyTavern invia con ogni richiesta: card del personaggio, lore, prompt di sistema e quanto chat recente entra. L'API permette fino a 100.000 token, ma non devi usarli tutti. Un'impostazione tra 16.000 e 32.000 mantiene le risposte pertinenti e tiene basso il costo. Aumentalo quando una storia lunga richiede che il modello ricordi dettagli lontani. Il calcolo più avanti mostra perché questo è importante.
Lunghezza massima della risposta
Imposta un limite adatto al tuo stile. 300-500 token sono adatti per scambi brevi, 800 o più per la scrittura di scene. Un valore più basso riduce anche l'attesa prima della fine di ogni risposta.
Streaming
Lascialo attivo. Le risposte appaiono parola per parola e puoi interromperne una che sta andando nella direzione sbagliata senza pagare il resto. Tieni presente che una richiesta in streaming occupa uno slot di concorrenza fino alla fine dello stream.
Temperatura e penalità
Inizia con una temperatura intorno a 0,8 e top_p intorno a 0,9. Se le risposte ripetono frasi, aggiungi una piccola penalità di frequenza come 0,3. Se il modello si allontana dalla card, abbassa la temperatura a 0,6. Questi sono punti di partenza da regolare a sensazione, non numeri magici, e il parametro seed viene passato se vuoi output ripetibili mentre regoli.
Formato di istruzione e prompt
Con l'origine Completamento chat, SillyTavern costruisce la lista dei messaggi da solo, quindi non devi scegliere un template di istruzione. Usa il gestore prompt per ordinare il prompt di sistema, la descrizione del personaggio, lo scenario e la cronologia delle chat, e mantieni le tue istruzioni di stile brevi e dirette.
Quanto costa una sessione di roleplay
Il roleplay è pesante in input. Ogni turno reinvia la card, la lore e la chat recente, e il modello risponde con qualche centinaio di token. Prendi un contesto di 30.000 token e una risposta da 300 token:
- Input: 30.000 / 1.000.000 x $0,15 = $0,0045
- Output: 300 / 1.000.000 x $0,50 = $0,00015
- Totale: $0,00465 per turno, quindi 100 turni costano $0,465
Ora confronta un contesto di 8.000 token con la stessa risposta: input è $0,0012, output è $0,00015, quindi $0,00135 per turno e $0,135 per 100 turni. Il contesto più piccolo costa circa un terzo. Il compromesso è che il modello vede meno cronologia, quindi potrebbe dimenticare un dettaglio di un'ora fa. Le voci del libro della lore e un breve riepilogo continuo ti permettono di mantenere i fatti importanti in un contesto piccolo.
Anche la cifra maggiore è modica. Un credito di prova di $0,50 copre circa 107 turni con 30.000 token di contesto ($0,50 / $0,00465), che è sufficiente per valutare se il modello si adatta ai tuoi personaggi. Dopo di che ricarichi con qualsiasi importo intero da $20 a $500 e il credito non scade mai. I bonus si applicano da $50 (+5%), $100 (+10%) e $200 (+15%). I numeri completi sono nella pagina dei prezzi.
Chat di gruppo e limite di concorrenza
Le chat di gruppo di SillyTavern inviano una richiesta per ogni personaggio che parla. Funzionalità come gli swipe, la rigenerazione e i riepiloghi in background possono anche avviare richieste a breve distanza. Se alcune di esse si sovrappongono, potresti vedere un errore 429 con il codice concurrency. Significa che erano in esecuzione troppe richieste contemporaneamente, non che c'è qualcosa che non va con la tua chiave.
Una chiave di prova consente 2 richieste parallele e 60 al minuto. Una chiave finanziata ne consente 8 e 300. Per restare entro il limite inferiore:
- Attendi che una risposta termini prima di rigenerarla.
- Nei gruppi, mantieni l'ordine delle risposte dei personaggi manuale o sequenziale invece di lasciare che diversi personaggi rispondano insieme.
- Disattiva le estensioni che avviano richieste su ogni messaggio, come i riepiloghi automatici, finché non hai una chiave finanziata.
L'API restituisce anche 429 con l'intestazione Retry-After: 5 quando è brevemente sovraccarica. In quel caso, attendi cinque secondi e premi di nuovo su Genera. Le richieste fallite e rifiutate non vengono addebitate, quindi non c'è alcun costo nel riprovare.
Risoluzione dei Problemi
Se il pulsante Connetti fallisce, testa la chiave al di fuori di SillyTavern per sapere quale lato ha il problema:
curl https://api.glmapikey.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Un elenco JSON che include uncensored significa che la chiave e l'URL sono corretti, e il problema è nei campi di SillyTavern.
- Lo stato rimane rosso o vedi un 404. L'endpoint probabilmente ha un percorso finale o manca
/v1. Usa esattamentehttps://api.glmapikey.com/v1. - Errore 401. La chiave è stata incollata con uno spazio o un a capo. Incollala di nuovo.
- Risposte troncate a metà frase. La tua lunghezza massima di risposta è troppo bassa. Aumentala.
- Le risposte ignorano il personaggio. La scheda viene probabilmente tagliata perché la dimensione del contesto è troppo piccola per essa. Aumenta il contesto o accorcia la scheda.
- La chiave smette di funzionare dopo un po'. Il credito di prova dura 7 giorni, quindi ricarica per continuare.
- SillyTavern su un telefono o un altro dispositivo non riesce a connettersi. Verifica che il dispositivo abbia accesso a Internet e che l'URL sia stato digitato esattamente, quindi esegui il test curl da quel dispositivo.
Per ulteriori informazioni sui campi e sulle intestazioni delle richieste, consulta la documentazione. Se vuoi capire come ottenere una chiave, la guida alla chiave GLM ti guida passo dopo passo.
