FR ▾
Obtenir une clé API

API GLM dans SillyTavern : configuration pour le jeu de rôle

SillyTavern peut se connecter à n'importe quel endpoint compatible OpenAI via sa source de complétion de conversation personnalisée, de sorte qu'une configuration API de style GLM ne prend qu'un écran. Voici les champs exacts, les paramètres raisonnables pour les longues sessions de jeu de rôle et les coûts à prévoir.

Mis à jour le

Écran avec des bulles de dialogue et un masque reliés par un câble à un serveur, illustrant le jeu de rôle avec une API

Points clés

  • Dans SillyTavern, choisissez Chat Completion, puis la source Custom (compatible OpenAI), et saisissez https://api.glmapikey.com/v1.
  • Saisissez uncensored comme ID de modèle. C'est le seul modèle servi par cette API.
  • La taille de la fenêtre de contexte détermine la facture, car chaque tour renvoie la conversation. Autour de 32 000 tokens est un choix par défaut économique et confortable.
  • Les conversations de groupe peuvent atteindre la limite de concurrence. Une clé d'essai permet 2 requêtes simultanées, une clé complète en permet 8.

Établissez la connexion en cinq étapes

C'est le chemin rapide pour les configurations glm api sillytavern. Il suppose que vous exécutez déjà SillyTavern et que vous avez créé une clé sur la page des clés API.

  1. Ouvrez l'icône de prise (API Connections) en haut de SillyTavern.
  2. Définissez le type d'API sur Chat Completion.
  3. Définissez la source de Chat Completion sur Personnalisé (compatible OpenAI).
  4. Collez https://api.glmapikey.com/v1 dans le champ de l'endpoint personnalisé et votre clé dans le champ de clé API personnalisée.
  5. Saisissez uncensored comme ID de modèle et appuyez sur Connect.

Un voyant d'état vert et un nom de modèle sous le bouton indiquent que la connexion fonctionne. Envoyez un message à un personnage et une réponse devrait apparaître en streaming. Les noms de menu varient légèrement selon les versions de SillyTavern, donc si une étiquette diffère, cherchez le champ qui accepte une URL d'endpoint ; les valeurs restent identiques.

Une note honnête sur le nom. Cet endpoint n'est pas l'API GLM officielle d'un quelconque fournisseur, et il ne redirige pas vers les modèles d'autres fournisseurs. Il s'agit d'un unique modèle à poids ouverts fourni par un prestataire indépendant, ajusté pour répondre sans refus de contenu pour un usage adulte légal. Ce qu'il partage avec les familles de modèles que les gens recherchent sous le nom GLM est l'interface : une API standard de chat completions de style OpenAI que les interfaces frontales de jeu de rôle savent déjà utiliser.

À quoi vous vous connectez

Les faits importants pour le jeu de rôle, en un seul endroit :

PropriétéValeur
EndpointPOST /v1/chat/completions
ID du modèleuncensored
Fenêtre de contexte100 000 tokens, prompt plus réponse
Diffusion en continuOui, événements envoyés par le serveur
Échantillonneurs transmistempérature, top_p, stop, seed, pénalités de présence et de fréquence
Prix$0,15 par 1 M d'entrée, $0,50 par 1 M de sortie
Limites, clé complète8 requêtes simultanées, 300 par minute
Limites, clé d'essai2 requêtes simultanées, 60 par minute

Le modèle est conçu pour la fiction, le jeu de rôle et les applications de compagnie utilisées par des adultes. Il restera en personnage et ne cassera pas la scène pour vous faire une leçon à ce sujet. Une règle n'a aucune exception : le service refuse tout contenu sexuel impliquant des mineurs, et les cartes de personnage qui tentent de mettre en place un tel scénario ne fonctionneront pas. Gardez vos cartes et prompts du bon côté de cette ligne.

Les prompts ne sont pas utilisés pour l'entraînement, donc vos personnages et journaux de conversation ne sont pas réinjectés dans un modèle. Ils passent toutefois par le fournisseur pour générer une réponse, comme avec n'importe quelle API hébergée.

Paramètres à modifier après la connexion

Ouvrez le panneau de configuration des réponses IA (icône curseurs). Vous n'avez pas besoin de toucher à beaucoup, mais certaines valeurs déterminent la sensation de la conversation et son coût.

Taille du contexte

C'est le nombre de tokens que SillyTavern envoie avec chaque requête : carte de personnage, lore, prompt système et autant de conversation récente que possible. L'API autorise jusqu'à 100 000 tokens, mais vous n'avez pas besoin de tout utiliser. Un réglage de 16 000 à 32 000 tokens maintient les réponses sur le sujet et réduit la facture. Augmentez-le lorsqu'une longue histoire nécessite que le modèle se souvienne de détails anciens. Le calcul plus bas montre pourquoi cela compte.

Longueur maximale de réponse

Définissez un plafond adapté à votre style. 300 à 500 tokens convient aux échanges courts, et 800 ou plus convient à l'écriture de scènes. Une valeur plus courte réduit également l'attente avant la fin de chaque réponse.

Diffusion en continu

Laissez-le activé. Les réponses apparaissent mot par mot, et vous pouvez arrêter une réponse qui a dérivé sans payer la suite. Notez qu'une requête en streaming occupe un créneau de concurrence jusqu'à la fin du flux.

Température et pénalités

Commencez avec une température autour de 0,8 et un top_p autour de 0,9. Si les réponses répètent des phrases, ajoutez une petite pénalité de fréquence comme 0,3. Si le modèle s'éloigne de la carte, réduisez la température à 0,6. Ce sont des points de départ à ajuster par ressenti, pas des nombres magiques, et le paramètre seed est transmis si vous voulez une sortie reproductible pendant le réglage.

Format d'instruction et de prompt

Avec la source de Chat Completion, SillyTavern construit la liste des messages lui-même, donc vous n'avez pas besoin de choisir un template d'instruction. Utilisez le gestionnaire de prompts pour ordonner le prompt système, la description du personnage, le scénario et l'historique de conversation, et gardez vos instructions de style personnelles courtes et directes.

Combien coûte une session de jeu de rôle

Le jeu de rôle est lourd en entrée. Chaque tour renvoie la carte, le lore et la conversation récente, et le modèle répond avec quelques centaines de tokens. Prenons une fenêtre de contexte de 30 000 tokens et une réponse de 300 tokens :

  • Entrée : 30 000 / 1 000 000 x 0,15 $ = 0,0045 $
  • Sortie : 300 / 1 000 000 x 0,50 $ = 0,00015 $
  • Total : 0,00465 $ par tour, donc 100 tours coûtent 0,465 $

Comparez maintenant une fenêtre de contexte de 8 000 tokens avec la même réponse : l'entrée coûte 0,0012 $, la sortie 0,00015 $, soit 0,00135 $ par tour et 0,135 $ pour 100 tours. La fenêtre plus petite coûte environ un tiers. L'échange est que le modèle voit moins d'historique, donc il peut oublier un détail d'il y a une heure. Les entrées du livre de lore et un résumé court en cours permettent de conserver les faits importants dans une petite fenêtre de contexte.

Même le montant le plus élevé est modeste. Un crédit d'essai de 0,50 $ couvre environ 107 tours avec une fenêtre de contexte de 30 000 tokens (0,50 $ / 0,00465 $), ce qui suffit pour juger si le modèle convient à vos personnages. Ensuite, vous rechargez avec n'importe quel montant entier de 20 $ à 500 $, et le crédit n'expire jamais. Des bonus s'appliquent à partir de 50 $ (+5 %), 100 $ (+10 %) et 200 $ (+15 %). Les montants exacts figurent sur la page tarifaire.

Conversations de groupe et limite de concurrence

Les conversations de groupe dans SillyTavern envoient une requête pour chaque personnage qui parle. Des fonctionnalités telles que les swipes, la régénération et les résumés en arrière-plan peuvent également déclencher des requêtes en succession rapide. Si plusieurs d'entre elles se chevauchent, vous pouvez voir une erreur 429 avec le code concurrency. Cela signifie qu'il y avait trop de requêtes en cours simultanément, et non qu'il y a un problème avec votre clé.

Une clé d'essai permet 2 requêtes concurrentes et 60 par minute. Une clé financée permet 8 et 300. Pour rester dans la limite inférieure :

  • Attendez qu'une réponse se termine avant de régénérer.
  • Dans les groupes, gardez l'ordre des réponses des personnages manuel ou séquentiel au lieu de laisser plusieurs personnages répondre ensemble.
  • Désactivez les extensions qui déclenchent des requêtes à chaque message, comme les résumés automatiques, jusqu'à ce que vous ayez une clé financée.

L'API retourne également 429 avec un en-tête Retry-After: 5 lorsqu'elle est brièvement surchargée. Dans ce cas, attendez cinq secondes et appuyez à nouveau sur générer. Les requêtes échouées et refusées ne sont pas facturées, donc il n'y a aucun coût à réessayer.

Dépannage

Si le bouton Connect échoue, testez la clé en dehors de SillyTavern pour savoir quel côté a le problème :

curl https://api.glmapikey.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Une liste JSON incluant uncensored signifie que la clé et l'URL sont correctes, et que le problème vient des champs de SillyTavern.

  • Le statut reste rouge ou vous voyez une erreur 404. L'endpoint a probablement un chemin en trop ou il manque /v1. Utilisez exactement https://api.glmapikey.com/v1.
  • Erreur 401. La clé a été collée avec un espace ou un saut de ligne. Collez-la à nouveau.
  • Les réponses sont coupées en plein milieu d’une phrase. Votre longueur de réponse maximale est trop faible. Augmentez-la.
  • Les réponses ignorent le personnage. La carte est probablement tronquée car la taille de la fenêtre de contexte est trop petite pour celle-ci. Augmentez la fenêtre de contexte ou réduisez la carte.
  • La clé cesse de fonctionner après un certain temps. Le crédit d'essai gratuit dure 7 jours ; rechargez votre compte pour continuer.
  • SillyTavern sur un téléphone ou un autre appareil ne parvient pas à se connecter. Vérifiez que l’appareil dispose d’un accès Internet et que l’URL a été saisie exactement, puis exécutez le test curl depuis cet appareil.

Pour en savoir plus sur les champs de requête et les en-têtes, consultez la documentation. Si vous souhaitez comprendre comment obtenir une clé, le guide d’explication des clés GLM vous le montre étape par étape.

Questions et réponses

Quelle source dois-je sélectionner dans SillyTavern ?

Choisissez « Chat Completion » comme type d’API et « Custom (compatible OpenAI) » comme source. Saisissez ensuite l’URL de base, votre clé et l’ID de modèle uncensored.

S'agit-il de l'API GLM officielle ?

Non. Il s’agit d’un seul modèle à poids ouverts exécuté par un fournisseur indépendant derrière une interface compatible OpenAI. Ce n’est pas l’API officielle d’un quelconque fournisseur de modèle.

Combien coûte une session de jeu de rôle ?

Avec une fenêtre de contexte de 30 000 tokens et des réponses de 300 tokens, un tour coûte environ 0,00465 $, soit environ 0,47 $ pour 100 tours. Une fenêtre de contexte plus réduite réduit ce montant.

Puis-je l’utiliser pour du jeu de rôle pour adultes ?

Le modèle est ajusté pour répondre sans refus de contenu pour un usage adulte légal, dans les applications de fiction et de compagnon. Le contenu sexuel impliquant des mineurs est toujours interdit.

Pourquoi obtiens-je des erreurs 429 dans les conversations de groupe ?

Les chats de groupe envoient plusieurs requêtes simultanément, et la clé d’essai ne permet que 2 requêtes simultanées. Attendez la fin des réponses ou passez à une clé complète qui permet 8 requêtes.

Votre clé n'est qu'à un formulaire d'ici

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé API