Conecta en cinco pasos
Esta es la vía rápida para configuraciones de glm api sillytavern. Asume que ya ejecutas SillyTavern y has creado una clave en la página de clave de API.
- Abre el icono de enchufe (Conexiones de API) en la parte superior de SillyTavern.
- Establece el tipo de API en Completado de chat.
- Establece el Origen de Completado de chat en Personalizado (compatible con OpenAI).
- Pega
https://api.glmapikey.com/v1en el campo de endpoint personalizado y tu clave en el campo de clave de API personalizada. - Ingresa
uncensoredcomo ID de modelo y presiona Conectar.
Una luz de estado verde y un nombre de modelo debajo del botón significan que la conexión funciona. Envía un mensaje a un personaje y debería aparecer una respuesta en streaming. Los nombres de menú varían ligeramente entre versiones de SillyTavern, así que si una etiqueta difiere, busca el campo que acepta una URL de endpoint; los valores permanecen iguales.
Una nota honesta sobre el nombre. Este endpoint no es la API GLM oficial de ningún proveedor, y no enruta a los modelos de otros proveedores. Es un único modelo de pesos abiertos ejecutado por un proveedor independiente, ajustado para responder sin rechazos de contenido para uso adulto legal. Lo que comparte con las familias de modelos que la gente busca bajo el nombre GLM es la interfaz: una API estándar de completado de chat estilo OpenAI que las interfaces de rol ya saben cómo usar.
A qué te estás conectando
Los datos importantes para el rol, en un solo lugar:
| Propiedad | Valor |
|---|---|
| Endpoint | POST /v1/chat/completions |
| ID del modelo | uncensored |
| Ventana de contexto | 100.000 tokens, prompt más respuesta |
| Transmisión | Sí, eventos enviados por el servidor |
| Muestreadores pasados directamente | temperature, top_p, stop, seed y penalizaciones de presencia y frecuencia |
| Precio | $0,15 por 1M de entrada, $0,50 por 1M de salida |
| Límites, clave completa | 8 simultáneos, 300 por minuto |
| Límites, clave de prueba | 2 simultáneos, 60 por minuto |
El modelo está pensado para ficción, rol y aplicaciones de compañía usadas por adultos. Mantendrá el personaje y no romperá la escena para darte una lección. Una regla no tiene excepciones: el servicio rechaza cualquier contenido sexual que involucre menores de edad, y las tarjetas de personaje que intenten configurar tal escenario no funcionarán. Mantén tus tarjetas y prompts dentro de ese límite.
Los prompts no se usan para entrenamiento, por lo que tus personajes y registros de chat no se retroalimentan en un modelo. Sin embargo, pasan por el proveedor para generar una respuesta, como con cualquier API alojada.
Ajustes que vale la pena cambiar después de conectarte
Abre el panel de Configuración de Respuesta de IA (el icono de deslizadores). No necesitas tocar mucho, pero algunos valores determinan cómo se siente el chat y cuánto cuesta.
Tamaño del contexto
Este es el número de tokens que SillyTavern envía con cada petición: tarjeta de personaje, lore, prompt del sistema y tanto chat reciente como quepa. La API permite hasta 100.000 tokens, pero no tienes que usarlos todos. Un ajuste de 16.000 a 32.000 mantiene las respuestas enfocadas y mantiene la factura baja. Auméntalo cuando una historia larga necesite que el modelo recuerde detalles antiguos. El cálculo más abajo muestra por qué esto importa.
Longitud máxima de respuesta
Establece un límite que se adapte a tu estilo. 300 a 500 tokens se adaptan a intercambios cortos, y 800 o más se adaptan a la escritura de escenas. Un valor más corto también acorta la espera antes de que termine cada respuesta.
Transmisión
Déjalo activado. Las respuestas aparecen palabra por palabra, y puedes detener una que haya ido por mal camino y no pagar por el resto. Ten en cuenta que una petición de streaming ocupa una ranura de concurrencia hasta que termina el stream.
Temperatura y penalizaciones
Comienza con temperature alrededor de 0,8 y top_p alrededor de 0,9. Si las respuestas repiten frases, añade una pequeña penalización de frecuencia como 0,3. Si el modelo se desvía de la tarjeta, baja la temperature a 0,6. Estos son puntos de partida para ajustar por intuición, no números mágicos, y el parámetro seed se pasa directamente si quieres salida repetible mientras ajustas.
Formato de instrucción y prompt
Con el origen Chat Completion, SillyTavern construye la lista de mensajes por sí mismo, así que no necesitas elegir una plantilla de instrucción. Usa el gestor de prompts para ordenar el prompt del sistema, descripción del personaje, escenario e historial de chat, y mantén tus propias instrucciones de estilo cortas y directas.
Cuánto cuesta una sesión de roleplay
El rol es intensivo en entrada. Cada turno reenvía la tarjeta, el lore y el chat reciente, y el modelo responde con unos pocos cientos de tokens. Toma un contexto de 30.000 tokens y una respuesta de 300 tokens:
- Entrada: 30.000 / 1.000.000 x $0,15 = $0,0045
- Salida: 300 / 1.000.000 x $0,50 = $0,00015
- Total: $0,00465 por turno, por lo que 100 turnos cuestan $0,465
Ahora compara un contexto de 8.000 tokens con la misma respuesta: la entrada es $0,0012, la salida es $0,00015, por lo que $0,00135 por turno y $0,135 para 100 turnos. El contexto más pequeño cuesta aproximadamente un tercio. El intercambio es que el modelo ve menos historial, por lo que puede olvidar un detalle de hace una hora. Las entradas del libro de lore y un resumen corto en ejecución te permiten mantener los datos importantes en un contexto pequeño.
Incluso la cifra mayor es modesta. Un crédito de prueba de $0,50 cubre aproximadamente 107 turnos con 30.000 tokens de contexto ($0,50 / $0,00465), lo cual es suficiente para juzgar si el modelo se adapta a tus personajes. Después de eso, recargas con cualquier cantidad entera desde $20 hasta $500, y el crédito no caduca. Los bonos aplican desde $50 (+5%), $100 (+10%) y $200 (+15%). Los números completos están en la página de precios.
Chats grupales y el límite de concurrencia
Los chats grupales de SillyTavern envían una petición por cada personaje que habla. Funciones como swipes, regenerate y resúmenes en segundo plano también pueden iniciar peticiones en rápida sucesión. Si varias se superponen, puedes ver un error 429 con el código concurrency. Significa que había demasiadas peticiones ejecutándose a la vez, no que haya algo mal con tu clave.
Una clave de prueba permite 2 peticiones simultáneas y 60 por minuto. Una clave financiada permite 8 y 300. Para permanecer dentro del límite inferior:
- Espera a que termine una respuesta antes de regenerar.
- En grupos, mantén el orden de respuesta de los personajes como manual o secuencial en lugar de dejar que varios personajes respondan juntos.
- Desactiva las extensiones que disparan peticiones en cada mensaje, como auto-resúmenes, hasta que tengas una clave financiada.
La API también devuelve 429 con un encabezado Retry-After: 5 cuando está brevemente sobrecargada. En ese caso, espera cinco segundos y presiona generar de nuevo. Las peticiones fallidas y rechazadas no se cobran, por lo que no hay coste por intentarlo de nuevo.
Solución de problemas
Si el botón Conectar falla, prueba la clave fuera de SillyTavern para saber qué lado tiene el problema:
curl https://api.glmapikey.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Una lista JSON que incluye uncensored significa que la clave y la URL son correctas, y el fallo está en los campos de SillyTavern.
- El estado permanece rojo o ves un 404. El endpoint probablemente tiene una ruta final o le falta
/v1. Usa exactamentehttps://api.glmapikey.com/v1. - Error 401. La clave se pegó con un espacio o salto de línea. Pégala de nuevo.
- Respuestas cortadas a mitad de frase. Tu longitud máxima de respuesta es demasiado baja. Auméntala.
- Las respuestas ignoran al personaje. Es probable que la tarjeta se esté recortando porque el tamaño de la ventana de contexto es demasiado pequeño. Aumenta la ventana de contexto o acorta la tarjeta.
- La clave deja de funcionar después de un tiempo. El crédito de prueba dura 7 días, así que recarga para continuar.
- SillyTavern en un teléfono u otro dispositivo no puede conectarse. Verifica que el dispositivo tenga acceso a internet y que la URL se haya escrito exactamente, luego ejecuta la prueba curl desde ese dispositivo.
Para más información sobre los campos y encabezados de las peticiones, consulta la documentación. Si quieres entender cómo obtener una clave desde cero, el explicador de claves GLM lo detalla paso a paso.
