5つのステップで接続
これはglm api sillytavernセットアップ向けの最短手順です。SillyTavernがすでに実行中で、APIキーページでキーを作成済みであることを前提としています。
- SillyTavernの上部にあるプラグアイコン(API接続)を開きます。
- APIタイプを「Chat Completion」に設定します。
- Chat Completion ソースを「Custom (OpenAI-compatible)」に設定します。
- カスタムエンドポイントフィールドに
https://api.glmapikey.com/v1を貼り付け、カスタムAPIキーフィールドにAPIキーを入力します。 - モデルIDに
uncensoredを入力し、「接続」を押します。
ボタンの下に緑色のステータスライトとモデル名が表示されれば、接続は成功しています。キャラクターにメッセージを送信すると、返信がストリーミングで表示されるはずです。SillyTavernのバージョンによってメニュー名が少し異なる場合がありますが、エンドポイントURLを入力するフィールドを探してください。値は同じです。
名称に関する正直な注記です。このエンドポイントはどのベンダーの公式 GLM API でもなく、他のベンダーのモデルにルーティングもされません。これは独立したプロバイダが運営する単一のオープンウェイトモデルで、合法的な成人向け利用のためにコンテンツ拒否なしで回答するようにチューニングされています。GLM という名前で探されるモデルファミリーと共通しているのは、ロールプレイのフロントエンドがすでにやり取りの方法を知っている、標準的な OpenAI 互換のチャット補完 API であるインターフェースです。
接続先について
ロールプレイに重要な事実を1か所にまとめました:
| プロパティ | 内容 |
|---|---|
| エンドポイント | POST /v1/chat/completions |
| モデル ID | uncensored |
| コンテキスト長 | 100,000トークン(プロンプトと返信を含む) |
| ストリーミング | はい、サーバー送信イベントです |
| サンプラーの透過 | temperature, top_p, stop, seed, presence penalty, frequency penalty |
| 料金 | 入力 1M トークンあたり $0.15、出力 1M トークンあたり $0.50 |
| 制限(フルキー) | 同時8件、1分あたり300件 |
| 制限(トライアルキー) | 同時2件、1分あたり60件 |
このモデルは、成人が使用するフィクション、ロールプレイ、コンパニオンアプリ向けに設計されています。キャラクターを維持し、それについて説教するためにシーンを崩すことはありません。例外のないルールが1つあります。サービスは未成年者が関与するあらゆる性的コンテンツを拒否し、そのようなシナリオを設定しようとするキャラクターカードは機能しません。カードとプロンプトをそのラインの正しい側に保ってください。
プロンプトはトレーニングに使用されないため、キャラクターやチャットログはモデルに戻されません。ホスト型APIと同様、返信を生成するためにプロバイダを通過します。
接続後に設定を変更する価値がある項目
AIレスポンス設定パネル(スライダーアイコン)を開きます。多くの項目をいじる必要はありませんが、いくつかの値がチャットの雰囲気とコストを決定します。
コンテキストウィンドウのサイズ
これは SillyTavern が各リクエストで送信するトークンの数です:キャラクターカード、ロア、システムプロンプト、および収まる分の最新のチャット。API は最大 100,000 トークンを許可しますが、すべてを使用する必要はありません。16,000 から 32,000 の設定にすると、返信が主題に集中し、請求額も小さく抑えられます。長い物語でモデルが遠くの詳細を思い出す必要がある場合は、値を上げてください。下部の計算は、これがなぜ重要なのかを示しています。
最大応答長
あなたのスタイルに合った上限を設定します。短い会話には300〜500トークン、シーン書きには800以上が適しています。低い値に設定すると、各返信の終了までの待ち時間も短くなります。
ストリーミング
ストリーミングを有効にしてください。返信は単語ごとに現れ、間違った方向に進んだものを停止し、それ以降の分については支払う必要がありません。ストリーミングリクエストはストリーミングが終了するまで同時実行スロットを占有することに注意してください。
温度とペナルティ
temperatureは約0.8、top_pは約0.9から始めます。返信でフレーズが繰り返される場合は、0.3のような小さなfrequency penaltyを追加してください。モデルがキャラクターカードから逸脱する場合は、temperatureを0.6に下げてください。これらは魔法の数字ではなく、直感で調整するための出発点です。調整中に再現可能な出力が必要な場合は、seedパラメータが透過されます。
インストラクションとプロンプト形式
チャット完了ソースを使用すると、SillyTavernはメッセージリストを自身で構築するため、インストラクションテンプレートを選択する必要はありません。プロンプトマネージャーを使用して、システムプロンプト、キャラクターの説明、シナリオ、チャット履歴の順序を調整し、独自のスタイル指示を短く直接的に保ってください。
ロールプレイセッションのコスト
ロールプレイは入力が多い処理です。各ターンでカード、ロア、最新のチャットが再送信され、モデルは数百トークンの回答を返します。30,000 トークンのコンテキストと 300 トークンの返信を想定します:
- 入力:30,000 / 1,000,000 x $0.15 = $0.0045
- 出力:300 / 1,000,000 x $0.50 = $0.00015
- 合計:1ターンあたり$0.00465、つまり100ターンで$0.465
次に、8,000 トークンのコンテキストで同じ返信を比較します:入力は $0.0012、出力は $0.00015 で、ターンあたり $0.00135、100 ターンで $0.135 になります。小さいコンテキストは約 3 分の 1 の価格です。その代償として、モデルが履歴をあまり見ないため、1 時間前の詳細を忘れる可能性があります。ロアブックエントリと短い進行中の要約を使用することで、重要な事実を小さなコンテキスト内に保持できます。
大きな数字でさえ控えめです。$0.50のトライアルクレジットは、30,000トークンのコンテキストで約107ターン($0.50 / $0.00465)をカバーでき、モデルがあなたのキャラクターに適しているかどうかを判断するのに十分な量です。その後、$20から$500までの任意の整数額でチャージでき、クレジットは期限切れになりません。ボーナスは$50(+5%)、$100(+10%)、$200(+15%)から適用されます。正確な数字は価格ページにあります。
グループチャットと同時実行数の制限
SillyTavern のグループチャットでは、発言するキャラクターごとに 1 つのリクエストが送信されます。スワイプ、再生成、バックグラウンド要約などの機能も、連続してリクエストを開始することがあります。これらが重複すると、コード concurrency の 429 エラーが表示されることがあります。これはキーに問題があるのではなく、同時に実行されているリクエストが多すぎたことを意味します。
トライアルキーは同時リクエスト 2 つと 1 分あたり 60 リクエストを許可します。課金済みキーは 8 と 300 を許可します。低い制限内に留まるために:
- 再生成する前に、返信が完了するのを待ちます。
- グループでは、複数のキャラクターが同時に回答するのを許可するのではなく、キャラクターの返信順序を手動または順次にしてください。
- 残高のあるキーを用意するまで、自動要約など、メッセージごとにリクエストを発生させる拡張機能をオフにしてください。
APIは、一時的に過負荷になった場合、Retry-After: 5ヘッダー付きで429を返します。その場合は、5秒待ってから生成を再度押してください。失敗したリクエストと拒否されたリクエストは請求されないため、再試行してもコストはかかりません。
トラブルシューティング
接続ボタンが失敗した場合、SillyTavernの外でキーをテストして、どちら側に問題があるかを確認します:
curl https://api.glmapikey.com/v1/models \
-H "Authorization: Bearer $API_KEY"
uncensoredを含むJSONリストは、キーとURLが正しいことを意味し、問題はSillyTavernのフィールドにあります。
- ステータスが赤のまま、または404が表示される場合。エンドポイントに末尾のパスが含まれているか、
/v1が不足している可能性があります。正確にhttps://api.glmapikey.com/v1を使用してください。 - 401エラー。キーにスペースや改行が含まれて貼り付けられています。再度貼り付けてください。
- 返信が文の途中で切れる。 最大応答長が低すぎます。引き上げてください。
- 返信がキャラクターを無視する。 コンテキストサイズが小さすぎるため、カードが切り捨てられている可能性があります。コンテキストを増やすか、カードを短くしてください。
- キーがしばらくすると効かなくなる。 無料トライアルクレジットは7日間有効です。継続するにはチャージしてください。
- スマートフォンや他のデバイスでSillyTavernが接続できない。 デバイスがインターネットにアクセスできているか、URLが正確に入力されているかを確認し、そのデバイスからcurlテストを実行してください。
リクエストフィールドとヘッダーの詳細については、ドキュメントを参照してください。まず最初にキーを取得する方法を理解したい場合は、GLM キーの説明がその手順を示しています。
