Zo verbind je SillyTavern met een onbeperkte, ongecensureerde API

Voordat je begint

• Een API-sleuteluit API-sleutels in je Unquant-werkruimte.
• Een recente versie van SillyTavernmet Aangepast (OpenAI-compatibel) als bron voor chatvoltooiing.
• Je model-IDglm-5.3-flash voor GLM-5.3-Flash of qwen-3.8-flash-next voor Qwen 3.8 Flash Next.

1. 1

   Open API-verbindingen

   Klik bovenaan in SillyTavern op het stekkerpictogram om API-verbindingen te openen.

2. 2

   Kies het verbindingstype

   API-verbindingen

   APIChatvoltooiing

   Bron voor chatvoltooiingAangepast (OpenAI-compatibel)
3. 3

   Vul het endpoint, de sleutel en het model in

   Aangepast (OpenAI-compatibel)

   Aangepast endpoint (basis-URL)https://api.unquant.io/v1

   Aangepaste API-sleutelJe Unquant-API-sleutel

   Model-IDglm-5.3-flash

   of, bij een Qwen-abonnementqwen-3.8-flash-next

   Klik op Verbinden. De status wordt groen zodra de sleutel is geaccepteerd.

4. 4

   Stem de contextgrootte af op je abonnement

   Open Instellingen voor AI-antwoorden (het pictogram met schuifregelaars). SillyTavern kort je gespreksgeschiedenis in tot de Contextgrootte die daar is ingesteld. Met een lage waarde laat je dus geheugen onbenut waarvoor je wel betaalt.

   Contextgrootte

   GLM-5.3-Flash, elk abonnementtot 262.144 tokens

   Qwen Roleplay65.536 tokens

   Qwen Plus131.072 tokens

   Qwen Standard en hoger262.144 tokens
5. 5

   Streaming en redeneren

   • Streamingschakel dit in om antwoorden te zien verschijnen terwijl ze worden geschreven.
   • Redenerenbeide modellen denken na voordat ze antwoorden en sturen hun denkproces afzonderlijk mee. Schakel Redenering van het model opvragen in om die te kunnen tonen of verbergen. Stel de redeneerinspanning lager in of schakel redeneren uit voor snellere reacties (instellingen voor redeneren).

Waarom lange rollenspellen hier beter werken

Drie dingen verstoren langlopende campagnes: weigeringen midden in een scène, een klein contextvenster waardoor de eerste akte wordt vergeten, en een rekening die met elk bericht oploopt doordat de volledige geschiedenis bij elke beurt opnieuw wordt verstuurd. Hier zijn de modellen op het niveau van de modelgewichten ongecensureerd, loopt de context op tot 262K en is elk abonnement onbeperkt: een geschiedenis van 200K tokens duizend keer opnieuw versturen kost hetzelfde vaste maandbedrag als één keer versturen.

Problemen oplossen