Cách kết nối SillyTavern với API không giới hạn, không kiểm duyệt

Trước khi bắt đầu

• Một khóa APIlấy từ mục Khóa API trong không gian làm việc Unquant của bạn.
• Phiên bản SillyTavern gần đâycó nguồn hoàn thành hội thoại Tùy chỉnh (tương thích OpenAI).
• ID mô hình của bạnglm-5.3-flash cho GLM-5.3-Flash hoặc qwen-3.8-flash-next cho Qwen 3.8 Flash Next.

1. 1

   Mở mục Kết nối API

   Nhấp vào biểu tượng phích cắm ở đầu SillyTavern để mở mục Kết nối API.

2. 2

   Chọn loại kết nối

   Kết nối API

   APIHoàn thành hội thoại

   Nguồn hoàn thành hội thoạiTùy chỉnh (tương thích OpenAI)
3. 3

   Nhập điểm cuối, khóa API và mô hình

   Tùy chỉnh (tương thích OpenAI)

   Điểm cuối tùy chỉnh (URL cơ sở)https://api.unquant.io/v1

   Khóa API tùy chỉnhKhóa API Unquant của bạn

   ID mô hìnhglm-5.3-flash

   hoặc nếu bạn dùng gói Qwenqwen-3.8-flash-next

   Nhấn Kết nối. Trạng thái chuyển sang màu xanh khi khóa API được chấp nhận.

4. 4

   Đặt kích thước ngữ cảnh phù hợp với gói của bạn

   Mở Cấu hình phản hồi AI (biểu tượng các thanh trượt). SillyTavern cắt bớt lịch sử hội thoại theo Kích thước ngữ cảnh được đặt tại đó, nên giá trị quá nhỏ sẽ khiến bạn bỏ phí dung lượng ghi nhớ mà mình đang trả tiền để sử dụng.

   Kích thước ngữ cảnh

   GLM-5.3-Flash, mọi góitối đa 262.144 token

   Qwen Roleplay65.536 token

   Qwen Plus131.072 token

   Qwen Standard trở lên262.144 token
5. 5

   Truyền phản hồi theo luồng và suy luận

   • Truyền phản hồi theo luồngbật tính năng này để phản hồi hiện dần ngay khi được tạo.
   • Suy luậncả hai mô hình đều suy nghĩ trước khi trả lời và trả về phần suy nghĩ đó riêng biệt. Bật Yêu cầu mô hình cung cấp suy luận để có thể xem hoặc ẩn phần này, đồng thời giảm mức suy luận hoặc tắt hẳn để mỗi lượt phản hồi nhanh hơn (các tùy chọn điều khiển suy luận).

Vì sao nhập vai dài hơi hiệu quả hơn ở đây

Ba điều thường làm gián đoạn những mạch truyện nhập vai dài: mô hình từ chối ngay giữa cảnh, cửa sổ ngữ cảnh nhỏ đến mức quên cả hồi đầu, và hóa đơn tăng theo từng tin nhắn vì toàn bộ lịch sử được gửi lại ở mỗi lượt. Ở đây, cơ chế kiểm duyệt đã được loại bỏ ngay trong trọng số mô hình, ngữ cảnh lên đến 262K và mọi gói đều không giới hạn: gửi lại lịch sử 200K token một nghìn lần vẫn chỉ tốn cùng một mức phí cố định hằng tháng như gửi một lần.

Khắc phục sự cố