VI ▾
Lấy khóa API

Cấu hình API SillyTavern: Hướng dẫn kết nối tương thích OpenAI

Hướng dẫn bạn cách cấu hình API SillyTavern, bao gồm các điểm dễ nhầm lẫn như điểm kết nối, khóa, tên mô hình và giá trị ngữ cảnh, kèm theo các lệnh xác minh.

Ngày cập nhật

Điểm chính

  • Chọn chế độ kết nối tùy chỉnh tương thích OpenAI cho Chat Completion
  • URL là https://api.mukenetsuapi.com/v1, tên mô hình là uncensored
  • Bạn có thể dùng tới 100.000 token, nhưng để cân bằng chi phí và tốc độ, bạn nên giới hạn lại.
  • 401 là vấn đề về khóa, 404 là URL, còn 429 là dấu hiệu bạn nên nghi ngờ về việc vượt quá giới hạn đồng thời hoặc số lượng yêu cầu.
Hình ảnh minh họa kết nối API của SillyTavern: mặt nạ  của ứng dụng và phích cắm máy chủ được nối bằng cáp phát sáng.

Chuẩn bị 3 thứ cần thiết trước

Cấu hình API của sillytavern có các bước ngắn gọn, nhưng nhiều điểm dễ sai sót là do nhập sai giá trị. Hãy chuẩn bị sẵn 3 mục sau đây.

  • Khóa API: Tạo tại trang lấy khóa API. Sau khi đăng ký, bạn có thể nhận tín dụng dùng thử miễn phí $0,50 chỉ với một cú nhấp chuột.
  • Base URL: https://api.mukenetsuapi.com/v1
  • Tên mô hình: uncensored

SillyTavern là giao diện người dùng hỗ trợ thêm endpoint tương thích OpenAI. Vì API này tương thích OpenAI, bạn không cần dùng endpoint chính thức của OpenAI mà có thể đăng ký một endpoint tùy chỉnh.

Hướng dẫn kết nối

Văn bản trong menu có thể thay đổi theo phiên bản. Dưới đây là quy trình chung. Nếu khác, hãy tham khảo thêm tài liệu chính thức của SillyTavern.

  1. Mở mục “API Connections” (biểu tượng phích cắm) ở phía trên.
  2. Chọn loại API là “Chat Completion”.
  3. Trong danh sách nguồn, chọn kết nối tùy chỉnh (Custom) tương thích OpenAI.
  4. Nhập https://api.mukenetsuapi.com/v1 vào URL endpoint. Không thêm /chat/completions ở cuối.
  5. Dán khóa API đã tạo vào ô khóa API. Đảm bảo không có khoảng trắng thừa ở đầu hoặc cuối.
  6. Đặt tên mô hình thành uncensored. Nếu có thể chọn từ danh sách thì hãy chọn, nếu phải nhập thủ công thì hãy gõ chính xác.
  7. Nhấn nút kết nối và kiểm tra xem thông báo thành công có hiển thị không.

Bạn nên xác minh khóa và URL bằng terminal trước khi kết nối để dễ dàng xác định nguyên nhân nếu có sự cố.

curl https://api.mukenetsuapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "こんにちは"}], "max_tokens": 50}'

Nếu nhận được phản hồi, nghĩa là khóa, URL và tên mô hình đều chính xác. Nếu SillyTavern vẫn lỗi trong trường hợp này, bạn hãy kiểm tra lại các giá trị nhập trong ứng dụng.

Xác định độ dài ngữ cảnh và phản hồi

Ngữ cảnh của API này cho phép sử dụng tối đa 100.000 token cho cả prompt và đầu ra. Tuy nhiên, bạn không nên đặt kích thước ngữ cảnh của SillyTavern ở mức tối đa vì mỗi lần gửi đi sẽ bao gồm cài đặt nhân vật, bối cảnh thế giới và lịch sử, nên giá trị càng lớn thì lượng dữ liệu đầu vào mỗi lần càng nhiều.

Ví dụ tính chi phí

Nếu bạn sử dụng 16.000 token cho ngữ cảnh và phản hồi là 300 token, chi phí cho mỗi thông báo sẽ như sau:

  • Đầu vào: 16.000 ÷ 1.000.000 × $0,15 = $0,0024
  • Đầu ra: 300 ÷ 1.000.000 × $0,50 = $0,00015
  • Tổng cộng: $0,00255

100 tin nhắn tốn $0,255. Nếu giảm cửa sổ ngữ cảnh xuống còn 8.000, lượng token ở phía đầu vào sẽ giảm đi khoảng một nửa. Xem chi tiết đơn giá tại trang giá.

Hướng dẫn tham khảo

Nếu không phải truyện dài hay cảnh nhiều nhân vật, bạn nên bắt đầu với mức 8.000 đến 16.000 token. Khi cảm thấy nhân vật quên các sự kiện trong quá khứ, hãy tăng lên. Độ dài phản hồi tối đa nên khớp với độ dài bạn muốn đọc cho một lần trả lời. Tham số max_tokens là tùy chọn, nhưng bạn sẽ an tâm hơn nếu đặt giới hạn trên phía SillyTavern khi muốn tránh phản hồi quá dài.

Cách tiếp cận cài đặt lấy mẫu

temperature, top_p, stop, seed và các mức phạt khác sẽ được chuyển trực tiếp sang API. Bạn có thể điều chỉnh chúng thông qua các bộ cài đặt sẵn của SillyTavern.

  • Tiếp tục lặp lại cùng một cách diễn đạt: tăng nhẹ hình phạt frequency và presence.
  • Phản hồi lan man: giảm temperature.
  • Đơn điệu: tăng nhẹ temperature.
  • So sánh: cố định seed, thay đổi từng giá trị một.

Tên các mục trong preset khác nhau tùy theo phiên bản SillyTavern. Nếu cài đặt không có hiệu lực, hãy kiểm tra xem phương thức kết nối bạn đang sử dụng có hỗ trợ mục đó không hoặc tham khảo tài liệu của SillyTavern.

Lỗi thường gặp và cách khắc phục

Triệu chứngNguyên nhân có thểCách xử lý
401Khóa không đúng, có lẫn khoảng trắngDán lại khóa và thử lại bằng curl với cùng khóa đó.
404URL không đúngKiểm tra xem có kết thúc bằng /v1 không.
Không tìm thấy mô hìnhChính tả tên mô hìnhNhập uncensored bằng chữ thường.
429 (concurrency)Quá nhiều yêu cầu đồng thờiGiảm việc nhấn liên tục hoặc tạo đồng thời trong nhóm chat.
429 (rate_limited)Vượt quá số lần mỗi phútĐợi một chút.
429 (kèm Retry-After: 5)Tắc nghẽn tạm thờiĐợi 5 giây rồi thử lại.

Giới hạn khóa đầy đủ là 8 đồng thời, 300 mỗi phút; khóa dùng thử là 2 đồng thời, 60 mỗi phút. Phản hồi truyền phát (streaming) chiếm 1 slot kết nối đồng thời cho đến khi hoàn tất. Khi chạy nhóm trò chuyện với khóa dùng thử, slot sẽ nhanh chóng bị lấp đầy.

Bạn có thể kiểm tra xem số dư có đủ không bằng lệnh sau.

curl https://api.mukenetsuapi.com/v1/balance \
  -H "Authorization: Bearer YOUR_API_KEY"

Bạn cũng có thể đọc từ tiêu đề phản hồi X-Balance-USD. Để xem danh sách mô hình, hãy sử dụng GET /v1/models.

curl https://api.mukenetsuapi.com/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

Lưu ý khi sử dụng

API này chỉ dành cho văn bản. Để sử dụng tính năng tạo ảnh hoặc giọng nói của SillyTavern, bạn cần dịch vụ khác. Nội dung được thiết kế cho các tác phẩm hư cấu như tiểu thuyết, nhập vai và ứng dụng bạn đời trong phạm vi sử dụng người lớn hợp pháp. Các nội dung tình dục có liên quan đến người chưa thành niên sẽ không được tạo ra ở bất kỳ cài đặt nào. Prompt không được dùng cho việc học của mô hình.

Các tham số chi tiết hơn có trong tài liệu. Thanh toán bằng USDT (TRC20) hoặc USDC (Base) với số tiền nguyên từ $20 đến $500.

Hướng dẫn khác

Câu hỏi thường gặp

Tên mô hình dùng trong SillyTavern là gì?

uncensored. Vui lòng nhập chữ thường, nhập đúng như vậy.

Có cần thêm /chat/completions vào cuối URL không?

Không cần. Base URL chỉ cần đến /v1, phần đường dẫn còn lại sẽ do ứng dụng thêm vào.

Khóa dùng thử có đủ không?

Đủ để kiểm tra kết nối và trò chuyện ngắn. Tuy nhiên, khóa dùng thử bị giới hạn ở 2 đồng thời, 60 mỗi phút và có thời hạn 7 ngày, vì vậy nếu sử dụng nhóm chat, bạn hãy nạp tiền cho khóa thông thường.

Có thể tạo hình ảnh không?

Không thể. API này chỉ dành cho văn bản và không hỗ trợ tạo hình ảnh, âm thanh hay video.

Nên đặt context window bao nhiêu?

Tối đa là 100.000 token, nhưng thực tế là nên thử với 8.000 đến 16.000 trước. Kích thước lớn hơn sẽ làm tăng lượng đầu vào mỗi lần và tốn kém chi phí hơn.

Bạn có thể lấy khóa API chỉ với 1 biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi Base URL. Chỉ cần vậy là bạn đã hoàn tất cài đặt.

Lấy khóa API