วิธีตั้งค่า API SillyTavern: เชื่อมต่อแบบ OpenAI
อธิบายค่าการตั้งค่า API ของ SillyTavern ที่มักสับสน ได้แก่ จุดเชื่อมต่อ คีย์ ชื่อโมเดล และค่าคอนเท็กซ์ พร้อมคำสั่งสำหรับตรวจสอบ
วันที่ปรับปรุง
คะแนน
- เลือกวิธีการเชื่อมต่อแบบกำหนดเองของ Chat Completion (เข้ากันได้กับ OpenAI)
- URL คือ https://api.mukenetsuapi.com/v1 ชื่อโมเดลคือ uncensored
- คอนเท็กซ์รองรับได้สูงสุด 100,000 แต่เพื่อประหยัดค่าใช้จ่ายและรักษาความเร็ว การจำกัดค่าจึงเป็นทางเลือกที่สมจริงกว่า
- 401 ให้สงสัยเรื่องคีย์, 404 ให้สงสัยเรื่อง URL, 429 ให้สงสัยเรื่องการเกินขีดจำกัดคำขอพร้อมกันหรือจำนวนคำขอ

เตรียมสิ่งจำเป็น 3 อย่างก่อน
ขั้นตอนการตั้งค่า API ของ SillyTavern นั้นสั้น แต่จุดที่มักติดขัดคือความผิดพลาดในการกรอกค่า กรุณาเตรียม 3 สิ่งต่อไปนี้ไว้ล่วงหน้า
- API key: ออกได้ที่ หน้ารับ API key หลังจากสมัครสมาชิกใหม่ คุณสามารถรับเครดิตทดลองใช้มูลค่า $0.50 ได้เพียงคลิกเดียว
- Base URL:
https://api.mukenetsuapi.com/v1 - ชื่อโมเดล:
uncensored
SillyTavern เป็นหน้าเว็บที่สามารถเพิ่มเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ได้ เนื่องจาก API นี้เข้ากันได้กับ OpenAI คุณจึงไม่จำเป็นต้องใช้ OpenAI โดยตรง แต่สามารถลงทะเบียนเป็นเอนด์พอยต์แบบกำหนดเองได้
ขั้นตอนการเชื่อมต่อ
ข้อความในเมนูอาจแตกต่างกันไปตามเวอร์ชัน ที่นี่จะอธิบายขั้นตอนทั่วไป หากไม่ตรงกัน โปรดดูเอกสารของ SillyTavern ด้วย
- เปิดเมนู "API Connections" (ไอคอนปลั๊ก) ที่ด้านบน
- เลือกประเภท API เป็น "Chat Completion"
- จากรายการแหล่งข้อมูล ให้เลือกการเชื่อมต่อแบบกำหนดเองที่เข้ากันได้กับ OpenAI (Custom)
- ใส่ URL ของเอนด์พอยต์เป็น
https://api.mukenetsuapi.com/v1ไม่ต้องเพิ่ม/chat/completionsต่อท้าย - วางคีย์ API ที่สร้างไว้ลงในช่องคีย์ API โดยอย่าให้มีช่องว่างนำหน้าหรือตามหลัง
- ตั้งชื่อโมเดลเป็น
uncensoredหากสามารถเลือกจากรายการได้ให้เลือก หากต้องพิมพ์เองให้พิมพ์ตามนั้น - กดปุ่มเชื่อมต่อและตรวจสอบว่ามีข้อความแสดงความสำเร็จ
ก่อนเชื่อมต่อ การตรวจสอบคีย์และ URL ในเทอร์มินัลก่อนจะช่วยให้การแยกแยะสาเหตุของปัญหาได้ง่ายขึ้น
curl https://api.mukenetsuapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "こんにちは"}], "max_tokens": 50}'หากมีการส่งคำตอบกลับมา แสดงว่าคีย์ URL และชื่อโมเดลถูกต้อง หาก SillyTavern ล้มเหลวในสถานะนี้ คุณสามารถสงสัยการป้อนข้อมูลของแอปพลิเคชันได้
กำหนดความยาวของบริบทและการตอบกลับ
บริบทของ API นี้รองรับการรวมพรอมต์และผลลัพธ์ได้สูงสุด 100,000 โทเคน อย่างไรก็ตาม ไม่แนะนำให้ตั้งค่าขนาดบริบทของ SillyTavern ให้สูงสุด เนื่องจากคุณต้องส่งการตั้งค่าตัวละคร โลกของตัวละคร และประวัติใหม่ทุกครั้ง ซึ่งค่าที่ใหญ่ขึ้นจะทำให้ปริมาณข้อมูลนำเข้าต่อครั้งเพิ่มขึ้น
ตัวอย่างการคำนวณค่าใช้จ่าย
หากใช้บริบทสูงสุด 16,000 โทเคน และการตอบกลับมี 300 โทเคน ค่าใช้จ่ายต่อข้อความจะเป็นดังนี้
- อินพุต: 16,000 ÷ 1,000,000 × $0.15 = $0.0024
- เอาต์พุต: 300 ÷ 1,000,000 × $0.50 = $0.00015
- รวม: $0.00255
ราคา $0.255 ต่อ 100 ข้อความ หากลดขนาดหน้าต่างบริบทลงเหลือ 8,000 โทเคน ต้นทุนฝั่งอินพุตจะลดลงประมาณครึ่งหนึ่ง ดูรายละเอียดราคา หน้าราคา
แนวทาง
หากไม่ใช่เรื่องราวที่ยาวนานหรือฉากที่มีตัวละครจำนวนมาก การเริ่มต้นที่ 8,000 ถึง 16,000 แล้วเพิ่มค่าเมื่อรู้สึกว่าตัวละครลืมเหตุการณ์ในอดีตเป็นวิธีที่สมจริง ความยาวสูงสุดของการตอบกลับควรปรับให้ตรงกับระยะเวลาที่คุณต้องการอ่านในการตอบกลับหนึ่งครั้ง max_tokens สามารถละเว้นได้ แต่หากคุณต้องการหลีกเลี่ยงการตอบกลับที่ยาวเกินไป การตั้งค่าขีดจำกัดที่ฝั่ง SillyTavern ก็ช่วยให้มั่นใจได้
แนวคิดการตั้งค่าการสุ่มตัวอย่าง
temperature, top_p, stop, seed และค่าปรับต่างๆ จะถูกส่งต่อไปยัง API โดยตรง คุณสามารถปรับค่าเหล่านี้ผ่านพรีเซ็ตของ SillyTavern ได้
- การพูดซ้ำเดิม: เพิ่มค่าปรับ frequency และ presence เล็กน้อย
- คำตอบกระจาย: ลดค่า temperature
- จำเจ: เพิ่มค่า temperature เล็กน้อย
- เปรียบเทียบ: กำหนด seed ให้คงที่ แล้วเปลี่ยนค่าทีละ 1
ชื่อรายการค่ากำหนดเริ่มต้นอาจแตกต่างกันไปตามเวอร์ชันของ SillyTavern หากการตั้งค่าไม่ถูกนำไปใช้ โปรดตรวจสอบว่าวิธีการเชื่อมต่อที่คุณใช้รองรับรายการดังกล่าว หรือดูเอกสารของ SillyTavern
ข้อผิดพลาดที่พบบ่อยและวิธีแก้ไข
| อาการ | สาเหตุที่เป็นไปได้ | วิธีแก้ไข |
|---|---|---|
| 401 | คีย์ไม่ตรงหรือมีช่องว่างปนอยู่ | วางคีย์ใหม่แล้วทดสอบด้วย curl |
| 404 | URL ไม่ถูกต้อง | ตรวจสอบว่าลงท้ายด้วย /v1 หรือไม่ |
| ไม่พบโมเดล | การสะกดชื่อโมเดล | ใส่ uncensored เป็นตัวพิมพ์เล็ก |
429 (concurrency) | คำขอพร้อมกันมากเกินไป | ลดการกดสไลปซ้ำหรือการสร้างพร้อมกันในแชทกลุ่ม |
429 (rate_limited) | เกินจำนวนต่อนาที | รอสักครู่ |
429 (มี Retry-After: 5) | การจราจรชั่วคราว | รอ 5 วินาทีแล้วลองใหม่ |
คีย์เต็มรองรับพร้อมกัน 8 คำขอ และ 300 คำขอต่อนาที คีย์ทดลองรองรับพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที การตอบแบบสตรีมมิงจะใช้กรอบการเชื่อมต่อพร้อมกัน 1 ช่องจนกว่าจะเสร็จสิ้น หากใช้คีย์ทดลองกับแชทกลุ่ม กรอบจะเต็มทันที
คุณสามารถตรวจสอบยอดคงเหลือด้วยคำสั่งต่อไปนี้
curl https://api.mukenetsuapi.com/v1/balance \
-H "Authorization: Bearer YOUR_API_KEY"สามารถอ่านได้จาก X-Balance-USD ของส่วนหัวการตอบกลับ การตรวจสอบรายการโมเดลคือ GET /v1/models
curl https://api.mukenetsuapi.com/v1/models \
-H "Authorization: Bearer YOUR_API_KEY"ข้อควรระวังในการใช้งาน
API นี้รองรับเฉพาะข้อความ หากต้องการใช้ฟีเจอร์สร้างภาพหรือเสียงใน SillyTavern จำเป็นต้องใช้บริการอื่น เนื้อหาออกแบบมาเพื่อสมมติสถานการณ์นิยาย แรลเพลย์ หรือแอปเพื่อนคู่คิด ภายใต้ขอบเขตการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย เนื้อหาทางเพศที่มีผู้เยาว์เกี่ยวข้องจะถูกบล็อกในทุกการตั้งค่า พรอมต์ไม่ถูกนำไปใช้ในการเรียนรู้ของโมเดล
ดูพารามิเตอร์เพิ่มเติมได้ที่ เอกสาร ส่วนการชำระเงินเป็นจำนวนเต็มของ USDT (TRC20) หรือ USDC (Base) ในวงเงิน $20 ถึง $500
คู่มืออื่นๆ
คำถามที่พบบ่อย
ชื่อโมเดลที่ใช้กับ SillyTavern คืออะไร
เป็น uncensored พิมพ์ด้วยตัวพิมพ์เล็กตามนั้น
จำเป็นต้องใส่ /chat/completions ที่ท้าย URL หรือไม่
ไม่จำเป็น Base URL คือ /v1 ส่วนเส้นทางที่เหลือแอปพลิเคชันจะเพิ่มให้เอง
ใช้คีย์ทดลองก็เพียงพอแล้วหรือ
เพียงพอสำหรับการตรวจสอบการเชื่อมต่อหรือบทสนทนาสั้นๆ แต่คีย์ทดลองจำกัดที่พร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที และมีอายุ 7 วัน หากใช้แชทกลุ่มควรเติมเงินเป็นคีย์ปกติ
สามารถสร้างภาพได้หรือไม่
ไม่ได้ API นี้รองรับเฉพาะข้อความ ไม่รองรับการสร้างภาพ เสียง หรือวิดีโอ
ควรตั้งค่า context window เป็นเท่าไหร่
สูงสุดคือ 100,000 โทเคน แต่ในทางปฏิบัติควรเริ่มทดสอบที่ 8,000 ถึง 16,000 โทเคน ขนาดหน้าต่างบริบทที่ใหญ่ขึ้นทำให้ปริมาณข้อมูลนำเข้าต่อคำขอเพิ่มขึ้น ซึ่งส่งผลให้ต้นทุนสูงขึ้น
คีย์ API สามารถรับได้ผ่านแบบฟอร์มเพียง 1 ใบ
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน Base URL เพียงเท่านี้ก็ตั้งค่าเสร็จสมบูรณ์