TH ▾
รับคีย์ API

วิธีตั้งค่า API SillyTavern: เชื่อมต่อแบบ OpenAI

อธิบายค่าการตั้งค่า API ของ SillyTavern ที่มักสับสน ได้แก่ จุดเชื่อมต่อ คีย์ ชื่อโมเดล และค่าคอนเท็กซ์ พร้อมคำสั่งสำหรับตรวจสอบ

วันที่ปรับปรุง

คะแนน

  • เลือกวิธีการเชื่อมต่อแบบกำหนดเองของ Chat Completion (เข้ากันได้กับ OpenAI)
  • URL คือ https://api.mukenetsuapi.com/v1 ชื่อโมเดลคือ uncensored
  • คอนเท็กซ์รองรับได้สูงสุด 100,000 แต่เพื่อประหยัดค่าใช้จ่ายและรักษาความเร็ว การจำกัดค่าจึงเป็นทางเลือกที่สมจริงกว่า
  • 401 ให้สงสัยเรื่องคีย์, 404 ให้สงสัยเรื่อง URL, 429 ให้สงสัยเรื่องการเกินขีดจำกัดคำขอพร้อมกันหรือจำนวนคำขอ
ภาพจำลองการเชื่อมต่อ API ของ SillyTavern โดยต่อหน้ากากเวทีกับปลั๊กเซิร์ฟเวอร์ด้วยสายไฟที่เปล่งแสง

เตรียมสิ่งจำเป็น 3 อย่างก่อน

ขั้นตอนการตั้งค่า API ของ SillyTavern นั้นสั้น แต่จุดที่มักติดขัดคือความผิดพลาดในการกรอกค่า กรุณาเตรียม 3 สิ่งต่อไปนี้ไว้ล่วงหน้า

  • API key: ออกได้ที่ หน้ารับ API key หลังจากสมัครสมาชิกใหม่ คุณสามารถรับเครดิตทดลองใช้มูลค่า $0.50 ได้เพียงคลิกเดียว
  • Base URL: https://api.mukenetsuapi.com/v1
  • ชื่อโมเดล: uncensored

SillyTavern เป็นหน้าเว็บที่สามารถเพิ่มเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ได้ เนื่องจาก API นี้เข้ากันได้กับ OpenAI คุณจึงไม่จำเป็นต้องใช้ OpenAI โดยตรง แต่สามารถลงทะเบียนเป็นเอนด์พอยต์แบบกำหนดเองได้

ขั้นตอนการเชื่อมต่อ

ข้อความในเมนูอาจแตกต่างกันไปตามเวอร์ชัน ที่นี่จะอธิบายขั้นตอนทั่วไป หากไม่ตรงกัน โปรดดูเอกสารของ SillyTavern ด้วย

  1. เปิดเมนู "API Connections" (ไอคอนปลั๊ก) ที่ด้านบน
  2. เลือกประเภท API เป็น "Chat Completion"
  3. จากรายการแหล่งข้อมูล ให้เลือกการเชื่อมต่อแบบกำหนดเองที่เข้ากันได้กับ OpenAI (Custom)
  4. ใส่ URL ของเอนด์พอยต์เป็น https://api.mukenetsuapi.com/v1 ไม่ต้องเพิ่ม /chat/completions ต่อท้าย
  5. วางคีย์ API ที่สร้างไว้ลงในช่องคีย์ API โดยอย่าให้มีช่องว่างนำหน้าหรือตามหลัง
  6. ตั้งชื่อโมเดลเป็น uncensored หากสามารถเลือกจากรายการได้ให้เลือก หากต้องพิมพ์เองให้พิมพ์ตามนั้น
  7. กดปุ่มเชื่อมต่อและตรวจสอบว่ามีข้อความแสดงความสำเร็จ

ก่อนเชื่อมต่อ การตรวจสอบคีย์และ URL ในเทอร์มินัลก่อนจะช่วยให้การแยกแยะสาเหตุของปัญหาได้ง่ายขึ้น

curl https://api.mukenetsuapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "こんにちは"}], "max_tokens": 50}'

หากมีการส่งคำตอบกลับมา แสดงว่าคีย์ URL และชื่อโมเดลถูกต้อง หาก SillyTavern ล้มเหลวในสถานะนี้ คุณสามารถสงสัยการป้อนข้อมูลของแอปพลิเคชันได้

กำหนดความยาวของบริบทและการตอบกลับ

บริบทของ API นี้รองรับการรวมพรอมต์และผลลัพธ์ได้สูงสุด 100,000 โทเคน อย่างไรก็ตาม ไม่แนะนำให้ตั้งค่าขนาดบริบทของ SillyTavern ให้สูงสุด เนื่องจากคุณต้องส่งการตั้งค่าตัวละคร โลกของตัวละคร และประวัติใหม่ทุกครั้ง ซึ่งค่าที่ใหญ่ขึ้นจะทำให้ปริมาณข้อมูลนำเข้าต่อครั้งเพิ่มขึ้น

ตัวอย่างการคำนวณค่าใช้จ่าย

หากใช้บริบทสูงสุด 16,000 โทเคน และการตอบกลับมี 300 โทเคน ค่าใช้จ่ายต่อข้อความจะเป็นดังนี้

  • อินพุต: 16,000 ÷ 1,000,000 × $0.15 = $0.0024
  • เอาต์พุต: 300 ÷ 1,000,000 × $0.50 = $0.00015
  • รวม: $0.00255

ราคา $0.255 ต่อ 100 ข้อความ หากลดขนาดหน้าต่างบริบทลงเหลือ 8,000 โทเคน ต้นทุนฝั่งอินพุตจะลดลงประมาณครึ่งหนึ่ง ดูรายละเอียดราคา หน้าราคา

แนวทาง

หากไม่ใช่เรื่องราวที่ยาวนานหรือฉากที่มีตัวละครจำนวนมาก การเริ่มต้นที่ 8,000 ถึง 16,000 แล้วเพิ่มค่าเมื่อรู้สึกว่าตัวละครลืมเหตุการณ์ในอดีตเป็นวิธีที่สมจริง ความยาวสูงสุดของการตอบกลับควรปรับให้ตรงกับระยะเวลาที่คุณต้องการอ่านในการตอบกลับหนึ่งครั้ง max_tokens สามารถละเว้นได้ แต่หากคุณต้องการหลีกเลี่ยงการตอบกลับที่ยาวเกินไป การตั้งค่าขีดจำกัดที่ฝั่ง SillyTavern ก็ช่วยให้มั่นใจได้

แนวคิดการตั้งค่าการสุ่มตัวอย่าง

temperature, top_p, stop, seed และค่าปรับต่างๆ จะถูกส่งต่อไปยัง API โดยตรง คุณสามารถปรับค่าเหล่านี้ผ่านพรีเซ็ตของ SillyTavern ได้

  • การพูดซ้ำเดิม: เพิ่มค่าปรับ frequency และ presence เล็กน้อย
  • คำตอบกระจาย: ลดค่า temperature
  • จำเจ: เพิ่มค่า temperature เล็กน้อย
  • เปรียบเทียบ: กำหนด seed ให้คงที่ แล้วเปลี่ยนค่าทีละ 1

ชื่อรายการค่ากำหนดเริ่มต้นอาจแตกต่างกันไปตามเวอร์ชันของ SillyTavern หากการตั้งค่าไม่ถูกนำไปใช้ โปรดตรวจสอบว่าวิธีการเชื่อมต่อที่คุณใช้รองรับรายการดังกล่าว หรือดูเอกสารของ SillyTavern

ข้อผิดพลาดที่พบบ่อยและวิธีแก้ไข

อาการสาเหตุที่เป็นไปได้วิธีแก้ไข
401คีย์ไม่ตรงหรือมีช่องว่างปนอยู่วางคีย์ใหม่แล้วทดสอบด้วย curl
404URL ไม่ถูกต้องตรวจสอบว่าลงท้ายด้วย /v1 หรือไม่
ไม่พบโมเดลการสะกดชื่อโมเดลใส่ uncensored เป็นตัวพิมพ์เล็ก
429 (concurrency)คำขอพร้อมกันมากเกินไปลดการกดสไลปซ้ำหรือการสร้างพร้อมกันในแชทกลุ่ม
429 (rate_limited)เกินจำนวนต่อนาทีรอสักครู่
429 (มี Retry-After: 5)การจราจรชั่วคราวรอ 5 วินาทีแล้วลองใหม่

คีย์เต็มรองรับพร้อมกัน 8 คำขอ และ 300 คำขอต่อนาที คีย์ทดลองรองรับพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที การตอบแบบสตรีมมิงจะใช้กรอบการเชื่อมต่อพร้อมกัน 1 ช่องจนกว่าจะเสร็จสิ้น หากใช้คีย์ทดลองกับแชทกลุ่ม กรอบจะเต็มทันที

คุณสามารถตรวจสอบยอดคงเหลือด้วยคำสั่งต่อไปนี้

curl https://api.mukenetsuapi.com/v1/balance \
  -H "Authorization: Bearer YOUR_API_KEY"

สามารถอ่านได้จาก X-Balance-USD ของส่วนหัวการตอบกลับ การตรวจสอบรายการโมเดลคือ GET /v1/models

curl https://api.mukenetsuapi.com/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

ข้อควรระวังในการใช้งาน

API นี้รองรับเฉพาะข้อความ หากต้องการใช้ฟีเจอร์สร้างภาพหรือเสียงใน SillyTavern จำเป็นต้องใช้บริการอื่น เนื้อหาออกแบบมาเพื่อสมมติสถานการณ์นิยาย แรลเพลย์ หรือแอปเพื่อนคู่คิด ภายใต้ขอบเขตการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย เนื้อหาทางเพศที่มีผู้เยาว์เกี่ยวข้องจะถูกบล็อกในทุกการตั้งค่า พรอมต์ไม่ถูกนำไปใช้ในการเรียนรู้ของโมเดล

ดูพารามิเตอร์เพิ่มเติมได้ที่ เอกสาร ส่วนการชำระเงินเป็นจำนวนเต็มของ USDT (TRC20) หรือ USDC (Base) ในวงเงิน $20 ถึง $500

คู่มืออื่นๆ

คำถามที่พบบ่อย

ชื่อโมเดลที่ใช้กับ SillyTavern คืออะไร

เป็น uncensored พิมพ์ด้วยตัวพิมพ์เล็กตามนั้น

จำเป็นต้องใส่ /chat/completions ที่ท้าย URL หรือไม่

ไม่จำเป็น Base URL คือ /v1 ส่วนเส้นทางที่เหลือแอปพลิเคชันจะเพิ่มให้เอง

ใช้คีย์ทดลองก็เพียงพอแล้วหรือ

เพียงพอสำหรับการตรวจสอบการเชื่อมต่อหรือบทสนทนาสั้นๆ แต่คีย์ทดลองจำกัดที่พร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที และมีอายุ 7 วัน หากใช้แชทกลุ่มควรเติมเงินเป็นคีย์ปกติ

สามารถสร้างภาพได้หรือไม่

ไม่ได้ API นี้รองรับเฉพาะข้อความ ไม่รองรับการสร้างภาพ เสียง หรือวิดีโอ

ควรตั้งค่า context window เป็นเท่าไหร่

สูงสุดคือ 100,000 โทเคน แต่ในทางปฏิบัติควรเริ่มทดสอบที่ 8,000 ถึง 16,000 โทเคน ขนาดหน้าต่างบริบทที่ใหญ่ขึ้นทำให้ปริมาณข้อมูลนำเข้าต่อคำขอเพิ่มขึ้น ซึ่งส่งผลให้ต้นทุนสูงขึ้น

คีย์ API สามารถรับได้ผ่านแบบฟอร์มเพียง 1 ใบ

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน Base URL เพียงเท่านี้ก็ตั้งค่าเสร็จสมบูรณ์

รับ API key