RU ▾
Получить API-ключ

Настройка API SillyTavern: подключение по протоколу OpenAI

Объясняем запутанные параметры в настройках API для SillyTavern: адрес подключения, ключ, имя модели и значение контекста — вместе с командами для проверки.

Дата обновления:

Ключевые моменты

  • Выберите тип подключения Chat Completion (кастомный, совместимый с OpenAI)
  • URL: https://api.mukenetsuapi.com/v1, имя модели: uncensored
  • Контекст может достигать 100 000, но для экономии средств и скорости лучше ограничить его.
  • 401 — проверьте ключ, 404 — проверьте URL, 429 — проверьте лимит одновременных подключений или количество запросов.
Изображение подключения API в SillyTavern: маска сцены соединяется с разъёмом сервера светящимся кабелем.

Подготовьте 3 необходимых элемента

Настройка API SillyTavern проста, большинство ошибок связано с неправильным вводом значений. Подготовьте следующие 3 элемента заранее.

SillyTavern — это фронтенд, который позволяет добавить совместимый с OpenAI эндпоинт. Поскольку этот API совместим с OpenAI, вам не нужно выбирать официальный OpenAI; вы можете зарегистрировать его как пользовательский эндпоинт.

Порядок подключения

Текст в меню может отличаться в зависимости от версии. Ниже приведена общая последовательность действий. Если у вас другая версия, сверяйтесь также с документацией SillyTavern.

  1. Откройте раздел «API Connections» (иконка разъёма) в верхней части.
  2. В качестве типа API выберите «Chat Completion».
  3. В списке источников выберите пользовательское подключение (Custom), совместимое с OpenAI.
  4. В поле URL эндпоинта введите https://api.mukenetsuapi.com/v1. Не добавляйте в конец /chat/completions.
  5. Вставьте выданный ключ в поле API-ключа. Убедитесь, что вокруг ключа нет пробелов.
  6. Укажите имя модели uncensored. Если модель доступна в списке, выберите её; если нет — введите вручную.
  7. Нажмите кнопку подключения и убедитесь, что появилось сообщение об успехе.

Перед подключением проверьте правильность ключа и URL в терминале — это упростит поиск причин ошибок.

curl https://api.mukenetsuapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "こんにちは"}], "max_tokens": 50}'

Если получен ответ, значит ключ, URL и имя модели указаны верно. Если в этом состоянии SillyTavern выдает ошибку, проблема, скорее всего, в настройках самого приложения.

Настройка контекста и длины ответа

Этот API поддерживает контекст до 100 000 токенов (включая промпт и вывод). Однако не рекомендуется устанавливать максимальный размер контекста в SillyTavern. При каждом запросе отправляются настройки персонажа, описание мира и история, поэтому большой контекст увеличивает объем входных данных и стоимость запроса.

Пример расчета стоимости

Если использовать контекст до 16 000 токенов, а ответ — 300 токенов, стоимость одного сообщения будет следующей:

  • Ввод: 16 000 ÷ 1 000 000 × $0,15 = $0,0024
  • Вывод: 300 ÷ 1 000 000 × $0,50 = $0,00015
  • Итого: $0,00255

100 сообщений стоят $0,255. Если сократить контекст до 8 000, стоимость ввода уменьшится примерно вдвое. Подробнее о ценах см. на странице с тарифами.

Рекомендации

Если вы не пишете длинные романы или сцены с большим количеством персонажей, реалистично начать с 8 000–16 000 токенов и увеличить значение, если заметите, что модель забывает предысторию персонажей. Максимальная длина ответа должна соответствовать желаемой длине ответа. Параметр max_tokens необязателен, но если вы хотите избежать слишком длинных ответов, рекомендуется установить ограничение на стороне SillyTavern.

Подход к настройке сэмплирования

temperature, top_p, stop, seed и различные штрафы передаются в API напрямую. Их можно настроить в пресетах SillyTavern.

  • Повторяются одни и те же фразы: немного увеличьте штрафы frequency или presence.
  • Разрозненные ответы: снизьте значение temperature.
  • Монотонность: немного увеличьте значение temperature.
  • Сравнение: фиксируем seed и последовательно меняем значения.

Названия параметров в пресетах зависят от версии SillyTavern. Если настройки не применяются, проверьте, поддерживает ли используемый вами метод подключения эти параметры, или обратитесь к документации SillyTavern.

Распространённые ошибки и способы их устранения

СимптомыВозможные причиныРешение
401Неверный ключ или наличие пробеловВставьте ключ заново и проверьте его с помощью curl.
404Неверный URLПроверьте, заканчивается ли URL на /v1.
Модель не найденаОпечатка в названии моделиВводите название как uncensored (строчными буквами).
429 (concurrency)Слишком много одновременных запросовУменьшите количество быстрых нажатий свайпа или одновременную генерацию в групповом чате.
429 (rate_limited)Превышено количество запросов в минутуПодождите немного.
429 (с заголовком Retry-After: 5)Временная перегрузкаПодождите 5 секунд и повторите попытку.

Лимит полного ключа: 8 одновременных подключений, 300 запросов в минуту. Лимит пробного ключа: 2 одновременных подключения, 60 запросов в минуту. Потоковая передача ответа занимает 1 слот одновременных подключений до завершения. При запуске группового чата через пробный ключ слоты быстро заполняются.

Вы можете проверить наличие достаточного баланса с помощью следующей команды.

curl https://api.mukenetsuapi.com/v1/balance \
  -H "Authorization: Bearer YOUR_API_KEY"

Информацию также можно получить из заголовка ответа X-Balance-USD. Список моделей доступен по запросу GET /v1/models.

curl https://api.mukenetsuapi.com/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

Ограничения по использованию

Этот API предназначен только для текста. Для функций генерации изображений или звука в SillyTavern потребуется другой сервис. Контент рассчитан на легальное использование взрослыми в рамках художественной литературы, ролевых игр и приложений-компаньонов. В любом режиме модель не будет генерировать контент сексуального характера с участием несовершеннолетних. Промпты не используются для обучения модели.

Более подробные параметры см. в документации. Оплата производится в USDT (TRC20) или USDC (Base) целыми суммами от $20 до $500.

Дополнительные руководства

Часто задаваемые вопросы

Какое название модели использовать в SillyTavern?

uncensored. Вводите его строчными буквами как есть.

Нужно ли добавлять /chat/completions в конец URL?

Нет. Базовый URL должен заканчиваться на /v1, остальной путь добавляет само приложение.

Хватит ли пробного ключа?

Для проверки подключения и коротких диалогов этого достаточно. Однако пробный ключ ограничен: 2 одновременных подключения и 60 запросов в минуту, а срок действия — 7 дней. Если вы используете групповой чат, пополните баланс обычного ключа.

Можно ли генерировать изображения?

Нет. Этот API предназначен только для текста и не поддерживает генерацию изображений, звука или видео.

Каким должно быть контекстное окно?

Максимум — 100 000 токенов, но реалистичнее начать с 8 000–16 000. Чем больше контекст, тем больше входных данных и выше стоимость.

API-ключ можно получить через 1 форму

Создайте аккаунт, скопируйте ключ и измените базовый URL. На этом настройка завершена.

Получить API-ключ