глупенькая таверна для начинающих (sillytavern)
привет. в последнее время популярность таверны сильно возросла. многие после её установки начинают теряться в интерфейсе с вопросом "да куда уже тыкать, чтобы бота трахнуть?"
целью этого гайдика будет небольшой, не очень углубленный разбор интерфейса силли таверны.
не забудьте заглянуть в мой щитпост, я там гайдики выкладываю, новости, котиков своих публикую и о жизни болтаю – https://t.me/milkisanddrratiocanon :зз
» быстрый гайд по установке ст на андроид, если вы еще этого не сделали.
скачиваем termux на сайте f-droid: https://f-droid.org/packages/com.termux/, открываем его и по очереди вводим команды, представленные ниже:
готово.
команды для последующего включения таверны:
команды для обновления таверны:
» консоль
когда вы запускаете ст, открывается отдельное окно с консолью (либо консоль отображается прямо в термуксе). НЕ ЗАКРЫВАЙТЕ ЕЁ И ДЕРЖИТЕ В ФОНОВОМ РЕЖИМЕ, иначе таверна выключится и придется запускать ее заново.
консоль имеет решающее значение для работы таверны, так как она:
- записывает то, что вы отправляете иишке/персонажу, помогая в отладке в случае проблем;
- сообщает ваши настройки, такие как сэмплеры и стоп-строки;
- отображает промпты со всеми ролями;
- отображает системный промпт (если есть)
» основные разделы
как только вы попадаете на главную страницу таверны, ваше внимание привлекут девять иконок на самом верху страницы – именно в них хранятся все основные (и не очень) настройки таверны.
понимаю, выглядит страшно и глаза разбегаются. но ничего страшного, сейчас быстро разберемся.
» наводим красоту
если вам как и мне глаза мозолит дефолтное оформление таверны – это можно легко исправить.
фоновое изображение
этот раздел предоставляет доступ к разным фоновым изображениям для чатов. выбор предоставляемых таверной изображений не велик, поэтому вы также можете добавить свои – как фото, так и гифки.
фоновое изображение дает +100 к вайбу и больше ничего. выглядит это ± так, в зависимости от настроек оформления вашей таверны:
пользовательские настройки
этот раздел позволяет полностью персонализировать таверну под свои нужды. основные его функции.
- можно настроить цветовую схему каждого элемента интерфейса для создания идеальной темы;
- возможность выбора стиля аватара и чата;
- с помощью ползунков можно настроить внешний вид интерфейса. например, можно отрегулировать ширину окна чата, размер текста, степень размытия панели интерфейса и интенсивность тени текста;
- возможность полностью кастомизировать таверну при помощи пользовательского css;
некоторые настройки, которые я советую включить в этом разделе:
- автозагрузка последнего чата: автоматически загружает последний чат при открытии таверны
- автосохранение правок сообщений: не нужно будет нажимать на галочку после редактирования сообщения.
- упрощенная анимация: улучшает скорость приложения и уменьшает задержки (особенно на телефонах)
- восстанавливать ввод пользователя: если у вас были несохраненные изменения в пресете/чате и ваш браузер/страница "упали" - таверна автоматически восстановит их.
- показывать <теги> в ответах: эта опция позволяет отображать HTML-код в чате. полезная, если у вас в пресете есть промпт для css/html штук в ответе бота.
» подключаем апи
оформили таверну так, как нам нравится, замечательно. теперь переходим к самой важной вещи – подключение к нужной вам модели ии, ведь без этого таверна просто не будет работать.
в данный момент существуют три способа подключения иишек к таверне.
- локальные модели – это те модели, которые скачиваются на ваше устройство (преимущественно пк) и запускаются на его мощностях;
для умной локальной модели с хорошей памятью нужен невъебически мощный комп, поэтому этот пункт мы пока что пропускаем. мы еще новички совсем маленькие зелёные.
- апи-ключ – это ваш уникальный код, что-то типа пароля, который обычно вы получаете от разработчика ллм или провайдера. апи-ключ позволяет напрямую подключаться к модели. в большинстве случаев апи-ключи либо платные, либо разработчики предоставляют бесплатный пробный доступ к моделям на них;
- прокси – выступает в роли посредника между вашей таверной и иишкой. вместо того чтобы обращаться к ии напрямую, вы сначала отправляете свой запрос на прокси, который, в свою очередь, пересылает его самой ии.
на данный момент прокси является самым удобным вариантом по нескольким причинам:
- некоторые ии доступны только в определенных странах (например, гемини в странах снг не работает из-за этого). настройка прокси в разрешенной стране (с помощью хоста) помогает обойти это ограничение без использования впн.
- прокси позволяет нескольким пользователям использовать один апи ключ. но учтите, что условия предоставления услуг у разных разработчиков могут запрещать совместное использование апи ключа, из-за чего он может быть отозван.
- вы можете управлять всеми вашими ключами апи от разных провайдеров в одном месте (на прокси) вместо того, чтобы переключаться между ними в ст.
для того, чтобы подключить нужную вам модель, нужно сначала получить апи-ключ прокси. если вы это уже сделали то:
- в разделе подключения (иконка розетки) выбираете тип подключения chat completion. это более предпочтительный режим подключения, по сравнению с text completion, который больше подходит для локальных моделей.
- в качестве источника апи выберите нужного вам провайдера.
если вы видите, что для нужного вам ии/провайдера есть раздел в источнике апи – НЕ ВЫБИРАЙТЕ CUSTOM РАДИ ГОСПОДА БОГА, так как у него есть много недочетов. например, в кастоме работают не все функции, а некоторым моделями требуется особая форма отправки запроса, что приводит к ошибкам или некорректной работе. я вам запрещаю это делать.
- если у вас официальный апи, то просто вводите свой ключ, выбираете модель и нажимаете подключиться.
если вы пользуетесь прокси, то открываете вкладку для подключения к ней, вводите эндпоинт, токен/пароль для доступа к прокси. далее выбираете нужную модель и готово.
не забудьте включить галочку "автоматическое подключение к последнему серверу", чтобы вам не приходилось переподключаться при каждом заходе в таверну.
» персонажи
ии мы подключили, отлично. как вы могли заметить, в таверне нет привычной бесконечной ленты с гоустами леонами мигелями в рекомендациях, а где прописывать своего персонажа и персону – непонятно. это тоже решаемо.
управление персоной:
в этом разделе хранятся все персонажи, за которых ролите вы.
здесь вы можете:
- просмотреть свою статистику (сколько вы написали сообщений/слов боту, сколько боты написали сообщений/слов вам, сколько свайпов вы сделали и тд и тп.)
- создать свою персону (ахуеть, америку открыла, спасибо милкис, что бы мы без тебя делали). количество создаваемых персон не ограничено, лимита по символам в описании персоны также нет.
- привязать к персоне лорбук.
- привязать персону к определённому персонажу или чату.
вы даже можете сделать персону из бота, но об этом чуточку позже.
менеджер персонажей
ии персонажи распространяются в виде файлов, которые можно импортировать во фронтенд. эти файлы обычно называют карточками или просто ботами.
хранятся они в этом разделе. чаще всего карточки представляют собой png-файлы со встроенными метаданными
реже — json-файлы.
в карточку персонажей входят:
– аватар: изображение персонажа
– описание: основные определения карточки; ее ядро и сердце
– примеры диалогов: пример того, как персонаж говорит, взаимодействует, его выбор слов и речевые особенности (не используется активно на сегодняшний день, поскольку многие ботоделы предпочитают прописывать примеры диалогов в описание)
– теги: встроенные теги, которые дают возможность группировать карточки
– краткое содержание: необязательное краткое описание
– сценарий: похоже на краткое содержание, в наши дни почти не используется
– встроенные инструкции: мейн промпт, джейлбрейк и пост-хистори инструкции
– приветствие: стартовое сообщение в чате. у карточки может быть несколько вариантов приветствия
– метаданные: автор, версия, примечания и т.д.
в данный момент ваш список ваших карточек пуст. где же их брать? тут два варианта: либо скачивать с других сайтов, либо делать самостоятельно.
сайты, на которых можно скачать ботов:
- https://www.chub.ai/ – самый известный сайт с карточками и лорбуками.
- https://chub-archive.evulid.cc/ – неофициальное зеркало chub.ai; также включает карточки с различных сайтов, архивы, на которые даны ссылки ниже, случайные ссылки на catbox.
- https://chatbots.neocities.org/ – коллекция личных страниц, созданная создателями карточек ии персонажей.
- https://realm.risuai.net/ – сайт с карточками и лорбуками от создателя risu ai.
- https://character-tavern.com – сайт с карточками с возможностью удобного экспорта в рису/чуб/силлитаверну.
- https://pygmalion.chat/ – сайт с карточками от создателей локальной модели pygmalion. - https://drive.google.com/drive/folders/1saDTGz_N-jcXTZ3Tz7rdEQV8GnZGPJez – архив ботов из закрытого оригинального venus ai. -https://mega.nz/folder/FWgxyaLA#1Dxz2IYVibPBSMnM1Rut7Q – архив с ботами из дискорд-сервера пигмалиона.
- https://drive.google.com/drive/folders/16K7HGgySBNLLlsWJDSJOElpor0_Hq7rj – второй архив с ботами из дискорд-сервера пигмалиона.
если хотите спиздить любимых ботов из джанитора:
- https://api.jannyai.com/ – здесь можно посмотреть содержимое любого бота из janitor ai и скачать его.
если хотите спиздить ботов из джанитора с закрытым описанием с помощью прокси:
- https://sucker.trashpanda.land/
- https://sucker.hitani.net/
- https://sucker.severian.dev/
- https://definitionsucker.hibikiass.uk/
итак, вы успешно спиздили бота. для того, чтобы его добавить в таверну. нажмите на "импортировать персонажа из карточки" и выберите скачанный json/png-файл. после этого импортированный бот появится в списке.
также хочу выделить некоторые интересные функции, которые вы можете потыкать у своих ботов. их можно найти во вкладке "расширенные опции":
- возможность привязать лорбук к боту и импортировать лорбук бота;
- конвертация бота в персону с автоматической сменой макросов {{char}} и {{user}};
- возможность привязать источник бота (например, ссылку на него на чубе/джаниторе)
» настройки модели и промпты
это самые важные вещи после подключения к иишке, с которыми вам иногда придется ебаться даже больше чем с ботами.
настройки ответа ии:
- разблокированный размер контекста (unlocked сontext size) – всегда держите эту опцию включенной. она убирает устаревшее ограничение на историю разговора;
- размер контекста (context size) – количество токенов, которое ии способен рочитать за один раз. для повествования и ролевых игр это означает, насколько большой может быть история вашего чата. поставьте 30-40к и будет достаточно. это хорошее число, которое ничего не испортит;
максимальный контекст ≠ эффективный. да, многие современные ии могут обрабатывать больше 100к контекста. однако учтите, что чем больше информации ии нужно запомнить, тем выше вероятность, что она забудет детали, потеряет нить повествования, забудет персонажей и лор, а также будет испытывать трудности с логикой.
- максимальная длина ответа в токенах - ограничивает длину каждого ответа ии. обратите внимание, что это не то количество токенов, которое ии будет генерировать всегда, а жесткий лимит, который ии не может превысить;
- потоковая передача (streaming) – включает генерацию ответа в режиме реального времени. отключайте только для устранения неполадок (и, желательно, отключайте когда ролите на гемини);
- сэмплеры – контролируют креативность и точность ии. у разных ии есть разные сэмплеры.
доступно в | рекомендуемое значение | за что отвечает | |
---|---|---|---|
температура | GPT, Claude, Gemini, Deepseek, Mistral | 0.8 - 1.0 | больше = креативно / меньше = предсказуемо |
top k | Claude, Gemini | 0 | меньше = предсказуемо / больше = креативно. 0 = отключено |
top p | GPT, Claude, Gemini, Deepseek, Mistral | 1.0 | больше = креативно / меньше = предсказуемо |
штраф за частоту | GPT, Mistral | 0.02 - 0.04 | меньше = разрешать повторы / больше = избегать повторов. |
штраф за присутствие | GPT, Mistral | 0.04 - 0.08 | меньше = разрешать повторы / больше = избегать повторов. |
оставьте этот блок с настройками по умолчанию. он предназначен для специфических случаев использования:
настраиваем промпт
с этой вещью вы будете экспериментировать больше всего.
что такое промпт? промпт – это то, что вы отправляете ии: комбинация всех инструкций, сообщений чата и других входных данных.
вы можете подумать, что когда вы отправляете сообщение боту, ии отправляется только это сообщение. это неверно!
когда вы отправляете сообщение, отправляются ВСЕ инструкции, включая:
- ваше текущее сообщение;
- весь чат;
- вся история чата, все предыдущие сообщения от вас и от бота;
- ваша персона;
- все инструкции;
- лорбуки, расширения и дополнительные промпты.
все это отправляется каждый раз, когда вы отправляете сообщение.
даже если вы отправляете короткое сообщение:
ии получит гораздо больше информации.
в настройках ответа ии посмотрите в самый низ. вы найдете этот раздел:
это набор шаблонов промпта, который вы можете свободно редактировать, перемещать, включать/выключать и т.д. каждый шаблон содержит инструкции в виде простого текста. когда вы отправляете сообщение ии, все эти шаблоны объединяются в один аккуратный промпт.
шаблон промпта содержит несколько предустановленных элементов:
- persona description - описание вашей персоны.
- char description - описание вашего бота.
- main prompt, nsfw prompt и jailbreak prompt - эти поля можно свободно редактировать для различных функций и возможностей. Настоятельно рекомендуется оставлять их включенными, даже если они пусты.
- char personality и scenario - два поля, которые существуют в "advanced definitions" карточки
- enhance definitions - дополнительное поле, которое вы можете свободно редактировать. изначально оно использовалось для повышения осведомленности ии о персонажах, но теперь вы можете использовать его как угодно.
- world Info (before), world Info (after) - эти опции предназначены для лорбуков.
- chat history - вся история чата от первого до последнего сообщения. если ваш контекст меньше размера чата, старые сообщения будут отбрасываться.
вы можете подумать, что мэйн промпт важнее всех остальных для ии, или что чар персоналити повлияет на ии иначе. это не так. ни один из этих шаблонов не имеет большего веса для ии. это просто текстовые заполнители, существующие исключительно для вашего удобства. вы можете поместить инструкции, не относящиеся к нсфв, в нсфв-промпт, и они будут работать точно так же.
вы можете без проблем добавить свой промпт! структура шаблона:
- name: любое, какое захотите
- prompt: укажите инструкцию, например, "ai adds a kaomoji at the end of each sentence. (╭ರ_⊙)"
- role: решите, кто будет "произносить" эту инструкцию – система, модель или юзер.
- position: пока выберите
relative
.absolute
требует более глубокого понимания того, как работает чат.
если вы смотрите на это все и думаете: "да в пизду это все самому делать, хочу что-нибудь готовенькое, я не ебаться с промптами пришел, а с иишной тян." – специально для вас существуют пресеты.
пресеты – это шаблоны, созданные другими пользователями и выложенные в сеть. вы можете скачивать их, импортировать в свою таверну, применять по мере необходимости и переключаться между ними. вы даже можете экспортировать свой собственный пресет и поделиться им.
пресеты представляют собой json-файлы, которые обычно включают инструкции для:
- обхода фильтров/цензуры
- уменьшения "роботизированного" тона в ответах
- минимизации негативных черт в ии: чрезмерной позитивности, зацикливания, паттернов, "-измов"
- применения определенных стилей письма, форматирования или жанровых тропов
- направления повествования, делая ии более креативным и непредсказуемым
- определения того, как ии должен отвечать
пресеты варьируются от простых (2-3 шаблона) до сложных (множество переключателей, регулярных выражений или двойных вызовов апи).
не стесняйтесь настраивать пресеты, комбинировать инструкции из разных пресетов и экспериментировать. даже если пресет рекомендуется для одной иишки, вы можете попробовать его с другой. жестких правил совместимости нет.
пресеты субъективны: не существует "лучшего" пресета для каждой модели.
где же брать пресеты?
специальные дискорд-сервера, тг-каналы, рентри. например: https://rentry.org/jb-listing
с основой мы разобрались, перейдём к дополнительным штукам.
» лорбук
ии имеет ограниченный объем "памяти" (контекстное окно). когда история становится длинной, ии начинает забывать детали, которые были в начале: имена второстепенных персонажей, важные события, географические названия или даже кем вы приходитесь персонажу.
лорбук решает эту проблему. вместо того чтобы перегружать описание персонажа тысячами токенов с информацией о мире, вы создаете отдельные записи для каждого важного элемента. каждая запись активируется по ключевым словам (триггерам). когда такое слово появляется в чате, таверна "подсовывает" ии соответствующую запись из лорбука.
зачем это нужно?
- не нужно пихать всю историю мира, биографию и маловажную информацию в описание бота. вынесите её в лорбук, и она будет появляться только тогда, когда это нужно.
- помогает боту помнить важные детали, не путаться в именах и событиях.
- в лорбук вы можете прописать случайные события или секреты, которые могут "сработать" в любой момент.
например, я хочу, чтобы ии знал о рацио из из хср. что для этого мне нужно сделать?
- на верхней панели ищем иконку книги с глобусом - world info
- создаём лорбук, а вслед за ним новую запись.
- заполняем поля:
- memo: dr.ratio. это название только для вас, чтобы не запутаться. ии его не видит.
- keywords: dr. ratio, ratio, veritas ratio, veritas. это "триггеры". как только одно из этих слов появится в чате, запись активируется.
- content:
доктор рацио – учёный из гильдии эрудитов, известный своим острым умом, эксцентричностью и привычкой носить гипсовую голову-бюст. он презирает невежество и стремится распространять знания. считает, что глупость – это болезнь, которую нужно лечить.
это тот самый текст, который таверна "подскажет" ии, когда сработает триггер. теперь, как только вы или бот упомянете рацио, ии незаметно для вас получит эту справку и будет отвечать, учитывая её.
стратегия активации:
- 🔵 (постоянное срабатывание): запись ВСЕГДА будет в памяти ии, пока активен лорбук.
- 🟢 (срабатывание по ключу): стандартный режим. запись сработает ТОЛЬКО при появлении ключевого слова.
- 🔗 (срабатывание по смыслу): для продвинутых. запись может сработать, если в чате обсуждается что-то очень похожее по смыслу, даже без точного ключевого слова.
дополнительные настройки:
- порядок вставки: номер, определяющий приоритет. чем выше число, тем важнее эта запись, и тем вероятнее она попадёт в контекст, если память ии будет переполнена.
- вероятность (%): шанс, с которым сработает запись, даже если триггер активирован. поставьте
10%
– и запись будет появляться лишь в каждом десятом случае. (например, в одном из десяти свайпов рацио швырнет в милкис мел)100%
– триггер сработает всегда. - группа включения: представьте, что у вас 5 разных описаний погоды. объедините их в одну группу (например,
weather
). если сработают триггеры для нескольких записей из этой группы, в контекст попадёт только одна из них (случайно или по приоритету). это предотвращает спам одинаковой информацией.
несколько советов от себя:
— краткость – сестра таланта. не строчите в "контексте" целые поэмы. ии лучше усваивает короткие, ёмкие факты. "рацио носит гипсовую голову"
лучше, чем длинное эссе о причинах этого.
— вместо того чтобы перегружать поле описания персонажа в карточке, выносите детали в лорбук. это гибче и экономит место и токены.
— в менеджере персонажей есть иконка глобуса. там можно "привязать" конкретный лорбук к боту. он будет автоматически активироваться всегда, когда вы с ним общаетесь, даже в групповых чатах.
здесь еще должен был быть раздел про расширения, но я решила, что они заслуживают отдельное рентри, так как там можно многое показать и про многое рассказать. в целом, всего того, что расписано выше, вам должно хватить для начала.
пака.
источники, использовавшиеся при написании гайда:
https://rentry.co/tavern4retards
https://docs.sillytavern.app/
https://rarestmeow.neocities.org/
https://rentry.co/how2claude