Силлитаверна в docker-compose

sillytavern/sillytavern:

services:
  sillytavern:
    container_name: sillytavern
    hostname: sillytavern
    image: ghcr.io/sillytavern/sillytavern:latest
    ports:
      - "${PORT}:8000"
    volumes:
      - "${CONFIG_PATH_SILLYTAVERN}:/home/node/app/config"
      - "${DATA_PATH_SILLYTAVERN}:/home/node/app/data"
      - "${PLUGINS_PATH_SILLYTAVERN}:/home/node/app/plugins"
      - "${USER_PATH_SILLYTAVERN}:/home/node/app/public/user"
    restart: unless-stopped
    env_file:
      - stack.env

.env

1
2
3
4
5
6
PORT=8001

CONFIG_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/config
DATA_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/data
PLUGINS_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/plugins
USER_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/user

Наружный порт

  • PORT=8000

Пути к папкам

  • CONFIG_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/config
  • DATA_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/data
  • PLUGINS_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/plugins
  • USER_PATH_SILLYTAVERN=/opt/4tb/files/llm-models/SillyTavern/user

С силитаверной есть одна заеба. После запуска в контейнере докера она расценивает сеть докера как локальную, а твою локальную сеть она расценивает как внешнюю.
Поэтому после запуска контейнера и переходу по ссылке она будет ругаться на то, что ты не находишься в вайтлисте. Придется немного исправить конфиг.

Заходишь по пути указанному вот тут CONFIG_PATH_SILLYTAVERN, там должен лежать файл config.yaml в нем нужно изменить два параметра: выставить whitelistMode: false и basicAuthMode: true
Данные для авторизации написаны ниже (username: user; password: password), если есть желание, можешь написать свои. Сохраняешь изменения, перезапускаешь контейнер. Теперь тебя пускает под логином и паролем.

В настройках подключения в силлитаверне указываешь адрес своей локалочки, а не адрес локалочки докера (не понял почему так, нет особого желания разбираться с этим), например http://192.168.1.10:5001/api

Кобольд в docker-compose

Edit Report
Pub: 28 Sep 2024 10:45 UTC
Edit: 28 Sep 2024 10:47 UTC
Views: 250