SillyTavern（或简称 ST）是一个本地安装的用户界面，允许您与文本生成 LLM、图像生成引擎和 TTS 语音模型进行交互。

一个可以本地部署的虚拟角色聊天软件，支持多种虚拟角色，也可以自己创造角色，后台可以连多种不同LLM，比如OpenAI、Claude、Llama等，支持TTS（文字转语音）

支持中文、英文、日文、韩文等多语言

部分界面截图：

由于 SillyTavern 只是一个界面，您需要访问 LLM 后端才能进行推理。您可以使用 AI Horde 进行即时聊天。除此之外，我们还支持许多其他本地和基于云的 LLM 后端：兼容 OpenAI 的 API、KoboldAI、Tabby 等等。您可以在文档中了解更多关于我们支持的 API 的信息。

硬件要求极低：任何支持 NodeJS 18 或更高版本的设备均可运行，（电脑端、手机端均可运行下载）

如果您打算在本地机器上进行 LLM 推理，我们建议您使用 3000 系列 NVIDIA 显卡，并至少配备 6GB VRAM。更多详情，请查看您后端的文档。

• AI Horde – 使用志愿者提供的模型。无需进一步设置
• KoboldCpp – 社区最喜欢的本地运行 GGUF 模型的工具
• tabbyAPI – 一个流行、轻量级、本地托管的 exl2 推理 API
• OpenRouter – 一个支持多个云服务提供商（OpenAI、Claude、Meta Llama 等）以及流行社区模型的单一 API。

SillyTavern 围绕”AI角色卡片”的概念构建。角色卡片是一系列设定 LLM 行为的提示，是 SillyTavern 进行持久对话所必需的。它们的功能类似于 ChatGPT 的 GPTs 或 Poe 的机器人。角色卡片的内容可以是任何东西：一个抽象场景、为特定任务定制的助手、一个著名人物或一个虚构角色。

要在不选择角色卡的情况下快速对话，或仅测试 LLM 连接，只需在打开 SillyTavern 后，在欢迎屏幕的输入栏中输入您的提示输入。这将创建一个空的”助手”角色卡，您可以稍后进行自定义。

要了解如何定义角色卡的大致方法，请查看默认角色（Seraphina）或从”下载扩展和资源”菜单中下载社区制作的选定卡片。

• 具有许多社区制作的预设的先进文本生成设置
• 世界信息支持：创建丰富的背景故事或在角色卡上节省代币
• 群聊：多机器人房间，角色可以与你和/或彼此交谈
• 丰富的 UI 定制选项：主题颜色、背景图片、自定义 CSS 等
• 用户角色：让 AI 了解一些关于你的信息，以增强沉浸感
• 内置 RAG 支持：将文档添加到您的聊天中供 AI 参考
• 广泛的聊天命令子系统和自有的脚本引擎