[转载搬运] SillyTavern 部署 Qwen2.5-7B，Sudachi聊天预设修改完美适配 [1+350k][附件下载]

jimmylq

强调一下，这是本人修改。

修正原因：

1、著名的“Sudachi聊天预设”其实只适配API Gemini‌大模型。而本地部署Qwen2.5-7B-Instruct-abliterated-v2.Q4_K_M.gguf的电脑性能肯定不好，像我这样显存6G，内存16G的笔记本电脑用Sudachi聊天预设出现各种意想不到的状况，然后我就把全部代码都适配了一遍Qwen2.5-7B，然后经过几天痛苦的折腾，刚才终于弄好了。

2、安全机制全部失效（关键问题，与参数调优无关）

原预设的 17 条正则，每一条都同时勾选了 markdownOnly 和 promptOnly。酒馆判定这两项互斥，结果是一条都没有执行。也就是说，Sudachi 作者为 Claude 层设计的整套过滤，在你的环境中等于不存在。真实情况是：你以为自己安装了一套带自动净化的预设，实际上只用到了它的提示词，没有任何一条在运行。

3、 预设规模与模型能力不匹配

Sudachi 有 181 条模块、25 个变量。Claude 3.5 能同时遵循 20 条以上互相嵌套的规则；Qwen 7B 实际能稳定执行的规则是 3–5 条。如果把 181 条全部启用时会得到什么结果？模型会随机挑几条执行，其余都变成噪音，而这些噪音最终会以“格式错误”的形式出现在聊天框里。

不同做法的代价对比

不改：每次输出都脏，你要手动删掉，而手动删掉的内容又会进入历史，成为下一轮的示范，形成负反馈，越聊越脏。实际使用等于不可用。

改：一次性完成 4 层改动，之后每轮输出都干净。改动范围明确：主提示重写、模块从 181 条停到 8 条、正则 19 条、参数 11 项；任何一个环节都可回退，原文件的结构和 173 条模块都原样保留，想恢复随时可以打开。

核心判断：这次要修复的是“装了一整套防护，但一条都没启动”这种虚假安全感；参数调到 0.85 属于后续优化，并非重点。一个预设如果净化层从不执行，它就不该被视为可用。

---

# Sudachi-Qwen2.5 聊天预设 · 使用说明

> 版本：纯净版 v2（19 条正则）
> 适配模型：Qwen2.5-7B-Instruct-abliterated（Ollama 本地部署）
> 适配前端：SillyTavern 1.19.0+
---


## 一句话定位
把 Sudachi（重叙事、强格式的日系 RP 预设）**拆掉全部格式协议，只留叙事内核**，改造成能在 7B 本地模型上跑出"聊天框里只有故事"的轻量对话预设。
---


## 适用与不适用
| 场景 | 是否适合 | 说明 |
|---|---|---|
| 单人角色扮演、日常对话向 RP | 适合 | 主用途 |
| 小说续写、场景描写、情绪推进 | 适合 | 保留 Sudachi 的叙事笔法要求 |
| 短段落、单轮 120–350 字的轻量交互 | 适合 | 7B 在这个长度最稳 |
| 长逻辑链推理、多步任务规划 | 不适合 | 主提示已禁止思考与解释，模型不会给推理过程 |
| 卡片式回复、状态栏、Galgame 数据流 | 不适合 | 相关模块与正则已全部移除 |
| 古风/西幻依赖变量注入的写作模板 | 部分 | 原预设 25 个死变量未定义，模板条目均已停用 |
---


## 三条设计目标
1. **聊天框只见故事**——不出现思考过程、标签、标题、分割线、代码块、卡片。
2. **提示词不泄漏**——不在提示里写下可能被 7B 模型复述为输出的标记词（这是「正文」二字漏出的根因）。
3. **7B 能稳定执行**——全中文自然语言约束，不用 YAML 伪代码（Qwen 7B 解析不稳，容易把结构当内容抄）。
---


## 四层改动总览
| 层级 | 原状 | 现状 |
|---|---|---|
| 主提示 `main` | YAML 伪代码 + 变量注入 | 重写为 9 条硬约束 + 3 条写作要求，纯自然语言 |
| 模块层 | 181 条条目，含角色卡专属 160 条格式协议 | **仅启用 8 条**，其余 173 条原样保留但停用 |
| 正则层 | 17 条内嵌正则，权限标志写错（互斥导致永不执行） | **19 条**，分清洗 / 兜底 / 压缩三层 |
| 采样参数 | temp 1.25、ctx 200 万、max_tokens 6 万 | 全部收窄到 7B 安全区 |
---


## 参数配置一览
| 参数 | 原值 | 现值 | 作用 |
|---|---|---|---|
| temperature | 1.25 | **0.85** | 1.25 对 7B 属高温区，长段落必崩、易复读 |
| top_p | 0.98 | **0.9** | 收窄长尾，减少跑题 |
| top_k | 64 | **40** | 同上 |
| repetition_penalty | 1.0 | **1.06** | 轻压 300 字后的整句复读 |
| assistant_prefill | `思考已结束。` | **空** | 原文是 COT 触发器，等于让模型接着往下想 |
| show_thoughts | True | **False** | 关闭推理块显示通道 |
| use_sysprompt | False | **True** | Qwen2.5-Instruct 支持 system 角色，主提示放 system 权重最高 |
| squash_system_messages | False | **True** | 避免多段 system 被稀释 |
| max_context | 2000000 | **8192** | 对齐 Ollama `num_ctx=8k`，超了会被静默截断 |
| max_tokens | 60000 | **1200** | 防单轮无限输出挤爆窗口 |
| stream_openai | — | True | 流式输出，边写边看 |
---


## 19 条正则的三层结构


### 第一层 · 清洗（删除模型吐出的多余结构）
| 序号 | 名称 | 作用 |
|---|---|---|
| 1 | 删除思考块 | 成对删除 `<thinking>`/`<think>`/`<analysis>` 等 |
| 2 | 删除未闭合思考块 | 模型漏写闭合标签时，从标签删到结尾（宁可空回也不露思考） |
| 3 | 删除 ### 思考至 ### 正文 | 从开头删到 `### 正文`，兼容无空格写法 |
| **3b** | **删除正文标记行** | **整行只含「正文/正文：/**正文**/（正文）/<正文>」时整行删掉** |
| 4 | 删除抗空回 Q/WF 块 | 清除 `<Q>…<WF>` 全英文免责声明 |
| 5 | 删除 update 块 | 清除变量更新指令 |
| 6 | 删除 html 注释 | 兼容有空格与无空格两种写法 |
| 7 | 删除代码块 | 任意语言标记的代码块，小剧场与卡片一并清除 |
| 8 | 删除摘要块 | **仅显示侧删除**，发送侧保留给历史压缩用 |
| 9 | 删除日期块 | 原版渲染成日期卡片，现直接删除 |
| 10 | 删除快捷回复块 | `<reply>`/`<galtext>` 整块删除 |
| 11 | 删除 math 标签 | 抗截断残留清理 |
| 13 | 删除开头应答语 | 只锚定全文开头，删「好的」「以下是」等，不误删对话里的「好的」 |
| 14 | 删除 markdown 标题 | Qwen 极爱输出 `## 场景`，删井号留文字 |
| 15 | 删除分割线 | 清除 `---` 分段 |
| 16 | 去除加粗标记 | 保留文字，去掉 `**` |


### 第二层 · 兜底


| 序号 | 名称 | 作用 |
|---|---|---|
| 12 | 清理残留标签 | 前面删完内容后常剩孤立标签，这条按标签名兜底，已含中文标签「正文」「场景」 |


### 第三层 · 历史压缩（仅作用于发送侧，不改聊天记录）
| 序号 | 名称 | 作用 |
|---|---|---|
| 17 | 历史只留摘要-前 | 保留 `<S-summary>` 之前 |
| 18 | 历史只留摘要-后 | 保留 `</S-summary>` 之后 |
**权限标志规则**（这是整套正则能否生效的关键）：
- 清洗类：`markdownOnly=False` + `promptOnly=False` → 显示与发送**双向**生效
- 摘要块：仅 `markdownOnly=True` → 只删显示，发送侧保留
- 历史压缩：仅 `promptOnly=True` → 只作用于发送
> 原预设把清洗正则同时勾成 `markdownOnly` 与 `promptOnly`，而 SillyTavern 判定这两项互斥，结果是**一条都不执行**——这就是思考内容曾经大面积裸露的真正原因。
---


## 当前启用的 8 个模块
`Sudachi Next`（主提示）→ `⚫角色定义之前` → `⚫角色描述` → `⚫角色性格` → `⚫角色情景` → `⚫角色定义之后` → `Chat Examples` → `Chat History`
其余 173 条（COT 推敲、Aniplex 净化、状态栏、Galgame 输出、变量注入等）**原样保留但停用**，随时可在提示词管理器里手动打开。
已单独处理的条目：
| 条目 | 处理 |
|---|---|
| `jailbreak`（文风） | 清空。原文依赖未定义变量，留着只占位 |
| `nsfw`（起笔！） | 清空。原文是口语化 assistant 示例，Qwen 会模仿这种碎嘴开头 |
| 角色卡专属组 100001（160 条） | 全部停用。整组都是格式协议，留着等于命令模型输出思考 |
---


## 导入与使用
1. SillyTavern →「AI 响应配置」→ 导入 `Sudachi-Qwen2.5聊天预设-纯净版.json` → 选中它
2. 打开「扩展 → 正则」，确认看到 **19 条**中文命名的【】条目，全部绿色启用
3. **新开一个聊天**再开始对话（旧会话里已有的 `### 正文` 示范会被模型继续模仿，正则只洗显示层）
4. 前三轮建议用普通对话验证，检查是否出现：`好的`开头 / `##` 标题 / `**加粗**` / `正文`二字 / 英文免责声明
**关于 SPreset 扩展**：预设内嵌正则写在 `extensions.SPreset.RegexBinding` 字段，需要 SPreset 扩展读取执行。若你已装 SPreset，整组自动生效；若未装，把【1】【2】【3】【3b】【12】五条手动导入酒馆原生「扩展 → 正则」并启用即可覆盖 90% 的脏输出。
---


## 已知取舍
| 取舍 | 说明 |
|---|---|
| 单轮偏短 | 120–350 字，是 7B 稳定区间；想写长段落把 max_tokens 提到 2000、主提示字数条放宽 |
| 无推理过程 | 主提示明确禁止思考，不适合需要「先分析再回答」的问答 |
| 【2】可能整段吞文 | 未闭合思考正则从标签删到结尾，若某轮内容整段消失，临时停用【2】即可 |
| 依赖变量条目全停 | 原预设的 `{{getvar::*}}` 模板在 ST 里未定义时返回空串，启用也无效果 |
| 角色卡需自带设定 | 预设不再注入世界观，角色卡描述写得越具体，输出越稳 |
--


## 文件清单
| 文件 | 用途 |
|---|---|
| `Sudachi-Qwen2.5聊天预设-纯净版.json` | 主文件，导入 SillyTavern 用 |
| `Sudachi-Qwen2.5聊天预设-纯净版.zip` | 上述 json + 说明文档打包 |
| `Sudachi-Qwen2.5聊天预设-使用说明.md` | 本文，面向使用 |
| `Sudachi-Qwen2.5适配说明与正则修正清单.md` | 技术向文档，含逐条修正理由与排错记录 |

w007wowo

感觉很专业，支持大佬继续更新完善，让小白用起来不再是摸石头过河，盲人摸象，去自己填写自己完全不懂的各种参数。