提示词内部
TomoriBot 将指令与记忆整合在对话上方,然后把不断变化的信息放置在最近消息附近。NovelAI 使用单独的布局,而 SillyTavern 预设集 可以重新编排较早的区块。
| 位置 | TomoriBot 接收的内容 | 在何处管理 |
|---|---|---|
| 系统部分 | 系统提示词、频道提示词与人格提示词;人格属性;工具指引;服务器信息;人格用户限制;服务器记忆;表情、贴纸与立绘;常驻(Always On)世界书条目;偏好调整。 | /config、/memories、/moderation、/expressions 与 /conditioning |
| 对话上方 | 参与者资料、别名、个人记忆、提醒与人格任务;处于默认位置的较早同频道短期记忆;需要时的文本工具定义。 | /personal memories、/memories 与 /config |
| 示例与对话 | 示例对话,后接来自此频道的最近消息。 | /config > 人格 > 身份与性格;行为 > 常规行为 |
| 最近四个发言轮次正上方 | 新鲜短期记忆或包含其他频道内容的短期记忆、按关键词或几率激活的世界书条目、检索到的文档、参与者在线状态,以及带有频道标识的当前时间。 | /memories 与 /config |
| 最近消息之间 | 处于所选深度的上下文提醒,加上工具与时间感知提醒。 | /config > 行为 > 常规行为;人格 > 高级;频道 > 频道覆盖 |
一个发言轮次将来自一人或一个人格的连续消息聚合在一起。四个发言轮次可以包含许多条消息。在简短对话中,若有可用内容,TomoriBot 会向前回溯到相邻的示例对话中。如果你配置了更浅的深度,短期记忆可以更靠近最新消息。可选区块为空时不消耗词元。
最近消息在一定范围内增长,随后按批次丢弃较旧的消息。该批次大小为你消息上限的 30%,向下取偶数。在默认上限 80 的情况下,批次大小为 24:在新消息到达时,满额窗口保持其起始消息不变,在即将超过 80 时一次性推进 24 条。推进后,典型的两条往返对话会留下 58 条消息。较短的对话、刷新以及模型的可用空间可能会留下更少的消息。
放在变化信息组之前的上下文提醒会在 bot 每次回复时在较旧历史中移动,从而降低提示词缓存的效果。将其保持在靠近最新消息的位置可避免这种额外的缓存扰动。
/tool prompt snapshot 将人格的确切包转储到文件中。它是当前记忆活跃的基本事实,文档是否匹配,以及对话的实际内容有多少。
/context 绘制与模型上下文窗口的彩色网格相同的束,上面每组块一种颜色,因此你可以一目了然地看到它填充了什么以及剩余多少空间。圆圈标记小于一个正方形的组。它还显示每个回复的估计输入成本以及提供商为最后一个真实回复报告的输入令牌数量。
/tool estimate cost 按大小分解同一个包,这对于在提高任何限制之前确定是什么正在消耗你的上下文很有用。
工具在哪里定义?
Section titled “工具在哪里定义?”对于支持工具调用的提供方,TomoriBot 会通过该提供方支持的接口发送工具定义。
为什么 TomoriBot 会遗忘?
Section titled “为什么 TomoriBot 会遗忘?”| 发生了什么 | 为什么 |
|---|---|
| 她忘记了今天早些时候的事情 | 消息滚动超出了限制,且未被保存为长期记忆。 |
| 她在另一个频道中忘记了某些事情 | 最近消息是按频道区分的。服务器记忆、参与者记忆以及短期记忆会提供来自其他频道的精选信息。 |
/refresh 让她忘记了 | 刷新会切断最近消息并清除该频道的短期记忆,但不应删除长期记忆。删除刷新嵌入即可移除该截断。 |
如果你想让某个东西在上述所有情况下幸存下来,它就必须成为长期记忆。请参见记忆。
技巧与小窍门
Section titled “技巧与小窍门”/config> 行为 > 常规行为可以加宽对话窗口(20到100条消息)。上下文更多,每条回复消耗的词元也更多。/config> 行为 > 常规行为会在选定深度注入一句简短提醒。因为它位于组合的靠后位置、贴近近期消息,她比起系统提示词里的内容更可能照做。这是催她更频繁保存记忆的最佳位置。/personal memories和/memories直接写进服务器记忆和对话参与者,这是让知识在 TomoriBot 的上下文里永久保留的可靠办法之一。