提示詞內部
TomoriBot 將指示與記憶整理在對話上方,並將變動的資訊放在最靠近最新訊息的位置。NovelAI 使用獨立的版面配置,而 SillyTavern 預設集 則可重新排列前面的區塊。
| 位置 | TomoriBot 接收的內容 | 在何處管理 |
|---|---|---|
| 系統部分 | 系統、頻道與人格提示詞;人格屬性;工具指引;伺服器資訊;人格對使用者的限制;伺服器記憶;表情符號、貼圖與立繪;Always On 世界書條目;獎勵與懲罰。 | /config、/memories、/moderation、/expressions 與 /conditioning |
| 對話上方 | 參與者個人檔案、別名、個人記憶、提醒事項與人格任務;位於預設位置的同頻道較舊短期記憶;需要時的文字工具定義。 | /personal memories、/memories 與 /config |
| 範例與對話 | 範例對話,接著是來自此頻道的近期訊息。 | /config > 人格 > 身分與個性;行為 > 一般行為 |
| 緊鄰最新四個發言回合上方 | 最新的短期記憶或包含其他頻道內容的短期記憶、關鍵字或機率觸發的世界書條目、檢索到的文件、參與者在線狀態,以及包含頻道行的當前時間。 | /memories 與 /config |
| 近期訊息之中 | 位於所選深度的脈絡備註,加上工具與時間感知提醒。 | /config > 行為 > 一般行為;人格 > 進階;頻道 > 頻道覆寫 |
發言回合會將來自同一人或人格的連續訊息歸為一組。四個發言回合可能包含許多則訊息。在較短的對話中,TomoriBot 會在可用的情況下往前計入相鄰的範例對話。如果你設定了較淺的深度,短期記憶可以放在更靠近最新訊息的位置。為空的選用區塊不消耗 token。
近期訊息會在一定範圍內增長,接著以整批方式捨棄較舊的訊息。批次大小為你的訊息上限的 30%,並無條件捨去為偶數。以預設上限 80 則為例,批次大小為 24 則:當新訊息送達時,已滿的視窗會保留其起始訊息,當即將超過 80 則時則往前推進 24 則。在往前推進後,典型的兩則訊息交流會留下 58 則訊息。短對話、重新整理以及模型可用的空間可能會留下較少的訊息。
若將脈絡備註放置在變動資訊群組的前面,每次 bot 回覆時它都會在較舊的歷史紀錄中移動,使提示詞快取的效果降低。將它保留在最新訊息附近可以避免這種額外的快取干擾。
/tool prompt snapshot將組裝好的提示詞儲存至檔案,包括使用中的記憶、文件與世界書。/context顯示脈絡使用量與預估輸入成本的視覺化解析。/tool estimate cost按大小與成本分解提示詞。
工具是在哪裡定義的?
Section titled “工具是在哪裡定義的?”對於支援工具呼叫的供應商,TomoriBot 會透過供應商支援的介面傳送工具定義。
為什麼 TomoriBot 會忘記?
Section titled “為什麼 TomoriBot 會忘記?”| 發生了什麼事 | 原因 |
|---|---|
| 她忘記了今天稍早的一些事情 | 內容已滾動超過訊息限制,且未儲存為長期記憶。 |
| 她在另一個頻道忘記了某些事情 | 近期訊息是各頻道獨立的。伺服器記憶、參與者記憶與短期記憶會提供來自其他頻道的精選資訊。 |
/refresh 讓她忘記了 | 重新整理會截斷近期訊息並清除該頻道的短期記憶,但不會刪除長期記憶。刪除重新整理的嵌入訊息即可解除截斷。 |
如果你希望某項內容在上述所有情況下都能留存,它就必須成為長期記憶。請參閱記憶。