文件
文件為 TomoriBot 提供了一個在回覆時可供搜尋的知識庫:遊戲規則書、伺服器常見問題(FAQ)、wiki 匯出檔或故事筆記。它們能容納對於長期記憶而言過於冗長的資料。
為什麼要使用文件
Section titled “為什麼要使用文件”生效中的長期記憶會在每次回覆時完整發送,因此無論對話是否需要,每則記憶都會佔用提示詞空間。文件則是透過搜尋取用。每次回覆最多只會取得 10 段與對話相符的內容,因此即使是一本 40 頁的規則書,每次回覆也最多只會增加約三頁的文字量,而無人詢問的部分則不會產生任何成本。
對於她應該始終知道的簡短事實,請使用長期記憶。對於當話題提起時她才需要查閱的參考資料,請使用文件。
搜尋如何運作
Section titled “搜尋如何運作”當你新增一份文件時,TomoriBot 會將其切成各含數個段落的片段(chunk)。接著,嵌入模型會將每個片段轉換成一組描述其語意的數字清單。關於相似主題的片段即使使用了不同的詞彙,也會得到相近的數字。
在每則訊息傳來時,她會以相同的方式將最新訊息轉換為數字,並挑選語意最接近的片段。她還會檢查是否有文字完全相符的片段,這有助於捕捉嵌入模型可能不認識的名稱和自創詞彙。最佳的相符項目會被加入該次回覆的提示詞中。這項技術稱為檢索增強生成(RAG)。
舉例來說,一份文件中寫著「公會成員每週五在碼頭碰面。」若詢問「公會什麼時候聚會?」,即使問題中從未出現「碰面」或「週五」,依然能找到該片段。
由於她只能看見相符的片段,因此無法摘要整份文件,也無法統計跨文件的資訊。詢問特定細節的問題效果最好。Markdown 標題也很有幫助:每個片段都會保留其章節標題,因此結構井然有序的文件能帶來更清晰精準的比對結果。
文件需要嵌入模型。請在 Embeddings 插槽中選擇一個;請參閱供應商與模型。
在 /memories > 文件 下管理文件。選擇 新增文件 來上傳 .txt、.md 或 .pdf 檔案。文件可以專屬於單一人格,也可以由多個人格共用,並且可以限制在所選的頻道及其討論串中。你可以閱讀已儲存的片段,並對其中任何片段進行編輯或刪除。若要將一則冗長的伺服器記憶轉換為文件,請在 /memories 中開啟它並選擇 向量化。
在新的伺服器中,文件管理預設僅限於擁有 管理伺服器 權限的成員;管理員可以透過 /moderation > 成員存取 開放權限。
文件數量與大小限制
Section titled “文件數量與大小限制”預設情況下,單一檔案大小上限為 4 MB,其文字上限為 120,000 個字元(約 20,000 個英文單字),最多切分為 150 個片段。每個人格的文件庫以及共用文件庫最多可容納 20 份文件與 1,000 個片段。自架者可透過 MAX_DOCUMENT_SIZE_MB、MAX_DOCUMENT_TEXT_LENGTH、MAX_DOCUMENT_CHUNKS、MAX_DOCUMENTS_PER_SERVER 與 MAX_DOCUMENT_CHUNKS_PER_SERVER 調整這些限制。
從聊天紀錄中學習
Section titled “從聊天紀錄中學習”/learn history 會讀取目前頻道中最多 100 則訊息,從中萃取事實,並將這些事實儲存為文件。此功能需要 管理伺服器 權限,以及支援結構化輸出的模型。
歷史紀錄匯入提供了針對對話、角色扮演與人格視角的提示詞。你可以在匯入前檢視並調整提示詞。透過 learner 選項選擇由誰學習結果:單一人格(留空則為主要人格)、每個發言過的人格,或是所有人格一同學習。