跳到內容

供應商與模型

TomoriBot連接到外部AI供應商,而不是託管內建模型。你可以連接Google Gemini、OpenRouter和NovelAI等託管服務,或將其指向本機自架端點。你至少需要一位供應商才能開始聊天。

在啟用了訂閱功能的代管版 TomoriBot 中,可以使用 /subscribe 連結你的 Patreon 會員資格並查看剩餘配額。擁有管理伺服器權限的成員可以在總覽中選擇 贊助此伺服器,或在 已贊助的伺服器 下選擇 + 贊助目前伺服器。/providers 也提供贊助選項。 每個伺服器只能有一位生效中的贊助者。在移除既有贊助前,伺服器已設定贊助 處於停用狀態。你可以贊助多個伺服器;它們將與你的個人使用共享配額。

在首次設定期間使用/setup新增供應商金鑰,或稍後透過選擇+ Add new Provider從/providers新增供應商金鑰。金鑰在靜態時進行加密,因此任何人(包括伺服器管理員)都無法讀回它們。

/setup詢問回覆應該如何先到達模型,答案決定它收集的內容:

模式它收集什麼
人工智慧供應商(推薦)目錄中的供應商及其API金鑰,已作為草稿進行驗證和加密。
自訂端點端點連接和一個文字模型,在嚮導內註冊。請參閱自訂端點。
使用者BYOK(僅限伺服器)什麼都沒有:伺服器不保留自己的供應商,因此會員必須提供個人供應商。

在你按完成設定之前,不會將任何內容寫入資料庫。廢棄或過期的嚮導不會影響伺服器的現有提供程序行。若要取代現有金鑰,請使用/providers,因為/setup不會在已設定的伺服器上執行。

替換供應商的金鑰會保留其儲存的取樣設定,包括輸出詞元上限。

每個供應商都有自己的密鑰產生步驟。在/help中,選擇設定,然後選擇取得API金鑰,然後選擇你的供應商進行逐步演練,或使用以下起點:

供應商筆記取得鑰匙
Google雙子座免費套餐,運行所有功能。建議先設定。AI工作室
OpenRouter透過單一金鑰存取付費模型。OpenRouter金鑰
NovelAI訂閱;未經審查的講故事和角色扮演(僅限文本)。NovelAI
深度搜尋即用即付推理模型。DeepSeek
NVIDIA NIM託管文字、嵌入和圖像。NVIDIA建置
人擇透過API進行克勞德模型(不是克勞德代碼)。人擇
Z.aiGLM家族。🟡 ToS將使用限制於編碼和代理場景。Z.ai
Vertex AI透過gcloud ADC的Google雲端(最適合本地運行或開發設定)。見下文
Vertex AI ExpressGoogle雲端API-金鑰BYOK(預覽版,Gemini子集)。快速模式
風俗任何OpenAI相容端點(Ollama、vLLM、LiteLLM,…)。請參閱自訂端點

Vertex AI使用應用程式預設憑證 (ADC) 而不是儲存的機密進行身份驗證。對於本機託管,ADC可以來自gcloud;託管部署應使用工作負載身分或服務帳戶。AI Studio API金鑰單獨無法驗證完整的Vertex AI。所選的Google雲端專案必須啟用計費和Vertex AI API,且主機身分需要Vertex存取權限。架設 TomoriBot 的人可以將 Vertex AI 限制為僅供特定伺服器與使用者使用;其他人需要選擇其他供應商。設定指南可從/help中的API Keys頁面上的Google Vertex AI取得。

Google Gemini 與 Vertex AI 的設定透過已通過驗證的模型清單端點來驗證憑證,而 Vertex AI Express 則使用 countTokens 驗證 API 金鑰,因此設定過程絕不會生成文字。

Brave Search與你的AI供應商分開,並透過圖像、影片和新聞結果增強網路搜尋。設定為/providers。🟡 Brave包含每月5美元的免費信用,因此請在Brave儀表板中設定5美元的使用限額,以避免意外收費。

使用/providers管理伺服器憑證、模型目錄和端點註冊。然後使用/config > 模型 > 交換器模型來選擇伺服器的每個成員所使用的共用功能分配。這兩個命令都需要伺服器管理權限。

個人成員使用/personal providers管理自己的憑證和目錄,然後在/personal config中選擇個人模型。個人設定遵循他們使用TomoriBot的每台伺服器。使用者設定請參考個人化。

新的 OpenRouter 設定使用 DeepSeek Flash Latest 進行聊天,並以 Gemini 3.1 Flash Lite 作為視覺備用模型。兩者皆消耗 OpenRouter 額度。更換金鑰時會保留你的視覺模型選用,包含 - No Model。

面板的標題為伺服器供應商和個人供應商,因此開啟時所有權很明確。

在/config > 模型 > 交換器模型中,你可以跨八個功能槽分配模型和端點:

  • 文字:主要聊天模型。
  • 視覺:當聊天模型無法讀取影像時。
  • 嵌入:為文件知識庫提供支援。
  • 判定:已註冊的判定模型。Natural Nudges使用它來決定何時加入對話。
  • 標準影像:標準影像產生(請參閱影像生成)。
  • NovelAI 圖片:NovelAI 影像生成。
  • 影片:影片產生。
  • TTS(語音設計):使用已儲存的語音描述發聲。
  • TTS(語音複製):使用參考樣本或供應商語音發聲。
  • 語音轉文字:使用託管轉錄模型或自訂端點轉錄音訊附件。先選擇供應商再選擇其模型;選取 - 無模型 即可停止使用伺服器的金鑰進行轉錄。

模型清單會標示各供應商的預設模型,並以美元顯示價格。文字與判定模型顯示每 100 萬輸入與輸出 token 的價格。OpenRouter 的影像、影片與語音模型則會顯示 OpenRouter 計費的單位:每張圖片或每 100 萬圖片 token、以 TomoriBot 預設解析度計算的每秒影片,以及每 100 萬字元或每秒音訊。自行註冊的影像模型不會顯示價格。未列出價格的模型可能是未計量,或是未記錄在 TomoriBot 的目錄中,依賴該模型前請先查看供應商的定價頁面。

前六個槽選擇模型目錄記錄。TTS和STT插槽改為選擇伺服器範圍的端點,啟動選定的端點而不是編寫模型列。在/providers中註冊並編輯這些端點。/personal config保留6個個人模型路由插槽,不包含個人TTS/STT端點選擇器。

你也可以管理/providers中的自動故障轉移和負載平衡的備份金鑰。

判定模型是 /providers 與 /personal providers 中的一個獨立類別。它們以機率形式回答具型別的問題(是或否,或從多個選項中選擇一個)。註冊不會改變進行中的聊天模型。在 /config > 模型 > 切換模型 中選擇伺服器的判定模型。除非在 /config > 外掛 > Natural Nudges 中選擇了其他檢查模型,否則 Natural Nudges 會將其用作主動搭話檢查模型,以判斷對話是否切合某個人格的興趣。

OpenRouter 是受支援的原生提供商。儲存其金鑰,開啟其模型下拉選單,然後選擇 + 新增判定模型。從其已驗證的判定目錄中輸入 ID。全域目錄保留了一份滿足不同需求的精選清單:Decider Flash V1.2(預設,快速且低成本)、Jev 1.14(更高精準度)、GPT-6 Luna Decisions(最大輸入)以及 Mercury Decide Free(實驗用途)。這些角色遵循記載的能力;精準度與閾值需要針對你自己的問題進行測試。每週目錄檢查會提供新項目以供審查。其他註冊歸屬於其伺服器或個人擁有者。原生探索提供記載的輸入限制與價格。聊天目錄無法建立判定支援。

若為自訂服務,選擇 新增自訂端點,然後在 API 相容性 中選擇 相容 System One 或 相容 OpenAI Decisions。儲存 API 基底 URL 與選用的 Bearer 憑證。其模型下拉選單提供 + 新增判定模型 並繼承該通訊協定。輸入記載的模型 ID 與輸入 token 限制(至少 512)。Jev、Laya 和 Kev 使用 System One 相容性。現有的聊天相容與 Ollama 原生端點不提供此操作。

裸來源標準化為 /v1。明確的版本與閘道前置詞保持不變:https://decision.example.invalid/gateway/v1 在 System One 下呼叫 /gateway/v1/systemone,在 OpenAI Decisions 下呼叫 /gateway/v1/decisions。可達性檢查使用 GET <stored-base>/models 且不傳送對話資料;它不證明模型能力。當自動探索無法建立必要的能力中繼資料時,自訂模型將根據其服務文件手動註冊。

開啟已儲存的判定註冊即可對其進行編輯。自訂編輯會保留其確切的模型與端點身分。在 註冊操作 下選擇 刪除此判定註冊 可以在保留連線與憑證的同時將其移除。移除其父提供商或端點會移除該擁有者的註冊。其他擁有者保留共用項目。模型列表在達到 18 個可編輯註冊後使用現有頁面控制項進行分頁。

提供商註冊與憑證保留在預設/設定匯出與匯入之外。重設設定會保留儲存的註冊;刪除父項會明確清理它們。

自訂端點可讓你將自架或代理支援的服務(Ollama、LM Studio、LiteLLM、vLLM、ComfyUI、本機TTS/STT)註冊為標記的供應商捆綁包。

  • 伺服器範圍:開啟/providers註冊和編輯伺服器端點。
  • 個人範圍:開啟/personal providers以取得個人模型目錄(請參閱個人化)。個人語音端點不是從/personal config中選擇的。

標籤是面向使用者的選單名稱,當它們共用一個端點URL時,會將功能分組到一個捆綁包中。它永遠不會發送到遠端服務。從不同URL提供的功能需要不同的標籤。

新增自訂端點:

  1. 在/providers中,選擇Add New Custom Endpoint。
  2. 選擇API相容性並儲存連線。保存準備該協議支援的功能,而無需註冊任何模型。
  3. 選擇新端點並使用其模型下拉清單來註冊準確的模型程式碼和功能。添加模型會啟動它的該功能。
  4. 使用相同的下拉式選單附加更多模型或編輯現有註冊。文字模型以這種形式聲明自己的功能,圖像模型聲明它們支援哪些請求模式。

對於TTS和STT,在/providers中註冊終端機及其型號,然後在/config > 模型 > 切換型號中選擇並啟動終端。這些語音槽選擇端點而不是模型目錄條目。

API相容性決定了服務實現的請求路徑和有效負載,因此它也決定了連線準備哪些功能槽。為這些插槽註冊確切的模型是一個單獨的步驟,因為無法僅從端點URL可靠地推斷出協定。

/setup的自訂端點模式在精靈中執行相同的兩個步驟:設定連線在可達性檢查後面保存API相容性、標籤、URL和可選的身份驗證令牌,設定文字模型註冊確切的文字模型及其功能聲明。模型按鈕保持停用狀態,直到連線驗證為止,重新儲存連線會清除模型聲明,因為聲明取決於API相容性。當你按完成設定時,精靈會同時建立連線、已儲存的供應商、模型和活動模型行。此嚮導僅註冊文字模型;圖像、視訊、TTS和STT功能註冊在/providers中。

OpenCode Go (https://opencode.ai/zen/go/v1) 和OpenCode Zen (https://opencode.ai/zen/v1) 作為OpenAI相容的自訂端點。TomoriBot向它們發送所需的每次對話會話ID,該ID源自通道和人格的雜湊值,因此Discord ID不會離開機器人。

有關運行本機伺服器的完整演練,請參閱:

如果你沒有硬體來託管自己的模型,TomoriBot支援廣泛的雲端服務。並非每個供應商都提供所有功能。

供應商串流媒體工具調用影像輸入嵌入筆記
Google雙子座✅✅✅✅提供免費模型
OpenRouter✅✅✅✅消耗 OpenRouter 額度
人擇 (API)✅✅✅-不是克勞德·代碼
NovelAI✅---文字模型無法使用工具;請參閱 NovelAI
NVIDIA NIM✅✅✅✅提供免費模型
深度搜尋✅✅---
Z.ai✅✅✅-免費模型; 🟡 ToS = 僅限編碼和代理使用
Z.ai編碼✅✅--認購計劃
Google Vertex AI✅✅✅✅包括「免費」Express版本
Codex CLI(透過ChatMock)✅✅✅-設定
供應商文字轉圖像影像到影像修復筆記
Google✅✅--
OpenRouter✅✅--
NovelAI✅✅✅可以與其他供應商結合
英偉達✅--僅文字到圖像;參考圖像被忽略
Z.ai✅---

這些是供應商的圖像模型的起始預設值。NovelAI通過它自己的管道而不是這個表來運行。透過/providers註冊圖像模型,你可以聲明該模型自己的模式,這就是你在ComfyUI工作流程或API支援屏蔽編輯的供應商模型上啟用修復的方式。你從未聲明的模型將繼續遵循上述預設值。僅聲明模型支援的內容:TomoriBot僅為你選擇的模式提供工具,不支援的模式將在生成時失敗。

供應商文字轉視頻影像轉視頻筆記
Google✅✅非同步輪詢工作流程
OpenRouter✅✅非同步輪詢工作流程
Z.ai✅✅非同步輪詢工作流程
供應商文字轉語音語音轉文字
ElevenLabs✅✅
Google Gemini語音設計✅
Vertex AI(標準、全域)語音設計✅
OpenRouter Fish語音複製否
OpenRouter Seed Audio語音設計否
OpenRouter 轉錄模型否✅

本機語音引擎包含在自架 中。內建的網路搜尋和URL讀取,請參閱工具和擴充功能。