提供方与模型
TomoriBot连接到外部AI提供商,而不是托管内置模型。你可以连接Google Gemini、OpenRouter和NovelAI等托管服务,或将其指向本地自部署端点。你至少需要一位提供商才能开始聊天。
在启用了订阅功能的托管版 TomoriBot 中,可以使用 /subscribe 关联你的 Patreon 会员资格并查看剩余配额。拥有管理服务器权限的成员可以在概览中选择 赞助此服务器,或在 已赞助的服务器 下选择 + 赞助当前服务器。/providers 也提供赞助选项。
每个服务器只能有一位生效中的赞助者。在移除现有赞助前,服务器已设置赞助 处于禁用状态。你可以赞助多个服务器;它们将与你的个人使用共享配额。
在首次设置期间使用/setup添加提供商密钥,或者稍后通过选择+ Add new Provider从/providers添加提供商密钥。密钥在静态时进行加密,因此任何人(包括服务器管理员)都无法读回它们。
/setup询问回复应该如何首先到达模型,答案决定它收集的内容:
| 模式 | 它收集什么 |
|---|---|
| 人工智能提供商(推荐) | 目录中的提供者及其API密钥,已作为草稿进行验证和加密。 |
| 自定义端点 | 端点连接和一个文本模型,在向导内注册。请参阅自定义端点。 |
| 用户BYOK(仅限服务器) | 什么都没有:服务器不保留自己的提供者,因此成员必须提供个人提供者。 |
在你按完成设置之前,不会将任何内容写入数据库。废弃或过期的向导不会影响服务器的现有提供程序行。要替换现有密钥,请使用/providers,因为/setup不会在已配置的服务器上运行。
替换提供方的密钥会保留其保存的采样设置,包括输出词元上限。
每个提供商都有自己的密钥生成步骤。在/help中,选择设置,然后选择获取API密钥,然后选择你的提供商进行分步演练,或使用以下起点:
| 提供者 | 笔记 | 获取钥匙 |
|---|---|---|
| Google双子座 | 免费套餐,运行所有功能。建议首先设置。 | AI工作室 |
| OpenRouter | 各种付费模型,一键搞定。 | OpenRouter 密钥 |
| NovelAI | 订阅; 未经审查的讲故事和角色扮演(仅限文本)。 | NovelAI |
| 深度搜索 | 即用即付推理模型。 | DeepSeek |
| NVIDIA NIM | 托管文本、嵌入和图像。 | NVIDIA构建 |
| 人择 | 通过API进行克劳德模型(不是克劳德代码)。 | 人择 |
| Z.ai | GLM家族。🟡 ToS将使用限制于编码和代理场景。 | Z.ai |
| Vertex AI | 通过gcloud ADC的Google云(最适合本地运行或开发设置)。 | 见下文 |
| Vertex AI Express | Google云API-密钥BYOK(预览版,Gemini子集)。 | 快速模式 |
| 风俗 | 任何OpenAI兼容端点(Ollama、vLLM、LiteLLM,…)。 | 请参阅自定义端点 |
Vertex AI使用应用程序默认凭证 (ADC) 而不是存储的机密进行身份验证。对于本地托管,ADC可以来自gcloud; 托管部署应使用工作负载身份或服务帐户。AI Studio API密钥单独无法验证完整的Vertex AI。所选的Google云项目必须启用计费和Vertex AI API,并且主机身份需要Vertex访问权限。部署 TomoriBot 的人可以将 Vertex AI 限制为仅供特定服务器和用户使用;其他人需要选择其他提供方。设置指南可从/help中的API Keys页面上的Google Vertex AI获取。
Google Gemini 与 Vertex AI 的配置通过已认证的模型列表端点来验证凭据,Vertex AI Express 则使用 countTokens 验证 API 密钥,因此配置过程绝不会生成文本。
可选:Brave Search密钥
Section titled “可选:Brave Search密钥”Brave Search与你的AI提供商分开,并通过图像、视频和新闻结果增强网络搜索。设置为/providers。🟡 Brave包含每月5美元的免费信用,因此请在Brave仪表板中设置5美元的使用限额,以避免意外收费。
使用/providers管理服务器凭据、模型目录和端点注册。然后使用/config > 模型 > 交换机模型来选择服务器的每个成员使用的共享功能分配。这两个命令都需要服务器管理权限。
个人成员使用/personal providers管理自己的凭据和目录,然后在/personal config中选择个人模型。个人设置遵循他们使用TomoriBot的每台服务器。用户设置请参见个性化。
新的 OpenRouter 配置使用 DeepSeek Flash Latest 作为聊天模型,Gemini 3.1 Flash Lite 作为视觉备用模型。两者均消耗 OpenRouter 积分。更换密钥时会保留你的视觉模型选择,包括 - No Model。
面板的标题为服务器提供方和个人提供方,因此打开时所有权很明确。
在 /config > 模型 > 切换模型 中,你可以在各个功能槽分配模型与端点:
- 文本:主要聊天模型。
- 视觉:当聊天模型无法读取图像时。
- 嵌入:为文档知识库提供支持。
- 判定:已注册的判定模型。Natural Nudges使用它来决定何时加入对话。
- 标准图像:标准图像生成(参见图像生成)。
- NovelAI 图像:NovelAI 图像生成。
- 视频:视频生成。
- TTS(语音设计):使用已保存的语音描述进行朗读。
- TTS(声音克隆):使用参考样本或提供方语音进行朗读。
- 语音识别:通过托管转写模型或自定义端点转写音频附件。先选择提供方,再选择其模型;
- 无模型会停止使用服务器密钥进行转写。
模型列表会标出各提供方的默认模型,并以美元显示价格。文本和判定模型显示每 100 万输入和输出 token 的价格。OpenRouter 图像、视频和语音模型显示 OpenRouter 的计费单位:每张图片或每 100 万图片 token、按 TomoriBot 默认分辨率计算的每秒视频,以及每 100 万字符或每秒音频。自己注册的图像模型不显示价格。未列出价格的模型可能不按量计费,或未收录在 TomoriBot 的目录中,在使用前请查看提供方的定价页面。
前六个槽选择模型目录记录。TTS和STT插槽改为选择服务器范围的端点,激活选定的端点而不是编写模型列。在/providers中注册并编辑这些端点。/personal config保留6个个人模型路由插槽,不包括个人TTS/STT端点选择器。
你还可以管理/providers中的自动故障转移和负载平衡的备份密钥。
判定模型是 /providers 和 /personal providers 中的一个独立类别。它们以概率形式回答具类型的问题(是或否,或从多个选项中选择一个)。注册不会改变活动的聊天模型。在 /config > 模型 > 切换模型 中选择服务器的判定模型。除非在 /config > 插件 > Natural Nudges 中选择了其他检查模型,否则 Natural Nudges 会将其用作主动搭话检查模型,以判断对话是否契合某个人格的兴趣。
OpenRouter 是受支持的原生提供商。保存其密钥,打开其模型下拉菜单,然后选择 + 添加判定模型。从其已验证的判定目录中输入 ID。全局目录保留了一份满足不同需求的精选列表:Decider Flash V1.2(默认,快速且低成本)、Jev 1.14(更高精度)、GPT-6 Luna Decisions(最大输入)以及 Mercury Decide Free(实验用途)。这些角色遵循记录在案的功能;准确率与阈值需要针对你自己的问题进行测试。每周目录检查会提供新条目以供审查。其他注册归属于其服务器或个人所有者。原生发现提供记录在案的输入限制和价格。聊天目录无法建立判定支持。
对于自定义服务,选择 添加新的自定义端点,然后在 API 兼容性 中选择 兼容 System One 或 兼容 OpenAI Decisions。保存 API 基础 URL 和可选的 Bearer 凭据。其模型下拉菜单提供 + 添加判定模型 并继承该协议。输入记录在案的模型 ID 和输入 token 限制(至少 512)。Jev、Laya 和 Kev 使用 System One 兼容性。现有的聊天兼容和 Ollama 原生端点不提供此操作。
裸源规范化为 /v1。显式版本和网关前缀保持不变:https://decision.example.invalid/gateway/v1 在 System One 下调用 /gateway/v1/systemone,在 OpenAI Decisions 下调用 /gateway/v1/decisions。可达性检查使用 GET <stored-base>/models 且不发送对话数据;它不证明模型功能。当自动发现无法建立必要的功能元数据时,自定义模型将根据其服务文档手动注册。
打开已保存的判定注册即可对其进行编辑。自定义编辑会保留其确切的模型和端点身份。在 注册操作 下选择 删除此判定注册 可以在保留连接和凭据的同时将其删除。删除其父提供商或端点会移除该所有者的注册。其他所有者保留共享条目。模型列表在达到 18 个可编辑注册后使用现有页面控件进行分页。
提供商注册和凭据保留在预设/配置导出和导入之外。重置配置会保留保存的注册;删除父项会显式清理它们。
自定义端点允许你将自部署或代理支持的服务(Ollama、LM Studio、LiteLLM、vLLM、ComfyUI、本地TTS/STT)注册为标记的提供商捆绑包。
- 服务器范围:打开
/providers注册和编辑服务器端点。 - 个人范围:打开
/personal providers获取个人模型目录(参见个性化)。个人语音端点不是从/personal config中选择的。
标签是面向用户的菜单名称,当它们共享一个端点URL时,会将功能分组到一个捆绑包中。它永远不会发送到远程服务。从不同URL提供的功能需要不同的标签。
添加自定义端点:
- 在
/providers中,选择Add New Custom Endpoint。 - 选择API兼容性并保存连接。保存准备该协议支持的功能,而无需注册任何模型。
- 选择新端点并使用其模型下拉列表来注册准确的模型代码和功能。添加模型会激活它的该功能。
- 使用相同的下拉菜单附加更多模型或编辑现有注册。文本模型以这种形式声明自己的功能,图像模型声明它们支持哪些请求模式。
对于TTS和STT,在/providers中注册终端及其型号,然后在/config > 模型 > 切换型号中选择并激活终端。这些语音槽选择端点而不是模型目录条目。
API兼容性决定了服务实现的请求路径和有效负载,因此它也决定了连接准备哪些功能槽。为这些插槽注册确切的模型是一个单独的步骤,因为无法仅从端点URL可靠地推断出协议。
/setup的自定义端点模式在向导中执行相同的两个步骤:配置连接在可达性检查后面保存API兼容性、标签、URL和可选的身份验证令牌,配置文本模型注册确切的文本模型及其功能声明。模型按钮保持禁用状态,直到连接验证为止,重新保存连接会清除模型声明,因为声明取决于API兼容性。当你按完成设置时,向导会同时创建连接、已保存的提供程序、模型和活动模型行。该向导仅注册文本模型; 图像、视频、TTS和STT功能注册在/providers中。
OpenCode Go (https://opencode.ai/zen/go/v1) 和OpenCode Zen (https://opencode.ai/zen/v1) 作为OpenAI兼容的自定义端点。TomoriBot向它们发送所需的每次对话会话ID,该ID源自通道和人格的哈希值,因此Discord ID不会离开机器人。
有关运行本地服务器的完整演练,请参阅:
- 设置:本地LLM:Ollama、KoboldCPP、LM Studio、vLLM、LiteLLM。
- Setup: ComfyUI:本地图像和视频生成。
- 设置:ChatMock:ChatGPT帐户或Codex CLI。
支持的提供方
Section titled “支持的提供方”如果你没有硬件来托管自己的模型,TomoriBot支持广泛的云服务。并非每个提供商都提供所有功能。
LLM提供方
Section titled “LLM提供方”| 提供者 | 流媒体 | 工具调用 | 图像输入 | 嵌入 | 笔记 |
|---|---|---|---|---|---|
| Google双子座 | ✅ | ✅ | ✅ | ✅ | 提供免费模型 |
| OpenRouter | ✅ | ✅ | ✅ | ✅ | 消耗 OpenRouter 积分 |
| 人择 (API) | ✅ | ✅ | ✅ | - | 不是克劳德·代码 |
| NovelAI | ✅ | - | - | - | 文本模型无法使用工具;参见 NovelAI |
| NVIDIA NIM | ✅ | ✅ | ✅ | ✅ | 提供免费模型 |
| 深度搜索 | ✅ | ✅ | - | - | - |
| Z.ai | ✅ | ✅ | ✅ | - | 免费模型; 🟡 ToS = 仅限编码和代理使用 |
| Z.ai编码 | ✅ | ✅ | - | - | 认购计划 |
| Google Vertex AI | ✅ | ✅ | ✅ | ✅ | 包括“免费”Express版本 |
| Codex CLI(通过ChatMock) | ✅ | ✅ | ✅ | - | 设置 |
| 提供者 | 文本转图像 | 图像到图像 | 修复 | 笔记 |
|---|---|---|---|---|
| ✅ | ✅ | - | - | |
| OpenRouter | ✅ | ✅ | - | - |
| NovelAI | ✅ | ✅ | ✅ | 可以与其他提供商结合 |
| 英伟达 | ✅ | - | - | 仅文本到图像; 参考图像被忽略 |
| Z.ai | ✅ | - | - | - |
这些是提供商的图像模型的起始默认值。NovelAI通过它自己的管道而不是这个表来运行。通过/providers注册图像模型,你可以声明该模型自己的模式,这就是你在ComfyUI工作流程或API支持屏蔽编辑的提供程序模型上启用修复的方式。你从未声明的模型将继续遵循上述默认值。仅声明模型支持的内容:TomoriBot仅为你选择的模式提供工具,不支持的模式将在生成时失败。
| 提供者 | 文本转视频 | 图像转视频 | 笔记 |
|---|---|---|---|
| ✅ | ✅ | 异步轮询工作流程 | |
| OpenRouter | ✅ | ✅ | 异步轮询工作流程 |
| Z.ai | ✅ | ✅ | 异步轮询工作流程 |
| 提供方 | 文本转语音 | 语音识别 |
|---|---|---|
| ElevenLabs | ✅ | ✅ |
| Google Gemini | 语音设计 | ✅ |
| Vertex AI(标准、全局) | 语音设计 | ✅ |
| OpenRouter Fish | 声音克隆 | 否 |
| OpenRouter Seed Audio | 语音设计 | 否 |
| OpenRouter 转写模型 | 否 | ✅ |