Endpoint cục bộ và self-host

Hoàn toàn có thể vận hành một bản cài đặt TomoriBot với mọi thứ đều chạy cục bộ, từ sinh văn bản cho đến các tiện ích MCP. Mọi endpoint dưới đây đều tương thích với OpenAI hoặc là một trình bao bọc tham chiếu nhỏ, được đăng ký thông qua các lệnh /providers và được lưu trữ mã hóa trong cơ sở dữ liệu (không cần đến .env). Hãy chọn một tính năng để thiết lập:

Văn bản và vector nhúng

LLM cục bộBất kỳ máy chủ tương thích OpenAI nào như Ollama, KoboldCPP, LM Studio, vLLM hoặc LiteLLM để sinh văn bản và vector nhúng.

Codex CLI qua ChatMockCầu nối tương thích OpenAI cục bộ cho phép TomoriBot sử dụng các model Codex CLI.

Hình ảnh và video

ComfyUITạo hình ảnh và video ngắn thông qua phiên bản ComfyUI của riêng bạn bằng quy trình làm việc định dạng API.

Giọng nói

Chuyển văn bản thành giọng nóiCác công cụ TTS cục bộ (Chatterbox, Qwen3-TTS, IrodoriTTS, Fish S2 Pro, VoxCPM2, CosyVoice 3) cho tin nhắn thoại Discord gốc, sao chép giọng nói và VoiceDesign.

Chuyển giọng nói thành văn bảnChuyển âm thanh đính kèm thành văn bản cục bộ bằng WhisperX, whisper.cpp hoặc KoboldCPP.

Tìm kiếm web và thu thập dữ liệu

SearXNGProxy siêu tìm kiếm tôn trọng quyền riêng tư đóng vai trò công cụ web_search cục bộ nhằm tránh giới hạn tần suất công khai.

Crawl4AITrích xuất markdown kết xuất từ trình duyệt cho các trang web nhiều JS, hỗ trợ công cụ fetch_url.

Công cụ tùy chỉnh

Máy chủ MCP cục bộChạy máy chủ MCP cục bộ để mở rộng TomoriBot bằng các công cụ của riêng bạn (chỉ dành cho phiên bản self-host).

Khởi động các sidecar bằng bun run launch

Thay vì khởi động các dịch vụ sidecar một cách thủ công, hãy sử dụng bun run launch để khởi động các sidecar được yêu cầu, đợi chúng sẵn sàng, sau đó tự động chạy bot ở chế độ theo dõi:

# Chỉ bot, giống hệt bun run dev
bun run launch

# Đi kèm các sidecar Docker SearXNG và Crawl4AI
bun run launch --searxng --crawl4ai

# Đi kèm máy chủ TTS cục bộ (trước tiên phải thiết lập venv, xem hướng dẫn Chuyển văn bản thành giọng nói bên dưới)
bun run launch --qwen3tts
bun run launch --fishs2
bun run launch --voxcpm2
bun run launch --cosyvoice3

# Xem tất cả các cờ khả dụng
bun run launch --help

Các cờ khả dụng: --searxng, --crawl4ai, --qwen3tts, --chatterbox, --irodoritts, --voxcpm2, --fishs2, --cosyvoice3, --whisperx

Các sidecar Docker (--searxng, --crawl4ai) được tạo trong lần chạy đầu tiên và được tái sử dụng trong các lần chạy tiếp theo. Các sidecar Python TTS/STT yêu cầu môi trường ảo venv phải được thiết lập một lần từ trước; xem các hướng dẫn thiết lập riêng lẻ trong Chuyển văn bản thành giọng nói và Chuyển giọng nói thành văn bản.

Ctrl+C sẽ dừng bot và mọi tiến trình sidecar Python. Các Docker container được giữ chạy có chủ đích. Hãy dừng chúng thủ công bằng docker stop searxng / docker stop crawl4ai khi hoàn tất.