Pular para o conteúdo

Cloudflare Tunnel

Dê ao seu motor local uma URL HTTPS pública que você possa salvar no TomoriBot. Execute o motor e o cloudflared no seu PC; o bot hospedado se conecta diretamente através do túnel.

O Cloudflare Tunnel está disponível no plano gratuito. Você precisa de um domínio ativo no Cloudflare; o registro de domínio e o serviço upstream do seu motor podem ter custos separados.

Inicie seu motor seguindo o guia de configuração dele e mantenha-o vinculado a 127.0.0.1. Instale o cloudflared nesse mesmo computador:

Terminal window
winget show --id Cloudflare.cloudflared --exact
winget install --id Cloudflare.cloudflared --exact
cloudflared --version

Escolha um hostname sob seu domínio do Cloudflare, como engine.example.com. Substitua-o ao longo deste guia pelo seu próprio hostname.

Terminal window
cloudflared tunnel login
cloudflared tunnel create home-engine

O primeiro comando abre um navegador para autorizar seu domínio. O segundo imprime um UUID do túnel e cria o JSON de credenciais dele. Mantenha esse arquivo e o certificado da conta em sigilo.

Crie config.yml na sua pasta .cloudflared:

SOPastaExemplo de arquivo de credenciais
Windows%USERPROFILE%\.cloudflaredC:\Users\LOCAL_ACCOUNT\.cloudflared\TUNNEL_UUID.json
Linux~/.cloudflared/home/LOCAL_ACCOUNT/.cloudflared/TUNNEL_UUID.json
macOS~/.cloudflared/Users/LOCAL_ACCOUNT/.cloudflared/TUNNEL_UUID.json

Cole este exemplo para o CLIProxyAPI. Substitua o UUID, o caminho absoluto do JSON e o hostname. Mantenha aspas simples ao redor do caminho das credenciais para que as barras invertidas do Windows permaneçam literais.

config.yml
tunnel: TUNNEL_UUID
credentials-file: 'ABSOLUTE_PATH_TO_TUNNEL_JSON'
ingress:
- hostname: engine.example.com
path: ^/v1/(models|chat/completions)$
service: http://127.0.0.1:8317
- service: http_status:404

Para outro motor, substitua apenas path e service usando a aba correspondente. A regra de caminho expõe as rotas de API do TomoriBot; caminhos não correspondentes retornam 404.

path: ^/v1/(models|chat/completions)$
service: http://127.0.0.1:8317

Use a sua porta real: o CLIProxyAPI usa 8317 por padrão, o ChatMock usa 8000 e o KoboldCPP usa 5001. Este perfil também suporta outros motores de texto compatíveis com OpenAI. Ele exclui APIs de gerenciamento e operações de descarregamento de modelos.

Para expor vários motores, adicione uma regra de hostname para cada um antes da regra 404 final. Dê a cada um seu próprio hostname e porta de loopback. Um único túnel pode atender a todos eles.

Abra um terminal na pasta que contém config.yml e valide-o:

Terminal window
cloudflared tunnel --config ./config.yml ingress validate

Depois publique o DNS e execute o túnel:

Terminal window
cloudflared tunnel route dns home-engine engine.example.com
cloudflared tunnel --config ./config.yml run home-engine

Para vários hostnames, execute route dns uma vez por hostname. Deixe o motor e o conector em execução; não é necessário redirecionamento de portas no roteador nem exceção de entrada no firewall. Após testar, use as instruções de serviço do Cloudflare para inicialização automática, com caminhos explícitos de configuração e credenciais para a conta de serviço.

Abra /providers para compartilhar a conexão naquele servidor, ou /personal providers para usar sua própria conexão:

MotorCompatibilidade de APIURL do Endpoint
CLIProxyAPI, ChatMock, KoboldCPP, outros motores de textoCompatível com OpenAIhttps://engine.example.com/v1
ComfyUIComfyUIhttps://engine.example.com
Wrappers locais de TTStts-clonehttps://engine.example.com

Use a chave de cliente do seu motor como o token de autenticação se ele exigir uma; caso contrário, deixe o campo em branco. O CLIProxyAPI usa a chave sob access.api-keys. A API de texto do KoboldCPP usa a senha configurada nele. Um token arbitrário inserido apenas no TomoriBot não ativa a autenticação no motor.

Adicione um modelo na conexão salva, selecione-o para a capacidade correspondente e teste uma pequena requisição. Para o ComfyUI, teste também o envio de referências, o download de saídas e o cancelamento. Para TTS, confirme que o áudio é reproduzível. Mantenha os recursos de gerenciamento desativados no motor.

Se o motor exigir autenticação, confirme que requisições protegidas rejeitam chaves ausentes ou incorretas. Se ele não tiver autenticação, leia a exposição restante em Riscos conhecidos abaixo. Access e Caddy fornecem proteção adicional opcional.

SintomaVerificar
502Motor em execução, porta de loopback correta, conector no mesmo PC
1033 ou túnel desconectadoProcesso do conector, porta de saída 7844, conexão de rede e suspensão do computador
401A chave de cliente ou senha do motor coincide com o token de autenticação no TomoriBot
403 ou página de login em HTMLUm aplicativo do Access existente pode bloquear chamadas diretas de API; veja a configuração opcional do Access se você a usar
404Perfil do motor e URL corretos; use exatamente um /v1 para texto
Corte de stream ou 524Integridade do motor/upstream, suspensão do computador e limites de tempo do Cloudflare
Falha em envios grandesLimites de upload do Cloudflare e limites do bot/motor; base64 aumenta o tamanho da carga

Retorne a mídia gerada como bytes pela API. O bot hospedado não consegue ler caminhos de arquivos locais do seu PC nem URLs de download em loopback. Endpoints de produção exigem HTTPS público e respostas de DNS públicas; mantenha a verificação TLS e as verificações de SSRF ativadas.

O TomoriBot já mitiga os seguintes riscos quando você usa os painéis de provedores dele:

RiscoMitigação existente
Membros comuns lerem um endpoint salvo no painelOs painéis são efêmeros. As configurações de provedores do servidor exigem Gerenciar Servidor; as configurações pessoais carregam a própria configuração do usuário que invocou o comando.
Um erro de provedor expor a URL ou a chave no chatErros públicos usam descrições localizadas. Os detalhes brutos de erro em texto ficam restritos aos gerenciadores do servidor para credenciais do servidor, ou ao proprietário para credenciais pessoais. Falhas em ferramentas de mídia retornam mensagens classificadas.
Links de saída do ComfyUI revelarem a URL do motorO TomoriBot baixa a saída e a envia ao Discord.
Abrir uma porta expor o PC diretamenteO motor permanece em loopback e o cloudflared se conecta apenas na saída; nenhuma porta pública de entrada para o motor é necessária.