Bỏ qua để đến nội dung

Thiết lập: CLIProxyAPI

Kết nối TomoriBot với một thượng nguồn được cấp phép thông qua CLIProxyAPI, một proxy Chat Completions cục bộ.

Làm theo hướng dẫn bắt đầu nhanh chính thức. Các bản phát hành đóng gói chứa tệp thực thi chạy sẵn; chọn đúng hệ điều hành và CPU của bạn, giải nén gói và xác minh checksum. Việc build từ bản clone Git là tùy chọn.

Cấu hình CLIProxyAPI trước khi khởi động nó. Nếu trình cài đặt đã khởi chạy sẵn một dịch vụ, hãy dừng dịch vụ đó trước.

Tạo tệp config.yaml nằm cạnh tệp thực thi (cli-proxy-api.exe trên Windows). Có thể dùng thư mục cấu hình riêng nếu muốn; các ví dụ này đặt cả hai tệp cạnh nhau. Thay thế placeholder client key bằng ít nhất 32 byte ngẫu nhiên mã hóa dạng hex hoặc base64 do trình quản lý mật khẩu tạo ra.

config-version: 8
server:
host: "127.0.0.1"
port: 8317
discovery:
enabled: false
management:
allow-remote: false
secret-key: ""
disable-control-panel: true
access:
api-keys:
- "REPLACE_WITH_RANDOM_CLIENT_KEY"
oauth:
auth-dir: "~/.cli-proxy-api"

Client key nằm dưới access.api-keys xác thực TomoriBot với CLIProxyAPI. Hãy giữ bí mật config.yaml cùng các tệp chứng chỉ trong oauth.auth-dir và không đưa vào Git. Giới hạn quyền truy cập chỉ cho tài khoản của bạn và tài khoản chạy tiến trình.

Để trống MANAGEMENT_PASSWORD và tránh dùng --password cũng như giao diện quản lý TUI: chuỗi bí mật quản lý rỗng sẽ giữ cho các route quản lý bị vô hiệu hóa, kể cả phía sau tunnel. Nếu phiên bản của bạn dùng định dạng cấu hình khác, hãy áp dụng các thiết lập này vào tệp config.example.yaml đi kèm của bản đó.

Chọn cách CLIProxyAPI xác thực với nhà cung cấp model. Cả hai phương thức đều sử dụng cấu hình cơ sở ở trên.

Chạy lệnh đăng nhập từ thư mục chứa tệp thực thi và config.yaml. Các ví dụ dưới đây dùng Antigravity; hãy thay bằng cờ của nhà cung cấp bạn dùng và xem kỹ màn hình chấp thuận trước khi đăng nhập:

Nhà cung cấpCờ đăng nhập
Antigravity--antigravity-login
Claude--claude-login
Codex--codex-login hoặc --codex-device-login
Terminal window
$configPath = (Resolve-Path .\config.yaml).Path
.\cli-proxy-api.exe --config $configPath --antigravity-login

Hoàn tất đăng nhập trên trình duyệt và đợi terminal báo thành công. CLIProxyAPI lưu thông tin xác thực trong oauth.auth-dir; thiết lập chỉ dùng OAuth không cần khối API key thượng nguồn. Luôn giữ trình lắng nghe callback OAuth ở máy cục bộ và dùng cùng một đường dẫn cấu hình cho cả đăng nhập lẫn khởi động. Các cờ đăng nhập khác được liệt kê trong --help và hướng dẫn nhà cung cấp upstream.

Khởi động máy chủ từ thư mục chứa config.yaml. Thay bằng đường dẫn tệp thực thi thực tế hoặc lệnh đã cài đặt nếu cần; giữ --config để máy chủ nạp đúng tệp này.

Terminal window
$configPath = (Resolve-Path .\config.yaml).Path
.\cli-proxy-api.exe --config $configPath

Giữ máy chủ đang chạy và tiếp tục sang bước 5. Giữ server.host ở 127.0.0.1; không cần thêm ngoại lệ tường lửa cho kết nối đến hay mở port trên router.

  1. Với bot ngoài môi trường production chạy trên cùng máy tính với CLIProxyAPI, hãy đặt ALLOW_PRIVATE_NETWORK=127.0.0.1:8317 trong môi trường của TomoriBot rồi khởi động lại bot. Dùng trình lắng nghe cục bộ đã cấu hình ở trên; không cần tunnel.
  2. Chạy /providers (người quản lý máy chủ) hoặc /personal providers và thêm một endpoint tùy chỉnh Tương thích OpenAI với các thiết lập sau:
TrườngGiá trị
URL endpointhttp://127.0.0.1:8317/v1
Token xác thựcClient key từ access.api-keys

Chọn kết nối đã lưu, thêm một Model văn bản bằng ID hoặc alias do CLIProxyAPI cung cấp và xác nhận bot trả lời trên Discord.

URL này giả định bot chạy trực tiếp trên máy chủ vật lý. Trong Docker, 127.0.0.1 trỏ tới chính container đó nên không kết nối tới trình lắng nghe của máy chủ vật lý qua địa chỉ này được. Bot chạy ở chế độ production vẫn yêu cầu đi theo lộ trình bot production lưu trữ riêng.

Cách liệt kê các model khả dụng

Khi CLIProxyAPI đang chạy, mở một cửa sổ terminal khác để liệt kê các ID model của nó. Tắt ghi chép phiên PowerShell hoặc theo dõi lệnh shell trước khi nạp client key. Đóng terminal này khi xong việc.

Chạy lệnh này từ thư mục chứa config.yaml; lệnh sẽ đọc client key đầu tiên theo bố cục ở trên.

Terminal window
$keyMatch = [regex]::Match((Get-Content -LiteralPath .\config.yaml -Raw), '(?m)^access:\r?\n api-keys:\r?\n - "([A-Za-z0-9+/=_-]+)"[ \t]*\r?$')
if (!$keyMatch.Success) { throw 'Expected a quoted client key under access.api-keys in config.yaml.' }
$engineKey = $keyMatch.Groups[1].Value
$headers = @{ Authorization = "Bearer $engineKey" }
$base = 'http://127.0.0.1:8317/v1'
$models = Invoke-RestMethod "$base/models" -Headers $headers
$models.data | Select-Object id
Remove-Variable engineKey, keyMatch, headers

Danh sách rỗng đồng nghĩa cần cấu hình thượng nguồn. HTTP 401 nghĩa là máy chủ đã phản hồi nhưng từ chối client key.

Hiện tượngHành động
401Kiểm tra client key, tách biệt với khóa thượng nguồn.
404Dùng đường dẫn gốc /v1, không kèm /chat/completions; kiểm tra ID model.
Tham số bị từ chốiĐể trống phần ghi đè cửa sổ ngữ cảnh và đặt mức suy luận ở Tự động; TomoriBot đã tự động thử lại các lỗi từ chối tham số hợp lệ trước khi bắt đầu xuất dữ liệu. Kiểm tra nhật ký xem có yêu cầu bị hạ cấp hay không trước khi bật công cụ hoặc phụ thuộc vào các điều khiển lấy mẫu.
403, trang đăng nhập HTML hoặc lỗi tunnelKiểm tra thiết lập tunnel. Nếu bạn đã bật Cloudflare Access, cần có thiết lập Access và Caddy tùy chọn; bảng cấu hình Discord không thể tự gửi các header của Access.
Luồng phản hồi bị dừngKiểm tra chế độ ngủ của PC, hạn mức thượng nguồn, tình trạng tunnel và các giới hạn luồng trong hướng dẫn Cloudflare.

Luôn tắt ghi nhật ký yêu cầu và gỡ lỗi trừ khi đang chẩn đoán một lỗi tái lập cục bộ đã ẩn dữ liệu nhạy cảm. Thay mới client key bị rò rỉ trong CLIProxyAPI, trong endpoint đã lưu của TomoriBot và mọi relay tùy chọn đang dùng nó. Thu hồi riêng các thông tin xác thực thượng nguồn bị rò rỉ.

Thu hồi đăng nhập tài khoản

Thu hồi quyền truy cập trong phần cài đặt tài khoản thượng nguồn, dừng proxy và xóa các tệp chứng chỉ cục bộ của nó. Chỉ xóa tệp không tự động thu hồi token.

Kiểm tra địa chỉ liên kết cục bộ

Nếu API cục bộ không truy cập được, hãy kiểm tra địa chỉ liên kết của nó từ một terminal khác trong lúc CLIProxyAPI đang chạy:

Terminal window
Get-NetTCPConnection -LocalPort 8317 |
Select-Object LocalAddress, LocalPort, State, OwningProcess

Chỉ chấp nhận 127.0.0.1; hãy dừng lại ngay nếu thấy 0.0.0.0, ::, * hoặc địa chỉ mạng LAN. Kiểm tra các quy tắc tường lửa hiện có (wf.msc trên Windows); không mở port đến hay thêm quy tắc chuyển tiếp port trên router. Cơ chế báo cáo trạng thái TCP của Windows đôi khi bỏ sót endpoint vẫn truy cập được, nên truy vấn đã bao gồm mọi trạng thái; bước tra cứu model tùy chọn sẽ kiểm tra khả năng truy cập API.

Kiểm thử phản hồi cục bộ

Nếu model không phản hồi được trong Discord, hãy kiểm thử trực tiếp nó trong lúc CLIProxyAPI đang chạy. Tắt ghi chép phiên PowerShell hoặc theo dõi lệnh shell trước khi nạp client key.

Chạy lệnh này từ thư mục chứa config.yaml; lệnh sẽ đọc client key đầu tiên theo bố cục ở trên.

Terminal window
$keyMatch = [regex]::Match((Get-Content -LiteralPath .\config.yaml -Raw), '(?m)^access:\r?\n api-keys:\r?\n - "([A-Za-z0-9+/=_-]+)"[ \t]*\r?$')
if (!$keyMatch.Success) { throw 'Expected a quoted client key under access.api-keys in config.yaml.' }
$engineKey = $keyMatch.Groups[1].Value
$headers = @{ Authorization = "Bearer $engineKey" }
$base = 'http://127.0.0.1:8317/v1'
$body = @{
model = Read-Host 'Model ID to test'
messages = @(@{ role = 'user'; content = 'Reply with hello.' })
stream = $false
} | ConvertTo-Json -Depth 4
$reply = Invoke-RestMethod "$base/chat/completions" -Method Post -Headers $headers -ContentType 'application/json' -Body $body
$reply.choices.message.content
Remove-Variable engineKey, keyMatch, headers

Nhận được câu trả lời đã tạo xác nhận việc truy cập thượng nguồn hoạt động. Riêng việc không thấy kết quả truy vấn socket chưa đủ chứng minh API không truy cập được.