コンテンツにスキップ

KoboldCPPの文字起こし

KoboldCPPにはWhisperベースのSTTサポートがありますが、エンドポイントの形式はビルドによって異なる場合があります。TomoriBotのPhase 4アダプターは、OpenAI互換のPOST /v1/audio/transcriptionsを想定しています。

Whisper/STTを有効にしてKoboldCPPを起動し、ビルドが以下を公開していることを確認します。

  • POST /v1/audio/transcriptions
  • GET /v1/models または GET /models

TomoriBotが使用している間は、KoboldCPPを実行したままにしてください。ビルドが/api/extra/transcribeまたは別のカスタム形式のみを公開している場合は、TomoriBotに専用のアダプターが搭載されるまでラッパーを使用してください。

/provider custom-endpoint addを実行します。

  • capability: transcription
  • api_style: openai-compatible-transcription
  • endpoint_url: KoboldCPPサーバーのルートURL

モーダルで以下を設定します。

  • Transcription Model: サーバーが報告するモデル名
  • Transcription Language: 任意の言語ヒント(例: enja

登録すると、エンドポイントはすぐに有効になります。今後、エンドポイントを切り替える場合にのみ/model transcriptionを使用します。

登録後、TomoriBotは音声添付ファイルをバックグラウンドで文字起こしし、チャットコンテキストにテキストを追加します。文字起こしをチャットに表示して投稿したい場合にのみ、/speech transcriptsを使用してください。