コンテンツにスキップ

KoboldCPPの文字起こし

KoboldCPPにはWhisperベースのSTTサポートがありますが、エンドポイントの形式はビルドによって異なる場合があります。TomoriBotのPhase 4アダプターは、OpenAI互換のPOST /v1/audio/transcriptionsを想定しています。

Whisper/STTを有効にしてKoboldCPPを起動し、ビルドが以下を公開していることを確認します。

  • POST /v1/audio/transcriptions
  • GET /v1/models または GET /models

TomoriBotが使用している間は、KoboldCPPを実行したままにしてください。ビルドが/api/extra/transcribeまたは別のカスタム形式のみを公開している場合は、TomoriBotに専用のアダプターが搭載されるまでラッパーを使用してください。

/providersを実行し、新しいカスタムエンドポイントを追加を選んで、文字起こしのAPI互換性を使用します。

  • API互換性:openai-compatible-transcription
  • endpoint_url:使用しているKoboldCPPサーバーのルートURL

接続を保存したら、それを選択し、モデルのドロップダウンからサーバーが文字起こしモデルとして報告するモデル名を追加します。

エンドポイントの登録とモデルのセットアップには/providersを使用してください。その後、/config > モデル > モデルの切り替えを開き、登録したエンドポイントを選択して有効化します。

登録後、TomoriBotは音声添付ファイルをバックグラウンドで文字起こしし、チャットコンテキストにテキストを追加します。文字起こしをチャットに表示して投稿したい場合にのみ、/config > 動作 > 一般的な動作の通知を使用してください。