SillyTavern VOICEVOXとAPI接続で、しゃべるLLMを構築　OpenWebUIでも

SillyTavernの記事を書くのもたぶんこれで一区切りですが、VOICEVOXとの連携でおしゃべりさせてみます。

実際、これが一番ハマった。もう無理かと諦めかけた。

環境のインストール

はじめに

SillyTavernはVOICEVOXとの連携ができるよと紹介されている記事をみつけたのはこちら。

書いてあることは、単純なんですが。

まず、はじめにに書かれていること。

ようするに、単純にVOICEVOXを使うことはできないけど、やり方はあるってことです。

そのやり方が、こちら。

ここにあります。

これを動かせば、大丈夫ってことです。

Dockerのインストール（未インストールの場合）

インストールの手順ですが、大前提としてDockerが動く必要があります。

Windows版はDocker Desktopを入れておけば良いので、こちらから。

LLMを使ってみている人なら、OpenWebUIを試してみるのに、既に入っているのではないかいと。（うちはそうでした）

voicevox-openai-tts のインストール

まずは、git cloneでダウンロードします。C:\\ とか、適当なところで実行します。

コピーしたフォルダに移動します。

Docker Desktop を起動しておいて、Dockerのコンテナを追加します。

VOICEVOXをCPUで動かす場合は、

GPUにメモリの余裕があるなら、GPUを使う方がいいので、

これで、voicevox-openai というコンテナが追加されて、動いているはずです。で、この中身が、openai_tts_api と voicevox_engine です。

Docker Desktopの画面で確認できます。

これで準備完了です。

VOICEVOXを使う設定

で、最初に紹介した記事には、OpenWebUIとSillyTavernでの設定のやり方が書かれていますが、記事はLinuxサーバの環境のせいなのかなんなのか、その通りでは動きませんでした。ここから解決した結果を書きます。

どの声を使うかは、ID番号で指定するので、つぎのURLで確認しておきます。

例えば、IDを4にすると、四国めたんのセクシーになります。

ここも参考になります。

まずは、OpenWebUIで試してみます。

OpenWebUIの設定

設定　→　管理者設定　→　オーディオ　に進みます。

そして、

テキスト音声変換エンジンを「OpenAI」に
その下の、APIのアドレスに「http://host.docker.internal:8000/v1」です。

上の記事では、例として、http://localhost:8000/v1 と書かれてますが、これでは動きませんでした。声のIDの確認はlocalhostで表示されるのに、APIは動きません。これに気づくまで、ドハマりしました。

右のKeyは関係ないので、適当に何か入れておいてください。何か入れないと設定が保存できません。

TTSボイスは「4」とか、声のIDを入れます。TTSモデルは「tts-1」のままでよいです。

今度は、設定　→　オーディオ　から、

TTS設定を、応答の自動再生を「オン」にすれば、LLMの回答をVOICEVOXが音声で読み上げてくれます。

SillyTavernの設定

拡張機能から、TTSのメニューを開きます。

Select TTS Providerを「OpenAI Compatible」にして、
EnabledとAuto Generationのチェックボックスをチェックします。

あとは、好みに合わせてチェックします。

そしてProvider Endpointを「http://host.docker.internal:8000/v1/audio/speech」とします。

ここもhttpl://localhost:8000/v1/audio/speechでは動きませんでした。

大体、SillyTavern自体が、httpl://localhost:8000/（http://127.0.0.1:8000/）で動いているのに、どういうこと？とは思っていましたが。

Model:は「tts-1」のままで。

Available Voicesは、今後使いそうなIDをカンマで並べておきます。そうすると、キャラクターの設定のときに、リストで表示されます。

次にキャラクターとのチャットを表示した状態で拡張機能を選択します。

Default Voiceと、自分の設定した名前と、キャラクターの名前が出てきます。

ここに、それぞれの声のIDを振ればいいですが、自分のコメントは読まない設定にしているので、デフォルトだけ設定しておけば、キャラがその音声でしゃべります。

もちろん、キャラにそれぞれIDを設定しておけば、キャラごとに設定できます。

ちなみに、20は「もち子ノーマル」です。

音声のデモはこちらで聞けます。

これで、チャット画面でどんどんしゃべってくれます。

ただし、毎回SillyTavernの起動のときには、Dockerも起動しないといけないことと、なんだかんだでVRAMを取り合いになるので、でかいLLMはきびしくなります。

ではまた。