Průvodce lokálním AI TTS

Potřebuji to?

„Místní“ znamená buď hlas vestavěný do SSN, který běží v prohlížeči, nebo hlasový server, který provozujete sami.

Vestavěné hlasy (bez instalace)

Běží uvnitř SSN ve vašem prohlížeči. Bez serveru, Dockeru nebo klíče API.

Nastavení ve 4 krocích

1. Přidejte &speech=en-US&ttsprovider=kokoro do svého dock.html odkaz. (Nebo piper, kitten, espeak.)
2. Přidejte tento odkaz do OBS jako Zdroj prohlížeče (Browser Source). Právě tato stránka vytváří zvuk.
3. V jeho vlastnostech zapněte Ovládat zvuk přes OBS (Control audio via OBS).
4. Pošlete krátkou zkušební zprávu, například Testing local TTS.

dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=kokoro

Hlasy, rychlost a další jazyky: nastavení poskytovatelů. Raději klikáte? Použijte průvodce nastavením.

Připojte vlastní server TTS

Server vám poskytne více hlasů, klonování hlasu nebo jeden hlas použitelný ve více nástrojích. SSN s ním komunikuje jako se serverem Kompatibilní s OpenAI hlasový server. Klíč API není potřeba.

1. Spusťte server. Kokoro-FastAPI je nejjednodušší.
2. V SSN otevřete seznam poskytovatelů TTS a vyberte Vlastní / místní koncový bod TTS.
3. V části Custom / Local API Endpoint, zadejte adresu serveru, například http://127.0.0.1:8880/v1/audio/speech.
4. Pole pro klíč API nechte prázdné.
5. Vyberte hlas, který váš server zná: af_bella pro Kokoro, nova pro openedai-speech.
6. Zkopírujte odkaz do OBS a pošlete zkušební zprávu.

Tyto možnosti vyžadují Docker Desktop nainstalovaný a spuštěný. Pro osobní použití je zdarma.

Pravidlo localhost

Tohle je nejčastější chyba.

Ověřte také, že firewall port povoluje a Docker jej zveřejnil (-p 8880:8880).

Kokoro-FastAPI

Kokoro-FastAPI spouští Kokoro jako místní server. Funguje na CPU, GPU není nutné.

1. Otevřete terminál (Příkazový řádek, PowerShell nebo Terminal) a spusťte jeden z těchto příkazů:

   docker run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu:v0.2.2

   NVIDIA GPU (rychlejší):

   docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:v0.2.0post4

   První spuštění jednorázově stáhne přibližně 1,5–2 GB.
2. Otevřít http://localhost:8880/web/. Měla by se zobrazit stránka pro zkoušení hlasů (dostupných je přes 67).
3. Použijte tento odkaz (pokud server běží na jiném počítači, změňte adresu):

   dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://127.0.0.1:8880/v1/audio/speech&voiceopenai=af_bella

Automatické spuštění s Dockerem:

docker run -d --restart unless-stopped -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu:v0.2.2

openedai-speech (Piper a XTTS-v2)

Možnost A: Lehký server Piper (CPU)

Méně než 1 GB. Bez klonování hlasu.

docker run -d --restart unless-stopped -p 8000:8000 ghcr.io/matatonic/openedai-speech-min

Hlasy: alloy, echo, fable, onyx, nova, shimmer.

dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=openai&openaiendpoint=http://localhost:8000/v1/audio/speech&voiceopenai=nova

cd openedai-speech
$env:Path = "$PWD\.venv\Scripts;$env:Path"
.\.venv\Scripts\python.exe speech.py --xtts_device none -H 127.0.0.1 -P 8000

Možnost B: Klonování hlasu XTTS-v2 (GPU)

Vyžaduje celý server, nikoli openedai-speech-min. Počítejte přibližně se 4 GB paměti GPU. CPU funguje, ale pomalu.

Místní most TTS

Malý pomocný nástroj SSN. Přijme požadavek SSN, předá jej hlasovému serveru a vrátí zvuk způsobem, který prohlížeče přijímají. Vyžaduje Node.js.

1. Řekněte mostu, kde server běží. PowerShell:

   $env:SSN_TTS_TARGET="http://127.0.0.1:8880/v1/audio/speech"

   Server na jiném počítači? Použijte jeho místní IP adresu, například http://192.168.x.x:8880/v1/audio/speech.
2. Ve složce SSN spusťte node scripts/local-tts-bridge.cjs. Nechte jej běžet.
3. Nasměrujte SSN na most:

   dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://127.0.0.1:8124/v1/audio/speech&voiceopenai=af_bella

macOS/Linux, na jednom řádku: SSN_TTS_TARGET="http://127.0.0.1:8880/v1/audio/speech" node scripts/local-tts-bridge.cjs. Uvnitř local-tts-bridge složky, node server.cjs dělá totéž. Port změňte pomocí SSN_TTS_BRIDGE_PORT=8125. Všechny možnosti: README mostu.

$env:SSN_TTS_REF_AUDIO_PATH="C:\voices\speaker.wav"
$env:SSN_TTS_REF_TEXT="Reference audio transcript here."
$env:SSN_TTS_TARGET="http://127.0.0.1:9880/tts"
node scripts/local-tts-bridge.cjs --mode gptsovits

dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://127.0.0.1:8124/v1/audio/speech&openaiformat=wav

$env:SSN_TTS_TARGET="http://127.0.0.1:7860/synthesize_speech/"
node scripts/local-tts-bridge.cjs --mode f5

dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://127.0.0.1:8124/v1/audio/speech&voiceopenai=default_en&openaiformat=wav

Klonování hlasu

Klonování není nastavení SSN. Je to funkce některých hlasových serverů. SSN posílá text chatu; klonovaný hlas vybírá server.

1. Nahrajte čistý klip jediného mluvčího, obvykle 3–30 sekund, s minimálním hlukem v pozadí.
2. Některé servery potřebují také přesný přepis slov v klipu.
3. Server převede klip na hlasový profil.
4. SSN posílá text chatu pomocí ttsprovider=customtts.
5. Server vrátí zvuk, obvykle WAV nebo MP3, a SSN jej přehraje.

S pamětí GPU 6 GB nebo méně začněte malými modely na serverech kompatibilních s OpenAI. Větší modely fungují také, pokud běží jinde.

Vestavěné Kokoro ani Kokoro-FastAPI hlasy neklonují.

Jaký počítač potřebuji?

Orientační výchozí hodnoty, nikoli záruky. Spotřebu paměti mění velikost modelu, délka textu i další aplikace.

Dostaňte zvuk do OBS

Zdroj prohlížeče OBS (doporučeno)

Funguje s vestavěnými hlasy i vlastním serverem.

1. Přidejte Zdroj prohlížeče (Browser Source) se svým dock.html odkaz TTS.
2. Zapněte Ovládat zvuk přes OBS (Control audio via OBS).
3. Klikněte na OK. TTS se nyní objeví ve zvukovém mixéru OBS.

Desktopová aplikace SSN

Desktopová aplikace používá stejná nastavení odkazu. Zvuk ale hraje z aplikace, nikoli z OBS. Zachyťte jej pomocí Zvuk plochy nebo Zachytávání zvukového vstupu (Audio Input Capture). Chcete-li oddělit TTS od ostatních zvuků, přesměrujte aplikaci do virtuálního kabelu: postup směrování zvuku.

Srovnání vedle sebe

Řešení problémů

Pro tvůrce serverů

Jak SSN komunikuje s vlastním serverem. Tuto část potřebujete pouze při jeho vytváření nebo ladění.

chat text -> SSN -> your endpoint (or the bridge) -> TTS server -> audio -> SSN plays it

POST /v1/audio/speech
{
  "model": "tts-1",
  "input": "Chat message text",
  "voice": "af_bella",
  "response_format": "mp3",
  "speed": 1.0
}

Kokoro-FastAPI:  dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://localhost:8880/v1/audio/speech&voiceopenai=af_bella&openaispeed=1.1
openedai-speech: dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://localhost:8000/v1/audio/speech&voiceopenai=nova
kokoro-web:      dock.html?session=YOUR_SESSION&speech=en-US&ttsprovider=customtts&openaiendpoint=http://localhost:3000/api/v1/audio/speech&voiceopenai=af_bella