GPU для TTS и генерации речи

Синтез речи (Text-to-Speech) — одна из самых лёгких GPU-задач. Большинство TTS-моделей помещаются в 4–8 ГБ VRAM и не требуют дата-центровых карт. Переплачивать за A100 здесь почти всегда бессмысленно — cheaper is better. Логика выбора обратная от LLM-инференса: сначала смотрите на дешёвые consumer-карты, A100 — только для тяжёлого batch-режима.

Требования моделей

Рекомендации по картам

Для разовой генерации даже RTX 3080 за 43 ₽/час избыточна по мощности — упираетесь в длину текста и I/O, не в GPU. Это делает TTS самым дешёвым GPU-use-case в аренде.

Когда нужна A100/A5000

• Batch-инференс — генерация тысяч аудио для датасета, озвучки книг, подкастов, локализации видеоигр. При батчинге throughput на A100 в 5–10× выше consumer-карт, разница в цене окупается.
• Многопоточный API — TTS как сервис с десятками одновременных запросов. Здесь нужна не latency одного запроса, а общая пропускная способность.
• Fine-tune XTTS/F5-TTS — 24+ ГБ VRAM, A5000/A100.

Для одиночных запросов (один пользователь, разовая генерация) RTX 4090 быстрее и дешевле A100 — модель маленькая, упираетесь в latency одного запроса, а не в throughput. A100 тут будет простаивать на 90% ресурсов.

CPU vs GPU для TTS

Несколько моделей TTS хорошо работают и на CPU:

• Silero — на современном CPU синтезирует быстрее реального времени, GPU не нужен.
• Piper — ONNX-модель, оптимизирована под CPU, ставится на Raspberry Pi.
• espeak-ng — древний, утилитарный, без GPU вообще.

GPU нужен для моделей с transformer-архитектурой (Bark, F5-TTS, XTTS) и для batch-режима. Для стримингового синтеза коротких фраз на CPU часто разумнее, чем арендовать GPU.

Потоковый синтез и latency

Для стриминговых ассистентов важна time-to-first-audio — время от запроса до первых звуков голоса:

• Silero — 100–300 мс на CPU, идеален для real-time.
• XTTS-v2 — 0.5–2 с на GPU, приемлемо для чат-ботов.
• Bark — 2–5 с на GPU, не подходит для real-time диалога.
• F5-TTS — 1–3 с на GPU, компромисс качества и скорости.

Для real-time диалога берите Silero или XTTS. Для озвучки книг/видео (где latency не важна) — F5-TTS или Bark, там важнее финальное качество.

Клонирование голоса

Клонирование голоса (voice cloning) — частый сценарий аренды под TTS:

• XTTS-v2 — клон из 6 секунд референса, мультиязычный, среднее качество.
• F5-TTS — клон из 5–10 секунд, высокое качество, лучше держит тембр.
• OpenVoice v2 — быстрый клон, нейтральное качество, легко fine-tune.
• Fish Speech — клон + диаризация, коммерчески пригодный.

Для клонирования GPU обязателен — даже инференс требует transformer-прохода. Минимум 8 ГБ VRAM (XTTS), комфортно 16+ ГБ (F5-TTS, Fish Speech).

Batch-пропускная способность

Для озвучки большого корпуса (книги, подкасты, локализация) throughput важнее latency:

A100 даёт 5–10× throughput на тяжёлых моделях за счёт большого batch. Для разовой озвучки одной книги дешевле обойдётся 4090 за сутки, для постоянного сервиса — A100.

Практические шаги

1. Определите модель и режим (инференс / fine-tune / batch).
2. Для разового синтеза — RTX 3080 или RTX 3090, самая дешёвая опция.
3. Для Bark/F5-TTS и потоковой работы — RTX 4090.
4. Для batch-инференса и API — A5000 или A100 80GB.
5. Проверьте, нельзя ли обойтись CPU (Silero, Piper) — тогда GPU не нужен вовсе.
6. Подпишитесь на алерт в Telegram — сообщим, когда нужная карта появится по нижней цене.

Хостеры для TTS

• immers.cloud — RTX 3090/3080/4090 по часам, дёшево для коротких задач.
• Selectel — A5000/A100 для batch и продакшна.
• HOSTKEY — dedicated под постоянный TTS-сервис.

Смежные гайды

• Многопоточный inference — batch и throughput для TTS-сервиса
• Аренда A100 — для тяжёлого batch-инференса
• GPU для LLM-инференса — если TTS идёт в паре с LLM-ассистентом