Для Whisper в Docker есть готовые образы whisper.cpp: ghcr.io/ggml-org/whisper.cpp:main идёт с curl и ffmpeg, а для видеокарт есть теги :main-cuda и :main-vulkan. Скачайте модель скриптом download-ggml-model.sh, запустите whisper-cli, а для сервера пробросьте порт 8080. Для диктовки есть Поток (potok.now).
Для Docker есть готовые образы проекта whisper.cpp. Ниже команды из его README.
Какой образ взять, чтобы запустить Whisper в Docker
Основной образ — ghcr.io/ggml-org/whisper.cpp:main: в нём есть curl и ffmpeg, он собран для linux/amd64 и linux/arm64. Для видеокарт предусмотрены теги :main-cuda, :main-musa и :main-vulkan. В README также перечислены теги cublas, main-intel и main-rocm.
Лицензия whisper.cpp — MIT. Приведённые ниже запуски идут на CPU. Для GPU к команде добавляют --device /dev/dri: в README это пример для встроенной графики AMD с Vulkan.
Как запустить: команды по шагам
- Выберите образ и подставьте его вместо
$IMAGE, напримерghcr.io/ggml-org/whisper.cpp:main. Папку для моделей назовите$MODEL_PATH, папку с записями$AUDIO_PATH. - Скачайте модель:
docker run -it --rm -v $MODEL_PATH:/models $IMAGE download-ggml-model.sh base /models. - Распознайте файл:
docker run -it --rm -v $MODEL_PATH:/models -v $AUDIO_PATH:/audios $IMAGE whisper-cli -m /models/ggml-base.bin -f /audios/jfk.wav. - Чтобы получить сервер, добавьте к
docker runпроброс порта-p "8080:8080"и запустите внутриwhisper-server --host 0.0.0.0 -m /models/ggml-base.bin. - Если нужна видеокарта NVIDIA для faster-whisper, библиотеки cuBLAS и cuDNN есть в образе
nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04.
Если хочется готовый продукт вместо контейнера, сравните бесплатные аналоги WhispeRu и другие готовые варианты вместо WhispeRu.
Когда Docker и Whisper не нужны
Контейнер не заменит диктовку в любом приложении: Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Готовые записи приложение не расшифровывает, для них у Потока есть Telegram-бот potok_now_bot: одна подписка — приложение для диктовки и бот для записей и голосовых.
Частые вопросы
В образе whisper.cpp запускают whisper-server --host 0.0.0.0 -m /models/ggml-base.bin, а к docker run добавляют проброс порта -p «8080:8080». Так приведено в разделе Docker README whisper.cpp.
Образ ghcr.io/ggml-org/whisper.cpp:main собран для linux/amd64 и linux/arm64 и содержит curl и ffmpeg. Кроме него в README перечислены теги main-cuda, main-musa и main-vulkan, а также cublas, main-intel и main-rocm.
Whisper в Docker. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Whisper в Docker» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.
Whisper в Docker. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Whisper в Docker» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.
Whisper в Docker. Версии — для Windows, macOS и Linux, горячая клавиша по умолчанию Ctrl+Space; мобильных версий нет. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. Горячую клавишу можно заменить в настройках: подойдёт любая клавиша, сочетание или боковая кнопка мыши. «Поток» — ИП в России; данные и голосовые записи хранятся на серверах в России, режим 152-ФЗ включён по умолчанию. Для «Whisper в Docker» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.
Whisper в Docker. Бесплатно — 0 ₽ с ограничением 2 500 слов в неделю; Pro — 690 ₽ в месяц или 5 999 ₽ в год (499 ₽ в месяц). «Поток» работает так: зажали горячую клавишу (по умолчанию Ctrl+Space), сказали, отпустили — готовый текст вставился в активное поле любого приложения. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Whisper в Docker» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.
Попробовать на своих текстах
Скачайте «Поток» для Windows, macOS или Linux: первые 14 дней — полный доступ без карты. Потом бесплатно 2500 слов в неделю или Pro за 690 ₽ в месяц. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.
Скачать «Поток»Голосовое из мессенджера или запись созвона можно переслать боту @potok_now_bot — он пришлёт текст. Бот входит в ту же подписку, что и приложение «Поток».
Встроенная диктовка и «Поток»
| Средство | Где работает | Русский язык | Где распознаётся речь |
|---|---|---|---|
| Поток | Windows, macOS, Linux | основной язык | облако, серверы в России, без интернета не работает |
| Голосовой ввод Windows (Win+H) | Windows 10 и 11 | только в Windows 11 | облако Microsoft, без интернета не работает |
| Диктовка macOS | macOS | есть | на устройстве или на серверах Apple |
| Задача | Знаков | Печать (200 зн/мин) | Голос (900 зн/мин) |
|---|---|---|---|
| ответ в чате | 300 | 2 мин | 0.5 мин |
| письмо | 1500 | 8 мин | 1.7 мин |
| пост или протокол | 4000 | 20 мин | 4.4 мин |
| статья | 10000 | 50 мин | 11.1 мин |
Первоисточники: support.microsoft.com · support.apple.com