Поток

whisper.cpp: как собрать и запустить

Марк Весёлый · основатель «Потока» · ~6 мин

Чтобы собрать whisper.cpp, клонируйте репозиторий, выполните `cmake -B build` и `cmake --build build -j --config Release`, затем запустите `./build/bin/whisper-cli -f samples/jfk.wav`. Для русского нужна многоязычная модель, без .en в названии. whisper-cli читает только 16-битный WAV. Готовая диктовка без сборки — Поток (potok.now).

whisper.cpp — реализация Whisper на C и C++ из репозитория ggml-org/whisper.cpp, лицензия MIT. Команды ниже взяты из его README, а проверять результат на своих записях нужно самому.

whisper.cpp: как собрать и запустить по шагам

  1. Склонируйте репозиторий и перейдите в него: git clone https://github.com/ggml-org/whisper.cpp.git, затем cd whisper.cpp.
  2. Скачайте модель: sh ./models/download-ggml-model.sh base.en. Это пример из README, и модель с суффиксом .en английская.
  3. Для русского возьмите многоязычную модель, без .en в названии. В README перечислены base, small, medium, large-v3 и large-v3-turbo.
  4. Соберите: cmake -B build, затем cmake --build build -j --config Release.
  5. Запустите: ./build/bin/whisper-cli -f samples/jfk.wav. Остальные флаги покажет ./build/bin/whisper-cli -h, там же ищите выбор языка.
  6. Если запись не в WAV, переведите её в 16-битный WAV: ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav. whisper-cli принимает только такой формат.
Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Платформы, память и сборка под видеокарту

whisper.cpp собирается на Windows (MSVC и MinGW), macOS, Linux, Android, iOS, в Docker и для WebAssembly. Памяти модели занимают так: tiny — 75 MiB на диске и около 273 MB в работе, base — 142 MiB и около 388 MB, small — 466 MiB и около 852 MB, medium — 1,5 GiB и около 2,1 GB, large — 2,9 GiB и около 3,9 GB.

Сборки под видеокарту отличаются флагом cmake: для NVIDIA cmake -B build -DGGML_CUDA=1, для Vulkan cmake -B build -DGGML_VULKAN=1, для AMD cmake -B build -DGGML_HIP=1 -DAMDGPU_TARGETS="gfx1201". Общие инструкции по диктовке собраны в разделе с руководствами.

Разбор темы в три шага: whisper.cpp → Платформы → Чего эти шаги не дают
О чём страница по шагам: whisper.cpp → Платформы → Чего эти шаги не дают.

Чего эти шаги не дают

Сборка whisper.cpp даёт программу командной строки, а не диктовку в любое поле. Если нужна именно диктовка, посмотрите готовые приложения для диктовки. Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Приложений для телефона у Потока нет. Одна подписка — приложение для диктовки и Telegram-бот potok_now_bot для записей и голосовых.

Сравнение «Потока» и Win+H по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Win+H: условия по официальным сайтам сервисов.

Частые вопросы

Какой формат аудио принимает whisper-cli?

Только 16-bit WAV. Другие форматы переводят командой `ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav`.

Как собрать whisper.cpp с поддержкой видеокарты?

Для NVIDIA собирают с флагом: `cmake -B build -DGGML_CUDA=1`. Для Vulkan — `cmake -B build -DGGML_VULKAN=1`, для AMD — `cmake -B build -DGGML_HIP=1` с указанием `-DAMDGPU_TARGETS`.

whisper.cpp: что делать и что проверить?

whisper.cpp. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «whisper.cpp» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

whisper.cpp: чем «Поток» отличается от встроенной диктовки?

whisper.cpp. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «whisper.cpp» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

whisper.cpp: работает ли распознавание без интернета?

whisper.cpp. Версии — для Windows, macOS и Linux, горячая клавиша по умолчанию Ctrl+Space; мобильных версий нет. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. Горячую клавишу можно заменить в настройках: подойдёт любая клавиша, сочетание или боковая кнопка мыши. «Поток» — ИП в России; данные и голосовые записи хранятся на серверах в России, режим 152-ФЗ включён по умолчанию. Для «whisper.cpp» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

whisper.cpp: сколько стоит и что входит в бесплатный план?

whisper.cpp. Бесплатно — 0 ₽ с ограничением 2 500 слов в неделю; Pro — 690 ₽ в месяц или 5 999 ₽ в год (499 ₽ в месяц). «Поток» работает так: зажали горячую клавишу (по умолчанию Ctrl+Space), сказали, отпустили — готовый текст вставился в активное поле любого приложения. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «whisper.cpp» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

Скачать «Поток»

Работает по одной клавише в любой программе. 14 дней полного доступа, потом Free 2500 слов в неделю или Pro 690 ₽/мес (499 ₽/мес за год). «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

Диктуете в приложении, а записи и голосовые расшифровывает @potok_now_bot в Telegram. 60 минут в месяц — бесплатно, подписка «Потока» снимает лимит в боте и в приложении.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв