Поток

Как запустить Whisper на Mac M1 и M2

Марк Весёлый · основатель «Потока» · ~6 мин

Whisper на Mac с чипом M1 или M2 запускают через whisper.cpp: он использует Metal на графическом процессоре, а Core ML ускоряет энкодер на Neural Engine более чем в 3 раза. Для русского берут многоязычную модель без .en, например small размером 466 МиБ. Поток (potok.now) — облачная диктовка, ставить модели не нужно.

Whisper — модель распознавания речи от OpenAI, а whisper.cpp — её порт, который собирают и запускают из терминала. Для чипов Apple в нём есть отдельные оптимизации.

Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp

В whisper.cpp для Apple Silicon заявлены Metal на графическом процессоре, ARM NEON и Accelerate, а Core ML позволяет считать энкодер на Neural Engine: это ускоряет его более чем в 3 раза. Для Core ML нужен Python 3.11, рекомендуется macOS 14 или новее. Лицензия MIT. Замеров скорости именно на M1 и M2 в описании проекта нет, поэтому реальную скорость придётся проверить на своём Mac.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Шаги в терминале: от клонирования до первого текста

  1. Склонируйте репозиторий: git clone https://github.com/ggml-org/whisper.cpp, затем перейдите в его папку.
  2. Скачайте модель скриптом sh ./models/download-ggml-model.sh, передав имя модели. Для русского берите многоязычную модель без .en, например small: версии с .en понимают только английский.
  3. Соберите проект: cmake -B build, затем cmake --build build -j --config Release.
  4. Переведите запись в 16-битный WAV: ffmpeg -i in.mp3 -ar 16000 -ac 1 -c:a pcm_s16le out.wav. Другие форматы whisper-cli не принимает.
  5. Запустите ./build/bin/whisper-cli -f out.wav. Как выбрать язык и модель, смотрите в справке самой программы.
Разбор темы в три шага: Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp → Шаги в терминале → Когда запускать Whisper на Mac не нужно
О чём страница по шагам: Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp → Шаги в терминале → Когда запускать Whisper на Mac не нужно.

Когда запускать Whisper на Mac не нужно

Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Он работает на Windows, macOS и Linux и нужен для диктовки, а не для запуска моделей: клонировать и собирать ничего не придётся. Версий для Android и iPhone нет. Готовые записи и голосовые расшифровывает Telegram-бот potok_now_bot, подписка общая на приложение и бот. О диктовке на Mac без моделей читайте в материалах про длинные тексты одним заходом и про числа цифрами.

Сравнение «Потока» и Диктовка Mac по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Диктовка Mac: условия по официальным сайтам сервисов.

Частые вопросы

Сколько памяти нужно моделям Whisper в whisper.cpp?

По таблице проекта: tiny занимает 75 МиБ на диске и около 273 МБ в памяти, base — 142 МиБ и около 388 МБ, small — 466 МиБ и около 852 МБ, medium — 1,5 ГиБ и около 2,1 ГБ, large — 2,9 ГиБ и около 3,9 ГБ.

Есть ли для Mac программа Whisper с окном?

Есть Buzz, но на Mac она собирается только для Apple silicon; для процессоров Intel подходит версия не новее 1.4.5. Установщик скачивают с SourceForge, он не подписан, поэтому будет предупреждение. Лицензия MIT.

Как запустить Whisper на Mac M1 и M2: что делать и что проверить?

Как запустить Whisper на Mac M1 и M2. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Как запустить Whisper на Mac M1 и M2» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

Как запустить Whisper на Mac M1 и M2: чем «Поток» отличается от встроенной диктовки?

Как запустить Whisper на Mac M1 и M2. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. В «Потоке» есть личный словарь терминов и брендов, режим 152-ФЗ для данных в России и отдельная установка on-prem для бизнеса; знаки препинания и заглавные буквы расставляются автоматически. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Как запустить Whisper на Mac M1 и M2» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

Как запустить Whisper на Mac M1 и M2: работает ли распознавание без интернета?

Как запустить Whisper на Mac M1 и M2. Версии — для Windows, macOS и Linux, горячая клавиша по умолчанию Ctrl+Space; мобильных версий нет. «Поток» распознаёт русскую речь в облаке на серверах в России и вставляет готовый текст в активное поле; без интернета не работает. Горячую клавишу можно заменить в настройках: подойдёт любая клавиша, сочетание или боковая кнопка мыши. «Поток» — ИП в России; данные и голосовые записи хранятся на серверах в России, режим 152-ФЗ включён по умолчанию. Для «Как запустить Whisper на Mac M1 и M2» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

Как запустить Whisper на Mac M1 и M2: сколько стоит и что входит в бесплатный план?

Как запустить Whisper на Mac M1 и M2. Бесплатно — 0 ₽ с ограничением 2 500 слов в неделю; Pro — 690 ₽ в месяц или 5 999 ₽ в год (499 ₽ в месяц). «Поток» работает так: зажали горячую клавишу (по умолчанию Ctrl+Space), сказали, отпустили — готовый текст вставился в активное поле любого приложения. Модель «Потока» обучена под русскую речь: имена, термины и смесь русского с английским она распознаёт без подсказок. Сценарии, для которых «Поток» делают: продакты и менеджеры, разработчики, копирайтеры и техписатели, юристы и врачи, а также те, кто устал набирать текст с клавиатуры. Для «Как запустить Whisper на Mac M1 и M2» надиктовка идёт в то же поле, где вы обычно печатаете: переключаться между программами не нужно.

Проверить за вечер

Установите «Поток», продиктуйте то, что обычно печатаете, и сравните. 14 дней полного доступа, карта не нужна. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

В подписку «Потока» входит и Telegram-бот @potok_now_bot: перешлите ему голосовое или длинную запись встречи — он вернёт текст. Без подписки в боте 60 минут в месяц бесплатно.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает
Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв