Holos. Навайбкодив собі диктовку

2026 - рік, коли програмісти перестали писати код і почали просити. Наступного року, мабуть, проситимемо вже вголос. Тож навайбкодив випросив у Клода диктовку. Назвав Holos (ага, я назвав).

Головна мета була, щоб розпізнавання працювало локально і ніхто не чув наших молитв до LLM. Аудіо не пишеться на диск і нікуди не відправляється, інтернет потрібен лише раз, щоб скачати модель.

Працює так: Затискаю праву Control, говорю, відпускаю, і текст вставляється туди, де стоїть курсор. Якщо говорити довго, можна двічі клацнути і не тримати клавішу.

Які проблеми вирішував по ходу

macOS, як тільки підключаєш блютуз-навушники, одразу перемикає мікрофон на них. Шукати під це ще один додаток я не хотів, тому в налаштуваннях Holos можна просто обрати мікрофон. А якщо його раптом нема, Holos бере будь-який дротовий, а блютуз лишає на крайній випадок. Там же можна підкрутити підсилення для кожного мікрофона, і воно діє тільки в Holos, системну гучність не чіпає.

Моделі

Спочатку все працювало на Whisper large-v3 від OpenAI. Фразу на 4 секунди він розбирає за 1,3 секунди, пів хвилини говоріння за 4,5. Потім я спробував Parakeet v3 від NVIDIA, і ті самі фрази він розпізнає за 0,13 і 0,33 секунди.

Промпти я в основному диктую українською. Whisper мову бере прямо з налаштувань, а Parakeet так не вміє, визначає її сам. І на коротких фразах інколи вирішував, що я говорю російською. Тому для нього українська в налаштуваннях працює інакше: коли модель вибирає наступний шматок слова, Holos забороняє їй «ы», «э», «ъ» і «ё», а шматкам з «і», «ї», «є» і «ґ» трохи підкидає балів. Допомогло.

Зараз сиджу на Parakeet, але Whisper не прибрав. Хоч він і думає довше, я десь два тижні диктував на ньому, і мене влаштовувало все, крім швидкості.

Коду на Swift близько 3600 рядків. Скільки з них написав я сам, питання філософське 🫠

Де взяти

Код на GitHub: ololower/holos. Готової збірки нема, треба зібрати самому. Потрібен мак на M1 чи новішому, macOS 14+ і Xcode.

git clone https://github.com/ololower/holos.git Holos && cd Holos
scripts/fetch-deps.sh
scripts/download-model.sh                  # Whisper, 1,1 ГБ
scripts/download-model.sh parakeet-ultra   # Parakeet, 0,6 ГБ, у 10 разів швидший
scripts/setup-signing.sh
scripts/build.sh --install

Вистачає будь-якої однієї моделі, обидві - якщо хочеться перемикатись. Після запуску дайте доступ до мікрофона і універсального доступу, і можна говорити.