Голосовой помощник Лариса на Raspberry Pi с Cocoon и Hermes

Пока все снова обсуждают новости про Пашу Дурова и Telegram, небольшой кейс с Cocoon и Hermes.

Я собрал на Raspberry Pi голосового помощника по имени Лариса.

  • Лариса распознаёт речь;
  • команда уходит в Cocoon;
  • Qwen3-32B возвращает структурированный intent;
  • Hermes вызывает локальный инструмент;
  • музыка включается.

Децентрализованный инференс используется не просто для очередного чата, а становится мозгом небольшого реального агента :smiling_face_with_sunglasses:

Короткое видео с результатом:

https://www.youtube.com/watch?v=JGzMf4ewoZE


Оригинал в Telegram

Какой бюджет на сетап?


Оригинал в Telegram

Сообщение удалено в Telegram.

У меня «жирная» версия

  • Raspberry Pi 5, 16 ГБ — я брал, когда она стоила примерно $150. Сейчас из-за подорожания памяти новая может доходить примерно до $300.
    16 ГБ чтобы можно было запускать компактные локальные LLM, Whisper и другие модели без постоянного облака.

  • Hailo-8, 26 TOPS — около $110.
    Это AI-ускоритель для локального компьютерного зрения: распознавать людей и объекты, считать транспорт, наблюдать за периметром. С ней Raspberry Pi может работать ещё и как домашний охранник.

  • Камера с микрофоном — примерно $60.
    Можно купить намного дешевле, но у меня не самая бюджетная: она используется и для зрения, и для голосового интерфейса.

  • Bluetooth-колонка — около $20.

  • UPS для Raspberry Pi — плата примерно $33, плюс аккумуляторы — ещё $20–35.
    Итого около $55–70. Он позволяет пережить отключение электричества и корректно выключить систему при низком заряде.

  • Карта памяти, охлаждение, корпус, питание и кабели — ещё примерно $50.

Но для самой Ларисы с Cocoon и Hermes всё это совершенно необязательно.

Минимальный вариант:

  • подержанная Raspberry Pi 3/4 или Pi 4 с 2 ГБ — $30–60;
  • простая USB-камера с микрофоном — $15–30;
  • недорогая USB- или Bluetooth-колонка — $10–25;
  • microSD и блок питания — $15–30.

Итого: примерно $70–145 с нуля.

Даже Raspberry Pi Zero 2 W за примерно $15 можно использовать, если распознавание и инференс вынести в Cocoon. Но для полноценного Hermes и локальных моделей она уже слишком слабая — я бы считал Pi 4 с 2 ГБ разумным минимумом.


Оригинал в Telegram

Какун чисто для теста, посмотреть как он работает :slightly_smiling_face:


Оригинал в Telegram