Гайд по запуску Hermes Desktop на Windows с локальными моделями

Вот. !!!Я это давно тут пишу тк все гонятся за топами а задачи показывают для локальных 4в моделей)


Оригинал в Telegram · @DepartmentX

Именно.


Оригинал в Telegram · @RDirect

Ну я перешел на китайцев и потерь особо не ощущаю, были бы условия по лучше что мог бы комп оставить 24\7 больше бы локалки юзал


Оригинал в Telegram · @deniom3

Но китайци тоже не панацея и тоже начнут поднимать цены и закрычивать гайки со временем


Оригинал в Telegram · @deniom3

Для моиз задач тоже локальных и китайских достаточно


Оригинал в Telegram · @DepartmentX

Осталось подождать пока китайцы дадут свой локальный дипсик а нвидия сможет его запустить со своим чипом. ну ладно, который выйдет еще через 2 года. осталось подождать фиг да маленько


Оригинал в Telegram · @RDirect

Если качество модели 27b у гугла будет на уровне хотя бы прошлой Гемини 3 то я сразу заказываю себе v100 за полтинник и перехожу на локалку


Оригинал в Telegram · @DepartmentX

там сто токенов есть и память 32. будет достаточно


Оригинал в Telegram · @DepartmentX

рано или поздно будет. вероятно рано


Оригинал в Telegram · @RDirect

Хотя нет. там же печка 400 ватт, забыл совсем. Не буду заказывать)))


Оригинал в Telegram · @DepartmentX