murkindev
28.Май.2026 14:56:03
1
Мне нужна ии модель, которая отлично сядет на моем raspberry pi 5 8gb
Оригинал в Telegram · @Murkindev
murkindev:
Мне нужна ии модель, которая отлично сядет на моем raspberry pi 5 8gb
Какая цель?
Оригинал в Telegram · @tinythief
murkindev
28.Май.2026 15:46:08
3
tinythief:
Какая цель?
Просто не могу решиться какая будет умной и шустрой
Оригинал в Telegram · @Murkindev
murkindev
28.Май.2026 15:46:14
4
tinythief:
Какая цель?
Ии агент, (моя сборка опенклав), для нее нужен локальный ии для быстрых запросов, облачные ии долго отвечают
Оригинал в Telegram · @Murkindev
murkindev:
Ии агент, (моя сборка опенклав), для нее нужен локальный ии для быстрых запросов, облачные ии долго отвечают
ничо не перепутал?-))
Оригинал в Telegram · @Phantom_Galaxies
rdirect
28.Май.2026 15:46:42
6
murkindev:
Ии агент, (моя сборка опенклав), для нее нужен локальный ии для быстрых запросов, облачные ии долго отвечают
на распберри пи не существует локальных моделей быстрых подходящих для опенклав в силу слабомощности. можешь получить максимум тупую 2b модель со скоростью 5 токенов каких нибудь. то есть по всем фронтам ты ничего не достигнешь. надо глобально подходить к смене парадигмы на покупку нового железа которое хоть что-то сможет
Оригинал в Telegram · @RDirect
iusupe
28.Май.2026 15:47:17
7
phantom_galaxies:
ничо не перепутал?-))
Думаю да
Оригинал в Telegram · @iusupe
rdirect:
на распберри пи не существует локальных моделей быстрых подходящих для опенклав в силу слабомощности. можешь получить максимум тупую 2b модель со скоростью 5 токенов каких нибудь. то есть по всем фронтам ты ничего не достигнешь. надо глобально подходить к смене парадигмы на покупку нового железа которое хоть что-то сможет
npu m2 ускоритель подключить)))
Оригинал в Telegram · @tigrohvost
rdirect
28.Май.2026 15:47:47
9
tigrohvost:
npu m2 ускоритель подключить)))
видел, читал, чушь не стоящая
Оригинал в Telegram · @RDirect