Сообщение удалено в Telegram.
Товарищ, а вы в курсе что сегодня не 2020 год, а уже 2026 заканчивается? Попробуйте найти на рынке ddr5 память 128Гб ниже чем за 1000$? Берете серверную мать большим количеством слотов, ставите туда память, и вот у вас llama.cpp спокойно считает модель в этой памяти на всю throughput, который сможет выдавить мать по PCI шине. Бабло решает, память тупо стоит дорого…
Никогда не замечали за нейросетями, что их ответом можно манипулировать, задавая тон своего промпта? Они способны поддакивать практически любому запросу, не сильно расходящемуся с реальностью (если этот вопрос фильтры безопасности конечно проходит)
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
https://www.avito.ru/moskva/nastolnye_kompyutery/fevm_faex2_ryzen_ai_max_pro_495_192gb_2026_8418581854 во, десятка доларов(800тр) (а не далеко за), и прям на авито. При этом чисто ddr5 4 планки по 48Гб на днс начинаются от 400тр. а к ней еще как минимум видюху надо добавить из дорогого. Откуда вы берете цены в 2 тысячи долларов?
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Увы, чтобы воспользоваться его ответом, нужно использовать машину времени. таких цен сейчас не существует.
Сообщение удалено в Telegram.
Сообщение удалено в Telegram.
Да чтож такое то… llama.cpp спокойно тебе запустит инференс на видюхе, используя локальную память. Работает это, работает! Но, не с той скоростью, с какой вы ожидаете.
не в сотни… в только в десятку. И, эту производительность она выжмет только на своей памяти. На внешней памяти она тоже будет работать, но упрется в производительность шины и деградирует до той же ряжени