Я про то, что ничего в задачах может не измениться. Как было нужно собрать саммари или дайджест так и останется. Только сейчас это делает условный клод, а будет делать чип в телефоне, потому что задача простая. Всякий кодинг это не массовая задача.
собрать какой-то дайджест, найти инфу в интернете, написать код для страницы интернета, сайт, простеньких ботов, проанализировать данные с бирж, управлять умным домом, посмотреть анализы и сделать медицинские первичные заключения может сейчас любая модель с минимальным уровнем ИИ, достаточно 4в , там об интеллекте речи нет, это обычные потоковые алгоритмические задачи
На 3060 8Гб влазит с учётом того, что там же локальные эмбеддинги сидят. Сказал Гермесу придумай как резать на чанки и безшовно сращивать чтобы влазило по VRAM, а качество оценивай прогоняя через whisper large (тоже локально), прогони несколько циклов пока не будет охуен - все сделал