Локальные модели без цензуры для кодинга и сравнение Kimi с GLM

Я бы и сейчас АМД купил за 6000, но не люблю их контору и интел всегда лучше по качеству и самих процев и главное софта биосов и вообще всего. АМД как были недоделками так и остались, хотя последние два компа у меня на АМД, но больше не буду их покупать, надоело. Можно начинать))) имхую конечно


Оригинал в Telegram

Как уже ранее высказывалась мысль, можно жопу не рвать а просто подождать. Ничего не устаканилось еще. Сто раз поменяется. Самый интересный вопрос что будет с локальными нейросетями. Если брать за аналогию кино, то есть мощные кинотеатры с попкорном и звуком но стали доступныы всем те же фильмы по подписке на огромных тв и/или проекторах.


Оригинал в Telegram

Скорее всего топы уже поняли этот момент и перестанут выпускать мелкие модели а китайские нонеймы обанкротятся сами. То есть открытых нормальных уже не будет, останутся Топы на подписке и всякие qwen12b или подобные


Оригинал в Telegram

А так естественно все переиграют еще сто раз и уж они то точно свою прибыль не отдадут.


Оригинал в Telegram

вот и я к тому же склоняюсь, что перестанут выпускать то что подорвет их денежный поток


Оригинал в Telegram

из этого следствие, что пока локалки не угрожают и возможно есть у них какие-то прорывные технологии, которые они выкатят по наадобности


Оригинал в Telegram

сейчас им вообще локалки не угрожают. там интеллекта не сильно много в таких сжатых моделях
Но в будущем вполне могут выйти на достойный уровень при доступности железа


Оригинал в Telegram

так тема с этого и началась. железо подтягивается. через год дипсик флеш станет доступным многим. через 3 вообще всем


Оригинал в Telegram

через 3 дипсик продадут и монетизируют и все будут в общей струе прибыли. Сейчас пока период самого начала и роста а не стрижки прибыли
все только начинается


Оригинал в Telegram

алибаба тоже имеет стратегический план и кучу денег в мыслях. А пока старается быть в тренде и занимает часть ниши своими тактическими входами с новыми открытыми моделями
потом будет как с КИМИ,


Оригинал в Telegram

Есть ещё один нюанс который многие игнорируют. Крупные компании всегда будут отдавать предпочтение закрытому контуру, и направление локальных сетей скорее пойдет в этом направлении. У китайцев какая та лаба так вроде и делает типа вот вам открытая модель но если ва для коммерции и компании дайте нам процент за использование.


Оригинал в Telegram

Скорее в этом направлении будет и пойдут модели чаще как раз 120-240б то что можно без сверх проблем поднять в компании


Оригинал в Telegram

И это кстати прикол не только нашего рынка но и Америка с Европой к этому тяготеют так как зависимость от одного поставщика многим не нравиться


Оригинал в Telegram

Возможен вариант с локальной нейросетью но лицензированной не просто для компаний а для запуска. Типа подписка на софт, которым ты можешь пользоваться как угодно локально но за обновления надо платить. И есть за что платить, новые знания, лицензированные инструменты может. Условно я покупаю себе локальный квен, плачу в год 10 тыс, использую как желаю но за продление и обновление могу платить далее.


Оригинал в Telegram

Это уже работает в некоторых случая


Оригинал в Telegram

Вангую будут давить на скорость и интеллект. Со временем отладят новый софт, драйверы, новые методы работы с ИИ, подтянут железо, увеличат значительно скорость работы, качество. И предложат или быстро и качественно или медленно и не на лучших моделях. Ну и залицензируют все и зарегулируют по правам, что для любых правовых предприятий очень важно. Я бы так сделал


Оригинал в Telegram

Физики для этого рынка не сильно интересны, там упор на корпоратив. Там все деньги. А не в правовом поле они не могут работать.


Оригинал в Telegram

Кто то пробовал уже новый минимакс м3.1 флеш? Вроде как сопоставим с глм 5.3 флеш


Оригинал в Telegram

Мне последнее время минимакс перестал нравиться, какие то галлюцинации постоянные, чаще стал находить ошибки
Да подписки интереснее но пришлось отказаться .
и думаю до глм 5.3 ему еще далеко
Но это в моей сфере, а в остальном хз


Оригинал в Telegram

5.3 хорош, сейчас мучаю кими К3. Это прямо близок к opus5.5


Оригинал в Telegram