Итак мой тир моделей, самый правдивый и непредвзятый. Кал, а потом мид удалю при первом поводе, чтоб диск не забивало, а пока пусть лежит на случай чебурнета, есть не просит, остальное нужно. Задавайте свои ответы по моделям, нассу на ебало.
>>330862632 (OP) Откуда качал. Сколько весят. На чем их запускать-то. Я у дипсика спросил как-то чтобы он собрал мне смету на сетап для запуска его офлайн и чуть не охуел на месте. Это все голубые грезы заиметь такую модель оффлайн.
>>330863107 По заебатости. >>330863179 Слушай, есть такая утилита, Кобольд называется, можно качать модели с ХФейса прямо через ее интерфейс не заходя на сайт. Но кто-то еще критикует 4 кватовые модели, мол малоточные, а надо 8, но у меня и на 4 квантах кодинг пишет, зато быстрее.
>>330862632 (OP) Что у тебя за компьютер, как ты запустил 120b? Какая модель выдает наиболее похожие на обычные нейросети модели? Gpt oss у меня думает думает и выдает ответ две строчки
>>330864028 >Что у тебя за компьютер, как ты запустил 120b? А что не так? Ну лагает, говно конечно. 3060, 48гб оперативы. Может не пригодится вообще качаю на случай чебурнета.
>>330864058 Лучше, потому что модель не лоботомируют, а переучивают. В 2 просто больше бреда насыпать будет, в этом нет задач, еретика легко можно карточками итак вынудить на любое цп.
>>330862632 (OP) А какой смысл то локальных моделей? Это говно уровня гпт 22 года, при этом на твоём ПУ КА по 5 минут раздумья. Ещё тиры какие-то создаёт, лол. Сорта говна.
>>330865262 uncensored модель отвечает без фильтров, хоть про порнушные истории хоть про вещества, но очень много придумывает от балды всякого бреда потому что не обучена на таких вещах.
>>330865477 > силли таверна через кобольда Оно проще типа в освоении? Из хф тоже выкачивает модельки? Для ЛЛМ у меня оллама в wsl, туда всякие подсасываю по необходимости, но генерацию картинок как понял лучше на винде ебашить.
>>330865516 Кому ты пиздишь? осс 20б мне кодинг пишет без ошибок, считает интегралы и экнцоклеподические знания, притом быстро, но 120 конечно лучше. Это не глм флеш и не дипсик.
>>330865747 Ну грок это онлайн сервис, мне показалось умельцы запилили в качестве. Модель грока для локалки валяется от разрабов, но это не то, девушку еще ставить самому и озвучку, лан проехали.
>>330865807 >>330865831 Бля, ну я о чём и говорил изначально, что локальные модели слабые, требовательные к железу. Естественно полнофункционального грока в доступе нету, а даже если он и будет, то модель такого уровня не запустится. Какие умельцы то, лол.