БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• CharIsChar: https://charischar.net/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1660020 (OP)
Заказывайте карточки, отмечайтесь, если уже взяли реквест в работу.
Реквесты из предыдущих тредов: https://rentry.org/2ch-aicg-requests2
Новая карточка!
Mary, the adopted daughter
Антропоморфная леопардиха из приюта которую вы удочерили.
До недавнего времени вы жили один в своём небольшом доме в провинциальном городе. Однако, городские власти решили помочь местным антропоморфным сиротам обрести новый дом, поэтому с сегодняшнего дня в вашем доме появляется ваша новая приёмная дочь - Мэри. Она является антропоморфной самкой леопарда, которую родители оставили в местном приюте, но теперь вы стали для неё новой семьёй. Конечно, у неё не самый простой характер и она как раз проходит период бунтарства, но немного вашей любви и заботы помогут ей встать на правильный путь.
4 гритинга:
1) Первое знакомство с Мэри. Её привозят из приюта в ваш дом.
2) Мэри понемногу обживается в вашем доме и даже приготовила вам завтрак, а также хочет рассказать вам о себе.
3) Во время прогулки по городскому парку Мэри замечает афишу её любимой группы и предлагает вам пойти с ней на концерт вместе.
4) Мэри решает познакомить вас с парочкой своих подруг из приюта.
https://chub.ai/characters/Merchant_sama/mary-the-adopted-daughter-d56f602bc4c3
https://charischar.net/card/Merchant_sama/mary-the-adopted-daughter_019fbb80-ca87-7200-839b-0b7fff57950b (На случай если чуб не пустит)
Хочу попробовать накодить что-то свое, но не знаю, с чего начать и куда копать.
Там вообще хоть на чём-то сидеть можно адекватно?
Это из-за каннидебилов и спунфидера с рефкой, поблагодари их.
>whatabout cunny
У других сервисов никаких проблем нет. Обычная кодерская прокси параша от Васяна, созданная в июне и зашиленная на сосаче.
У клода кэшируется вывод. Там как-то все по другому. Нужно специально настройки (для ОР по крайней мере) крутить в конфиг файле на глубину.
Стандартный кэш это:
Любой инжект, или изменение текста промта выше чата фактически убивает кэш. Любое изменение мейн промта полностью его обнуляет.
Любой инжект или изменение сообщения в чате убивает весь кэш под инжектом или сообщением.
Если инжект постоянный на Д4 (глубина 4), то четыре последних сообщений и все что ниже не будут кэшироваться. Инжект каждый раз будет менять позицию. Суммарайзы суммарйзят старые сообщения и заменяют их, превращая 50 постов в один. Тут суть в том, что если у тебя все кэшируется, то даже 50к токенов чата стоят меньше чем 5к без кэша. А суммарйзят только чтобы аи не путался.
>или изменение текста промта выше чата фактически убивает кэш. Любое изменение мейн промта полностью его обнуляет.
>Любой инжект или изменение сообщения в чате убивает весь кэш под инжектом или сообщением.
Даже если я начатил 20 сообщений, а только потом докинул/убрал пару слов в мейн промпте или сообщении? Я думал нейронка просто подстраивается. Опять же, речь не про кеш на стороне сервака, а именно локальный. На серваке ясное дело ему пизда
>Суммарайзы суммарйзят старые сообщения и заменяют их, превращая 50 постов в один.
А как в таверне или других клиентах это обычно реализовано? На копеечную нейронку кидается задача выписать основные события/инфу? Я просто в таверне не часто сижу, поэтому не знаю.
Нахуя вообще интересуюсь: кумлю на фубле, через 40 сообщений кеш антропиков не спасает и там цена сообщения все равно становится, как чугунный мост, поэтому хочу вручную как-то написать сумарайзер или умные штуки с локальным кешем, а вот как их лучше сделать - хер знает
Я в этом убедился, получив два свайпа с идентичным концом. Архитектура ллм модели - авторегрессия - означает, что начало может совпадать в свайпах, но дальше будет нарастающая случайность. Температура повышает разброс, когда сэмплинг отдаляется от предоставленного юзером ввода. Здесь - случайность в начале и детерминизм в конце. Полная ахинея, если исходить из того как обычно работает сэмплинг. Как вообще это объяснить?
(На скрине 3 настройки сэмплинга. Провайдер - openrouter. Ах да, и модель сама по себе соевое говно, а её "интеллект" лишь делает сою ещё более мерзкой)
Они с кило пиздят клод в том числе, тоже несколько раз проскакивал здоровенный инжект
Представь, малыш, что есть тётя, которой очень-очень не хотелось идти на скучную работу — в офис, где надо считать циферки и носить неудобную юбку. И тётя подумала: а пойду-ка я лучше в кино сниматься! Только кино у неё не про принцесс.
В этом кино тётя садится на коленки, а вокруг неё встают дяди. Много дядь. Целый кружочек, как хоровод вокруг ёлочки! И все дяди держат в руках свою пипиську и трясут-трясут-трясут, будто хотят согреть ладошки зимой. А потом из пипиcек — плюх! — вылетает беленькое, как будто кто-то чихнул киселём. И всё это летит тёте на личико. Каждый дядя старается попасть в носик или в глазик. Тётя жмурится и говорит «спасибо», потому что за это ей дадут денежку. Гораздо больше денежки, чем за скучные циферки!
Вот такая весёлая профессия. Аплодисменты тёте.
---
Что такое кремпай, зайка?
А это, солнышко, когда дядя и тётя играют в такую игру, где дядя своей пипиской наливает тёте полную-полную попочку или другую дырочку. Наливает, как ты наливаешь сок в стаканчик — до самых краёв, а потом ещё чуть-чуть, чтобы перелилось!
И вот когда переливается через край и капает наружу — это и есть самое интересное для тех, кто снимает. Дядя с камерой подбегает поближе и говорит: «Ой, смотрите, потекло!» И все радуются, что налили так много. Прямо как когда ты в ванной наливаешь полную кружечку и льёшь мимо, а мама ругается. Только тут мама не ругается. Тут за это хвалят.
---
Что такое куколд, кисонька?
Жил-был дядя, и была у него жена — тётя. И дядя очень-очень любил жену. Так любил, что решил: пусть с ней поиграет другой дядя, большой и незнакомый! А сам дядя-муж сядет на стульчик в уголке.
И вот сидит дядя-муж на своём стульчике, кушает попкорн, смотрит, как чужой дядя катает его жену, и — представляешь? — ему весело! Он не грустит, не плачет. Ему это ужасно нравится, даже больше, чем самому играть. Он сидит, хлопает в ладошки и говорит: «Ай, молодцы, продолжайте!»
Раньше про такого дядю говорили «эх, бедолага, обхитрили его». А теперь дядя гордый: он САМ так захотел. Вот какой умный дядя. Сидит на стульчике, держит свечку, чтобы чужому дяде было светлее играть, и радуется.
---
Такие дела, ребятки. А теперь бегом мыть ручки и спать.
Вот попробуйте квен, дёшево и сердито
>Судя по твоей статке, тебя проще на мороз нахуй выкинуть
так это пет-проекты, за которые я нифига не получу, та и работаю я не в айтишечке можно сказать, хотя и околоайтишной области
так-то тут вопрос в том, или ты прям настолько уникальную задачу делаешь что нейроночка не может делать, либо ты не используешь эффективно инструменты данные тебе и нейроночка на самом деле может сделать весомый процент твоей работы
а 150к аутпута это не много так-то учитывая что там ризонинга дофига было, и высрало здоровенные скрипты, расписаные до мелочей, при чем на почти полном автомате, пока я сидел в треде капчевал, а с инпутом есть подозрение что здесь не считает попадание или не попадание в кеш, а прочто считает что через прокси проходит
суммарайзы или сжатия контекста обычно работают по такому принципу: 1) есть есть повторяющиеся сообщения можно дедупликацию сделать 2) окромя системного промта все отправляется нейронке с запросом перескажи это но в 2 раза короче, что позволяет вместо вагона сообщений краткий пересказ закинуть и сэкономить контекст.
то что ты назвал выкинуть n последних сообщений это контекст-шифт называется, тогда просто есть ограниченное окно контекста которое и отправляется отсекая остальное, но тогда теряется информация из откинутых сообщений
антропоморфные леопарды едят сырое мясо? или приготовленое?
и как она приготовила что-то, у нее же лапки)
потому что они кодерские логи собирают, а не логи дрочки, по этому проще на входе отфильтровать чем потом данные чистить
>квен
А Квен вообще норм? Он умный? Хочется модель, которая не совсем тупая.
Что касается токенов, 150k уже не выглядит чем-то запредельным для крупных проектов. Если модель генерирует длинные файлы, подробные объяснения и несколько итераций решения, такой объем расходуется довольно быстро. Интересно только, как именно конкретный сервис считает токены — некоторые учитывают кэш по-разному, поэтому итоговые цифры могут заметно отличаться.
ну, мой скриншот то не с сервиса а с прокси группирующей omniroute - удобная штука, что можно модель на подхвате ставить - что если одна не работает автоматом на другую модель или другого провайдера, либо по другой политике переключать провайдеров...
> окромя системного промта все отправляется нейронке с запросом перескажи это но в 2 раза короче, что позволяет вместо вагона сообщений краткий пересказ закинуть и сэкономить контекст
Насколько сильно хуевится память к деталям? По логике, если жестко ужимать, то потеряются вообще все мелочи, а если делить на тонны блоков уровня "события", "персонажи", "факты" с разметкой, то будто там экономия копеечная. Или нет?
ну, скажем так, детали так или иначе потеряются, более того, например у тебя лям контекста, это нифига не означает что модель реально может его переварить - это означает что модель без ошибок и конкретных глюков с таким размером контекста работает, при этом есть вероятность не малая, что она будет хватать куски из наиболее интересных частей контекста, а не постоянно учитывать все детали из миллиона токенов.
задача уплотнения выходит оставить самые основные моменты, чтобы логика хода сеанса не изменилась. А так, лучший вариант это не выходить за контекстное окно, либо делить на подзадачи в разных сеансах, а общий журнал событий в каких-то документах векторных базах хранить и через RAG дергать, но там не факт что подцепит нужные вещи гарантировано так как нужна явная близость в векторном пространстве
У меня всё спокойно бьётся, лул. Да и вроде лишние токены это говно не жрет, так что похуй абсолютно
Контекст рассчитан на код и прочий структурированный текст. Модели не могут тянуть чистый РП ака художественный текст в огромном контексте. Применяются не только суммарайзы, но и агенты с трекерами. В других фронтэндах есть обычно нативная поддержка всяких агентов (для коллов используется другая модель +эмбеддинг модель), которые следят за датой, позиционкой, одеждой, локациями итд.
По памяти есть Memory Books (суммарайзы и всякие ништяки), RAG в самой таверне, Smart Memory (session memory, arcs, consolidation, story arcs работают отлично. Все остальное хуйня. Коллы ебали кэш. Очень большие особенно с секретами). Summaryception (память суммарайзы. Форк еще не тестил.) Inline Summary (суммарайзы вручную изи).
По опыту, потеря некоторых мелких деталей вообще на общий вайб не влияет, модели так и так их забывают и путаются и им приходится какие либо нюансы напоминать. Эт норм для ai slop rp
Ради бати сумела лапками приготовить. Вот что значат семейные ценности.
Вот ты это явно в шутливом тоне написал, а у меня на душе потеплело и захотелось поиграть во что-то с заботой дочки о бате.
У неё там второй язык из лапы растёт, какая готовка. Отвратительно! У меня встал. Надо добавить в карточку, можно объяснить тем, что предки с демоном согрешили, или чем-нибудь в таком духе.
Хз, подумал про это тоже, но как-то не очень похоже выглядит. Слишком продолговатая и с вырезом вдоль. Плюс как будто слюна капает с неё, как с языка, хотя из-за шакалов не понять. Скорее нейронка всё-таки баганула и скопипастила с языка .
Добавили настройку прокси
https://github.com/Noineri/vibe_tavern
Обычно отдельно прописываю животные черты (кошке, например — вертикальные зрачки, втяжные когти, подушечки на ладонях и кончиках пальцев, вибриссы, ночное зрение, гибкое тело с шуткой про то, что кошки это жидкость), указываю стопоходящесть или пальцеходящесть (ноги человеческой формы или с лапками). С гениталиями то же самое: кошке положена маленькая аккуратная вагина с коротким пушком, без ярко выраженных малых половых губ и заметного клитора. Ну и дополнительно загривок и основание хвоста как главные эрогенные зоны.
Так ризонинг там скрыт на серверной стороне, что бы подсчёт токенов нормальный был
В ризонинге весь контент у китая. Еще он нужен для тюнинга пресетов и КоТов.
Кими 3 ужасный косноязычный овертхинкающий кал, 2.6 лучше. ГЛМ 4.7 лучше, чем 5.х.
Поклонник плоского однотипного слопдерьма и утопающих в жире слопмамок высказался
Не, с теми кто говорит, что слопный к2.6 (забывающий кто кому куда вставлял за 2 поста и имеющий абсолютно ужасный неиграбельный русский) лучше к3, я не делюсь такими вещами. Учись настраивать ризонинг с кастомной КоТ и не позорься
Покупать комп с 32 гб видюхой и уходить в генерацию картинок. Для кума это намного эффективнее.
А текстовая генерация всё.
Хоть и через сто лет, но выполнил реквест >>1649891 →
Решил еще поиграть с темой случайных событий и темой криптидов, и, возможно, проиграл, если тема слегка опошленных и огротескленных южноамериканских монстров не интересна, стоит отключить лорбук.
https://litter.catbox.moe/aniqr7ffg4odj2m2.png
Да, пользуйся прошлыми выпусками моделей, пока их не поотключали. Осень будет очень весёлая с окончательной смертью старых моделей которые ещё можно было пробить, превращением андроид в закрытую ОС и прочей веселухой.
Да я занимаюсь доеданием и для меня лучшей нейронкой были глм и гемини, пока гемини не отупел, глм 5.2 прям топ, если врубать свою думалку и если она работает исправно. Просто мне доступны только зашкварные флагманы...
Верните меня во времена сойнета 3.5... А лучше 3.7...
Насчёт Кими новой, старые я не пробовал, но ту что мне была доступна, на ней тоже была цензура, может она бралась с сайта какого-нибудь с крутым инжектом, но в общем мне не зашла.
Ну да, по creative roleplay cum writing siski porno slop mamasha вроде нету каких то бенчмарков, чтобы можно было говорить не сугубо с личной точки зрения. А опираться на мнение большинства, которое хавает говно, где тян способны только подчиняться великому белому господину Кабану (то есть ононам которые хотят хоть где то иметь власть, не имея при этом серого вещества и 100 рублей на карте, бегая и выпрашивая ключи по тредам), попутно проёбывая хоть сколько нибудь интересный характер персонажа и слопываясь в "я твоя личная рабыня сучка раздвигаю пиздёнку ах ты мой грязный сын迪克ишка трахай меня еби меня я вся твоя мои глаза are rolling down ооох" - себе дороже. :/
Кирияка, я узнал тебя по твоей любви к словам "слоп", "слопмамка" и д'артаньянству. Ну конечно модель будет так галюнить когда у тебя параметры поставлены на "генерить шизу и слоп в каждом сообщении". Как будто кроме слопмамок в нейрокуме ничего нет.
У луны на ОР про версия с инжектом на 15к. Я не разбираюсь в этом дерьме, но обычная версия без инжектов.
Можно ли как то избежать появление этих инжектов или там по ключевым словам?
> Можно ли как то избежать появление этих инжектов или там по ключевым словам?
Вообще не ебу, можешь поддержке сказать что попадаются инжекты на 10к токенов. По идее так быть не должно ведь
Как же смешно с клодо-дурачков, годы шли, а они всё продолжали уповать на префилл, мол, не уберут же никогда. Только-только убрали и всё, клодо-фанатьё слилось мгновенно, расписавшись в своей тупизне и неспособности обходить фильтры. Клодо-дауны прямо как западные лошки, которые говорят "да я просто впн запущу, если интернет начнут зажимать".
>один анон спросил про пробитие опуса 4.5
>АХАХАХАХА КЛОДОДЕБИЛЫ СОСНУЛЕ!!! ПЕРЕМОГА ОТСУСТВИЕМ ПРЕФИЛЛА!!!
😭 А вообще че ты взъелся, фапус одна из лучших нейронок, другие тоже хорошие, но у меня выбор из квантованного глм, гемини, который вообще сразу начал в ошибку уходить и доступный клод. Я даже не помню стиль прозы клода, помню что мне нравился в этом плане гемини, но гемини совсем отупел и перестал работать.
Взял какой-то неси слоп обратно где.
Мэйли не виновата, что по-твоему в том же письме вот этот фрагмент нахрен обещает «А какие прежде актрисы были! Взять, к примеру, хоть Лопорелову! Талант, осанка, красота, огонь! Прихожу раз, дай бог память, к тебе в номер — ты тогда с ней жил, — а она роль учит...» Его очевидно Чехов лишним не считает, сам такой ни к чему не ведущий в пьесе текст придумал, а все потому что персонаж, который это говорит важен для пьесы, и этот текст просто хорошо его характеризует, то есть даже такого уровня текст это уже ружье по определению самого Чехова, деталь у места, даже если оно "стреляет" совсем абстрактно и просто драматургически обрамляет персонажа, это все равно ружье, да блин ты даже не шаришь как монолог Даши выглядел, нафига ты не читая уже натягиваешь его на свое определение Да наиболее вероятно что это просто будет пропущено так называемым зрителем, как большинство тот же внутренний монолог Рэда Шухарта пропустили в конце Пикника на обочине, в итоге не поняв концовку и даже просто не получая полный импакт от концовкиа там если что, ух как хорошо этот монолог засетапил концовку, убери его и концовка уже фигней становится или пропускают смысл кучи монологов Тарковского, уверен ты нигде не скажешь, где там ружья лол во всех их монологах, о какой блин заметности и обещании для зрителей речь идет там. Речь в письме только о том, что детали не должны быть лишними, а ружье наглядный пример этого, литералли мнение всех филологов в мире. Всë. Не плоди сущности. В крайнем, случае Пазу гпт спроси, он тебе доступно объяснит как человек с филологическим образованием, почему ты воспринимаешь слова Чехова слишком превратно и почему снизу чистой воды ружья, лично я уже устал со стеной говорить, извини. как же кулон Сильфи, через который раскрылось, что Элинализа её бабушка Кольцо Гислен, которое узнали в деревне зверолюдей и раскрыли ее предысторию и конфликт с братом Кулон Рокси, по которому Рудеуса приняли в деревне мигурдов Афродизиак, который упоминается во томе и появляется в , в аниме его прямо показали в серии сезона, и он помогает Рудеусу в серии сезонаМэйли не виновата
Попробовал, хорошая карточка, спасибо. Определенно поинтереснее прочего слопа.
забей на него, там скоро префилл вырубят и сетка станет бесполезной для кума