Пробовал на разных моделях, на каких-то скатывается быстрее, на каких-то медленнее, но итог тот же.
Slowburn развитие диалога вообще не вариант.
Анон, помоги пофиксить
Вводные:
Macbook pro m3 18gb vram
Модельки через ollama
Последние модельки которые тестил
hf.co/DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF:Q8_0
hf.co/mradermacher/Irix-12B_Slush_V2-GGUF:Q8_0
Как человек наигравший около 700 часов ERP с сюжетом и имеющий 16врама могу написать следующие.
Лупы, галлюцинации случаются и будут случаться на всех моделях и конфигурациях.
Это значит что надо просто уменьшить шанс и частоту этих событий.
Сугубо на мой взгляд, у меня проскакивает что-то эдакое каждые 50 сообщений от иишки. Чем дальше чат, тем это число может сокращаться до 20-30. Наигрывал я максимум 800 сообщений.
Первое что надо делать - не игнорить. Свапать, при возможности даже ручками редачить текст чтобы нейронка потом читая брала за пример.
Второе уже глубже. Это промпты. Тут все сложнее. У разных моделей могут быть разные пожелания к ним. Только на опыте наигрывать с одной и той же моделью, правя.
Третье уже более неприятное - играть надо на английском.
Четвертое размер карточки и личности не более 3к вместе.
Пятое, не захламлять системный, авторский промпты. В них по надобности только важные инструкции 50-200т.
Шестое, составляй промпты и правь с помощью какой-нибудь мощной нейронки от корпов, не локальной.
Спасибо за советы,
Играю на английском в принципе, но тем не менее чат постоянно проебывается
А какие модели используешь на 16врама?