Изображения
Видео и 3D
Текст
Пропущено 1497 постов, 290 с картинками.
Тред для получения доступа в /nf
Пропущено 1497 постов, 3 с картинками.
ЧТО НОВОГО АКТУАЛЬНОГО
• Lens (3.8B) от Microsoft
• HiDream-O1-Image
• Z-Image-Base
• FLUX.2 klein (4b и 9b)
• Z-Image-Turbo
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза.
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/Comfy-Org/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
► Предыдущий тред >>1602441 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 329 постов, 106 с картинками.
> Победитель в точности по циферкам
>¹Z-Image Base weights have been Deprecated in favor of Convrot OTF, which is higher quality.
>²Tensorwise models are worse than on the fly quantization since we switched to row-wise INT8
Спасибо большое за объяснение, подожду пока кто-то большой это запилит
> Чем это отличается от q8_0?
Быстрее чем FP8 работает, и по синтетическим тестам точнее чем q8. Но реальное качество на уровне изображения никто не может подтвердить или опровергнуть, т.к. различия на уровне погрешности сида.
Но к этому подключается непонятный мутный гемор с лорами.
Мне не удалось получить выгоду по скорости против клейна mxfp8 у меня не получилось, но мб я перегнал как то некорректно bf16 модель
Прошлый тред: >>1612344 (OP) https://arhivach.vc/thread/1355625/
Схожие тематические треды
• SD-тред (не аниме): >>1613048 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 162 постов, 43 с картинками.
Работает медленно, картинка уровня полторашки, нужно много памяти. Одним словом говно. Даже не пробуй а если попробуешь то всё равно пиши что говно, так принято
Нужен блок натуртекста в промпте не меньше определённой длины, иначе качество резко падает.
Теги бур понимает, база обширнее и новее чем у люстры.
Сбоит до мутаций как люстра и более тугой инпэйнт, чем у люстры.
VAE более мощный, поэтому рисует более тонкие детали.
Требует привыкания.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1611633 (OP)
🚀 Последний обзор ИИ новостей:
📰 Главные новости ИИ
Amazon представила Alexa Podcasts, позволяя пользователям в США создавать подкаст-эпизоды по запросу с помощью ИИ, расширяя возможности создания аудиоконтента на базе искусственного интеллекта.
LetinAR привлекла $18,5 млн на разработку оптики PinTILT для ИИ-очков, обещая более яркие, тонкие и энергоэффективные дисплеи и сигнализируя о растущих инвестициях в носимые устройства с ИИ.
Google DeepMind сигнализирует, что сцена готова к Google I/O, и направляет зрителей на прямую трансляцию в X в 10:00 по тихоокеанскому времени для новых прорывов в области ИИ и анонсов продуктов
🏢 Приобретения
Anthropic приобрела Stainless более чем за $300 млн, закрепив за собой инфраструктуру SDK и ограничив возможности таких конкурентов, как OpenAI и Google.
Cohere приобретает Reliant AI, добавляя исследователей с опытом работы в области корпоративных приложений ИИ для здравоохранения и биофармацевтики, и интегрируя операции в Берлине и Монреале
Mistral AI покупает стартап Emmi AI
📦 Продукты
Amazon представила Alexa Podcasts, позволяя пользователям в США создавать подкаст-эпизоды по запросу с помощью ИИ, что знаменует собой выход на рынок автоматизированного аудиоконтента.
Google Gemini 3.5 Flash появляется в интерфейсе квот Cloud Console под идентификатором gemini-3.5-flash по цене $1,5 за миллион входных токенов и $9 за миллион выходных токенов
💻 Оборудование
LetinAR привлекла финансирование в размере $18,5 млн для развития оптических модулей PinTILT для ИИ-очков, стремясь к созданию более ярких, тонких и энергоэффективных дисплеев и выходя на рынок, который вырос на 300% в 2025 году.
NVIDIA начинает распространение ранних блоков процессоров Vera для рабочих нагрузок агентного ИИ, поскольку Илон Маск получает один для оценки SpaceXAI, а Oracle планирует сотни тысяч развёртываний, начиная с 2026 года
ASML сотрудничает с Tata Electronics по строительству 300-миллиметровой фабрики в Гуджарате, стремясь сделать Индию равным игроком в области чипов к 2032 году, в то время как в Техасе солнечная энергия впервые в истории может превзойти угольную генерацию в рамках ERCOT.
📱 Приложения
SandboxAQ приносит свои модели для открытия лекарств в Claude — степень кандидата наук в области вычислительной техники не требуется
Deutsche Börse разработала инструмент генеративного ИИ для решения задачи масштабной миграции блокнотов Zeppelin в Databricks
В поставщике услуг по уходу за пожилыми людьми Regis ИИ берёт на себя бумажную работу, чтобы сотрудники могли сосредоточиться на подопечных
OpenAI обновила ChatGPT для поддержки разворачиваемых и сворачиваемых сообщений, позволяя пользователям скрывать или отображать длинные ответы одним касанием
Новое приложение Siri от Apple, похожее на ChatGPT, по сообщениям, будет автоматически удалять чаты.
🔓 Открытый исходный код
Qwen 3.7 появляется на Arena. Релиз скоро на хаггингфейсе.
Выпущен бесплатный многоязычный корпус Indic из 9,8 млн документов — хинди, бенгали, тамили, телугу + ещё 7 языков (CC0, HuggingFace). Многоязычный корпус для предобучения из 9 836 075 документов (~8,4 млрд оценочных токенов) на 10 языках Индии и английском языке, созданный на основе высококачественных данных веб-краулинга HPLT Monolingual v3.
PSA: Если вы не обновляли Llama.cpp пару дней и обнаруживаете, что MTP работает плохо, обновите llamacpp. Обновил его вчера и получил прирост скорости генерации токенов примерно в 1,5–1,8 раза. Они даже в значительной степени исправили проблему с pp.
Unsloth AI выпускает оптимизированные под MTP GGUF-файлы для Qwen3.6-27B и Qwen3.6-35B-A3B на Hugging Face, обеспечивая генерацию в 1,4–2,2 раза быстрее
Perplexity AI выпускает pplx-embed-v1-late-0.6b — модель эмбеддингов с поздним взаимодействием на 0,6 млрд параметров — на Hugging Face с оптимизацией MaxSim на уровне токенов и поддержкой нескольких языков
OpenAI открывает исходный код Symphony — спецификации SPEC.md для оркестрации автономных агентов для написания кода.
NVIDIA представляет SANA-WM: открытую мировую модель с 2,6 млрд параметров, которая генерирует видео разрешением 720p длительностью в минуту на одном графическом процессоре.
💰 Финансирование
Kin Health привлекает $9 млн на создание ИИ-ассистента для ведения заметок для пациентов
Viktor привлекает $75 млн в раунде серии А под руководством Accel — крупнейшее финансирование для компании, основанной в Польше, поскольку её ИИ-коллега работает внутри Slack и подключается к более чем 3000 инструментам
Leopold's Situational Awareness раскрывает новые длинные позиции в NVDA, AMD, TSM, MU и других названиях полупроводниковых компаний, а также корректировки владений, связанных с майнингом биткойнов, в своём последнем отчёте 13F
Капитал оценивает будущее до его наступления: акции SpaceX открылись для торговли на бессрочных фьючерсах Hyperliquid с оценкой в $2,4 трлн — крупнейшее размещение в истории, а Илон заявляет, что Starship создан для вывода на орбиту более мегатонны груза в год.
🏭 Компании
Бум ИИ не помешал компаниям США нанимать дешёвую офшорную рабочую силу, и занятость в зарубежных кол-центрах по-прежнему стремительно растёт
Присяжные выносят победу Сэму Альтману и OpenAI в споре с Илоном Маском
Андрей Карпати присоединяется к Anthropic для исследований передовых больших языковых моделей — Андрей Карпати объявил, что присоединился к Anthropic для работы над большими языковыми моделями на переднем крае исследований. Он выразил энтузиазм по поводу возвращения к практическим НИОКР и внесения вклада в усилия компании в ближайшие несколько лет. Карпати также отметил свою неизменную страсть к образованию и намерение возобновить соответствующие проекты в будущем.
DeepSeek нанимает команду для создания конкурента коде-харнессу Claude — DeepSeek активно набирает менеджеров по продукту и сотрудников НИОКР в Пекине для создания собственного инструмента для работы с кодом, явно смоделированного по образцу Claude Code.
💰 Бизнес
Бывший генеральный директор Google Эрик Шмидт освистан выпускниками при упоминании ИИ
Edison Scientific развёртывает ИИ-агента Kosmos совместно с Incyte для ускорения разработки лекарств
Кен Гриффин из Citadel описывает качественный скачок в наборе инструментов ИИ: финансовая работа уровня кандидата наук, которая раньше занимала человеко-годы, теперь выполняется агентным ИИ за часы или дни.
Президент заявляет, что Белый дом «должен был просить более крупную долю в Intel» сверх своих 10 процентов, после того как знаковые сделки подняли акции компании более чем на 300 процентов.
Выручка резко концентрируется: Anthropic и OpenAI получают 89% годовой выручки среди 34 наиболее зрелых стартапов в области ИИ.
Amazon привлекает немецкую компанию DeepL для сотрудничества.
🤖 Робототехника
Figure 03 демонстрирует потрясающую пропускную способность 2,6 секунды в течение 8-часовой смены без монтажа
«Момент iPhone 1»: Figure 04 достигает полной фиксации дизайна. Генеральный директор Figure Бретт Эдкок подтвердил, что Figure 04 достиг «полной фиксации дизайна», и компания уже начала отгружать детали для новой системы.
Эдкок описывает предстоящего гуманоида как «момент iPhone 1» для отрасли, представляющий собой самый значительный скачок между поколениями в истории компании.
Великий параллелизм: Джим Фан из NVIDIA излагает стратегию «конечной игры» в робототехнике. NVIDIA прогнозирует проведение «физического теста Тьюринга» в течение 2–3 лет и завершение «технологического древа» робототехники к 2040 году.
Boston Dynamics публикует видео, на котором её гуманоидный робот Atlas поднимает и переносит мини-холодильник, используя управляемую ИИ координацию всего тела в лабораторной демонстрации
Unitree Robotics демонстрирует управление своим гуманоидным роботом G1 в реальном времени с помощью голоса, когда внешние команды запускают автономные действия, сгенерированные ИИ, записанные в один дубль
В Атланте десятки пустых автомобилей Waymo вторглись в тупик и кружили там часами без пассажиров.
Робот может позволить себе проиграть, человек — не может позволить себе выиграть. Человек-сортировщик посылок от Figure выиграл с минимальным перевесом, при этом его левое предплечье было «практически сломано», а генеральный директор Бретт Эдкок предсказал: «Это последний раз, когда человек когда-либо победит».
Пропущено 373 постов, 110 с картинками.
Его просто сдвигают по чуть-чуть всё время. В 2040м те, кто дожил и не помер от цирроза ИТТ будут говорить, что в 2042м году уже 100% выйдет АГИ, который будет за нас делать открытия
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №236 /llama/
Аноним
22/05/26 Птн 06:11:44
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1615052 (OP)
>>1612868 (OP)
Пропущено 133 постов, 15 с картинками.
>я даже не знаю что такое фифи.
Скрин с фифи >>1618180 стал началом этого диалога, чел. Фифи для нашего треда - как сын полка, точнее дочь. Эталонная карточка для проверки множества вещей - рп отыгрыша, следования карточке и характеру персонажа, ну и проверка цензуры, конечно.
>Чем лучше "18+ NSFW", с которым гемма тоже всякое пишет
А ты вчитайся в тот промпт, посмотри что именно там разрешено.
>а с этим как-то так, в основном что ничего не может? По семплам фиг поймешь что там раньше было, ей что в предыдущем промпте написал, то она и ответит. Или это не про гемму вообще?
Поток сознания какой-то, связнее мысли выражай.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышел Claude Opus 4.7: https://www.anthropic.com/news/claude-opus-4-7
• Вышел Deepseek V4: https://api-docs.deepseek.com/news/news260424
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jbs
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utilities
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Локальные языковые модели: >>1596667 (OP)
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1606640 (OP)
Пропущено 1001 постов, 142 с картинками.
А как вообще это проверить? У меня и с включенным ВПН, и с запретом, и с полностью отключенным всем этим идентичная срань
С чего начать:
- Хочешь кодить с AI эффективно: Cursor или Claude Code
- Хочешь кодить в VS Code без привязки к конкретному провайдеру: Kilo Code, Cline или Roo Code + OpenRouter
- Хочешь кодить с AI локально: OpenCode, Qwen Code или Pi Coding Agent + из моделей аноны советуют Qwen3.5, подробности в llama-треде
- Хочешь приложение без кода: Lovable или bolt.new
- Хочешь автоматизировать рутину: n8n или Langflow
- Хочешь персонального ассистента: OpenClaw + API корпов или локальная модель на твоей пеке
FAQ и расширенная инфа:
https://rentry.org/2ch-agents-faq
IDE с AI:
- Cursor: https://cursor.com
- Windsurf: https://windsurf.com
- Antigravity: https://antigravity.google.com
- Zed: https://zed.dev
CLI-агенты:
- Claude Code: https://code.claude.com/docs
- Codex (OpenAI): https://github.com/openai/codex
- Pi: https://pi.dev/
- OpenCode: https://github.com/anomalyco/opencode
- Qwen Code: https://github.com/QwenLM/qwen-code
- Gemini CLI: https://github.com/google-gemini/gemini-cli
- Kimi Code: https://www.kimi.com/code/en
Плагины для IDE:
- Kilo Code: https://kilo.ai
- Cline: https://github.com/cline/cline
- Roo Code: https://github.com/RooCodeInc/Roo-Code
- GitHub Copilot: https://github.com/features/copilot
- Continue: https://github.com/continuedev/continue
Вайб-кодинг без кода:
- Lovable: https://lovable.dev
- bolt.new: https://bolt.new
- v0: https://v0.dev
Персональные ассистенты:
- OpenClaw: https://github.com/openclaw/openclaw
- NemoClaw: https://github.com/NVIDIA/NemoClaw (OpenClaw в песочнице от NVIDIA)
- Hermes Agent: https://github.com/nousresearch/hermes-agent
- nanobot: https://github.com/HKUDS/nanobot
- PicoClaw: https://github.com/sipeed/picoclaw
Автоматизация и фреймворки:
- n8n: https://github.com/n8n-io/n8n
- Langflow: https://github.com/langflow-ai/langflow (визуальный построитель workflow)
- LangChain/LangGraph: https://github.com/langchain-ai/langchain
- CrewAI: https://github.com/crewAIInc/crewAI
- AutoGen: https://github.com/microsoft/autogen
- Agno: https://docs.agno.com/
Локалки и прочее API:
- OpenRouter: https://openrouter.ai
- NVIDIA Build: https://build.nvidia.com/models (бесплатно, 40 RPM, OAI-Like API, 100+ моделей включая DeepSeek/GLM/MiniMax)
- llama-тред: >>1615052 (OP)
Предыдущий тред: >>1600422 (OP)
Пропущено 104 постов, 17 с картинками.
Ничем. Я больше нигде не видел подписку за 50р, которая даёт и код генерить, и в чате рисерч сделать, и в консоли работать с файлами, и пикчи генерить с видео во флоу. Если копрогпт есть за копейки, тоже взял бы.
ОСНОВНЫЕ ОНЛАЙН ГЕНЕРАТОРЫ
1. Suno
https://suno.com/
Вышла версия 5.5 (но для тех кто платит денюшку), качество моделей постепенно улучшается: звук, понимание концепций, набора различных жанров. Но в то же время все сильнее урезается для бесплатных юзеров: осталось только 5 бесплатных генераций в день на аккаунт, а также по заявлением некоторых анонов, модель для генерации на бесплатке (на момент создания треда использовалась 4.5) ухудшили. Спам аккаунтами пока что работает.
Купить подписку из РФ:
1. https://payment.mts.ru/tools/suno-ai
2. https://plati.market/games/suno-ai/1701/
2. Tunee
https://www.tunee.ai
Хороший звук, более-менее понимание концептов, но тоже сильно урезан для бесплатных юзеров: режет концепты в промптах, плюс произвольно определяет "цену" за каждую генерация исходя из какой-то "сложности запроса". И получается, что если с бесплатки забацаешь промпт сложнее банальщины "Make cool rock about love for youtube" он может решить что у тебя нет кредитов для такого сложного запроса и пошлет нахуй. Способов оплаты из РФ неизвестно.
3. Sonauto
https://sonauto.ai/
Как по мне, недооценённая вещь, особенно учитывая что недавно он обновился до 3.0, который очень даже разъебывает. Но он тут более ограничен тегам и понимает чисто какие-то жанровые теги, гибкости поменьше. Но зато пока что халявный и не ограничен кредитами, генерируй пока есть настроение.
4. Другие сервисы, которые можно попробовать, но сам много про них сказать не могу
https://www.wondera.ai/
https://www.beatoven.ai/
https://stableaudio.com/
https://www.loudly.com/music/ai-music-generator
https://www.elevenlabs.io
ЛОКАЛЬНЫЕ ГЕНЕРАТОРЫ
Потихоньку развиваются, стоит внимания ACE-STEP 1.5:
https://github.com/ace-step/ACE-Step-1.5
Звук уже на уровне раннего Suno ~2.0-3.0, аноны делают на нем уже приемлемые результаты и постят в тред. Если есть хотя бы 12 GB VRAM и хочется генерировать без цензуры и подписок - можете юзать.
МЁРТВЫЕ ГЕНЕРАТОРЫ
1. Udio (udio.com) - куплен Warner Bros, но затем сами Warner Bros сдали назад и откатили сделку. Но уже успели испортить, больше нельзя скачивать треки, их только доставать из буфера в 160 кбит/с. Плюс непонятно как работающая цензура, которая не дает генерировать треки с определенными тегами. Плюс уже год ебут один и тот же 1.5 allegro.
2. Riffusion, Producer.ai (producer.ai) - куплен гуглом, удалены все старые относительно норм модели, вместо этого запихали безальтернативную каловую модель, которая и промпты сложнее самых нормисных в духе "make cool rock about love" не понимает, и вокал смазывает в какую-то кашу. При этом еще и максимально дегенеративная цензура, которая режет чуть ли не любые попытки сделать просто что-то не попсовое и не "музыку для ютуб".
ПРОЧИЕ ПОЛЕЗНЫЕ УТИЛИТЫ
1. https://www.bandlab.com/mastering
Быстрый мастеринг в две кнопки, если хочешь чтобы звучало более слушабельно, но не имеешь навыков в DAW или аудиоредакторах (или лень).
2. https://morpher.ru/accentizer/
Если генерируешь музыку с лириками на русском, то очень часто случается, что твой генератор путает ударения в словах. Прежде чем пихать свою графоманию в генератор, проставь ударения в сервисе по ссылке. И уже из этого сервиса копируй текст в генератор. По крайней мере в Suno это помогает.
3. https://x-minus.pro/ai
Быстро вытащить минус или вокал из трека.
Примечание от афтора шапки: в прошлых шапках были ссылки на нерабочие сервисы или полностью мертвые ссылки, я их не включил в шапку
Пропущено 418 постов, 201 с картинками.
1. Wan от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
2. LTX-2.3 - делает локальную генерацию грейт агейн. Подходят лоры от 2.0
https://huggingface.co/Lightricks/LTX-2.3
3. Hunyuan от Tencent
https://huggingface.co/tencent/HunyuanVideo-1.5
4. Ovi
https://huggingface.co/chetwinlow1/Ovi
5. Starflow
https://huggingface.co/apple/starflow
6. MAGI-1 от Sand AI
https://sand.ai/magi
https://github.com/SandAI-org/MAGI-1
7. LongCat-Video
https://github.com/meituan-longcat/LongCat-Video
https://huggingface.co/meituan-longcat/LongCat-Video
https://meituan-longcat.github.io/LongCat-Video/
8. MOVA
https://github.com/OpenMOSS/MOVA
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Hunyuan Video (осторожно, ссылки в туторе на предыдущую модель): https://comfyanonymous.github.io/ComfyUI_examples/hunyuan_video/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Предыдущий тред
>>1554318 (OP)
Пропущено 323 постов, 69 с картинками.
Да как-то так в целом и работает. Жирнее промпт - больше шансов на изменение картинки. Больше шагов - ещё больше шансов на изменения.
Под "нодой цикла" я имел в виду WanFirstLastFrameToVideo, потому что она для зацикленных видео. В ней можно отключить end_image и видео будет не зацикленным. Это даст ещё больше изменений в видео со стороны Вана.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке. Исходник шапки: https://rentry.co/research-2ch
Предыдущий тред:
>>511426 (OP)
Пропущено 270 постов, 54 с картинками.
Хз насчёт математических моделей, на нейронах взлетело. https://rutube.ru/video/5133f92b4b084195e357300b188139e8/
Оно получает новые нейроны за построенные траектории
>Зачем тебе хаос? Интеллект - это упорядоченность, противоположность хаосу. Если тебе нужен хаос, в компьютерах это решается генератором случайных чисел...
Ты там случайно не путаешь рандом с хаосом, шиз? Хаос - про чувствительность динамической системы к начальным условиям, про непредсказуемость таких систем. К случайности никакого отношения не имеет. Возьми тот же "game of life" - максимально простые правила развития системы, полностью отсутствует фактор случайности. При этом система непредсказуема. Ты не сможешь сказать что будет с ней через 1000 шагов, даже если тебе дать первоначальные условия (за исключением тех случаев, когда система умирает сразу после первого шага). Единственный вариант понять что будет через 1000 шагов - это вычислить их начиная с самого первого шага.
>Интеллект в любой его форме - это стремление к уменьшению хаоса.
Интеллект - это способность моделировать окружающую среду, а уже через моделирование появляется возможность предсказывать изменения в среде, что даёт определенные бонусы к адаптации. Чем сложнее модель - тем больше интеллекта требуется для её построения. Возможность адаптироваться к окружающей среде есть у всех живых организмов, делает ли это их интеллектуальными? Нет, не делает.
>сама концепция обучения абстрагируема от нейросетей. Ты берешь систему и стараешься её упорядочить - это и есть "обучение".
Если ты про чисто математический аппарат оптимизации, где нужно подобрать оптимальные коэффициентики для моделирования какого-либо явления, например линейного, то да, нейросети тут не нужны - достаточно простой линейной модели.
Из России большинство сервисов напрямую недоступно.
Imagen
https://labs.google/fx/tool/image-fx а также https://labs.google/fx/tools/whisk (доступны только в США, Кении, Новой Зеландии и Австралии)
https://gemini.google.com/app
https://aistudio.google.com/prompts/new_chat (модель Gemini image)
Reve
https://preview.reve.art/app
GPT-4o
http://chatgpt.com/
https://sora.chatgpt.com/explore
Сражение нейросетей. Бесплатное сравнение всех популярных моделей.
https://lmarena.ai/
Бесплатный генератор от майкрософт Dall-E/GPT4o
https://bing.com/images/create/
https://www.cici.com (ищем бота ACO)
Seedream
https://seedream-4.io/generator
Бесплатный генератор от Yandex
https://shedevrum.ai/
Кандинский. Генератор от Сбербанка
https://fusionbrain.ai/editor/
Stable Diffusion и прочие
https://civitai.com/generate
https://dreamina.capcut.com/
https://ideogram.ai
https://www.meta.ai
https://ximagegenerator.com
https://www.recraft.ai
https://app.klingai.com/global/text-to-image/new
https://hailuoai.video/create
https://lumaphoton.com
https://leonardo.ai/
https://tensor.art
https://getimg.ai/text-to-image
https://www.mage.space/
https://problembo.com/ru
https://deepai.org/machine-learning-model/text2img
https://dezgo.com/
https://dream.ai/create
https://www.krea.ai/
Дополнительные сервисы:
https://www.pixited.com/ - библиотека промптов с примерами
https://rentry.org/From-4ch-To-2ch-Dall-3-Prompts - сборник промптов
https://www.stylar.ai - AI-редактор картинок (дорисовка, инпейнт, работа с лицами)
https://astica.ai - сборник ИИ-сервисов, в частности довольно мощный де-промптер (Vision AI -> Describe and Caption)
https://huggingface.co/spaces/fffiloni/CLIP-Interrogator-2 - де-промптер, разбирающий вброшенный пик на теги
https://bigjpg.com/ - апскейлер до 4096х4096
https://runwayml.com/ , https://www.stablevideo.com - анимирование генераций
Предыдущий тред: >>
Пропущено 101 постов, 59 с картинками.
https://3d.hunyuan.tencent.com/
https://github.com/VAST-AI-Research/TripoSG
https://stable-x.github.io/Hi3DGen/
Пропущено 439 постов, 148 с картинками.
Попробуй запустить модель правильно. Постарайся не запускать её неправильно. Перед запуском не забудь загрузить операционную систему. Надеюсь, мой совет тебе поможет.
Этот Сберовский сильно хуже других? Мне бесплатно по 100 моделек в день штамповать. Компа нету.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышел Claude Opus 4.7: https://www.anthropic.com/news/claude-opus-4-7
• Вышел Deepseek V4: https://api-docs.deepseek.com/news/news260424
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jbs
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utilities
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Локальные языковые модели: >>1596667 (OP)
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1597187 (OP)
Пропущено 1508 постов, 191 с картинками.
ну у них там сикретклаб есть же, и там есть другие китайцы, менее шизовые, думаю к ним приткнусь
Ссылка: https://t. me/mira?start=ref_5950919176
Голосовых нейронок тред (Text to speech, Voice Clone) #8 /speech/
Аноним
20/03/26 Птн 16:16:54
№
Ответ
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🌟 ТОП ЛОКАЛЬНЫХ МОДЕЛЕЙ ПО КАЧЕСТВУ РУССКОГО ГОЛОСА НА МАРТ 2026 🌟
🐟👑 Fish-Speech S2 Pro (FishAudio) — SOTA, ElevenLabs на локале!
→ zero-shot клон от 10–30 сек записи
→ 80+ языков (русский топ), теги эмоций [excited], [whisper], [angry], [laughing] и вообще дохуя
→ диалог между несколькими голосами
→ тяжёлая сучка (FP8 в 12 ГБ VRAM, full ~17 ГБ), но есть экспериментальный вариант для 6+ ГБ
https://github.com/rodrigomatta/s2.cpp
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🧠 Qwen3-TTS
→ клон от 3–30 сек (ВАЖНО: без reference-транскрипта текста — хуйня, если хочешь поудобнее подключи сразу QwenASR)
→ VoiceDesign: пишешь «весёлая молодая девка с хрипотцой» — и получаешь голос
→ 10 языков, включая русский
→ диалог между спикерами
→ лёгкая — влезает в 6 ГБ VRAM
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🎙️ VibeVoice-7B от Майкрософт
→ тяжёлая, но 4-bit квантизация — запускается на 8 ГБ (проверено на 3070)
→ поддержка долгих спичей
→ подкаст-режим: 4 спикера одновременно
→ норм клонирование голоса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
☁️ FL CosyVoice3
→ ультралёгкий 0.5 — запустится даже на тостере
→ 9 языков, включая русский
→ zero-shot клон от 3–10 сек референса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🌍 Chatterbox Multilingual (23 языка, включая русский)
→ zero-shot клонирование голоса
🎤 F5-tts
→ zero-shot клонирование голоса
→ официально русский не поддерживается, но есть файнтюн (см. ниже)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🚀 КАК ЭТИМ ПОЛЬЗОВАТЬСЯ (если что-то не понятно — спроси у ИИ лол) 🚀
🔥Вариант «всё в одном месте» — ComfyUI + TTS-Audio-Suite
1. Устанавливаем ComfyUI (Desktop для нормисов, Portable для здешних нейромантов)
2. Ставим https://github.com/diodiogod/TTS-Audio-Suite — постоянная обновляемая солярка почти всех моделей
3. Поставить FFmpeg (через winget в комадной строке: winget install FFmpeg или скачать)
4. Запускаем Комфи → перетаскиваем готовый json-воркфлоу из репозитория
5. Отсавляем включенными выбранные ноды, жмём Run
6. При первой генерации модели сами скачаются (~1–9 ГБ)
💥 Вариант «по отдельности» (кастом под каждую модель) 💥
Тоже через ComfyUI, только ставим отдельные кастомные ноды (на выбор):
FishAudioS2 → https://github.com/Saganaki22/ComfyUI-FishAudioS2
FL-CosyVoice3 → https://github.com/filliptm/ComfyUI_FL-CosyVoice3
F5-TTS → https://github.com/niknah/ComfyUI-F5-TTS
и другие → https://registry.comfy.org/
Русский файнтюн для F5-TTS:
Нода: https://github.com/niknah/ComfyUI-F5-TTS
Скачать русский файнтюн: https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base_v2/model_last_inference.safetensors и
https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base/vocab.txt
оба файла переименовать в ru.safetensors и ru.txt и положить в папку models/checkpoints/F5-TTS/
Референсное аудио для F5 должно быть коротким, 6-8 c. При 11 c - речь становится слишком быстрой.
в папку /comfyUI/input положить 2 файла: emma_ru_xtts_3.wav и emma_ru_xtts_3.txt: https://github.com/Mozer/comfy_stuff/tree/main/input
(в emma_ru_xtts_3.txt лежит текст сказанный в wav файле.)
в комфи в ноде F5 TTS audio advanced выбрать:
model model:///ru.safetensors
model_type: F5TTS_v1_Base
sample_audio: emma_ru_xtts_3
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🎉 Если что-то не запускается — пиши, разберёмся!
Голосуем, клонируем, ебём нейросети вместе! 🔥🎙️
Прошлый тред: >>1055411 (OP)
Пропущено 138 постов, 31 с картинками.
Один раз при этом запустилось, лол, и на этом все. Даже отменить эту хуйню нельзя, приходится весь комфи перезапускать.
Пропущено 1 постов, 1 с картинками.
Но свелось все к семейству лор Best faceswap а там уже смотри что железо потянет и для каких целей, есть и для видео LTX, есть и для эдитов с помощью flux klein и qwen.
Гуглил эту фигню, ничего не нашел
Пропущено 3 постов, 1 с картинками.
Ты только сейчас об этом узнал? Два года назад была новость. Я из-за этого старые чаты удаляю, так как chatgpt жалуется на переполнение контекста.
> гуглил
Значит, плохо искал.
Это у всех сейчас так, хранят выжимку контекста из предыдущих сессий для твоего аккаунта, типа повышает персонализацию ответов. Удаление старых чатов не поможет. Если параноик - просто не регайся в чате.
Прошлый тред: >>1604026 (OP) https://arhivach.vc/thread/1354687/
Схожие тематические треды
• SD-тред (не аниме): >>1602441 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 505 постов, 193 с картинками.
>>1617342 (OP)
>>1617342 (OP)
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №235 /llama/
Аноним
18/05/26 Пнд 22:53:40
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1612868 (OP)
>>1610759 (OP)
Пропущено 522 постов, 52 с картинками.
