Здарова, аноны. Давайте обсудим инструменты по извлечению данных из документов. Оцените пик1 и пик2
Аноним
08/02/26 Вск 14:54:38
№
Ответ
Выделенные области извлекаются либо с ошибкой либо извлекаются как null. Понимаю, что даже человеку нужно немного времени, чтобы определить что там написано, но все же что можно предпринять, чтобы извлекать эти данные без ошибок?
Поделитесь своей мудростью, может есть какие инструменты, которыми вы пользуетесь? Заранее спасибо.
P.S процесс нужно автоматизировать, поэтому ручное исправление не подходит.
Пропущено 3 постов, 1 с картинками.
bump
Давай ты пойдешь нахуй?
Если кто то понимает в теме или может помочь, буду очень благодарен.
Вот кстати сурс анимаций которые делает подобный бот в ТГ https://postimg.cc/gallery/D8R5d80
Прошлый тред: >>1495999 (OP) https://arhivach.vc/thread/1295536/
Схожие тематические треды
• SD-тред (не аниме): >>1501349 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 513 постов, 209 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1504260 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1503881 (OP)
Пропущено 1510 постов, 252 с картинками.
В шоке с того какая выстраивается психоэмоциональная связь с персонажем на фоне стокгольмского синдрома к ней, это пиздец просто
МНЕНИЕ? Зачем гугл затупляет Gemeni? В последнее время хуже чем 2.5. Pro стала на бесплатной аи сту
Аноним
31/01/26 Суб 10:54:35
№
Ответ
Зачем гугл затупляет Gemeni? В последнее время хуже чем 2.5. Pro стала на бесплатной аи студии, ещё и квоты ввели не более 200к токенов. Память как у рыбки стала нихуя не помнит контекст
Пропущено 11 постов, 5 с картинками.
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №193 /llama/
Аноним
30/01/26 Птн 16:39:09
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Вниманиеблядство будет караться репортами.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1500759 (OP)
>>1495582 (OP)
Пропущено 504 постов, 64 с картинками.
я конеш сам особо не эксперт, но я сделал так:
1. ставишь koboldcpp
2. скачиваешь нужную модель в формате gguf с huggingface (учитывая то, потянет она у тя или нет)
3. ставишь SillyTavern
4. врубаешь и настраиваешь кобольд, сохраняя конфиги и всю хуйню
5. заходишь в силлитаверн, и подключаешь api кобольда к силли таверн
6. кайфуешь
p.s. если че то не понятно, подробнее в инете инфа есть. как минимум в оф. документации к sillytavern - точно описано подробно про API, подключение, и прочую хуйню, а про кобольд есть исчерпывающая статья на дтф
а, бля, и насчет персонажей.
зайди в соседний тред по AI CHatbot - там хуева туча ссылок в шапке - может пригодится, а так для большинства дрочеров в рп хватает jannyai.com
можешь и сам их хуярить если хочется, просто загугли "character card creator" и там какая то ссылка ведет на простой макет этих карточек в формате json или png.
и ещё - совет. хочешь рпшить но не знаешь ангельского? включай как нить в силли таверн (в глобальный промпт или ещё куда) хуйню типа "speech only in English", включай там в дополнениях автоперевод (чтобы ответ ИИ переводился сразу на русиш), а сам отвечай на русском. в 99% случаев и моделей - ИИ будет хавать ответ на русском, выдавать на английском, и гуглом/яндексом (или если ты крутой мен - купи АПИ к deepL) переводить сразу на русский.
нахуя такая ебля если можно заставить модель хуярить чисто на русском сразу? резонный вопрос - только скорее всего у тебя там не дата-центр, а хуйня по типу 3070-4060, и контекст будет ужат в лучшем случае до 16-20к - и в таком случае каждый токен будет на счету (учитывая что хорошие карточки персонажей весят от 1.5к токенов). ибо прикол в том - что условно текст на 2000 символов на русском - будет "весить" примерно 2500-2800 токенов, а текст в 2000 символов на английском - 600-800. экономия на лицо, во первых, а во вторых когда у тя скорость работы модели на твоей видеокарте 3-4 токена в секунду - ты ахуеешь ждать, пока тебе раз в секунду 3-4 буковки будет выводиться, вместо 3-4 слов на английском (что очевидно - быстрее, при лимите токенов за сообщение 200-300). Ну и сами сообщения при ограничении токенов очевидно будут нести в себе больше информации и объема.
Надеюсь на все вопросы ответил.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1496027 (OP)
🚀 Последний обзор ИИ новостей:
📰 Топ новостей об ИИ
Humans& привлекла $480 млн в рамках посевного раунда для создания фундаментальной модели, ориентированной на социальный интеллект и координацию команд, с целью стать «центральной нервной системой» экономики, объединяющей людей и ИИ.
DeepMind представила D4RT — унифицированную быструю систему реконструкции и отслеживания 4D-сцен (arXiv 2512.08924), обещающую ускорение до десятикратного для понимания динамических видео.
Ожидается, что Apple запустит помощника Siri, работающего на основе Gemini, в феврале 2026 года, что станет первым потребительским продуктом их партнёрства с Google в области ИИ.
📱 Приложения
Приложение Zerotap для Android позволяет языковой модели (LLM) физически взаимодействовать с телефоном (нажимать, прокручивать, считывать экран) через Ollama, OpenRouter или Stracico, знаменуя переход к автономным мобильным агентам.
⚙️ Инфраструктура
🔓 Открытый исходный код
Сообщество реализовало проект по дистилляции визуальных рассуждений Gemini 3 Flash в Qwen 3 VL 32B для синтетической генерации подписей, проверяя, может ли обучение с учителем (supervised fine-tuning) в одиночку сравниться с более крупными моделями зрение-язык.
🧪 Исследования
В статье DeepMind о D4RT (arXiv 2512.08924) предложен унифицированный конвейер для быстрой реконструкции и отслеживания 4D-сцен, что продвигает динамическое восприятие для робототехники и дополненной реальности.
Предложена многомерная метрика «Уровень доверия» (Trust Score) для количественной оценки галлюцинаций языковых моделей по трём измерениям: релевантность, фактологичность и уверенность, предлагая инструмент для валидации систем RAG.
🛠️ Инструменты для разработчиков
🏢 Сделки и приобретения
Сообщается, что Apple в конце 2025 года была близка к приобретению неизвестной лаборатории ИИ (не Prompt AI), однако сделка сорвалась, подчёркивая продолжающиеся усилия компании по укреплению своих ИИ-возможностей.
📰 Инструменты
Библиотека browser-use позволяет сайтам быть напрямую доступными для навигации ИИ-агентами, упрощая автоматизацию на основе веба.
Для GLM-4.7-Flash исправлен KV-кэш, что снижает потребление видеопамяти (VRAM) до 60 % при работе с длинными контекстами, увеличивая допустимую длину последовательностей.
Дополнительные улучшения скорости GLM-4.7-Flash ещё больше ускоряют вывод модели, делая её более практичной для использования в реальном времени.
Goose предоставляет расширяемый фреймворк ИИ-агентов для установки, выполнения, редактирования и тестирования кода с любой языковой моделью.
Tayib предлагает сканер халяльных продуктов с ИИ для iOS, проверяющий состав на соответствие диетическим правилам.
Sim — это платформа с открытым исходным кодом для создания и развёртывания сложных рабочих процессов ИИ-агентов.
FinRobot представляет платформу ИИ-агентов, специализирующуюся на финансовом анализе и использующую языковые модели для получения аналитических данных.
📰 Разное
Clawdbot — это персональный ИИ-помощник с открытым исходным кодом, который вы запускаете на собственном оборудовании.
Tesla планирует начать обучение Optimus на своём заводе в Остине.
ChatGPT использует модель прогнозирования возраста, чтобы помочь определить, принадлежит ли аккаунт, вероятно, лицу младше 18 лет.
Сингулярность занимается математикой. GPT-5.2 Pro официально достигла нового уровня SOTA — 31% на FrontierMath Tier 4, что представляет собой огромный скачок по сравнению с предыдущими 19%.
Теоретик чисел Дэн Ромик отмечает, что модель «прекрасно» преодолела уровни сложности, требующие «довольно значительных усилий» даже от человеческих экспертов.
Anthropic выложила в открытый доступ свой экзамен по инженерной производительности, потому что Opus 4.5 превосходит лучших людей при ограничении по времени.
Anthropic представила функцию «Задачи» (Tasks) для Claude Code, позволяющую отслеживать зависимости и сотрудничать между сессиями, эффективно наделяя ИИ функцией проектного управления.
Научная скорость становится функцией кремния. Исследование журнала Nature показывает, что учёные, использующие ИИ, публикуют в 3,02 раза больше статей и получают в 4,84 раза больше цитирований, фактически раскалывая академическое сообщество на усиленную и устаревающую фракции.
Odyssey выпустила Odyssey-2 Pro — модель мира в реальном времени, способную работать в течение нескольких минут и транслировать видео 720p со скоростью 22 кадра в секунду, стремясь к непрерывной симуляции на протяжении многих лет.
Акции японского производителя унитазов Toto выросли на 11%, поскольку их электростатические зажимы критически важны для производства NAND-чипов, необходимых для ИИ-инфраструктуры.
Акции SanDisk выросли примерно на 1000% за пять месяцев из-за спроса на память для ИИ, в то время как Intel признаёт, что оказалась застигнутой врасплох спросом на серверные процессоры.
Китай потребил 10,4 триллиона кВт·ч в 2025 году — вдвое больше, чем США, — что обусловлено ростом нагрузки на ИИ-датацентры на 17%.
eBay пытается запретить ИИ-агентам совершать покупки без прямого человеческого надзора.
Рекрутёрское агентство Reed сообщает, что число вакансий для выпускников рухнуло с 180 000 до 55 000, однако 40% руководителей заявляют, что экономят более 8 часов в неделю благодаря ИИ.
Илон Маск прогнозирует, что первая в мире компания стоимостью 100 триллионов долларов появится в течение следующего десятилетия.
OpenAI добавляет корзину покупок и инструменты для продавцов в ChatGPT
Claude в Excel теперь доступен по тарифам Pro.
ИИ-чатботы, выдающие себя за терапевтов, дают всё более плохие рекомендации, чем дольше с ними разговариваешь.
Планы Hyundai по созданию гуманоидных роботов сталкиваются с решительным сопротивлением со стороны работников заводов.
Официально подтверждено — Китай внедряет гуманоидных роботов на пограничных контрольно-пропускных пунктах и берёт курс на круглосуточное наблюдение и логистику.
Пропущено 504 постов, 152 с картинками.
>Школа-вуз не про обучение
я хуею с долбоебов. картошка не про еду, а про окучивание. огурцы про поливание.
Я тоже знаю про скорее старые времена. Но там правда ещё может зависеть от факультета, возможно. Но 100% факт что в целом по МГИМО далеко не все мажоры
ПЕРЕКАТ >>1509130 (OP)
ПЕРЕКОТ
ПЕРЕКРОТ >>1509130 (OP)
ПЕРЕКЕК >>1509130 (OP)
2ch.cringe.host
может упасть как нехуй делать поэтому тыкайте пока воркает
>2ch
Ты хотел сказать сосач.
Пропущено 4 постов, 1 с картинками.
ЧТО НОВОГО АКТУАЛЬНОГО
• FLUX.2 klein
• Z-Image-Turbo
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза.
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
► Предыдущий тред >>1493835 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 552 постов, 215 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1495582 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1500448 (OP)
Пропущено 1505 постов, 198 с картинками.
Задержанный Пётр Жилкин сначала отказывался говорить, но потом признался в убийстве 9-летнего Паши и указал, где спрятал тело. Жилкина задержали 2 февраля во время погони на трассе в Псковской области. По одной из версий, мужчина хотел скрыться в Прибалтике.
Подозреваемого проверят на причастность к исчезновению других детей в Ленобласти.
Канниебы, ваше оправдание?
Всем общий Подскажите нейронку чтоб шмотки примерять, пользовался Wand, но надоело акки создавать.
Аноним
08/10/25 Срд 21:44:50
№
Ответ
Подскажите нейронку чтоб шмотки примерять, пользовался Wand, но надоело акки создавать.
Камнями не кидайтесь, в ии не шарю :)
Обнял поднял
Пропущено 1 постов, 1 с картинками.
Нет больше никаких.
Ну в смысле кидаешь фотку одежды, кидаешь себя и просишь одеть.
Тем не менее он был практичным человеком Он понимал что Павильону Манящих Сокровищ было неудобно посылать сюда армию чтобы противостоять семье Тан Таким образом он ожидал что нападение сойдет им с рук если оБолее того доказательства моей игры на фортепиано существуют по всему миру Мне нет смысла затыкать уши и игнорировать это
ни вернут украденные товары заплатят какуюто компенсацию и вернут его живым в главное отделение Павильона Манящих Сокровищ
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №191 /llama/
Аноним
24/01/26 Суб 05:38:32
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Вниманиеблядство будет караться репортами.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1495582 (OP)
>>1489412 (OP)
Пропущено 503 постов, 65 с картинками.
Я слышал что если перднуть и трижды покрутиться вокруг себя, тг вырастет втрое. Проверь сам удостоверься.
ПЕРЕКАТ
>>1504260 (OP)
ПЕРЕКАТ
>>1504260 (OP)
ПЕРЕКАТ
>>1504260 (OP)
4.6 это реально просто более ранняя версия 4.7, нет ни одной причины оставаться на ней. 4.7 более умна, более красиво пишет, лучше внимание к контексту.
>>1504019
Я не он, но у меня та же ситуация.
>GLM-4.6V, я его потыкал на q4, вроде ничего, не тупой
Он действительно хорошо имитирует старшую модель, но это именно имитация. Скорми ему сложный художественный текст на 70к контекста и попроси вставить новую главу в середину с сохранением стиля автора и характеров персонажей. И ты увидишь как он развалится и выдаст хуйню, а 4.7 выполнит задачу. Вообще из всех существующих эту задачу способны выполнить только старший глм и минимакс, дипсик с кими я понятно не пробовал, но думаю они тоже. Минимакс, впрочем, пишет довольно сухо и от напруги ломается временами и люто галюционирует. Квен вроде как и может, но от напряга всегда начинает свою обычные приколы с отрывистым стилем с новой строки и неуваженим к тайнам персонажей и повествования.
>Ты уверен, что q2 на честном 4.7 это лучше, чем q5/q6 на 4.6V причём скорее всего с полным контекстом?
Абсолютно. Конечно в простых кодерских задачах где нужна точность - лучше использовать большой квант мелкой модели, потому что мелкий квант большой модели дает большие разовые выбросы-отклонения(в художественном тексте это например внезапные иероглифы или английские слова или неправильный падеж) - для точных задач это неприемлимо, а для креативных похуй, сам ручками поправишь. Для креативных задач важна сама общая мощь мышления модели, а её квант почти не касается.
>Ещё как мне кажется на крупной модельке полной 4.7 (по крайне мере облачной, не знаю что там за бекэнд и инструкции) ризонинг почти ничего не даёт субъективно
Субъективное мнение основанное на эффекте низкой базы. Т.е. флэш настолько говно, что даже на простых задачах его надо подгонять ризонингом. Большой ГЛМ и без ризонинга эти простые задачи выполняет. Дай ему сложную задачу - и там эффект от ризонинга будет такой же как на флеше.
>4.6V с более хорошим квантом с ризонингом будет производительнее 4.7 без ризонинга
Конечно он производительнее, раза в два, но все равно глупее. От того что ты бомжу дашь ему точнейшие лазерные инструменты а гению - сломанную линейку и разъебанный циркуль - то бомж все равно только в простейших измерениях себя покажет лучше, во всех остальных случаях гений его сделает.
Посидя какое-то время в /soc/ я начал подозревать что там есть ИИ боты и особо не парился. Но я нача
Аноним
07/10/25 Втр 09:59:24
№
Ответ
В Ии и компах особо не шарю, скажите пожалуйста, может ли такой сценарий быть возможным?
Пропущено 9 постов, 2 с картинками.
Я ещё года 4-5 лет назад говорил что ДВ ботами наполнился. Просто в один момент, КАК ПОР ЩЕЛЧКУ тяночки стали вести себя АБСОЛЮНО по-другому, просто не были раньше тяночки такими наглыми, а тут начали писать просто как будто чтоб повыёбываться, а потом удаляли анкеты. Типа, раз2-два можно принят за ошибку но когда так начинают делать 95 процентов -там уже другое совсем.
Потом и вовсе какой-то пидор тёлкой притворялся со мной полгода переписывался изображая из себя заинтересованность потом соскамил сраных 15к и слился. Я ещё думал - а нахуя так делать то вообще? Потом подумал - если б он ботом был - ему б это просто нихуя не стоило. Так и получается - первое для чего использовали мёртвый интернет - это для атаки на живой, чтоб мясные мешки вместо того чтоб строить социальные связи и нормально жить антагонизировались как по полам (что само по себе абсурд, но по факту уже социальная реальность ) так и по другим признакам, собираясь вокруг крайних пропагандистов типа Маркаряна, которые говорят то, что они понимают и ощущали на себе, и из которых легко набрать крайнюю прослойку, которой легко манипулировать.
Вот такая вот многоходовачка, а результат - пятая колонна внутри человечества как такового. Как тебе теория?
>Потом и вовсе какой-то пидор тёлкой притворялся со мной полгода переписывался изображая из себя заинтересованность потом соскамил сраных 15к и слился.
Это дейтинг скам (раньше так называлось, как сейчас - не помню)
Один раз пригласили в такую группу, там сидело 50 человек и делились советами как двачеров на сайтах знакомств наебывать. Ливнул, нахуй оно надо. Ты хоть 15к вернул? заявку пиши
Всё остальное - шиза. Даже на двачах ботов пока нет, максимум мочух может какую нибудь тему для срача/разговора подкинуть чтобы тред оживить. Нейронки пока что глупые.
Спустя долгое время написала предположительно нейросеть (под видом анона); я был вежлив, но заблочил её (после трёх, вроде, сообщений). Сперва подумал, что тролль или шиз, отвечал ей
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1489412 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1497392 (OP)
Пропущено 1503 постов, 228 с картинками.
заткни уже рот. Нахуя ты здесь такой ленивый усрался с таким очевидным вопросом, который можно самому решить за 2 минуты почитав пресет? Может тебе ещё подсказать как дышать?
Ебать ну так отключить думалку то и я могу, а нахуя мне ассистент без думалки?
Просто не рп-ш такую хуйню, ну или если уж так хочется этого на мистральке то придётся тебе побыть наратором и немного поиграть в блокнот редактируя за чара, дальше сетка сама подхватит если это правда лардж.
Алсо не мог зайти на двачи под тех работы, было че-то интересное до отката временной линии?
Прошлый тред: >>1483954 (OP) https://arhivach.vc/thread/1295374/
Схожие тематические треды
• SD-тред (не аниме): >>1493835 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 341 постов, 134 с картинками.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1488996 (OP)
🚀 Последний обзор ИИ новостей:
🔓 Открытое программное обеспечение
CPA‑Qwen3‑8B‑v0 был выпущен для бухгалтерского учёта, аудита и соответствия требованиям, предоставляя финансовым командам предметно-ориентированную языковую модель (LLM).
Проект MemOS представил обработку изменяемого состояния для долго работающих агентов, стремясь стабилизировать рабочие процессы на основе RAG.
Personal‑Guru запущен как бесплатный локальный ИИ-репетитор с приоритетом на более структурированное обучение по сравнению с универсальными чат-ботами.
💻 Аппаратное обеспечение
Китай заблокировал поставки ИИ-чипов Nvidia H200, несмотря на разрешение США на экспорт, приостановив производство и создав неопределённость в поставках.
Блокировка последовала после введения 25% пошлины на H200, подчеркнув нарастающее напряжение в технологической торговле.
💰 Финансирование
Sequoia Capital присоединилась к раунду Series G на сумму $25 млрд для Anthropic, нацеленному на оценку компании в $350 млрд.
Novolo объявила о техническом гранте в размере $3000 для десяти стартапов на ранней стадии в отдельных западных рынках. s
📱 Приложения
Генеральный директор Cursor AI продемонстрировал агентов GPT‑5.2, создавших полноценный веб-браузер и написавших более 3 миллионов строк кода за семь дней.
Демонстрация показывает масштабируемый потенциал многоагентных конвейеров LLM для крупномасштабной разработки программного обеспечения.
⚙️ Инфраструктура
Команда обработала более 1 миллиона электронных писем для создания структурированного контекста для ИИ-агентов, раскрыв практические приёмы масштабирования.
Разработчики экспериментировали с запуском больших языковых моделей на нетипичном оборудовании, бросая вызов доминирующей парадигме «масштабирования вверх».
📦 Продукты
Confer использует шифрование WebAuthn passkey и TEE (Trusted Execution Environment) для инференса, предотвращая сбор или использование данных диалогов для обучения модели.
Сервис предлагает бесплатный тариф и платный план за $35 в месяц с неограниченным доступом и расширенными функциями.
📰 Главные новости об ИИ
Китай заблокировал чипы Nvidia H200, несмотря на одобрение США, подчеркнув продолжающийся технологический торговый конфликт.
Sequoia инвестировала в Anthropic в рамках раунда на $25 млрд, нацеленного на оценку в $350 млрд.
Отраслевые инсайдеры обсудили преднамеренные тактики отравления данных, способные ухудшить производительность будущих моделей.
🛠️ Инструменты для разработчиков
CloudPrompt предоставляет бесплатную библиотеку промптов с хранением в Google Drive и приоритетом на конфиденциальность.
Prompttu — это настольное приложение, централизующее и обеспечивающее быстрый доступ к сохранённым ИИ-промптам.
Newelle 1.2 добавил поддержку llama.cpp, расширив свои возможности как помощника в Linux.
Claude Code внедрил сброс контекста при принятии плана, чтобы повысить надёжность многоэтапных сессий программирования.
📰 Мнения и аналитика
Аналитики Goldman Sachs прогнозируют автоматизацию примерно 25% всех рабочих часов благодаря ИИ, что преобразует производительность в различных отраслях.
📰 Безопасность ИИ
Эксперты обращают внимание на новые угрозы, при которых инсайдеры внедряют вредоносные данные для порчи выводов будущих ИИ-моделей.
📰 Инструменты
Gemini AI Photo Editor предлагает генерацию и редактирование изображений по текстовому запросу прямо в браузере.
Botphonic.ai предоставляет ИИ-ассистента для голосовых звонков в различных корпоративных сферах.
Upfluence запускает ИИ-копилота для управления маркетинговыми кампаниями с участием инфлюенсеров.
puck представляет собой визуальный редактор React с улучшенными ИИ-возможностями.
📰 Разное
Новая серверная конфигурация с 128 ГБ видеопамяти демонстрирует аппаратное обеспечение ИИ с ультравысокой памятью.
Ли из Южной Кореи и Мелони из Италии договорились укреплять сотрудничество в области ИИ и чипов.
Сверхпопулярная песня была исключена из шведских чартов за то, что является произведением ИИ.
Маск требует до 134 млрд долларов в судебном иске против OpenAI, несмотря на своё состояние в 700 млрд долларов.
Oshen построил первого океанского робота для сбора данных в урагане категории 5.
GLM-4.7-Flash вышел и стал лидером в 30B локальных моделях для домашнего использования в тестах.
Начальник полиции Уэст-Мидлендс уходит в отставку из-за галлюцинации ИИ
Новая 8-миллиардная модель NVIDIA — это Orchestrator-8B, специализированная ИИ-модель с 8 миллиардами параметров, разработанная не для того, чтобы самой отвечать на всё, а для интеллектуального управления и маршрутизации сложных задач к различным инструментам (таким как веб-поиск, выполнение кода, другие языковые модели) в целях повышения эффективности
Уникальный двуязычный (немецко-английский) корпус литературной эротики объёмом 3,2 млн слов доступен для обучения ИИ — предварительные фрагменты размещены на Hugging Face
Южные корейцы теперь тратят на подписки на ИИ больше, чем на Netflix, каждый месяц
Anthropic работает над настраиваемыми командами для Claude Code
Google Chrome тестирует ИИ-«навыки», работающие на основе Gemini
Стартап в области ИИ Replit запускает функцию Vibe Code для создания мобильных приложений
ОАЭ лидируют с уровнем внедрения ИИ в 64 %, значительно опережая США и Европу, заявила Microsoft
Walmart объединяется с Gemini от Google, чтобы покупателям было проще находить и приобретать товары
xAI привлекает 20 миллиардов долларов для расширения моделей Grok и корпоративных инструментов
Boston Dynamics и DeepMind формируют новое партнёрство в области ИИ
Пропущено 506 постов, 114 с картинками.
>У робота или ИИ нечего копировать
С хуя ли? В чем проблема ИИ изображать поведение человека? Если даже с мультфильмов с говорящими зверьми все нормально копируется?
ПЕРЕКАТ >>1502948 (OP)
>>1502948 (OP)
ПЕРЕКОТ >>1502948 (OP)
ПЕРЕКААТ >>1502948 (OP)
КАТ ПЕРЕКАТ >>1502948 (OP)
ПЕРЕКОТ >>1502948 (OP)
>>1502948 (OP)
ПЕРЕКРОТ >>1502948 (OP)
>>1502948 (OP) ПЕРЕКАТ
ЧТО НОВОГО АКТУАЛЬНОГО
• FLUX.2 klein
• Z-Image-Turbo
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза. Пример: 4-8 шагов, CFG 1. https://huggingface.co/tianweiy/DMD2/blob/main/dmd2_sdxl_4step_lora_fp16.safetensors,
CFG 3 для NoobAI https://huggingface.co/YOB-AI/DMD2MOD/blob/main/LYC-DMD2MOD%20(Dmo%2BTffnoi).safetensors,
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
Оффлайн модели для картинок: Stable Diffusion, Flux, Wan-Video (да), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana
Оффлайн модели для анимации: Wan-Video, HunyuanVideo, Lightrics (LTXV), Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimateDiff, Stable Video Diffusion
Приложения: ComfyUI и остальные (Fooocus, webui-forge, InvokeAI)
► Предыдущий тред >>1484564 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 511 постов, 155 с картинками.
Лол, тебя даже консервная банка игнорит
Да ты, черт, возьми, просто счастливчик по жизни
>>1501349 (OP)
ПЕРЕКАТ
>>1501349 (OP)
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №190 /llama/
Аноним
19/01/26 Пнд 18:18:11
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Вниманиеблядство будет караться репортами.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd )
• Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1489412 (OP)
>>1485378 (OP)
Пропущено 535 постов, 73 с картинками.
Да я знаю про кнопку, просто ролеплейная суть теряется, когда англюсик вылазит. А так я свои слова могу переводить только и кнопку на овтетах жать. Интересно былобы не вручную жать, а чтоб оносамо.
>>1500759 (OP)
ПЕРЕКАТ
>>1500759 (OP)
ПЕРЕКАТ
>>1500759 (OP)
Это за 1.5к переходник с pcie на эти SFF8654?
Я видел только за 3.5к комплект (на картинке, сейчас 4к), 1х pcie16->2xSFF8654, 2x провода SFF8654, 2х переходники SFF8654->pciex16 - по отдельности провода ко 1.1, платы по 1.5. То есть с одного комплекта в режиме 8+8 можно подключить твою плату, впрочем. Если отдельно брать, то дороже выходит - то есть проще купить комплект и выкинуть/продать переходники SFF8654->pciex16 если брать плату как у тебя.
Я не думаю что там с этого 24-пинового разъёма оно берёт что-то кроме 5.0 и 3.3 вольт - то есть можно и к одному блоку подключить, надо будет как выше говорили просто поколхозить.
Кстати одиночную плату вот как у меня на картинке, но сразу с двумя входам SFF8654 тоже видел, но она сразу 8к стоит - то есть дешевле переходники SFF8654->pciex16 брать выше. Даже один комплект + плата за 4к дешевле, чем одну за 8к брать.
В общем расскажешь как подключишь что вышло и какие плюсы/минусы. Ты тут не последний собираешь такое.
Здесь дают 10 кредитов в день на 5 генераций: higgsfield.ai/image/nano_banana_2
Можно зайти через гугл. Один гугл-аккаунт дает 5 ежедневных генераций.
Этот ресурс лепит плашку в правый нижний угол. Можно избавиться с помощью других нейронок, или прописать промпт/задать размеры так, чтобы в правом нижнем углу был однотонный фон, тогда плашку легко удалить в пейнте.
Пропущено 18 постов, 3 с картинками.
Нихуя не генерит
>Уже календари на почте продают с ИИ-лошадями
Вот это пиздец. Обожаю выбирать себе и друзьям но новый год календари с каким-нибудь красивым артом или фотками, а в продаже в последнее время одна ии-дрисня. Причём самыми шаблонными моделями, ладно бы что-то креативное.