СПИСОК АКТУАЛЬНЫХ МОДЕЛЕЙ ДЛЯ АНОНА ПО ВЕРСИИ 2CH-LLM-THREЯDE

100+В

(от 48 до 320Гб памяти)

Mistral-Large-123B

Легендарная большая мистраль. Несмотря на то, что морально устарела - Всё ещё достойна. Цензура пристутствует.

Мнение анона: Король локального рп/кума, он просто хорош.

Мнение другого анона: Лучший русский язык, отсутствуют двойные трусы, может в ломание четвертой стены. Устойчива к шизоопромтам. Мистраль няшка, мистраль молодец.

GGUF
Exl2
Семплеры

Известные тьюны:

Behemoth-123B-v2.2b
Бегемот на основе 2411 от поставщика чистейших слоп моделей TheDrummer

GGUF

Magnum-v4-123b
Обновление Магнума до 4 версии!

Мнение анона: Как же Магнум 123В ебёт. Лупы победили, ещё и рпшит просто на голову лучше остальных. Ахуенно в контексте держится, например тянки не разговаривают с забитым ртом, как это делают остальные. Прям чувствуется как он понимает что вокруг происходит. Ещё забавно как персонажи начинают на лету схватывать к чему ты ведёшь и морозиться с подкатов, в отличии от остальных, где тянка максимально послушная и как будто не понимает что будет дальше.

GGUF
Exl2

C4ai-command-a-03-2025

Жирная версия того самого Коммандера! Соя минимальна, цензура на минимуме. Да, да, прям из коробки. Спасибо базовичкам из Cohere

Мнение анона: Противоречивая модель, по умолчанию в рп может быть достаточно скучна и безинициативна, в занудных рп размер вообще не ощущается и она делает глупые ошибки как мелкая. Однако, если навалить в системный шизопромта, немного попинать ее в начале или посадить на готовый чат - может хорошо заиграть. На контекстах от 10к уже идет интереснее, прилично описывает кум, делает необычные развороты/развития сюжета, хорошо ориентируется в сай-фае и подобном, не пытаясь подмешать туда какое-то фентези.

GGUF
Exl2
Описание, метрики

Qwen3-235B-A22B

Китай. Партия. Удар. Новый квен, но уже на MOE архитектуре. Да, да, больше не нужно продавать почку за риг видеокарт или ебаться с теслами, теперь достаточно игрового решения и много RAM

Что такое MOE

Мнение анона: Один Квен, чтобы править всеми. модель хорошая и интересная если можешь ее запустить. Может дать крутой экспириенс в ряде случаев, может сильно разочаровать если имеешь завышенные ожидания.

Мнение другого анона: Есть проблемы, но исправляются, спгс и дотошность в разумных пределах и идут на пользу, иногда проявляет свою 22б натуру, но исправляется. Главное - ахуенный отыгрыш характеров, эмоций и естественность всего этого, кум хороший. Цензуры нет, любые занятия с любыми персонажами, от гурятины до невинного счастья (возможно сюжетная обоснованность влияет но ни одного отказа и намека). В 4ю стену влетает с двух ног, помнит нужное по всему контексту, разнообразна. Главные проблемы могут проявляться на старте чата, когда она придумает лишнего.

GGUF
Exl2
Метрики, данные

~70В

(от 24 до 64Гб памяти)

Llama-3.3-70В

Обновление 3 Лламы до 3.3. Считается обрезком 405В версии. В бенчмарках разработчиков обходит GPT 3.5 TurboВсе доступные локальные модели по всем параметрам. Мы конечно в это верим. Контекст 128к из коробки.

Мнение анона: Потестил 3.1 70В в exl2 немного, заметно лучше тройки. Русский не сказать что сильно шагнул вперёд, всё ещё бывает странные выражения выскакивают, но вот рп на английском явно адекватнее стало. Формат промпта ещё жестче теперь, если на тройке ещё работали альпаковские инструкции с ###, то тут уже надо переходить на хедеры. И на кривой семплинг ещё более чувствительной стала, только на HF-обёртке работает как надо. Цензура как в тройке, на ниггера не триггерится. Ждём рп-тюнов от нормальных челов, должно быть вообще заебись.

GGUF
Exl2
Семплеры

Известные тьюны:

Аблитерация ЛЛамы
ЛЛама без цензуры !

GGUF

РП Тюн EVA
Еще одна рацензуренная версия ЛЛамы. На этот раз с уклоном в РП и ЕРП.

GGUF

Qwen2.5-72B

Обновление квена до 2.5 Достаточно умная китайская модель, превосходящая 3 Ллламу, цензура есть. Но с выходом Qwen 3 немного потеряла актуальность
Мнение анона: хуже ламы по всем параметрам, он поэтому и не взлетел. У него ещё аттеншен особенный, из-за чего он заметно медленнее ламы. Превосходит ламу только в тестах, у китайцев очень часто такое, они наверняка по-тихому капают разбавленные тесты в датасет. Ещё и соя дикая.

GGUF
Описания, метрики

Известные тьюны:
Аблитерация 2.5
Аблитерированная версия Квена. Цензура как и стабильность отсутствует

GGUF
Imatrix

Chronos-Platinum-72B
Базовая модель Qwen 2.5 72B, обученная на наборе данных Chronos Divergence с использованием ChatML. Хорошо подходит для ролевых игр и написания рассказов, а также для общих задач помощника.
Как написано в карточке модели, отзывы тредовичков не замечены, Верим.

GGUF
Imatrix

EVA-Qwen2.5
Ева но на базе квена. Обучена на очередном кадавр датасете - Целестии. Предназначенап для РП/ЕРП. В целом есть кто использует и доволен.

GGUF
Imatrix

Magnum-v4-72b
Обновление Магнума до 4 версии!

GGUF
Exl2

Magnum-v1-72b
Одна из лучших кум-моделей! Натренирована на выдаче Cloude 3 Opus. Морально устарела.

GGUF
Exl2
Семплеры

Nemotron 49B

Очередной Коллаб Nvidia и меты. На этот раз на базе Meta Llama-3.3-70B-Instruct

GGUF

Известные тьюны:
Valkyrie
Валькирия от поставщика первородного слопа TheDrummer. По мнению некоторых годнота, по мнению других хуита. Как говорится - пробуй сам.

GGUF

~30B

(от 12 до 36Гб памяти)

Mistral-Small-3.2-24B

Свежий МелкоМистраль, быстрее, умнее и выше. Цензура практически отсутствует из коробки. На данный момент лучшая мистраль из мелких.

GGUF
UNSLOTH

Известные тьюны:

The-Omega-Directive
Cлопик от анслопиков. Чистейшая кум-мистраль. Даже добавить нечего, малопригодна для SFW геймплея, при желании в трусы залетает во втором сообщении.

GGUF на главной

PaintedFantasy
Мнение анона : Интересная штука, но требует высокой температуры, тренена на тексте извлечённом из яп фентези лайт новелл.

GGUF

Mistral-Small-24B-Instruct-2501

Мистраль. Nuff said. Среднего размера. Рабочая лошадка для всех ценителей общения с ЛЛМ. Тюнов- тысячи, слог легендарен. Shiver on my spine не покинет тебя. В представлении не нуждается.
Мнение анона: Тысячи их. Кто то ненавидит, кто то боготворит. Золотая середина. Если кто то советует очередной шизомикс то 90% что это будет на базе мистрали.

GGUF

Известные тьюны:
ReadyArt
Не совсем модель, а поставщики моделей. Перечислять их можно до второго пришествия скайнета, так что лови анон общую ссылку.
По сути - кум модели пригодные исключительно для ЕРП. Смотри, выбирай. Могут встречаться и на базе других моделей

Dans-PersonalityEngine
универсальная модель, самый сбалансированный и адекватно сделанный файнтюн на мистраль 24B. Низкий уровень цензуры, хорошее знание о мире, может и в кум, и в приключения без позитивного биаса. Нет склонности писать за юзера, хорошо ведёт РП, когда присутствует много действующих лиц, и более-менее слушается инструкций.

GGUF
Exl3

Cydonia-24B-v2.1
Цидония. РП тюн от Драммера, проверенна временем. Заточена под РП и ЕРП. По мнению некоторых анонов 2.1 сосет у 1.2, но синдром утенка никто не отменял

GGUF
Exl2

Pantheon-RP
РП тюн мистрали. Хочешь, захватывай Ангбанд за три дня, хочешь, двигай границы Рохана на момент начала третей эпохи. Хочешь, дави молочных эльфиек. Потерял актуальность в связи с тюном на Qwen3-30b

GGUF
Exl2

Gemma 3-27B

Моделька от гугла. Очень хорошо может в русский. Чрезвычайна умна для своего размера. При сравнительно малом весе обладает сообразительностью уровня 70В моделей.
И даже дает местами им пососать
В коробке достаточно соевая, может хитро пропихивать сою незаметно, постепенно руиня РП. Частично фиксится новыми тюнами.

GGUF
Exl2
Семплеры

Известные тьюны:
gemma3-27b-abliterated-dpo
Расцензуренная версия геммы. По некоторым мнениям потеряла в мозгах, по другим все отлично.

GGUF
Imatrix

Synthia
Годнейший РП тюн геммы. Практически все кто пользовался DPO перешли на Синтию. Соя осталась, но не в таких масштабах. Ну и не забывай про промты, анон.

GGUF

Syntwave
Нельзя не отметить микс от тредовичка. По мнению некоторых анонов, лучшее сочетание для ЕРП с геммочкой

GGUF

Command-r-08-2024-35B

Навый Командер 35В, который теперь занимает заметно меньше памяти за счёт решения проблемы с контекстом!
Мнение анона: отличная модель, спокойно можно использовать без аблитерации в отличии от Геммы. В рп тестил всякую дичь, гуро там, ЦП, пытки и прочее в таком духе - легко. Ну а с обычным кумом так вообще проблем нет.
А вот лучше или хуже старого - хз, старым не пользовался. По ощущениям немного умнее Квена и немного тупее Геммы. Но у всех тут разные юзкейсы, поэтому лучше проверять-сравнивать самому.

GGUF
Exl2
Семплеры

Известные тьюны:
Star Command R 32B v1
Похотливый Commad-r от TheDrummer. Лезет в трусы во втором сообщении, когда магнумы делают это в первом

GGUF
Imatrix

Star Command R 32B-lite v1
Легкий мерж Коммандера и StarCommand-r. Больше логики, меньше слопа - рекомендуем.

GGUF
Imatrix

Command-r-35B

До выхода Геммы считался умнейшей моделью в диапазоне 30В. Очень хорошо выполняет инструкции, почти не имеет цензуры, но значительно глупее 70В моделей. Русский язык такой себе. Как не в себя жрёт память для контекста(в 1,5-2 раза больше других моделей)
Мнение анона: Отлично подходит для рп/ерп в некоторых жанрах, воспринимает нюансы взаимоотношений и настроений часто лучше чем большие "умные" модели, не деградирует а наоборот разгоняется на большом контексте. Из киллерфич - возможность выбора любого темпа повествования (лежать в кровати 20 постов, а потом наоборот быстро перемотать несколько дней - без проблем, не поломается или не начнет куда-либо убегать и скатываться как другие модели), отличное восприятие стилей речи чара (пытается имитировать описанный простыми словами сленг/акцент очень точно) и поведения карточки в целом, одни из лучших познаний в прелюдии и ебле без доставших жптизмов и паттернов.

GGUF
Exl2
Семплеры

Aya-23-35B

Модель от разработчиков Командера, имеющая тот же формат, очень на него похожа, основные отличия: Немного глупее Командера, русский НАМНОГО лучше, цензуры нет совсем(что делает её почти идеальной средней кум-моделью)

GGUF

Qwen3-30B-A3B

Версия 30B одной из базовых китайских моделей, теперь MOE и твое. Народная, быстрая, контекст 128к, неплоха в кодинге.
Мнение анона: довольно туп, имеет более плохое внимание к контексту в базовых ситуациях, но у него существует неоспоримое преимущество перед некоторыми моделями: скорость, позволяющая использовать модель даже на кофеварках, а также CoT, которая в ряде случаев полностью компенсирует убогое внимание к контексту. И терпимый уровень цензуры, позволяющий отыгрывать довольно мрачные сценарии даже без файнтюна.
Мнение другого анона: А мне понравилось, быстрая, промту следует. Но все-же хочу тюнов, так как цензура порой раздражает..

GGUF
Imatrix

Известные тьюны:

Pantheon-Proto-RP
Да это же Пантеон на базе квена. Экспериментальная моделька. Автор не несет ответственности за ваше психическое состояние.

GGUF
Imatrix

Qwen3-30B-A3B-abliterated
Аблитеррированная версия Qwen3-30b. Nuff said.

GGUF
Imatrix

QwQ-32B

Одна из первых моделей с ризонингом, что стала доступна широкому кругу пользователей. Сама по себе слабо интересна, в отличии от её тюна.

GGUF

Известные тьюны:
QwQ-32B-Snowdrop
Если говорят QwQ- то подразумевают как правило именно этот тюн. Безусловная любимица треда. Послушная, без цензуры, умная !

GGUF
Imatrix

GLM-4-32B-0414

Очередная китайская моделька, очень схожа с семейством Qwen

GGUF

Известные тьюны:
Remnant GLM4 32b
Расцензуренная версия GLM, любит писать за пользователя, в лупы умеет и практикует

GGUF

0.5B - 20B

(от 8 до 16Гб памяти)

Gemma-3-12b

Да это же 3я гемма в 12b. Умная, маленькая, соевая - твоя.

GGUF
Imatrix

Mistral-Nemo-Instruct-2407-12B

Коллаб МистральАИ и Nvidia. Былинный вин. Одна из самых быстрых по производительности моделей. Контекст 128к из коробки. Русский язык хорош, инструкции выполняет чётко. Из минусов: лупится, много скрытой сои.

GGUF
Exl2
Семплеры

Известные тьюны:
MN-12B-Mag-Mell-R1
Мерж Кита со слоном на базе немо, подходит для РП в лесах Лордерона. Позитивный биас.
Мнение анона: это классика, это знать надо. Очень неплохо пишет, хорошо подходит для фэнтезийного приключения. Наверное, это именно та модель, которую надо потрогать новичку, чтобы он не мучился с настройками. Но анлишед тоже подходит. Позитивный биас.

GGUF

NemoMix-Unleashed-12B
Микс с уклоном в РП и ЕРП. В целом оценивается крайне положительно. Топ для мелкокарт.
Мнение анона: самый сбалансированный мерж на мой взгляд. Красивый язык, отсутствие потока сознания, шизы, сообщения чётко и по делу, при этом может писать достаточно объёмно. Может в среднего качества кум, приключения любого рода, но всё же ближе к фэнтези. Также умеет в русский язык, хотя использовать русский здесь не стоит. Биас нейтрально-позитивный.

GGUF

NemoRemix-12B
Микс с уклоном в РП и ЕРП. От предыдущего отличается упором в ЕРП.*

GGUF

Magnum-v4-12b
Обновление Магнума до 4 версии!
Мнение анона: Типичный магнум, пишет дохуя, быстро лезет в трусы.

GGUF

Lumimaid-Magnum-12B
Слияние Lumimaid и Magnum, просто потому что!

GGUF
Exl2

Edit
Pub: 15 Jul 2025 13:43 UTC
Edit: 16 Jul 2025 14:15 UTC
Views: 1228