СПИСОК АКТУАЛЬНЫХ МОДЕЛЕЙ ДЛЯ АНОНА ПО ВЕРСИИ 2CH-LLM-TRED

Данные будут обновлены 06.06.2025. Коммандировчка-с.

100+В

(от 48 до 320Гб памяти)

Обновлено до 2411.

Mistral-Large-123B

Легендарная большая мистраль. Несмотря на то, что морально устарела - Всё ещё достойна. Цензура пристутствует.

Мнение анона: Король локального рп/кума, он просто хорош.

Мнение другого анона: Лучший русский язык, отсутствуют двойные трусы, может в ломание четвертой стены. Устойчива к шизоопромтам. Мистраль няшка, мистраль молодец.

GGUF
Exl2
Семплеры

Известные тьюны:

Бегемотобояре, если считаете что нужно включить другие версии, то дайте знать (1.2, 2.0, 2.1 ну вы поняли)
Behemoth-123B-v2.2b
Бегемот на основе 2411 от поставщика чистейших слоп моделей TheDrummer

GGUF
Imatrix

Magnum-v2-123b

Мнение анона: Как и всё к чему прикасается драммер, содержит клодизмы и слопизмы. Может уходить в гиперлуп, но слопа наваливает богато. Если в этом самоцель, то наслаждайся анончик.

Так как магнум не обновлялся, предлагаю оставить как есть. Ибо негоже своими ручками лезть туда, где меня не было.
Magnum-v4-123b
Обновление Магнума до 4 версии!

Мнение анона: Как же Магнум 123В ебёт. Лупы победили, ещё и рпшит просто на голову лучше остальных. Ахуенно в контексте держится, например тянки не разговаривают с забитым ртом, как это делают остальные. Прям чувствуется как он понимает что вокруг происходит. Ещё забавно как персонажи начинают на лету схватывать к чему ты ведёшь и морозиться с подкатов, в отличии от остальных, где тянка максимально послушная и как будто не понимает что будет дальше.

GGUF
Exl2

Люминька не обновлялась.. Отзывов не замечено. Если нет возражений то под снос.
Lumimaid-v0.2-123B
Мнение анона: Lumimaid 123, приличная модель для рп. Развязывает язык мистралю, добавляет более приятный стиль, убирает сою. Возможен импакт на умственные способности, но в рп это не проявляется. Типичного рп слоупа на приближенную тему как в большинстве васяновских файнтюнов нет, учитывает особенности чара и не проебывается. Знания фэндомо и культуры в гораздо лучше, кумит шикарно, ограничений не замечено. Русский на хорошем уровне, но на английском будет писать интереснее. Вот та самая клод дома.

Мнение другого анона: Как по мне - не дотягивает, суховата.

GGUF
Exl2

Заменен R на A. Все по фургончикам, сержант Боско за рулем.

C4ai-command-a-03-2025

Жирная версия того самого Коммандера! Соя минимальна, цензура на минимуме. Да, да, прям из коробки. Спасибо базовичкам из Cohere

Мнение анона: Противоречивая модель, по умолчанию в рп может быть достаточно скучна и безинициативна, в занудных рп размер вообще не ощущается и она делает глупые ошибки как мелкая. Однако, если навалить в системный шизопромта, немного попинать ее в начале или посадить на готовый чат - может хорошо заиграть. На контекстах от 10к уже идет интереснее, прилично описывает кум, делает необычные развороты/развития сюжета, хорошо ориентируется в сай-фае и подобном, не пытаясь подмешать туда какое-то фентези.

GGUF
Exl2
Описание, метрики

Qwen3-235B-A22B

Китай. Партия. Удар. Новый квен, но уже на MOE архитектуре. Да, да, больше не нужно продавать почку за риг видеокарт или ебаться с теслами, теперь достаточно игрового решения и много RAM

Что такое MOE

Мнение анона: Один Квен, чтобы править всеми. модель хорошая и интересная если можешь ее запустить. Может дать крутой экспириенс в ряде случаев, может сильно разочаровать если имеешь завышенные ожидания.

Мнение другого анона: Есть проблемы, но исправляются, спгс и дотошность в разумных пределах и идут на пользу, иногда проявляет свою 22б натуру, но исправляется. Главное - ахуенный отыгрыш характеров, эмоций и естественность всего этого, кум хороший. Цензуры нет, любые занятия с любыми персонажами, от гурятины до невинного счастья (возможно сюжетная обоснованность влияет но ни одного отказа и намека). В 4ю стену влетает с двух ног, помнит нужное по всему контексту, разнообразна. Главные проблемы могут проявляться на старте чата, когда она придумает лишнего.

GGUF
Exl2
Метрики, данные

~70В

(от 24 до 64Гб памяти)

Данные размеры настолько не популярны у анонов, что я даже не знаю ,можем сделать плашку архивное. Ну или давайте ваше кря.

Llama-3.3-70В

Обновление 3 Лламы до 3.3. Считается обрезком 405В версии. В бенчмарках разработчиков обходит GPT 3.5 TurboВсе доступные локальные модели по всем параметрам. Мы конечно в это верим. Контекст 128к из коробки.

Мнение анона по 3.1. Кто трогает 3.3 если нет изменений, то оставляем.

Мнение анона: Потестил 3.1 70В в exl2 немного, заметно лучше тройки. Русский не сказать что сильно шагнул вперёд, всё ещё бывает странные выражения выскакивают, но вот рп на английском явно адекватнее стало. Формат промпта ещё жестче теперь, если на тройке ещё работали альпаковские инструкции с ###, то тут уже надо переходить на хедеры. И на кривой семплинг ещё более чувствительной стала, только на HF-обёртке работает как надо. Цензура как в тройке, на ниггера не триггерится. Ждём рп-тюнов от нормальных челов, должно быть вообще заебись.

GGUF
Exl2
Семплеры

Известные тьюны:

Аблитерация ЛЛамы
ЛЛама без цензуры !

GGUF

РП Тюн EVA
Еще одна рацензуренная версия ЛЛамы. На этот раз с уклоном в РП и ЕРП.

GGUF

Qwen2.5-72B

Обновление квена до 2.5 Достаточно умная китайская модель, превосходящая 3 Ллламу, цензура есть. Но с выходом Qwen 3 немного потеряла актуальность
Мнение анона: хуже ламы по всем параметрам, он поэтому и не взлетел. У него ещё аттеншен особенный, из-за чего он заметно медленнее ламы. Превосходит ламу только в тестах, у китайцев очень часто такое, они наверняка по-тихому капают разбавленные тесты в датасет. Ещё и соя дикая.

GGUF
Описания, метрики

Известные тьюны:
Аблитерация 2.5
Аблитерированная версия Квена. Цензура как и стабильность отсутствует

GGUF
Imatrix

Chronos-Platinum-72B
Базовая модель Qwen 2.5 72B, обученная на наборе данных Chronos Divergence с использованием ChatML. Хорошо подходит для ролевых игр и написания рассказов, а также для общих задач помощника.
Как написано в карточке модели, отзывы тредовичков не замечены, Верим.

GGUF
Imatrix

EVA-Qwen2.5
Ева но на базе квена. Обучена на очередном кадавр датасете - Целестии. Предназначенап для РП/ЕРП. В целом есть кто использует и доволен.

GGUF
Imatrix

Magnum-v4-72b
Обновление Магнума до 4 версии!

GGUF
Exl2

Magnum-v1-72b
Одна из лучших кум-моделей! Натренирована на выдаче Cloude 3 Opus. Морально устарела.

GGUF
Exl2
Семплеры

~30B

(от 12 до 36Гб памяти)

Свежая мистраль, вроде отметить надо, а что написать, хуй его знает.

Mistral-Small-3.1-24B

Новый Мистраль среднего размера. Больше, быстрее, жирнее. Модель свежая, слишком рано что-то говорить. Добавили анализ изображений

GGUF

Mistral-Small-24B-Instruct-2501

Легендарная и ужасная в своём великолепии мистраль. Среднего размера. Рабочая лошадка для всех ценителей общения с ЛЛМ. Тюнов- тысячи, слог легендарен. Shiver on my spine не покинет тебя. В представлении не нуждается.
Мнение анона: Тысячи их. Кто то ненавидит, кто то боготворит. Золотая середина. Если кто то советует очередной шизомикс то 90% что это будет на базе мистрали.

GGUF

Тюнов мистрали столько, что я сдохну их все писать. Если тред посчитает, что нужно обязательно добавить %тюн_нейм% то добавим.
Известные тьюны:
ReadyArt
Не совсем модель, а поставщики моделей. Перечислять их можно до второго пришествия скайнета, так что лови анон общую ссылку.
По сути - кум модели пригодные исключительно для ЕРП. Смотри, выбирай. Могут встречаться и на базе других моделей

Dans-PersonalityEngine
универсальная модель, самый сбалансированный и адекватно сделанный файнтюн на мистраль 24B. Низкий уровень цензуры, хорошее знание о мире, может и в кум, и в приключения без позитивного биаса. Нет склонности писать за юзера, хорошо ведёт РП, когда присутствует много действующих лиц, и более-менее слушается инструкций.

GGUF
Exl3

Cydonia-24B-v2.1
Цидония. РП тюн от Драммера, проверенна временем. Заточена под РП и ЕРП. По мнению некоторых анонов 2.1 сосет у 1.2, но синдром утенка никто не отменял

GGUF
Exl2

Pantheon-RP
РП тюн мистрали. Хочешь, захватывай Ангбанд за три дня, хочешь, двигай границы Рохана на момент начала третей эпохи. Хочешь, дави молочных эльфиек. Потерял актуальность в связи с тюном на Qwen3-30b

GGUF
Exl2

Gemma 3-27B

Модель от гугла. Очень хорошо может в русский. Чрезвычайна умна для своего размера. При сравнительно малом весе обладает сообразительностью уровня 70В моделей.
а местами даже даёт им пососать
НО достаточно соевая, может хитро пропихивать сою незаметно, постепенно руиня РП. Адекватных мержей не существует, обладательница жирнейшего контекста. Источник бесконечных холиваров и неутихающих срачей. Без сомнений умница. И помни : Гемма ни в чем не виновата

GGUF
Exl2
Семплеры

Известные тьюны:
gemma3-27b-abliterated-dpo
Расцензуренная версия геммы. По некоторым мнениям потеряла в мозгах, по другим все отлично. Но это единственное вменяемое что с ней есть.

GGUF
Imatrix

Command-r-08-2024-35B

Навый Командер 35В, который теперь занимает заметно меньше памяти за счёт решения проблемы с контекстом!
Мнение анона: отличная модель, спокойно можно использовать без аблитерации в отличии от Геммы. В рп тестил всякую дичь, гуро там, ЦП, пытки и прочее в таком духе - легко. Ну а с обычным кумом так вообще проблем нет.
А вот лучше или хуже старого - хз, старым не пользовался. По ощущениям немного умнее Квена и немного тупее Геммы. Но у всех тут разные юзкейсы, поэтому лучше проверять-сравнивать самому.

GGUF
Exl2
Семплеры

Известные тьюны:
Star Command R 32B v1
Похотливый Commad-r от TheDrummer. Лезет в трусы во втором сообщении, когда магнумы делают это в первом

GGUF
Imatrix

Star Command R 32B-lite v1
Легкий мерж Коммандера и StarCommand-r. Больше логики, меньше слопа - рекомендуем.

GGUF
Imatrix

Command-r-35B

До выхода Геммы считался умнейшей моделью в диапазоне 30В. Очень хорошо выполняет инструкции, почти не имеет цензуры, но значительно глупее 70В моделей. Русский язык такой себе. Как не в себя жрёт память для контекста(в 1,5-2 раза больше других моделей)
Мнение анона: Отлично подходит для рп/ерп в некоторых жанрах, воспринимает нюансы взаимоотношений и настроений часто лучше чем большие "умные" модели, не деградирует а наоборот разгоняется на большом контексте. Из киллерфич - возможность выбора любого темпа повествования (лежать в кровати 20 постов, а потом наоборот быстро перемотать несколько дней - без проблем, не поломается или не начнет куда-либо убегать и скатываться как другие модели), отличное восприятие стилей речи чара (пытается имитировать описанный простыми словами сленг/акцент очень точно) и поведения карточки в целом, одни из лучших познаний в прелюдии и ебле без доставших жптизмов и паттернов.

GGUF
Exl2
Семплеры

Aya-23-35B

Модель от разработчиков Командера, имеющая тот же формат, очень на него похожа, основные отличия: Немного глупее Командера, русский НАМНОГО лучше, цензуры нет совсем(что делает её почти идеальной средней кум-моделью)

GGUF

Qwen3-30B

Версия 30B одной из базовых китайских моделей, теперь MOE и твое. Народная, быстрая, контекст 128к, неплоха в кодинге.
Мнение анона: довольно туп, имеет более плохое внимание к контексту в базовых ситуациях, но у него существует неоспоримое преимущество перед некоторыми моделями: скорость, позволяющая использовать модель даже на кофеварках, а также CoT, которая в ряде случаев полностью компенсирует убогое внимание к контексту. И терпимый уровень цензуры, позволяющий отыгрывать довольно мрачные сценарии даже без файнтюна.
Мнение другого анона: А мне понравилось, быстрая, промту следует. Но все-же хочу тюнов, так как цензура порой раздражает..

GGUF
Imatrix

Известные тьюны:

Pantheon-Proto-RP
Да это же Пантеон на базе квена. Экспериментальная моделька. Автор не несет ответственности за ваше психическое состояние.

GGUF
Imatrix

Qwen3-30B-A3B-abliterated
Аблитеррированная версия Qwen3-30b. Nuff said.

GGUF
Imatrix

QwQ-32B

Одна из первых моделей с ризонингом, что стала доступна широкому кругу пользователей. Сама по себе слабо интересна, в отличии от её тюна.

GGUF

Известные тьюны:
QwQ-32B-Snowdrop
Если говорят QwQ- то подразумевают как правило именно этот тюн. Безусловная любимица треда. Послушная, без цензуры, умная !

GGUF
Imatrix

GLM-4-32B-0414

Очередная китайская моделька, очень схожа с семейством Qwen

GGUF

Известные тьюны:
Remnant GLM4 32b
Расцензуренная версия GLM, любит писать за пользователя, в лупы умеет и практикует

GGUF

0.5B - 20B

(от 8 до 16Гб памяти)

Gemma-3-12b

Да это же 3я гемма в 12b. Умная, маленькая, соевая - твоя.

GGUF
Imatrix

Mistral-Nemo-Instruct-2407-12B

Коллаб МистральАИ и Nvidia. Былинный вин. Одна из самых быстрых по производительности моделей. Контекст 128к из коробки. Русский язык хорош, инструкции выполняет чётко. Из минусов: лупится, много скрытой сои.

GGUF
Exl2
Семплеры

Известные тьюны:
MN-12B-Mag-Mell-R1
Мерж Кита со слоном на базе немо, подходит для РП в лесах Лордерона. Позитивный биас.
Мнение анона: это классика, это знать надо. Очень неплохо пишет, хорошо подходит для фэнтезийного приключения. Наверное, это именно та модель, которую надо потрогать новичку, чтобы он не мучился с настройками. Но анлишед тоже подходит. Позитивный биас.

GGUF

NemoMix-Unleashed-12B
Микс с уклоном в РП и ЕРП. В целом оценивается крайне положительно. Топ для мелкокарт.
Мнение анона: самый сбалансированный мерж на мой взгляд. Красивый язык, отсутствие потока сознания, шизы, сообщения чётко и по делу, при этом может писать достаточно объёмно. Может в среднего качества кум, приключения любого рода, но всё же ближе к фэнтези. Также умеет в русский язык, хотя использовать русский здесь не стоит. Биас нейтрально-позитивный.

GGUF

NemoRemix-12B
Микс с уклоном в РП и ЕРП. От предыдущего отличается упором в ЕРП.*

GGUF

Magnum-v4-12b
Обновление Магнума до 4 версии!
Мнение анона: Типичный магнум, пишет дохуя, быстро лезет в трусы.

GGUF
Exl2

Lumimaid-Magnum-12B
Слияние Lumimaid и Magnum, просто потому что!

GGUF
Exl2

Edit
Pub: 30 May 2025 20:06 UTC
Edit: 02 Jun 2025 22:54 UTC
Views: 703