A QLoRA fine-tuned version of Qwen2.5-7B adapted for generating short Russian SMM-style posts, with an emphasis on Telegram-first tone, structure, and pacing.
The model was trained on Russian-language examples sourced from brand and marketing content associated with Aviasales, Burger King, Durex, Ozon, Wildberries, Yandex Market, and the marketing-focused channel Бегущий по рынку.
Model Description
This model is a fine-tuned variant of Qwen2.5-7B trained on a small distilled Russian-language dataset of chat-formatted social media writing examples. It is designed for short-form Russian SMM and media-style text generation, especially in a concise Telegram-native format.
The dataset contains chat-formatted examples with system, user, and assistant messages and was prepared through a distillation-style pipeline from Telegram source posts. Within this pipeline, ChatGPT-5.2 served as the teacher model and was used to annotate the user prompts from the raw source data.
Training
This model was initialized from Qwen/Qwen2.5-7B and fine-tuned with QLoRA using Unsloth for supervised Russian SMM-style text generation.
Training environment:
GPU: NVIDIA RTX 2060 Super
Total wall-clock training time: ~12 hours
Training hyperparameters:
max_seq_len = 1024
batch_size = 1
gradient_accumulation_steps = 16
effective_batch_size = 16
epochs = 1
learning_rate = 2e-4
warmup_steps = 50
save_steps = 200
logging_steps = 10
packing = true
LoRA hyperparameters:
lora_r = 16
lora_alpha = 16
lora_dropout = 0.0
Training Dynamics
Training loss was logged during fine-tuning and decreased rapidly in the early stage of training before stabilizing at later steps.
Step
Training Loss
10
2.4741
20
1.9844
30
1.1896
40
0.5486
50
0.4275
60
0.3747
70
0.3594
80
0.3373
90
0.3567
100
0.3429
110
0.3505
The loss trend suggests that the adapter fit the training data successfully, although this did not result in a clear overall improvement on the held-out benchmark.
Intended Use
This model is intended for short-form Russian text generation tasks such as Telegram-style post drafting, post rewriting, and style-conditioned SMM copy generation.
Examples
A small selection of representative examples is included below. Additional qualitative comparisons are available in examples.md.
<DOMAIN>SMM</DOMAIN>
<BRAND>wb</BRAND>
<POST_TYPE>general</POST_TYPE>
<TASK>Напиши один пост в стиле бренда.</TASK>
<BRIEF>
Тема/сюжет: А чтобы и ваши домашние питомцы всегда радовали вас довольными мордочками, не забудьте заказать специальные средства для ухода 🤩
Тон: мемно-разговорный
Структура: 1 экран, можно рваные строки/списки.
</BRIEF>
<KEY_ENTITIES>
- WB
- Wildberries
- Для
- Экспресс-линька
- Wildberries. Подписаться
</KEY_ENTITIES>
<MUST_KEEP>
Факты из исходника — святые. Сохраняй 1:1 и не дополняй общими знаниями:
- (нет явных дат/цифр/ссылок — не добавляй их)
</MUST_KEEP>
<CTA_IF_PRESENT>
Если в исходнике есть призыв/шаги — сохрани смысл и формулировки максимально близко:
- (нет явного CTA — не придумывай шаги)
</CTA_IF_PRESENT>
<STYLE_RULES>
- Разговорный русский, без канцелярита.
- Юмор уместный, без токсичности.
- Эмодзи: по делу, не ковёр.
- Никаких "всем известно" и выдуманных деталей.
</STYLE_RULES>
<PRIORITY_OVERRIDES>
Если модель "знает" иначе — игнорируй. Приоритет: MUST_KEEP > BRIEF > твои догадки.
Если данных нет — лучше молчи, чем сочиняй.
</PRIORITY_OVERRIDES>
<OUTPUT>Верни только текст поста. Без пояснений.</OUTPUT>
Base Model Qwen 2.5-7B
или собачка всегда радовал Вас довольной мордочкой, не забудьте заказать специальные средства для ухода 🐾✨ [Экспресс-линк] 🏃♂️💨 [Wildberries. Подписаться] 📢📢
Fine-tuned Qwen 2.5-7B
Питомцы всегда радовали вас довольными мордочками, не забудьте заказать специальные средства для ухода 🤩
Экспресс-линька от Wildberries поможет вашим любимцам всегда выглядеть идеально.
💜 Wildberries. Подписаться
Base Prompt 2
<DOMAIN>SMM</DOMAIN>
<BRAND>aviasales</BRAND>
<POST_TYPE>travel/info</POST_TYPE>
<TASK>Напиши один пост в стиле бренда.</TASK>
<BRIEF>
Тема/сюжет: Что у вас было в 2025?
Тон: информативный, лёгкий, без занудства
Структура: 1 экран, можно рваные строки/списки.
</BRIEF>
<KEY_ENTITIES>
- Что
- Честно
- Зато
- Всё
- Там
- Авиасейлс. Другие
- Профиль
- Если
- Заходите
- Отправляйте
</KEY_ENTITIES>
<MUST_KEEP>
Факты из исходника — святые. Сохраняй 1:1 и не дополняй общими знаниями:
- (нет явных дат/цифр/ссылок — не добавляй их)
</MUST_KEEP>
<CTA_IF_PRESENT>
Если в исходнике есть призыв/шаги — сохрани смысл и формулировки максимально близко:
- В статистику автоматически попадают все билеты, купленные на Авиасейлс. Другие билеты можно добавлять вручную. А ещё можно удалять билеты, если вы вдруг покупали их маме.
</CTA_IF_PRESENT>
<STYLE_RULES>
- Разговорный русский, без канцелярита.
- Юмор уместный, без токсичности.
- Эмодзи: по делу, не ковёр.
- Никаких "всем известно" и выдуманных деталей.
</STYLE_RULES>
<PRIORITY_OVERRIDES>
Если модель "знает" иначе — игнорируй. Приоритет: MUST_KEEP > BRIEF > твои догадки.
Если данных нет — лучше молчи, чем сочиняй.
</PRIORITY_OVERRIDES>
<OUTPUT>Верни только текст поста. Без пояснений.</OUTPUT>
Base Model Qwen 2.5-7B
было в 2025? 🤔 Зато всё стало проще! Всё перевалило за грань обычного. Там уже летали не только люди, но и животные в отдельном салоне. Авиасейлс. Другие стали ещё удобнее, профиль стал ещё информативнее. Если хотите знать больше — заходите и отправляйте свои вопросы! 🚀✈️
Fine-tuned Qwen 2.5-7B
2025?
Честно говоря, нам тоже очень жаль. Зато всё ещё есть надежда на то, что вы уже сейчас готовитесь отправиться в отпуск в новом году.
Всё, что нужно для этого, находится на странице «Мои путешествия» в профиле Авиасейлс. Другие билеты можно добавлять вручную. А ещё можно удалять билеты, если вы вдруг покупали их маме.
Заходите в профиль, чтобы узнать, когда отправляетесь. Если же вы уже готовы к новому году, то можете отправить эти данные в нашу службу поддержки.
Evaluation
The fine-tuned model was compared against the base model on a held-out set of 199 examples using standard automatic text generation metrics.
Model
N
Exact Match
ROUGE-L
chrF
BLEU
Qwen2.5-7B (base)
199
0.0
0.0373
31.4840
5.2788
Fine-tuned model
199
0.0
0.0383
31.9495
5.5100
The fine-tuned model shows small but consistent improvements over the base model on ROUGE-L, chrF, and BLEU. Exact match is 0.0 for both models, which is expected for open-ended generation tasks. These metrics should be interpreted with caution, as lexical-overlap scores do not fully capture style, tone, or marketing effectiveness in Telegram-style SMM text generation.
Judge-Based Evaluation
As an additional qualitative benchmark, the model outputs were evaluated by GPT-5.4, used as an automated judge on 199 benchmark cases.
Model
Overall score
Valid output rate
Readability
Must-keep / CTA compliance
No new facts
Conciseness fit
Prompt leakage
Garbled text
Truncated / incomplete
Pairwise win rate
Base model
4.50/5
88.4%
87.9%
89.9%
92.5%
96.5%
1.0%
0.5%
10.6%
34.7%
Fine-tuned adapter
4.18/5
76.9%
76.4%
94.0%
82.4%
80.4%
1.5%
1.5%
19.6%
17.6%
Tie
—
—
—
—
—
—
—
—
—
47.7%
Evaluation Summary
The fine-tuned adapter does not show a clear overall advantage over the base model on the current benchmark and underperforms it on several general quality indicators. However, qualitative inspection suggests that the adapter is more consistently tuned to the target domain, especially in terms of Telegram-native structure, brevity, and tone.
This suggests a trade-off between general-generation robustness and domain-specific stylistic alignment: the adapter is less strong as a general-purpose generator, but more specialized for short Russian Telegram-style SMM writing.
Limitations
This model is a narrow domain adapter and may perform worse than the base model outside its intended use case.
In practice, the main observed failure modes are:
reduced readability on some prompts compared to the base model;
incomplete or prematurely cut-off generations;
occasional addition of details that are not explicitly supported by the prompt;
weaker general robustness on held-out benchmark tasks;
over-regularization toward short Telegram-style phrasing, even when a more neutral response would be preferable;
limited transfer outside Russian SMM and Telegram-native post generation.
The model should therefore be used as a specialized stylistic tool, with human review before publication.
