File size: 1,672 Bytes
9a40d6a
 
 
 
 
 
 
03761f5
9a40d6a
 
e5efcb2
 
 
9a40d6a
 
e5efcb2
 
 
 
 
 
 
 
 
 
 
9a40d6a
e5efcb2
9a40d6a
2510838
9a40d6a
e5efcb2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
---
tags:
- text-generation-inference
- transformers
- unsloth
- mistral
- trl
- orpo
license: apache-2.0
language:
- ru
datasets:
- 0x7o/poemma-10k
---

>Жить бы и радоваться,
>
>Не по себе, —
>
>Творческий кризис,
>
>Что это такое?
>
>Я не поэт,
>
>Я интеллектуальный автомат.

# Poemma 12B

Language model, fine tuning over Mistral Nemo using ORPO to generate poems in Russian with imitation of the style of some classics.

## Usage

A model can write poetry from scratch, or imitate the style of the following authors:
```
'Марина Цветаева', 'Александр Пушкин', 'Александр Блок',
'Анна Ахматова', 'Владимир Высоцкий', 'Иосиф Бродский',
'Константин Бальмонт', 'Владимир Маяковский', 'Николай Гумилев',
'Федор Тютчев', 'Сергей Есенин', 'Игорь Северянин', 'Осип Мандельштам',
'Агния Барто', 'Евгений Евтушенко', 'Роберт Рождественский',
'Иван Бунин', 'Андрей Дементьев', 'Самуил Маршак'
```

```python
from transformers import pipeline

messages = [
    {"role": "user", "content": "Напиши стих о размышлениях нейронной сети в стиле Пушкина. Используй высокую лексику."},
]
pipe = pipeline("text-generation", model="0x7o/poemma-12B")
pipe(messages)
```

## Dataset

https://huggingface.co/datasets/0x7o/poemma-10k

## Author

https://t.me/kononyuk