File size: 3,220 Bytes
e393259 0bd8f21 e393259 0bd8f21 e393259 ae37802 f8afe3c ae37802 f8afe3c ae37802 a3a3523 ae37802 a3a3523 ae37802 f8afe3c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 |
---
language: ru
license: cc-by-nc-4.0
language_creators: expert
multilinguality: monolingual
source_datasets: original
task_categories:
- conversational
- question-answering
task_ids:
- dialogue-generation
- open-domain-qa
---
# Датасет для задачи раскрытия неполных реплик в контексте диалога
Подробное описание задачи "Incomplete Utterance Restoration" можно найти в карточке генеративной модели [inkoziev/rugpt_interpreter](https://huggingface.co/inkoziev/rugpt_interpreter), которая обучена на аугментированном варианте этого датасета.
В датасете содержатся фрагменты диалогов длиной от 1 до 3 последовательных реплик. Для последней реплики дается ее полный вариант с раскрытыми анафорами, эллипсисами и т.д.
Например, следующий сэмпл:
```
{
"context": ["Добрый день, давай поговорим?"],
"short_phrase": "добрый день, давай",
"expanded_phrase": "Давай поговорим"
}
```
Соответствует фрагменту диалога:
```
- Добрый день, давай поговорим?
- добрый день, давай
```
Для последней реплики "_добрый день, давай_" приводится ее полный вариант "_Давай поговорим_".
Для фрагментов длиной 3 реплики в поле ```context``` будет 2 элемента:
```
{
"context": [
"Что-то зрителей полный инет, а изучителей не видать.",
"Ты кем себя считаешь: зрителем или изучателем?"
],
"short_phrase": "изучателем",
"expanded_phrase": "я считаю себя изучателем"
},
```
Этот сэмпл соответствует фрагменту диалога:
```
- Что-то зрителей полный инет, а изучителей не видать.
- Ты кем себя считаешь: зрителем или изучателем?
- изучателем
```
Для последней реплики дана полная форма "_я считаю себя изучателем_".
## Особенности датасета
1) Для многих сэмплов вежливая форма 2л. мн.ч. "Вы" в раскрытом варианте нормализована до "ты".
2) Есть нецензурная лексика, оскорбления и т.п.
## Ссылки, цитирование
Этот датасет я собирал сам для экспериментов с [диалоговыми системами](https://github.com/Koziev/chatbot). Если вы используете его в каком-то виде, буду благодарен за ссылки на эту страницу.
|