Alvant commited on
Commit
61514a8
·
1 Parent(s): 04cc313

englishize dataset description

Browse files
Files changed (1) hide show
  1. README.md +8 -8
README.md CHANGED
@@ -36,12 +36,12 @@ tags:
36
 
37
  # PostNauka
38
 
39
- Измеряемые характеристики датасета:
40
 
41
- * D — число документов
42
- * <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
43
- * <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
44
- * <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
45
 
46
 
47
  | | D | @title W | @title len D | @title len D uniq | @2gramm W | @2gramm len D | @2gramm len D uniq | @3gramm W | @3gramm len D | @3gramm len D uniq | @snippet W | @snippet len D | @snippet len D uniq | @word W | @word len D | @word len D uniq | @post_tag W | @post_tag len D | @post_tag len D uniq | @author W | @author len D | @author len D uniq |
@@ -49,9 +49,9 @@ tags:
49
  | value | 3404 | 13546 | 3.97944 | 3.98002 | 163289 | 47.9697 | 37.0029 | 5848 | 1.71798 | 1.30288 | 46033 | 13.5232 | 13.5256 | 1.43373e+06 | 421.189 | 254.58 | 18031 | 5.297 | 5.297 | 3685 | 1.08255 | 1.08255 |
50
 
51
 
52
- Модальность `@snippet` сырой необработанный текст, предназначенный для показа топ-документов.
53
 
54
- Информация о длинах документов в расчёте на модальность:
55
 
56
 
57
  | | len_total@title | len_total@2gramm | len_total@3gramm | len_total@snippet | len_total@word | len_total@post_tag | len_total@author | len_uniq@title | len_uniq@2gramm | len_uniq@3gramm | len_uniq@snippet | len_uniq@word | len_uniq@post_tag | len_uniq@author |
@@ -65,4 +65,4 @@ tags:
65
  | max | 22 | 778 | 69 | 28 | 4892 | 18 | 4 | 22 | 444 | 27 | 28 | 2277 | 18 | 4 |
66
 
67
 
68
- Существует \"эталонная\" тематическая модель на 19 + 1 (фоновую) тему. Информация о темах доступна для [версии датасета с естественным порядком слов](https://huggingface.co/datasets/TopicNet/PostNauka/tree/main/data/noow). (При этом в [датасете типа "мешка слов" со сниппетами](https://huggingface.co/datasets/TopicNet/PostNauka/tree/main/data/bow) те же самые документы, что и в датасете с естественным порядком, но под другими именамиа информация о соответствии имён документов, увы, утеряна 🙃.)
 
36
 
37
  # PostNauka
38
 
39
+ Some measurable characteristics of the dataset:
40
 
41
+ * D — number of documents
42
+ * <modality name> W — modality dictionary size (number of unique tokens)
43
+ * <modality name> len D — average document length in modality tokens (number of tokens)
44
+ * <modality name> len D uniq — average document length in unique modality tokens (number of unique tokens)
45
 
46
 
47
  | | D | @title W | @title len D | @title len D uniq | @2gramm W | @2gramm len D | @2gramm len D uniq | @3gramm W | @3gramm len D | @3gramm len D uniq | @snippet W | @snippet len D | @snippet len D uniq | @word W | @word len D | @word len D uniq | @post_tag W | @post_tag len D | @post_tag len D uniq | @author W | @author len D | @author len D uniq |
 
49
  | value | 3404 | 13546 | 3.97944 | 3.98002 | 163289 | 47.9697 | 37.0029 | 5848 | 1.71798 | 1.30288 | 46033 | 13.5232 | 13.5256 | 1.43373e+06 | 421.189 | 254.58 | 18031 | 5.297 | 5.297 | 3685 | 1.08255 | 1.08255 |
50
 
51
 
52
+ The `@snippet` modality is a piece of raw text designed to display top documents.
53
 
54
+ Information about document lengths in modality tokens:
55
 
56
 
57
  | | len_total@title | len_total@2gramm | len_total@3gramm | len_total@snippet | len_total@word | len_total@post_tag | len_total@author | len_uniq@title | len_uniq@2gramm | len_uniq@3gramm | len_uniq@snippet | len_uniq@word | len_uniq@post_tag | len_uniq@author |
 
65
  | max | 22 | 778 | 69 | 28 | 4892 | 18 | 4 | 22 | 444 | 27 | 28 | 2277 | 18 | 4 |
66
 
67
 
68
+ There exists a reference "gold-standard" topic model for 19 + 1 (background) topics. Information about topics is available for the [natural word order version of the dataset](https://huggingface.co/datasets/TopicNet/PostNauka/tree/main/data/noow). (At the same time, [bag-of-words dataset with `@snippet`-s](https://huggingface.co/datasets/TopicNet/PostNauka/tree/main/data/bow) includes the same documents as the dataset with a natural order of words, but under different names and information about the correspondence of document names, alas, is lost 🙃.)