README.md

metadata

license: apache-2.0
dataset_info:
  features:
    - name: sentences
      dtype: string
    - name: words
      sequence: string
    - name: bigrams
      sequence:
        sequence: string
  splits:
    - name: train
      num_bytes: 2839605
      num_examples: 5206
  download_size: 175251
  dataset_size: 2839605
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
task_categories:
  - text-generation
  - text2text-generation
language:
  - en
tags:
  - code
  - text-processing
  - nltk
  - statistics
size_categories:
  - 10K<n<100K

Задача 2: Разметка датасета с HF Datasets: статистический анализ и визуализация

Разметка представленного датасета выполнена в рамках курса по компьютерной лингвистике НИУ ВШЭ (СПб).

ПРОВЕДЕННЫЙ АНАЛИЗ

Был пороведен статистический анализ текста, включающий:

1. Анализ уникальности данных

   Доля уникальных слов: 0.0032

2. Частотный анализ биграмм и триграмм

3. Анализ распределений: Длины предложений, слов и n-грамм

Средняя длина предложения: 15.82 Стандартное отклонение длины предложений: 6.70 Медиана длины предложений: 15.00 Квартиль 25%, 50%, 75% длины предложений: [12. 15. 22.]

С частотным анализом слов можно ознакомиться в виде графика:

Для более содержательного анализа также был произведен частотный анализ текста, в котором были удалены стоп-слова:

Помимо этого был выгружен частотный анализ слов в виде облака.

1. Без удаления стоп-слов:

2. После очистки текста от стоп-слов: