smece / README.md
procesaur's picture
Update README.md
e4ed60a verified
|
raw
history blame
4.11 kB
metadata
language:
  - sr
pretty_name: SMEĆE
size_categories:
  - 1B<n<10B
configs:
  - config_name: default
    data_files:
      - split: train
        path: '*.boiler'
task_categories:
  - text-generation
  - text-classification

Skup teksta koji je obeležen kao smeće prilikom pripremanja drugih korpusa

preko 556 miliona reči

Može se koristiti za obučavanje modela za klasifikaciju smeća :)

Za korpuse pravog teksta za srpski jezik pogledajte S.T.A.R.S (13,289 disertacija sa NARDUS-a) ili Kišobran veb korpus (najveći korpus za srpski jezik).

A set of text marked as garbage/boilerplate when preparing other corpora

over 556 million words

Can be used to train boilerplate classification models :)

For real text corpora for Serbian see S.T.A.R.S (13,289 dissertations from NARDUS) or Umbrella web corp. (largest corpus for the Serbian language).

from datasets import load_dataset
dataset = load_dataset("procesaur/SMECE")
Editor
Mihailo Škorić

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}