README.md

metadata

license: cc-by-sa-3.0
task_categories:
  - text-generation
language:
  - sr
  - hr
  - sl
  - mk
  - bs
pretty_name: Srpski Vikizvornik
size_categories:
  - 10M<n<100M
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - wikisrc_sr.jsonl
          - wikisrc_hr.jsonl
          - wikisrc_bs.jsonl
          - wikisrc_sl.jsonl
          - wikisrc_mk.jsonl
      - split: sr
        path:
          - wikisrc_sr.jsonl
      - split: bs
        path:
          - wikisrc_bs.jsonl
      - split: hr
        path:
          - wikisrc_hr.jsonl
      - split: sl
        path:
          - wikisrc_sl.jsonl
      - split: mk
        path:
          - wikisrc_mk.jsonl

Vikizvornik na Srpskom (i ostalim južnoslovenskim jezicima) verzija 1.12.2023 - derivacija Vikimedijinog skupa Ukupno 68,616 dokumenata, ~ 100 miliona reči. Svaki dokument je u zasebnoj JSON liniji. Paragrafi su odvojeni duplim novim redom (\n\n). Rečenice unutar paragrafa su obeležene.	Wikisource in Serbian (and other South-slavic languages) version 1.12.2023 - derived from Wikimedia dataset A total of 68,616 documents containing ~ 100 million words. Each document is represented by a JSON line. Paragraphs are separated via double new line (\n\n). Each Sentence in a document is delimited.
Број докумената Doc. count Број реченица Sent. count Број речи Word count Удео Share Srpski 🇷🇸 38,987 1,268,228 19,386,154 19.7% Hrvatski 🇭🇷 8,278 602,752 10,280,538 10.4% Bosanski 🇧🇦 1,918 163,330 2,680,118 2.7% Slovenački 🇸🇮 17,267 4,670,543 64,936,933 66% Makedonski 🇲🇰 2,166 59,329 1,143,194 1.2% Bugarski 🇧🇬 2,316 184,8839 3,204,690 0% Укупно Total 68,616 6,764,182 98,426,937 100%

from datasets import load_dataset
dataset = load_dataset("procesaur/Vikizvornik")

print(dataset["train"][6])
{'text': '<s>Вино пије Краљевићу Марко\nса старицом Јевросимом мајком,\nа кад су се напојили вина,...'}

Editor

Mihailo Škorić

@procesaur

Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA и Фода за иновациону делатност Републике Србије у оквиру програма GOVTECH, решење #53096, Дигитекс

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA and the Fund for Republic of Serbia Innovation Fund via the GOVTECH program, project #53096, Digiteks