magyar_szavak / README.md
sarpba's picture
Librarian Bot: Add language metadata for dataset (#2)
1ed16b2 verified
metadata
language:
  - hu
license: apache-2.0
configs:
  - config_name: default
    data_files:
      - split: valid
        path: correct_words.txt
      - split: invalid
        path: incorrect_words.txt
      - split: overall
        path: unique_words.txt

A wikimedia/wikimedia 20231101.hu -ból létrehozott szó adatbázis:

unique_words.txt - kisebb szűrésen átesett file, jócskán vannak benne fura szavak. 4.466.455,- szót tartalmaz

correct_words.txt - hunspell szerint helyesen írt szavak a unique_words.txt-ből. 1.862.931,- szót tartalmaz

incorrect_words.txt - hunspell szerint helytelenül írt szavak a unique_words.txt-ből. 2.603.524,- szót tartalmaz