tokens
sequencelengths
1
331
ner_tags
sequencelengths
1
331
dataset
stringclasses
4 values
[ "Den", "skostke", "songaren", "Fish", "var", "med", "på", "å", "grunnleggja", "den", "verdskjene", "prog-rockgruppa", "Marillion", "." ]
[ 0, 0, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0 ]
wikiann
[ "''Solskinsbussen", "''", "(", "Samlaget", ",", "2011", ")" ]
[ 0, 0, 0, 3, 0, 0, 0 ]
wikiann
[ "Det", "vart", "oppdaga", "og", "kartlagd", "frå", "flyfoto", "av", "Den", "tyske", "antarktisekspedisjonen", ",", "1938-39", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 5, 6, 6, 0, 0, 0 ]
wikiann
[ "Han", "er", "òg", "hovudbyen", "i", "Leicestershire", "." ]
[ 0, 0, 0, 0, 0, 5, 0 ]
wikiann
[ "Han", "kom", "ikkje", "lenger", "enn", "til", "Gran", "på", "Hadeland", "." ]
[ 0, 0, 0, 0, 0, 0, 5, 0, 5, 0 ]
wikiann
[ "Det", "nordlege", "Andes", "skil", "gruppene", "av", "populasjonar", "i", "nordvest", "frå", "Amazonas-populasjonen", "." ]
[ 0, 0, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Stabæk", "–", "'", "''", "Sogndal", "''", "'", "2-2", "(", "5-6", "etter", "straffer", ")" ]
[ 3, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Byen", "ligg", "60", "km", "innover", "i", "landet", "frå", "Ordu", "langs", "vegen", "til", "Sivas", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 5, 0, 0, 0, 5, 0 ]
wikiann
[ "Nazlat", "'Isa", "-", "نزلة", "عيسى" ]
[ 5, 6, 0, 0, 0 ]
wikiann
[ "I", "staden", "støtta", "han", "kandidaturet", "til", "Dmitrij", "Medvedev", ",", "som", "vart", "vald", "som", "etterfylgjaren", "hans", "." ]
[ 0, 0, 0, 0, 0, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Til", "saman", "spela", "han", "368", "kampar", "i", "Serie", "A", "og", "skåra", "åtte", "mål", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0 ]
wikiann
[ "Hovudbygget", "blei", "laga", "i", "Wicklow", "." ]
[ 0, 0, 0, 0, 5, 0 ]
wikiann
[ "Guru", "Ardjan", "Dev" ]
[ 1, 2, 2 ]
wikiann
[ "«Zomby", "Woof", "[Live]»", "(", "frå", "You", "Ca", "n't", "Do", "That", "on", "Stage", "Anymore", ",", "Vol.", "1", "''", ")" ]
[ 0, 0, 0, 0, 0, 3, 4, 4, 4, 4, 4, 4, 4, 4, 4, 4, 0, 0 ]
wikiann
[ "Hovudstaden", "er", "byen", "Siena", "." ]
[ 0, 0, 0, 5, 0 ]
wikiann
[ "Antoninus", "Pius", "av", "Romarriket" ]
[ 1, 2, 2, 2 ]
wikiann
[ "''", "'0–3", "''", "'", "Molde", "–", "Vålerenga" ]
[ 0, 0, 0, 0, 3, 0, 3 ]
wikiann
[ "omdiriger", "Sveriges", "socialdemokratiska", "arbetareparti" ]
[ 0, 3, 4, 4 ]
wikiann
[ "OMDIRIGER", "Kommunistische", "Partei", "Deutschlands" ]
[ 0, 3, 4, 4 ]
wikiann
[ "Living", "with", "War", ":", "«In", "the", "Beginning»" ]
[ 3, 4, 4, 4, 4, 4, 4 ]
wikiann
[ "Blant", "desse", "finn", "ein", ",", "forutsigbart", "nok", ",", "Johannes", "Brahms", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 1, 2, 0 ]
wikiann
[ "OMDIRIGER", "Johan", "Oscar", "Smith" ]
[ 0, 1, 2, 2 ]
wikiann
[ "Ine", "Marie", "Eriksen", "Søreide" ]
[ 1, 2, 2, 2 ]
wikiann
[ "Alle", "romanane", "er", "utgitt", "av", "Gyldendal", "Norsk", "Forlag" ]
[ 0, 0, 0, 0, 0, 3, 4, 4 ]
wikiann
[ "Men", "bergensarane", "skipa", "til", "fleire", "festar", "likevel", "for", "å", "feire", "300-årsjubileum", "for", "fyrste-", "og", "kongeætta", "Oldenburg", ",", "som", "kongen", "høyrde", "til", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Sverre", "Hassel", "(", "1876-1928", ")", ",", "polfarar" ]
[ 1, 2, 0, 0, 0, 0, 0 ]
wikiann
[ "OMDIRIGER", "José", "Manuel", "Durão", "Barroso" ]
[ 0, 1, 2, 2, 2 ]
wikiann
[ "Vålerengen", "–", "'", "''", "Moss", "''", "'", "0-1" ]
[ 3, 0, 0, 0, 3, 0, 0, 0 ]
wikiann
[ "'", "''", "Rune", "Skarsfjord", "''", "'" ]
[ 0, 0, 1, 2, 0, 0 ]
wikiann
[ "The", "New", "York", "Times", "sa", "at", "«pornografi", "representerar", "ein", "brøkdel", "av", "innhaldet", "på", "nettstaden", ",", "men", "ikkje", "ei", "triviell", "mengd", "for", "ein", "nettstade", "med", "med", "100", "millionar", "bloggar»", "." ]
[ 3, 4, 4, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Den", "kuriske", "bukta", "er", "til", "dømes", "om", "lag", "85", "%", "forureina", "." ]
[ 5, 6, 6, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Regjeringa", "Nygaardsvold", "utnemnde", "den", "seinare", "Arbeidarparti", "Anders", "Frihagen", "til", "den", "første", "administrerande", "direktøren", "." ]
[ 3, 4, 0, 0, 0, 3, 1, 2, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Inge", "II", "av", "Noreg" ]
[ 1, 2, 2, 2 ]
wikiann
[ "Herman", "Wildenvey", "(", "dikt", ")" ]
[ 1, 2, 0, 0, 0 ]
wikiann
[ "Etter", "to", "keepertabbar", "av", "Thomas", "Myhre", "enda", "kampen", "2–2", "." ]
[ 0, 0, 0, 0, 1, 2, 0, 0, 0, 0 ]
wikiann
[ "Risør", "kommune", "(", "Knut", "Henning", "Thygesen", ",", "Raud", "Valallianse", ")" ]
[ 5, 6, 0, 1, 2, 2, 0, 3, 4, 0 ]
wikiann
[ "forfatterane", "Stephen", "King", "og", "Stephenie", "Meyer", "." ]
[ 0, 1, 2, 0, 1, 2, 0 ]
wikiann
[ "Karl", "av", "Berry", "(", "1686–1714", ")" ]
[ 1, 2, 2, 2, 2, 2 ]
wikiann
[ "Tango", "in", "the", "Night", "''" ]
[ 3, 4, 4, 4, 0 ]
wikiann
[ "'", "''", "Rust", "Never", "Sleeps", "''", "'", "''" ]
[ 0, 0, 3, 4, 4, 0, 0, 0 ]
wikiann
[ "Området", "ligg", "innanfor", "Dovrefjell-Sunndalsfjella", "nasjonalpark", "." ]
[ 0, 0, 0, 3, 4, 0 ]
wikiann
[ "Lars", "Vaular", "(", "''Du", "betyr", "meg", "''", ")" ]
[ 1, 2, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Songen", "vil", "starte", "som", "nummer", "sju", ",", "etter", "Russland", "med", "What", "If", "av", "Dina", "Garipova", "og", "før", "Nederland", "med", "Birds", "av", "Anouk", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 5, 0, 3, 4, 0, 1, 2, 0, 0, 5, 0, 3, 0, 1, 0 ]
wikiann
[ "Hovudstaden", "er", "Izjevsk", ",", "arealet", "er", "42", "100", "km²", "og", "innbyggjartalet", "er", "1", "522", "700", "(", "2010", ")", "." ]
[ 0, 0, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Ole", "Anton", "Qvam", "var", "sonen", "hans", "." ]
[ 1, 2, 2, 0, 0, 0, 0 ]
wikiann
[ "omdiriger", "El", "cóndor", "pasa" ]
[ 0, 3, 4, 4 ]
wikiann
[ "'", "''", "Dancing", "with", "Strangers", "''", "'", "''" ]
[ 0, 0, 3, 4, 4, 0, 0, 0 ]
wikiann
[ "Fjellet", "ligg", "nær", "grensa", "mot", "Frankrike", "." ]
[ 0, 0, 0, 0, 0, 5, 0 ]
wikiann
[ "Ho", "var", "søster", "til", "botanikaren", "Thekla", "Resvoll", "." ]
[ 0, 0, 0, 0, 0, 1, 2, 0 ]
wikiann
[ "Hadselbrua", "(", "1011", "m", ")" ]
[ 3, 0, 0, 0, 0 ]
wikiann
[ "Øya", "har", "båtsamband", "til", "Stavanger", "og", "Hommersåk", "." ]
[ 0, 0, 0, 0, 5, 0, 5, 0 ]
wikiann
[ "I", "vest", "brer", "den", "nordlegaste", "delen", "av", "Kattegat", "seg", "ut", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 5, 0, 0, 0 ]
wikiann
[ "Han", "ligg", "nær", "Ma'alot-Tarshiha", "og", "høyrer", "til", "Ma'ale", "Yosef", "regionale", "kommune", "." ]
[ 0, 0, 0, 5, 0, 0, 0, 3, 4, 4, 4, 0 ]
wikiann
[ "Skuta", "fekk", "namn", "etter", "Skomvær", "fyr", "." ]
[ 0, 0, 0, 0, 3, 4, 0 ]
wikiann
[ "''", "New", "Blood", "''", "(", "2011", ")" ]
[ 0, 3, 4, 0, 0, 0, 0 ]
wikiann
[ "OMDIRIGER", "Musikaren", "Jonas", "Fjeld" ]
[ 0, 1, 2, 2 ]
wikiann
[ "Han", "rodde", "ofte", "saman", "med", "storebroren", "Frank", "Hansen", "." ]
[ 0, 0, 0, 0, 0, 0, 1, 2, 0 ]
wikiann
[ "Karl", "Seglem", "(", "''Som", "spor", "''", ",", "2012", ")" ]
[ 1, 2, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Ho", "er", "utgangspunkt", "for", "fleire", "av", "DNT", "sine", "ruter", "." ]
[ 0, 0, 0, 0, 0, 0, 3, 0, 0, 0 ]
wikiann
[ "Bjørnar", "–", "'", "''", "'", "''", "0-3" ]
[ 3, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Musikken", "vart", "komponert", "av", "Burt", "Bacharach", "og", "han", "var", "opphavleg", "meint", "som", "ein", "instrumental", "." ]
[ 0, 0, 0, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Det", "nordlegaste", "punktet", "er", "Kapp", "Fligely", "på", "Rudolføya", "." ]
[ 0, 0, 0, 0, 5, 6, 0, 5, 0 ]
wikiann
[ "Då", "vart", "Jean-Bertrand", "Aristide", ",", "slik", "mange", "hadde", "håpa", "på", ",", "vald", "til", "president", "–", "med", "eit", "overveldande", "fleirtal", "." ]
[ 0, 0, 1, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Here", "Comes", "the", "Night", "/", "«Baby", "Blue»" ]
[ 3, 4, 4, 4, 0, 0, 0 ]
wikiann
[ "Medvezjia", "(", "Iturup", "på", "Kurilane", "i", "Russland", ")" ]
[ 5, 0, 5, 0, 5, 0, 5, 0 ]
wikiann
[ "'", "''", "St.", "Petersburg", "''", "'" ]
[ 0, 0, 5, 6, 0, 0 ]
wikiann
[ "Minneord", "i", "The", "Times" ]
[ 0, 0, 3, 4 ]
wikiann
[ "Landsbyen", "ligg", "cirka", "to", "km", "sør", "for", "landsbyen", "Dersingham", ",", "12", "km", "nord", "for", "byen", "King", "'s", "Lynn", "og", "60", "km", "nordvest", "for", "Norwich", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 5, 6, 6, 0, 0, 0, 0, 0, 5, 0 ]
wikiann
[ "'", "''", "Fork", "in", "the", "Road", "''", "'", "''" ]
[ 0, 0, 3, 4, 4, 4, 0, 0, 0 ]
wikiann
[ "På", "denne", "tida", "var", "multi-instrumentalisten", "Scott", "Thurston", "kome", "med", "i", "bandet", "." ]
[ 0, 0, 0, 0, 0, 1, 2, 0, 0, 0, 0, 0 ]
wikiann
[ "J.K.", "Rowling", "har", "uttalt", "at", "ho", "ville", "undervist", "i", "Trylleformlar", "dersom", "ho", "vart", "lærar", "på", "Galtvort", "." ]
[ 1, 2, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0 ]
wikiann
[ "Han", "er", "kalla", "opp", "etter", "Carl", "Størmer", "." ]
[ 0, 0, 0, 0, 0, 1, 2, 0 ]
wikiann
[ "Han", "ligg", "rundt", "670", "km", "sørvest", "for", "Jakutsk", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 5, 0 ]
wikiann
[ "Boka", "fekk", "namnet", "''Jordbundet", "og", "himmelvendt", "''", "og", "kom", "ut", "på", "Aschehoug", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 0 ]
wikiann
[ "**", "Karl", "Petter", "Løken", ",", "Rosenborg" ]
[ 0, 1, 2, 2, 0, 3 ]
wikiann
[ "Han", "ligg", "nær", "Eilat", "og", "høyrer", "til", "Hevel", "Eilot", "regionale", "kommune", "." ]
[ 0, 0, 0, 5, 0, 0, 0, 3, 4, 4, 4, 0 ]
wikiann
[ "omdiriger", "Metroen", "i", "Paris" ]
[ 0, 3, 4, 4 ]
wikiann
[ "Songen", "er", "rangert", "på", "481.", "plass", "på", "lista", "til", "Rolling", "Stone", "''", "over", "dei", "500", "største", "songane", "gjennom", "tidene", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "På", "turneen", "spelte", "dei", "mellom", "anna", "i", "Polen", ",", "Hellas", "og", "Italia", "for", "første", "gong", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 5, 0, 5, 0, 5, 0, 0, 0, 0 ]
wikiann
[ "Gent", "i", "Belgia", "(", "monteringsfabrikk", ")" ]
[ 5, 0, 5, 0, 0, 0 ]
wikiann
[ "Hallgeir", "Brenden", "–", "skilaupar", "." ]
[ 1, 2, 0, 0, 0 ]
wikiann
[ "Grensa", "mellom", "Sveits", "og", "Italia", "går", "over", "toppen", "." ]
[ 0, 0, 5, 0, 5, 0, 0, 0, 0 ]
wikiann
[ "Hovudstaden", "er", "Ouagadougou", "(", "uttalt", "''wagadougou", "''", ")", ",", "på", "folkemunne", "kjent", "som", "«Ouaga»", "(", "''wagá", "''", ")", "." ]
[ 0, 0, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "''Denne", "artikkelen", "i", "sin", "heilskap", "baserer", "seg", "på", "pressemelding", "'", "''", "STScI-2008-16", "''", "'", "frå", "Space", "Telescope", "Science", "Institute", ".", "''" ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 2, 2, 2, 0, 0 ]
wikiann
[ "Pensjonistpartiet", "(", "PP", ")" ]
[ 3, 0, 0, 0 ]
wikiann
[ "'", "''", "Jan", "Jönsson", "''", "'" ]
[ 0, 0, 1, 2, 0, 0 ]
wikiann
[ "Konfliktar", "mellom", "India", "og", "Pakistan" ]
[ 3, 4, 4, 4, 4 ]
wikiann
[ "''", "'1–1", "''", "'", "Rosenborg", "–", "Brann" ]
[ 0, 0, 0, 0, 3, 0, 3 ]
wikiann
[ "Janove", "Ottesen", "/", "Geir", "Zahl", "(", "Kaizers", "Orchestra", ")" ]
[ 1, 2, 0, 1, 2, 0, 3, 4, 0 ]
wikiann
[ "Charles", "Gounod", "(", "1818–1893", ")" ]
[ 1, 2, 0, 0, 0 ]
wikiann
[ "Tekstane", "hennar", "handlar", "ofte", "om", "personlege", "opplevingar", "(", "t.d", "." ]
[ 1, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "Storseisundet", "bru", "(", "260", "m", ")" ]
[ 3, 4, 0, 0, 0, 0 ]
wikiann
[ "Keisarkanalen", "flyt", "gjennom", "prefekturet", "." ]
[ 5, 0, 0, 0, 0 ]
wikiann
[ "Etter", "at", "Sovjetunionen", "braut", "saman", "vart", "det", "mindre", "skipsfart", "i", "området", "." ]
[ 0, 0, 5, 0, 0, 0, 0, 0, 0, 0, 0, 0 ]
wikiann
[ "*2002", "-", "''Syden", "''", "(", "Gyldendal", ")" ]
[ 0, 0, 0, 0, 0, 3, 0 ]
wikiann
[ "Det", "ligg", "sentrlat", "i", "Douglas", "Range", ",", "ved", "toppen", "av", "Toynbeebreen", "og", "Sedgwickbreen", "13", "km", "vest", "for", "George", "VI", "Sound", ",", "nær", "austkysten", "av", "Aleksanderøya", "i", "Britisk", "Antarktis", "." ]
[ 0, 0, 0, 0, 5, 6, 0, 0, 0, 0, 5, 0, 5, 0, 0, 0, 0, 5, 6, 6, 0, 0, 0, 0, 5, 0, 5, 6, 0 ]
wikiann
[ "Bygda", "ligg", "ytst", "i", "havgapet", "på", "søraustsida", "av", "øya", "Frøya", "ved", "munningen", "av", "Frøysjøen", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 5, 0, 0, 0, 5, 0 ]
wikiann
[ "Han", "har", "om", "lag", "225", "000", "innbyggjarar", "og", "er", "hovudstad", "i", "Kostanaj", "oblast", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 5, 6, 0 ]
wikiann
[ "Den", "utgåva", "vart", "derfor", "gjeven", "ut", "på", "samleplata", "Best", "of", "Bowie", "''", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 3, 4, 4, 0, 0 ]
wikiann
[ "Kanalane", "vart", "i", "si", "tid", "planlagt", "å", "gje", "byen", "Cesena", "sikker", "tilgang", "til", "havet", "." ]
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 5, 0, 0, 0, 0, 0 ]
wikiann

Created from the three datasets wikiann, norne, dane, and KBLab/sucx3_ner.

See detailed config below:

dataset_ids = [
    "wikiann",
    "dane",
    "norne", 
    "KBLab/sucx3_ner"
]

dataset_subsets = {
    "wikiann": [
        "nn", "no", "da", "sv", "fo", "is"
    ],
    "dane": [None],
    "norne": ["combined-7"],
    "KBLab/sucx3_ner": ["original_cased"]
}

Unified to the following BIO-scheme:

# O: 0
# B-PER: 1
# I-PER: 2
# B-ORG: 3
# I-ORG: 4
# B-LOC: 5
# I-LOC: 6
# B-MISC: 7
# I-MISC: 8

mappers = {
    "norne": {
        0: 0,
        1: 1,
        2: 2,
        3: 3,
        4: 4,
        # PROD->MISC
        5: 7,
        6: 8,
        # LOC -> LOC
        7: 5,
        8: 6,
        # DRV -> MISC (names, but derived)
        9: 7,
        10: 8,
        # EVT -> MISC (events)
        11: 7,
        12: 8,
        # MISC -> MISC
        13: 7,
        14: 8,
    },
    "KBLab/sucx3_ner": {
        "O": 0,
        # PER
        "B-person": 1,
        "I-person": 2,
        # LOC
        "B-place": 5,
        "I-place": 6,
        # ORG
        "I-inst": 4,
        "B-inst": 3,
        # MISC
        # this is considered a 'work' by someone or something
        "B-work": 7,
        "I-work": 8,
        "B-animal": 7,
        "I-animal": 8,
        "B-product": 7,
        "I-product": 8,
        "B-event": 7,
        "I-event": 8,
        "B-other": 7,
        "I-other": 8,
        # mythological
        "B-myth": 7,
        "I-myth": 8,
    },
}

Downloads last month
42