Datasets:

ArXiv:
License:
HoneyTian commited on
Commit
197a279
1 Parent(s): ab315c5
README.md CHANGED
@@ -292,6 +292,128 @@ ru: 3216
292
  ![mike0307_text_length.jpg](docs/picture/mike0307_text_length.jpg)
293
 
294
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
295
  ### 参考来源
296
  <details>
297
  <summary>参考的数据来源,展开查看</summary>
 
292
  ![mike0307_text_length.jpg](docs/picture/mike0307_text_length.jpg)
293
 
294
 
295
+ #### nbnn
296
+ 以下都是 train 训练集的信息
297
+
298
+ ```text
299
+ 语种数量:
300
+ no-n: 778247
301
+ no-b: 777965
302
+ ```
303
+
304
+ 样本示例:
305
+
306
+ | 数据 | 语种 | 样本 |
307
+ | :---: | :---: | :---: |
308
+ | nbnn | no-b | – Det har vært en glede og en ære å representere Telemark på Stortinget, men jeg har varslet valgkomiteen om at jeg ikke stiller meg til disposisjon for neste periode. |
309
+ | nbnn | no-b | To klassetrinn ved Hedrum barneskole er satt i ventekarantene |
310
+ | nbnn | no-b | Planen er at jeg skal være der til neste år også. |
311
+ | nbnn | no-n | Han seier til Adresseavisen |
312
+ | nbnn | no-n | Kvotane i 2014 er reduserte med vel 200.000 tonn frå 2013 på grunn av framleis svak rekruttering og små årsklasser etter 2004. |
313
+ | nbnn | no-n | Mistanken er basert på at det er oppdaga mange svake og døde fjørfe i besetninga |
314
+
315
+
316
+ <details>
317
+ <summary>文本长度</summary>
318
+ <pre><code>0-10: 5556
319
+ 10-20: 25148
320
+ 20-30: 46278
321
+ 30-40: 79125
322
+ 40-50: 112309
323
+ 50-60: 123719
324
+ 60-70: 125569
325
+ 70-80: 126520
326
+ 80-90: 122251
327
+ 90-100: 115816
328
+ 100-110: 108365
329
+ 110-120: 97733
330
+ 120-130: 86840
331
+ 130-140: 75411
332
+ 140-150: 65692
333
+ 150-160: 55824
334
+ 160-170: 40693
335
+ 170-180: 32009
336
+ 180-190: 25787
337
+ 190-200: 20289
338
+ 200-210: 65278
339
+ </code></pre>
340
+ </details>
341
+
342
+ 文本长度统计图像:
343
+
344
+ ![nbnn_text_length.jpg](docs/picture/nbnn_text_length.jpg)
345
+
346
+
347
+ #### nordic_langid
348
+ 以下都是 train 训练集的信息
349
+
350
+ ```text
351
+ 语种数量:
352
+ no-b: 44542
353
+ no-n: 43244
354
+ sv: 43074
355
+ da: 37544
356
+ is: 33948
357
+ fo: 23807
358
+ ```
359
+
360
+
361
+ 样本示例:
362
+
363
+ | 数据 | 语种 | 样本 |
364
+ | :---: | :---: | :---: |
365
+ | nordic_langid | no-n | jackson er anerkjent som den mest suksessrike artisten gjennom tidene av guinness world records og er blitt betegnet som kongen av pop |
366
+ | nordic_langid | no-n | selv om forjekslene ikke har den samme kompliserte bygningen som jekslene har de vanligvis flere spisser og kan ha doble røtter |
367
+ | nordic_langid | no-n | yagua har fem distinksjoner i fortid og to i framtid fjern fortid ett år siden en måned siden ei uke siden i dag i går nå umiddelbar framtid framtid norsk har et tredelt system som skiller mellom presens nåtid preteritum fortid og futurum framtid |
368
+ | nordic_langid | sv | gróa var den norrøne gro den gammaldanske og groa den gammalsvenske forma av namnet |
369
+ | nordic_langid | sv | i klarte sjakkstormeister vladimir kramnik å slå kasparov i vm kamp i london med sigrar og remisar garri kasparov var rekna som den sterkaste sjakkspelaren i verda også etter at han miste vm tittelen |
370
+ | nordic_langid | sv | gentrifisering sett søkelyset på prisen på husvære særleg husleiga når prisane gjer at folk med låge inntekter må flytta |
371
+ | nordic_langid | fo | tváttarbjørn dugir væl at klintra í trøum og er kvik á føti |
372
+ | nordic_langid | fo | smith er giftur við jada pinkett smith og er pápi willow smith og jaden smith |
373
+ | nordic_langid | fo | hann var kendastur fyri sítt arbeiði í it s garry shandling s show og the larry sanders show ushuaia er tann syðsti býurin i heiminum |
374
+ | nordic_langid | no-b | efter et par år at have været underofficer blev han fænrik ved |
375
+ | nordic_langid | no-b | fortlages vigtigste skrifter er genetische geschichte der philosophie seit kant |
376
+ | nordic_langid | no-b | hvis følgeanmodningen automatisk godkendes har din bruger nu fået følgestatus medlemstatus eller forbindelsesstatus vent på at nogen i gruppen eller på siden enten godkender eller ikke godkender anmodningen |
377
+ | nordic_langid | da | edie talar inn á þættina look into their eyes og you see what the know eftir dauða hennar þáttaröðin fékk minnsta áhorf sem þættirnir hafa fengið |
378
+ | nordic_langid | da | eyjarnar eru talsins og þar af byggðar |
379
+ | nordic_langid | da | þessi bergtegund finnst ekki á íslandi gráspör fræðiheiti passer domesticus er fugl af spörvaætt |
380
+ | nordic_langid | is | sjön har en area på kvadratkilometer och ligger meter över havet vietnamocalamus catbaensis är en gräsart som beskrevs av to quyen nguyen |
381
+ | nordic_langid | is | den varmaste månaden är juli då medeltemperaturen är c och den kallaste är januari med c |
382
+ | nordic_langid | is | ett tropiskt höglandsklimat råder i trakten |
383
+
384
+
385
+ <details>
386
+ <summary>文本长度</summary>
387
+ <pre><code>0-10: 65
388
+ 10-20: 6477
389
+ 20-30: 9545
390
+ 30-40: 9746
391
+ 40-50: 11056
392
+ 50-60: 12141
393
+ 60-70: 14824
394
+ 70-80: 16952
395
+ 80-90: 15225
396
+ 90-100: 14171
397
+ 100-110: 12428
398
+ 110-120: 11461
399
+ 120-130: 10529
400
+ 130-140: 9484
401
+ 140-150: 8944
402
+ 150-160: 7884
403
+ 160-170: 7067
404
+ 170-180: 6538
405
+ 180-190: 5860
406
+ 190-200: 5254
407
+ 200-210: 30508
408
+ </code></pre>
409
+ </details>
410
+
411
+ 文本长度统计图像:
412
+
413
+ ![nordic_langid_text_length.jpg](docs/picture/nordic_langid_text_length.jpg)
414
+
415
+
416
+
417
  ### 参考来源
418
  <details>
419
  <summary>参考的数据来源,展开查看</summary>
docs/picture/nbnn_text_length.jpg ADDED

Git LFS Details

  • SHA256: f624ff3a83af4df118e64e64a7bae8966675d20a224f109725690301e881c3bf
  • Pointer size: 130 Bytes
  • Size of remote file: 18.7 kB
docs/picture/nordic_langid_text_length.jpg ADDED

Git LFS Details

  • SHA256: b214aa3bff0c1c1786f6098d00a5eaca628c24031806c97507c0dad44b019452
  • Pointer size: 130 Bytes
  • Size of remote file: 17.8 kB
examples/make_subset_details.py CHANGED
@@ -12,7 +12,7 @@ from project_settings import project_path
12
 
13
  def get_args():
14
  parser = argparse.ArgumentParser()
15
- parser.add_argument("--dataset_name", default="mike0307", type=str)
16
  parser.add_argument(
17
  "--dataset_cache_dir",
18
  default=(project_path / "hub_datasets").as_posix(),
 
12
 
13
  def get_args():
14
  parser = argparse.ArgumentParser()
15
+ parser.add_argument("--dataset_name", default="nordic_langid", type=str)
16
  parser.add_argument(
17
  "--dataset_cache_dir",
18
  default=(project_path / "hub_datasets").as_posix(),