The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Error code: DatasetGenerationCastError
Exception: DatasetGenerationCastError
Message: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 2 new columns ({'پولا دین کا بھائی کیا ہے', '1048585'}) and 2 missing columns ({'121352', 'انتہائی کی وضاحت کریں'}).
This happened while the csv dataset builder was generating data using
hf://datasets/Mavkif/urdu-msmarco-dataset/urdu_queries.dev.small.tsv (at revision 21265da16fe3a966db3762911cb219b068337f19)
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback: Traceback (most recent call last):
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1870, in _prepare_split_single
writer.write_table(table)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 622, in write_table
pa_table = table_cast(pa_table, self._schema)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2292, in table_cast
return cast_table_to_schema(table, schema)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2240, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
1048585: int64
پولا دین کا بھائی کیا ہے: string
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 711
to
{'121352': Value(dtype='int64', id=None), 'انتہائی کی وضاحت کریں': Value(dtype='string', id=None)}
because column names don't match
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1412, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 988, in stream_convert_to_parquet
builder._prepare_split(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1741, in _prepare_split
for job_id, done, content in self._prepare_split_single(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1872, in _prepare_split_single
raise DatasetGenerationCastError.from_cast_error(
datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
All the data files must have the same columns, but at some point there are 2 new columns ({'پولا دین کا بھائی کیا ہے', '1048585'}) and 2 missing columns ({'121352', 'انتہائی کی وضاحت کریں'}).
This happened while the csv dataset builder was generating data using
hf://datasets/Mavkif/urdu-msmarco-dataset/urdu_queries.dev.small.tsv (at revision 21265da16fe3a966db3762911cb219b068337f19)
Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
121352
int64 | انتہائی کی وضاحت کریں
string |
|---|---|
634,306 | کریڈٹ ہسٹری پر چیٹل کا کیا مطلب ہے |
920,825 | دماغی طور پر آگے بڑھنے کی عظیم چھلانگ کیا تھی |
510,633 | ٹیٹو فکسروں کی قیمت کتنی ہے |
737,889 | وکندریقرت عمل کیا ہے؟ |
278,900 | لا جولا کونکورس ڈی ایلجنس میں کتنی کاریں داخل ہوتی ہیں؟ |
674,172 | بینک ٹرانزٹ نمبر کیا ہے |
303,205 | میں غیر کٹوتی والے آئی آر اے میں کتنا حصہ ڈال سکتا ہوں |
570,009 | عناصر کے چار بڑے گروہ کیا ہیں؟ |
492,875 | سینیٹائزر کا درجہ حرارت |
54,528 | رجونورتی کے بعد پیشاب میں خون کے جمنے |
203,218 | ہائی مارک ایڈریس |
473,204 | کرایہ دار کی تعمیر کے لیے کیلیفورنیا میں فی ایس ایف لاگت |
738,368 | ڈیلٹا ان ٹویشن کیا ہے |
507,001 | کتوں میں بڑھے ہوئے دل کی علامات |
466,926 | کئی بار کانگریس نے اے سی اے کو منسوخ کرنے کے لیے ووٹ دیا |
837,327 | آرمی رینک کی پٹیوں کا سرکاری رنگ کیا ہے |
406,897 | کیا کولسٹرم 3 ہفتے کے بچھڑوں کے لیے فائدہ مند ہے |
1,181,095 | رویے کے بحران کی تعریف کیسے کی جاتی ہے؟ |
224,811 | فائر فلائی کیسے چمکتی ہے |
730,323 | چوائس وارنٹی پلس کیا ہے |
265,218 | یو آئی سی ڈینٹل اسکول میں اسکریننگ کا عمل کتنا طویل ہے |
918,533 | کس سال انسانی غذا میں کیا متعارف کرایا گیا تھا |
143,302 | کیا جانوروں کے سیارے نے چڑیا گھر کو منسوخ کر دیا؟ |
479,951 | خوبصورت عورت اس نے پولو میچ میں براؤن پولکا ڈاٹ ڈریس کے ساتھ کون سے جوتے پہنے تھے |
940,088 | نارتھ کیرولینا نے افٹا میں کب شمولیت اختیار کی |
422,912 | کیا آر وی اینٹی فریز کتوں کے لیے زہریلا ہے |
80,926 | کیا آپ اپنے کمپیوٹر پر والاپپ استعمال کر سکتے ہیں |
350,732 | داغدار میلامائن کے کپوں کو کیسے صاف کیا جائے |
1,067,511 | میرے لیٹرل کولیٹرل لگامینٹ میں تکلیف کیوں ہوتی ہے |
906,071 | صحت مند رہنے کے لیے اپنے پانی میں کیا شامل کریں |
628,391 | کیریئر 58ctw کی قیمت کتنی ہے |
385,906 | ٹیکس کلیئرنس سرٹیفکیٹ کی تصدیق کیسے کی جائے |
428,191 | کیا سائپروڈیکس کان کے قطرے کے لیے کوئی عام چیز ہے |
790,457 | مضبوط شدہ جال کیا ہے |
1,067,371 | جب بارش ہوتی ہے تو میری گاڑی کیوں پھٹتی ہے |
242,081 | میں سور کا گوشت کب تک منجمد کر سکتا ہوں |
1,006,418 | کون سے ریاستی اسکولوں میں فٹ بال ٹیمیں ہیں |
843,270 | لوہے کی نایاب ترین شکل کیا ہے |
551,231 | پیڈیاٹرکس کس عمر تک جاتے ہیں |
166,621 | کیا پٹرول قدرتی گیس سے آتا ہے |
490,462 | روٹنگ نمبر ایچ ڈی ایف سی |
316,859 | ونڈو میں اسکرین کرنے میں کتنا خرچ آتا ہے |
45,248 | اگست میں لندن میں اوسط درجہ حرارت سیلسیس میں |
1,176,220 | اوسط درجہ حرارت بارسلونا اسرائیل |
540,340 | کیا للیان والڈ ایک نرسنگ تھیوریسٹ تھے |
867,974 | کس قسم کے انزائم سٹریپٹومائیسیس جنتھینس پیدا کرتے ہیں؟ |
529,604 | چھت کی لکیروں کی اقسام |
439,538 | لیوس ول ٹیکساس کس کاؤنٹی میں ہے |
436,798 | دنیا کا سب سے بڑا لیزر کٹر |
1,074,527 | سائپرس ملچ کا استعمال کیوں کریں |
167,374 | کیا ہائپوکیلیمیا ڈسرتھمیا کا سبب بنتا ہے |
398,039 | آئی فون 4 ایس اپ ڈیٹ کی تصدیق 9.3.1 کتنی دیر تک |
389,298 | انسانی جسم کے لچک کی تعریف |
640,699 | جب آپ چینی کھاتے ہیں تو سر درد ہونے کا کیا مطلب ہے |
132,366 | اینتھروپوفوبیا کی تعریف |
280,817 | جب آپ واشنگٹن اسٹیٹ میڈیکیڈ پر ہوں تو آپ کو رات بھر قیام کے لیے کتنے دن کی اجازت ہے |
932,727 | بالٹیمور میری لینڈ کی آبادی کتنی ہے |
197,752 | گھوڑے سے مرتا ہوا آدمی |
466,858 | رائس ایکلز اسٹیڈیم میں نشستوں کی تعداد |
1,079,617 | کام کا مطالعہ اوسط تنخواہ |
1,013,915 | کون سا اعصاب مجھے سانس لینے کا سبب بنتا ہے |
381,728 | جھکا ہوا درخت کیسے سیدھا کیا جائے؟ |
672,091 | . aarf فائل کیا ہے |
560,432 | غیر گھلنشیل پولیسیکرائڈز کیا ہیں |
895,696 | گراؤنڈ پول کے اوپر 24 کے لیے مجھے کس سائز کے پمپ کی ضرورت ہے |
4,801 | کینا نام کے معنی |
122,479 | ہائپرسونک کی وضاحت کریں |
1,180,498 | لیٹر ایئر میل میں کتنا وقت لگتا ہے |
628,984 | چوتھی جماعت کی تصور دیوار کیا کرتی ہے |
668,701 | قلیل مدتی یادداشت کے نقصان میں کیا مدد کرتا ہے |
797,201 | اسموگ کس وجہ سے ہوتا ہے؟ |
293,603 | ناروے کے مہاکاوی پر کتنے تالاب ہیں |
547,843 | وزن دیکھنے والوں کا ٹیک سپورٹ نمبر |
906,893 | جب آپ جل جائیں تو کیا کریں |
456,284 | سب سے درست بینڈوتھ ٹیسٹ |
335,970 | ماہر موسمیات کیرن روگرز کی عمر کتنی ہے |
1,057,322 | چیئرز میں کون سی اداکارائیں تھیں؟ |
1,168,693 | یو ایس اینستھیزیا پارٹنرز نیواڈا |
641,469 | جب آپ کی انگلیوں کے کیل چھیل جاتے ہیں تو اس کا کیا مطلب ہوتا ہے |
922,753 | ڈریڈ اسکاٹ کیس میں سپریم کورٹ کا کیا فیصلہ تھا |
693,178 | نیوکلیئر فیول پیلٹ کیا ہے |
983,342 | گیرٹروڈ سٹین پکاسو کہاں ہے |
1,161,518 | نامعلوم واقعہ کا کیا مطلب ہے |
23,229 | کیا کیٹون کبھی توانائی کے لیے استعمال ہوتے ہیں |
874,646 | ویکیوول کا بنیادی کام کیا ہے |
924,673 | اگر میں 110 وی موٹر کو 220 وی سپلائی سے جوڑ دوں تو کیا ہوگا |
207,697 | پولیمر کیسے بنائے جاتے ہیں |
445,243 | مارندا نام کے معنی |
291,569 | انسانی خلیے میں کروموسوم کے کتنے جوڑے ہوتے ہیں |
493,513 | شمٹ قدرتی کارپوریٹ پتہ |
506,152 | مقامی امریکی ثقافت میں ریچھ کی علامت |
322,801 | پیریز ہلٹن کی قیمت کتنی ہے |
953,121 | اسٹریٹ آؤٹ لا کا نیا سیزن کب ہے |
76,299 | کیا آپ چاک پینٹ ویکر بنا سکتے ہیں |
881,296 | ویسٹ بروک کس این بی اے رینک میں ہے |
41,007 | بجلی کی اوسط قیمت فی یونٹ |
268,413 | قاتل کے عقیدے کی آزادی کے چیخ کو کب تک شکست دی جائے |
293,140 | آپ 16 جی بی میموری کارڈ پر کتنی تصاویر حاصل کر سکتے ہیں |
1,142,466 | چھوٹے بچوں کے ساتھ ٹائم آؤٹ کب شروع کرنا ہے |
20,627 | محبت کی شدید تعریف |
Dataset Card for Dataset Name
This dataset is the translation of the MS-marco dataset, marking it the first large-scale urdu IR dataset.
Dataset Details
The MS MARCO dataset is formed by a collection of 8.8M passages, approximately 530k queries, and at least one relevant passage per query, which were selected by humans. The development set of MS MARCO comprises more than 100k queries. However, a smaller set of 6,980 queries is used for evaluation in most published works.
The triples files (triples.train.small.urdu.tsv , named as triple files part aa to ae) is around 47 GB and is split into 5 parts. Download them and combine them before you start working.
This dataset is created using the IndicTrans2 translation model.
Dataset Description
The MS MARCO dataset's Urdu version comprises several files, each serving a distinct purpose in information retrieval tasks. Below is an overview of each file along with its structure:
triples.train.small.urdu.tsv:
Purpose: Contains training data formatted as triples for ranking models. Structure: Each line includes a query, a relevant passage (positive example), and a non-relevant passage (negative example), separated by tabs. Sample Entry:
< query > \t < positive_passage > \t < negative_passage >
urdu_collection.tsv:
Purpose: Comprises the entire collection of Urdu documents in the dataset. Structure: Each line contains a document ID and the corresponding document text, separated by a tab. Sample Entry:
< doc_id > \t < document_text >
urdu_collection_small.tsv:
Purpose: A subset of the full collection, containing 2,000 documents for preliminary experiments. Structure: Similar to urdu_collection.tsv, with each line containing a document ID and the corresponding document text. Sample Entry:
< doc_id > \t < document_text >
urdu_queries.dev.small.tsv:
Purpose: Includes a small set of development (validation) queries in Urdu. Structure: Each line contains a query ID and the corresponding query text, separated by a tab. Sample Entry:
< query_id > \t < query_text >
urdu_queries.dev.tsv:
Purpose: Provides a more extensive set of development queries for validating model performance. Structure: Each line contains a query ID and the corresponding query text, separated by a tab. Sample Entry:
< query_id > \t < query_text >
urdu_queries.train.tsv:
Purpose: Contains the training queries in Urdu, each paired with relevant documents. Structure: Each line includes a query ID and the corresponding query text, separated by a tab. Sample Entry:
< query_id > \t < query_text >
These files collectively support the development and evaluation of retrieval models in Urdu, enabling research in multilingual information retrieval.
Bias, Risks, and Limitations
Because this is a machine translated dataset so the limitations of the machine translation model (IndicTrans2) apply here.
Dataset Card Authors
Umer Butt
- Downloads last month
- 28