add initial files

README.md

@@ -0,0 +1,40 @@
+---
+pretty_name: persian_news_datset
+language:
+- fa
+source_datasets:
+- original
+task_categories:
+- text-classification
+- sequence-modeling
+task_ids:
+- language-modeling
+- multi-class-classification
+
+---
+# Persian_News_Dataset
+
+
+# Dataset Summary
+
+persian_news_dataset is a collection of 5 million news articles. News articles have been gathered from more than 10 news agencies for the last 12 years. This dataset can be used in different NLP tasks like language modeling, classification, supervised topic modeling,...
+
+This effort is part of a bigger perspective to have several datasets in Persian language for different tasks that have two important factors: `free` and `easy-to-use`. Here is a quick HOW-TO for using this dataset in datasets library:[Demo-datasets](https://saied71.github.io/RohanAiLab/2021/09/03/Demo-datasets.html)
+
+# Description
+
+As discussed before, this dataset contains 5M news articles. Each article has these three attributes: text, title, category. Here is a sample of dataset:
+```
+text :سه‌شنبه شب از دور برگشت مرحله نیمه‌نهایی لیگ قهرمانان اروپا، منچسترسیتی در ورزشگاه «اتحاد» میزبان پاری‌سن‌ژرمن بود و با ارائه نمایشی حساب شده و تحسین برانگیز به پیروزی دو بر صفر دست یافت.بازی رفت در پاریس با برتری دو بر یک سیتی به اتمام رسیده بود و با این اوصاف تیم تحت هدایت «پپ گواردیولا» در مجموع با پیروزی چهار بر یک، راهی فینال شد.بارش برف موجب سفیدپوش شدن زمین شده بود و همین امر بر عملکرد تیم‌ها تاثیر گذاشت. دیدار در حالی آغاز به کار کرد که «امباپه» ستاره پاریسی‌ها که به تازگی از مصدومیت رهایی پیدا کرده است، نیمکت‌نشین بود.بازی با حملات میهمان آغاز شد و در دقیقه هفتم داور هلندی با تصمیمی عجیب اعتقاد داشت توپ به دست «زینچنکو» مدافع سیتی برخورد کرده و نقطه پنالتی را نشان داد، اما با استفاده از سیستم کمک داور ویدئویی، پنالتی پس گرفته شد. سیتی خیلی زود به هدفش رسید و در دقیقه ۱۰ حرکت عالی او و پاس به «دی‌بروین» موجب شد تا توپ در یک رفت و برگشت به «ریاض محرز» رسیده و این بازیکن الجزایری گل نخست بازی را برای میزبان به ارمغان آورد.در دقیقه ۱۶ ضربه سر «مارکینیوش» مدافع پیش‌تاخته پاری‌سن‌ژرمن با بدشانسی به تیرک دروازه سیتی برخورد کرد.در ادامه برای دقایقی، بازیکنان در میانه میدان خطاهای متعددی انجام دادند و این امر موجب ایجاد چند درگیری شد.هرچند نماینده فرانسه درپی جبران مافات بود اما برنامه‌ای برای رسیدن به این مهم نداشت تا نیمه نخست با همین یک گل همراه شود.در نیمه دوم هم حملات پاریسی‌ها سودی نداشت و در طرف مقابل منچسترسیتی، بازی بسیار هوشمندانه‌ای ارائه کرد.در دقیقه ۶۲ و در ضد حمله‌ای برق آسا، «فیل فودن» با پاسی عالی توپ را به «ریاض محرز» رساند تا این بازیکن گل دوم خود و تیمش را ثبت کرده و سند صعود سیتی به فینال را امضا کند.در دقیقه ۶۸ «آنخل دی‌ماریا» وینگر آرژانتینی تیم پاری‌سن‌ژرمن پس از درگیری با «فرناندینو» با کارت قرمز داور از زمین اخراج شد تا کار تیمش تمام شود.در این بازی پاری‌سن‌ژرمن با تفکرات «پوچتینو»، طراحی حملات خود را به «نیمار» سپرده بود اما این بازیکن مطرح برزیلی با حرکات انفرادی بیش از از اندازه، عملکرد خوبی نداشت و حملات تیمش را خراب کرد.در نهایت بازی با پیروزی سیتی همراه شد و مالکان ثروتمند منچسترسیتی به آرزوی خود رسیده و پس از سال‌ها سرمایه‌گذاری به دیدار نهایی رسیدند. این اولین حضور سیتی در فینال لیگ قهرمانان اروپا است.چهارشنبه شب در دیگر دیدار دور برگشت نیمه‌نهایی، چلسی انگلیس در ورزشگاه «استمفورد بریج» شهر لندن پذیرای رئال‌مادرید اسپانیا است. بازی رفت با تساوی یک بر یک به اتمام رسید
+title:آرزوی سیتی برآورده شد؛ صعود شاگردان «گواردیولا» به فینال
+category:ورزش
+```
+
+# Citation
+```
+  [email protected]
+  title={persian_news_dataset},
+  author={Saied Alimoradi},
+  year={2021}
+}
+```

dataset_infos.json

@@ -0,0 +1 @@
+{"default": {"description": "\npersian_news_dataset is a collection of 5 million news articles. \nNews articles have been gathered from more than 10 news agencies for the last 12 years. \nThe dataset is provided by Rohan AI lab for research purposes.\nfor more information refer to this link:\n", "citation": "\nhttps://saied71.github.io/RohanAiLab/,\n  author={Saied Alimoradi},\n  year={2021}\n}\n", "homepage": "", "license": "", "features": {"text": {"dtype": "string", "id": null, "_type": "Value"}, "title": {"dtype": "string", "id": null, "_type": "Value"}, "category": {"dtype": "string", "id": null, "_type": "Value"}}, "post_processed": null, "supervised_keys": null, "task_templates": null, "builder_name": "persian_news", "config_name": "default", "version": {"version_str": "0.0.0", "description": null, "major": 0, "minor": 0, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 18040229029, "num_examples": 5113718, "dataset_name": "persian_news"}}, "download_checksums": {"persian_news_dataset.zip": {"num_bytes": 4515026292, "checksum": "d51023f6de7382ea016a1fc7baba1d43f37dbf32c084461ae54075a2caa5f7e5"}}, "download_size": 4515026292, "post_processing_size": null, "dataset_size": 18040229029, "size_in_bytes": 22555255321}}

persian_news_dataset.py

@@ -0,0 +1,67 @@
+import datasets
+import csv
+import os
+import sys
+csv.field_size_limit(sys.maxsize)
+
+_DESCRIPTION = """
+persian_news_dataset is a collection of 5 million news articles. 
+News articles have been gathered from more than 10 news agencies for the last 12 years. 
+The dataset is provided by Rohan AI lab for research purposes.
+for more information refer to this link:
+"""
+_PROJECT_URL = """"""
+
+
+_CITATION = """
+https://saied71.github.io/RohanAiLab/,
+  author={Saied Alimoradi},
+  year={2021}
+}
+"""
+
+_URL = "persian_news_dataset.zip"
+
+
+
+class Persian_news(datasets.GeneratorBasedBuilder):
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "text": datasets.Value("string"),
+                    "title": datasets.Value("string"),
+                    "category": datasets.Value("string")
+                }
+            ),
+            homepage=_PROJECT_URL,
+            citation=_CITATION,
+        )
+
+
+
+    def _split_generators(self, dl_manager):
+        """Returns SplitGenerators."""
+        dl_dir = dl_manager.download_and_extract(_URL)
+        data_dir = os.path.join(dl_dir, "persian_news_dataset.csv")
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={
+                    "filepath": data_dir,
+                },),]
+
+    def _generate_examples(self, filepath):
+        """Yields examples."""
+        with open(filepath, encoding="utf-8") as f:
+            reader = csv.reader(f)
+            for id_, row in enumerate(reader):
+                if id_ == 0:
+                    continue
+                yield id_, {
+                    "text": row[0],
+                    "title": row[2],
+                    "category": row[1],
+                }

persian_news_dataset.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d51023f6de7382ea016a1fc7baba1d43f37dbf32c084461ae54075a2caa5f7e5
+size 4515026292