Datasets:

SLPL

/

naab-raw

like 9

Follow

Speech and Language Processing Lab - Sharif University Of Technology 30

سلام لطفا دقیق‌تر توضیح دهید.
کدام لینک منقضی شده است؟

این لینکیه که میده
https://storage.googleapis.com/danielk-files/farsi-text/merged_files/commoncrawl_fa_merged.txt

میخواید سعی کنید از هاگینگ فیس دانلود بکنید خودتون باگ رو میبیند.

pip install datasets

from datasets import load_dataset
dataset = load_dataset("SLPL/naab", split="train[:10%]", trust_remote_code=True)

من دیتاست خام رو میخوام.
SLPL/naab-raw

FileNotFoundError: Couldn't find file at https://storage.googleapis.com/danielk-files/farsi-text/merged_files/commoncrawl_fa_merged.txt

@sadrasabouri

سلام.
به نظر می‌رسه لینک سورس اصلی مربوط به دیتاست
commoncrawl
برداشته شده.
نه به راحتی قبل ولی هنوز میتونید از وب‌سایت خودش دانلود کنید
https://www.commoncrawl.org/get-started

سایر بخش ها رو چه جوری میشه دانلود کرد؟