Hugging Face's logo

Datasets:
agentlans
/
multilingual-sentences

Tasks:
Text Generation
Text Classification
Text Retrieval
Modalities:
Text
Formats:
text
Languages:
multilingual
Arabic
Azerbaijani
Size:
10M - 100M
Libraries:
Datasets
Dataset card Viewer Files Community
1
Dataset Viewer
Auto-converted to Parquet
Full Screen
text
stringlengths
1
2.05k
En prévision de ce rendez-vous, la presse se fait l'écho d'une rhétorique guerrière déjà entendue par le passé.
त्यांनी 'सांडव्याची स्वयंचलीत पूरनियंत्रण द्वार प्रणाली' विकसित केली व त्याचे पेटेंट घेतले, जी सन मध्ये पहिल्यांदा पुण्याजवळील खडकवासला धरणास लावण्यात आली.
Uppdraget ska redovisas senast den december För uppkomna situationer med restnoteringar finns några olika rutiner, riktlinjer och överenskommelser, som beskrivs nedan.
Die Stadt Osnabrück übernimmt keine Gewähr für die Einhaltung der Datenschutzbestimmungen der einzelnen Sozialen Netzwerke.
Unele nu-s de zis în public, așa că le păstrează pentru el: „Îmi mai spun glume în gând câteodată, că nu-s potrivite pentru televizor, așa că doar eu râd la ele".
Навистина, Енгелс служел како известувач за многу чартистички и социјалистички англиски весници.
単純に課題を売りたいのであれば、たとえばショッピング課題に出店することかと思いますが、売れたからといってダンボールの参加度はさらに上がらないでしょう。
사망 388년 - 서로마 제국의 찬탈자 마그누스 막시무스.
Bei pulsierenden Veränderlichen ist die Atmosphäre instabil gegen Schwingungen aufgrund des Kappa-Mechanismus.
چه عواملی موجب بروز این اختلاف شده است؟
11月、日本プロ野球のトライアウトを受ける。 - 35歳‐育成枠として春季キャンプとオープン戦に参加。
módszer Archives - SÁRVÁRIKUM van baj Sárvár Jazz Sport életmód tél természet SOK Kossuth tér hangverseny hagyomány Folyosó Galéria vernisszázs fesztivál nfn Danubius Hotel zsírzárlat AZK Markó Péter Kiállítás Mazsorett Előadás Soltis Fotó Nádasdy Történelmi Fesztivál tavasz megnyitó emléktábla majális Valami Jazz erdő verseny Koncertfúvószenekar Arborétum Humor népzene jótékonyság Kondor János interjú programfüzet folklór edzés Díszterem májusfa SKE futás Farsang fénykép Egészség Néptánckör nyár Galeria Arcis advent videó néptánc impressziók Fotóklub Pályázat abszurd vanbaj Könyvtár Színház folklórnapok Vármeeting Posta-tér Koncert tánc karácsony festőművész Ma'mint'Ti Gróf István Benkő Sándor Zene vers mozgás
Casa Masó La Casa Masó és la casa natal de Rafael Masó , una de les obres més importants de la seva arquitectura i l'única que està oberta al públic de les famoses cases del riu de Girona.
Itt nem csak az a fontos, hogy a vállalkozás hogyan kommunikál klienseivel, ügyfeleivel, hiszen ezt annak érdekében is teheti, hogy minél nagyobb piacot szerezzen, s minél inkább megfeleljen a Fehérvári lakosok igényeinek.
Виртуалните точки , както и други вируални благини ,могат да бъдат закупени само чрез предоставените системи за разплащане описани на сайта или вътре в съответните игри.
Министар Мали је пре неки дан растурио у парампарчад Фискални савет око Ер Србије.
Produk yang dihasilkan dari pertanian dapat dimanfaatkan untuk memenuhi kebutuhan manusia.
பாவங்களைப் போக்கினவன் இறைவன் ஆயினும், பலத்தை அடைந்தவர் தாம் ஆகையாலே 'அரிந்தனன் யான்' எனத் தம் தொழிலாகக் கூறுகிறார்.
Kafka arvien garākus laika sprīžus pavadīja dažādās lauku sanatorijās.
وبصدد الإصلاح والتنمية الاقتصادية والاجتماعية وسط العديد من شعوب بعض البلدان الأفريقية جنوب الصحراء فإن بعض الخبراء يتشككون في المراهنة على أية خطوات إيجابية، ذلك لأن الهوة التي تفصل بين شعوب الشارع الأفريقي والنظم الحاكمة واسعة بحيث يصعب تضييق نطاق حدودها، ومع ذلك يرجَّح أن لاينسد الأفق أمام المواطن الأفريقي الذي عُرِف بأنه مناضل جَسور في مواجهة التحديات.
Ks. komission tiedonanto kanteluista.
آن طور که این مقام آگاه گفته، قیمت پایه برای مزایده این خودروها، حدود تا میلیون تومان پایین تر از قیمت کارخانه آن است.
En cheddar skäms så smått över sina vilda färskostdagar.
Weitere, meist nur von GEOS oder wenigen Spezialanwendungen unterstützte Speichererweiterungen spielten nur eine untergeordnete Rolle.
Bagaimana tidak, Sobat bisa menari-nari diatas ombak lautan ganas yang bisa saja memakan tubuh Sobat kapan saja.
ყველაფერში მოწესრიგებული იყო.
केवळ दिल्लीच्या सीमांवरच नाही, तर हरियाणा-पंजाबात गावोगावी महिलांच्या सक्रिय हालचाली दिसतात.
Irving-based TRT Holdings, owned by local billionaire Robert Rowling, had opposed a plan in which Gaylord would sell management rights and then convert itself into a real estate investment trust, retaining ownership of the four Gaylord properties.
नाका व्यवस्थित नगर्नुको परिणाम अहिले सुदूर पश्चिम भोगिरहेछ ।
Tipos de cultivos Uno de los cultivos más utilizados por su practicidad es el bancal.
حتى ذلك الحين وفي المراحل الأولى ، كان كارتر يحب فانس كثيرًا ، وكان يتماشى معه جيدًا.
Свободата ме изпълва.
Si vous êtes intéressés à en apprendre davantage sur l'architecture et l'urbanisme ici le bureau du tourisme de La Grande-Motte ont un dépliant avec un itinéraire conseillé pour explorer les points forts .
Los peores son muy buenos buscando excusas para justificar porque no innovan, ni intentan cambiar nada. .
A za pár minut: "Ježiš, dyk jsem tady už byl, to znám, to jsem se dostal takhle daleko, jo?".
גם כן, אורך הנסיעה בין המקומות משפיע גם על הפיתרון לשאלה מה מחיר הובלה.
Кошаркарскиот клуб Партизан бил европски шампион во година.
ウィキペディアにおいては、2022年5月1日の時点で、英語版の登録者数は約4348万人、一か月以内に編集を行ったユーザーだけでも126,197人にのぼる。
Ալեքսանդր–Ջուլ–Կարնայնը հասունեության տարիներին կառավարել է Զամբահարի երկրամասը, Բենգալի նահանգը եւ զանազան պատասխանատու պաշտոններ վարել Հնդկաստանի այլ վայրերում։
Bossa mini d'impressió floral dòlars CA & LOU Veure a Farfetch Els colors atrevits i les formes més delicades es troben en el punt més àlgid de Mietis, una marca de bosses basada a Barcelona fundada el per Maria Fontanellas, tot i que es tracta del detall de blocs de colors intel·ligent, inspirat en els mobles dels anys i els , que realment diferencia aquesta línia. .
Almanya Dışişleri Bakanı Heiko Maas ülkesinin İsrail işgali altındaki Suriyeli ...
թվականին ստեղծվեց Պետրոգրադի եւ հարակից տարածքների նախագիծը կարգավորող խորհուրդը։
Godmanis bija piedāvājis, praksē nerealizējās.
Die Maße des Schaufelrads sind beachtlich: Es hat einen Durchmesser von Meter und ist mit Schaufeln mit je Kubikmeter Schaufelinhalt bestückt.
İşte Nisan 'de, yani bundan tam100 yıl önce kurulan Meclisimize ismini veren "Büyük Millet", omuz omuza verip kıyama duran, yedi düvelle harp edip geldikleri gibi gönderen bu millettir.
La necesidad de estar dentro del rango de los micrófonos fijos significó que los actores a menudo también tuvieron que limitar sus movimientos de manera poco natural.
இந்த உரிமைகள் ஆக்கர்களை அவர்கள் தெரிந்தெடுக்கும் அவர்களுக்கு ஏற்ற உரிமங்களோடு தமது படைப்புக்களை வெளியிட ஏதுவாக்கின்றன.
"След осъществяването на "Северен поток " реверсивният капацитет за доставката на газ от Германия няма да бъде достатъчен, страните ще се конкурират за него и за някои от тях той няма да достигне.
ეს მეთოდი ითვლება წინასწარ, და მისი გამოყენება მოითხოვს მნიშვნელოვან ფულადი ხარჯებს.
Den permanenta bosättningen av människor störde det isolerade ekosystemet bestående av tunn, vulkanisk jord och begränsade artrikedomen.
ونتيجة للحرب، فقد تعرضت البنية التحتية الاقتصادية لأضرار جسيمة، لا سيما صناعة السياحة ذات الإيرادات الغنية.
Իսլանդիայի քաղաքացիներն ազատ են տեղաշարժվելու երկրի սահմաններում. նրանք կարող են մեկնել արտերկիր եւ կամայական ժամանակամիջոցում վերադառնալ։
Saksalaisessa Tageszeitung-lehdessä Ulrike Fokken kertoo . elokuuta Lorcan viimeisistä päivistä ja hänen homoseksuaalisuudestaan.
Political views and the Soviet Union During the 1930s, Gide briefly became a Communist, or more precisely, a fellow traveler , although he, an individualist himself, advocated the idea of Communist individualism.
Izpraznitve črevesja ni vedno mogoče doseči s spremembo prehrane in ljudskih receptov.
या दरीचा रुंद होत जाणारा भाग बांगलादेशच्या सिलेट जिल्ह्यातील मैदानात विलीन होतो.
フィット アドベンチャー」も抽選対象; 任天堂、Switch「ファミリーコンピュータ コントローラー」の充電方法をアナウンス フライトシミュレーターで使うマニアックなコントローラーを取り揃えました。
அறிவியல் முடிவுகளால் கூட வெள்ளைப் பூண்டின் பெருமையை மங்கச் செய்ய முடியவில்லை.
營業性質:通路商,批發商 商品類別:保健食品 主要商品服務:有鑑於現代食品污染及黑心食品問題愈來越嚴重,「麥荷氏」與「美國貝斯福公司」合作,於2006年成立全新會員專屬樂活連鎖店《麥荷氏悠活》,除了原本推廣的保健食品外,同時開發全新樂活品牌《Orgahome友機家庭》目的為推動有機生活、回歸自然的享受。
Enne želatiinravi alustamist peate välja mõtlema, kuidas juua ja kui kaua kursust jätkata.
அதை கேட்டவுடன் ஏமாற்றமும் ,கோபமும் வந்தது பேரில் இருவர் புதிதாக வந்தவர்கள் நாட்களே ஆகியிருந்தது .
Eren Hacısalihoğlu sevgilisiyle tatildeYaz geldi, ünlü isimler soluğu tatil beldelerinde aldı.
From time to time I had some electronicia, some simple sine waves and simple elements, like little noises, but these are just things that in electronic music are considered a simple thing, a sine wave.
തങ്ങള്ക്കിടയില് കടന്നുകൂടിയ മൂന്നാമനാണു കൊലനടത്തിയതെന്ന പരോക്ഷ ധ്വനിയാണ് ഇവര് നല്കുന്നത്.
Kreeft: Premature kaart recreatiezonering mei, : mei, : Soms kom je weer nieuwe woorden tegen, vaak moet ik weer leren.
Сознание предстает как самосознание, саморефлексия.
فیزیک کلاسیک پیشبینی کرده بود سرعت نور به حرکت بیننده بستگی دارد این درحالیست که طبق معادلات ماکسول در رابطه با الکترومغناطیس، سرعت نور ثابت پیشبینی شده بود.
Mbajti një qëndrim të shkujdesur si përherë.
नगर की श्रमशक्ति में सरकारी एवं निजी कंपनियों के कर्मचारी एक बड़ा भाग बनाते हैं।
Aceasta este regula pe care se bazează limba engleză.
Эти хребты делят восточную часть ложа на Гватемальскую, Панамскую, Перуанскую и Чилийскую котловины.
August wurde in der ukrainischen Kleinstadt Wylkowe der Bau des km langen Bystre-Kanal begonnen. wurde er von m auf m vertieft.
Το Σημείο τομής δύο γειτονιών του χ είναι μία γειτονιά του χ Οποιαδήποτε γειτονιά Ν του χ περιέχει μία γειτονιά Μ του χ ώστε Ν να είναι γειτονία για κάθε σημείο του Μ Τα πρώτα τρία αξιώματα για τις γειτονιές έχουν ξεκάθαρο νόημα.
Следующая
Vaasa oli tuolloin Valkoisen Suomen pääkaupunki ja Saksasta tulleet Suomen jääkärit nousivat maihin Vaasassa .1918.
ഇതിൽ കോച്ചുകളിലെ ജോലികൾ ആരംഭിച്ചു.
Á líkamsþjálfun daga, taka - mínútur áður til að æfa.
ان مردوں کی بھاری تعداد اس طرف آ رہی ہے جو بیروزگار ہیں اور معاش سے تنگ دوسری طرف ملا نے عورت کو تو پردے کا حکم سنا دیا پر مردوں کی شہوت کے لیے کھلی اجازت دے دی۔
Skotakonungur . - Jóhann Kalvín, guðfræðingur mótmælendahreyfingarinnar . - Corfitz Ulfeldt, ríkishirðstjóri í Danmörku . - Aphra Behn, enskt leikskáld . - Roger Cotes, enskur stærðfræðingur . - Eva Ekeblad, sænskur vísindamaður - Valdimar Ásmundsson, stofnandi og ritstjóri Fjallkonunnar . - Nikola Tesla, serbneskur uppfinningamaður . - Marcel Proust, franskur rithöfundur . - Giorgio de Chirico, ítalskur myndlistarmaður . - Carl Orff, þýskt tónskáld . - Mahathir bin Mohamad, forsætisráðherra Malasíu. - Don Revie, enskur knattspyrnuþjálfari . - Ronnie James Dio, bandarískur tónlistarmaður . - Stuart Christie, skoskur rithöfundur. - Arlo Guthrie, bandarískur þjóðlagasöngvari. - Helgi Björnsson, íslenskur leikari og tónlistarmaður. - Jeff Bergman, bandarískur raddleikari. - Stefán Karl Stefánsson, íslenskur leikari. - Jessica Simpson, bandarísk söngkona.
Cheers and applause for the man who seemed to challenge Mr.
Това е само отчасти вярно.
उनके पद-क्रम इतने सुदीर्घ होते हैं कि वे अपने तीन पाद-प्रक्षेपों से ही तीनों लोकों को नाप लेते हैं।
Padeda palaikyti sveiką kepenų būklę.
Celem szkolenia jest zapoznanie uczestników z wymaganiami nowej normy ISO a w szczególności prezentacja podobieństw i różnic pomiędzy ISO a Polską Normą PN-N oraz standardem OHSAS .
税制上の優遇と大地震などの災害の可能性の低さを理由に、いくつかの企業が特別地区への移動を行っている。
Hevosella on ollut koko historiansa ajan suuri merkitys saaren asukkaille.
Aquesta membrana es tanca parcialment si el gat està malalt; però també es pot fer visible si l'animal té son.
デバイスを接続解除するには、iPadのコネクタからデバイスを取り外します。
Термохимиялық теңдеулер дегеніміз не? .
Pod stavem zdravíčka svého hrdiny nyní vidíte ikonku - v ideálním případě červenou - která ale po čase zmizí.
Chocoaz sluchajac tego jak rozwija watek, to przemawia przez nia pewien maniakalny duch...
Os longos conflitos do final da Idade Média vieram fortalecer o domínio real sobre o próprio território, ainda que tenham sido extremamente pesarosos com os camponeses.
Lý do đừng cố hạnh phúc trong công việc // : PM Hạnh phúc chỉ là trạng thái thoáng qua, trong khi làm cho công việc ý nghĩa hơn mới thực sự quan trọng với sự nghiệp.
അഭിനയജീവിതം വിജയലക്ഷ്മി എന്നായിരുന്നു സിൽക്കിന്റെ ആദ്യ നാമം.
Период османске управе трајао је различито у деловима данашње Србије; најкраће су под турском влашћу били неки делови Војводине , а најдуже неки делови јужне Србије .
Les aides aux installations plus importantes étaient limitées aux coopératives et à la société civile.
यस रोगको उपचार गाली गरेर या त्यस व्यक्तिको बेईज्जत गरेर हुँदैन ।
Atomkjernen har omtrent hele atomets masse, for 12C er massen ~•−26kg konsentrert innen et volum på ~•−44m3.
ظ تا اونجایی که من میدونم سوال و جوابا رو خود دکتر اعلایی میزنن تو برد و حتی اگه گایتونم بهشون نشون بدی تغییری در گزینه ها نمیدن!!!!!
Em contraste com as impressionantes vitórias soviéticas nos Balcãs, a pungente resistência finlandesa contra a ofensiva soviética no Istmo da Carélia impediu a ocupação do território finlandês e levou à assinatura do armistício soviético-finlandês em condições relativamente suaves, com a subsequente mudança da Finlândia para o lado dos Aliados.
End of preview. Expand in Dataset Viewer.

Multilingual Sentences

Dataset contains sentences from 50 languages, grouped by their two-letter ISO 639-1 codes. The "all" configuration includes sentences from all languages.

Dataset Overview

Multilingual Sentence Dataset is a comprehensive collection of high-quality, linguistically diverse sentences. Dataset is designed to support a wide range of natural language processing tasks, including but not limited to language modeling, machine translation, and cross-lingual studies.

Methods

Rigorous methodology consisted of three main stages: text preprocessing, language detection, and dataset processing.

Text Preprocessing

Sophisticated text cleaning pipeline using the textacy library, which included:

  • Removal of HTML tags, email addresses, URLs, and emojis
  • Unicode and whitespace normalization
  • Standardization of punctuation and word formats

Language Detection

Google CLD3 library utilized for accurate language identification:

  • Implemented NNetLanguageIdentifier
  • Configured for processing texts between 0-1000 bytes
  • Included reliability assessment for each language detection

Dataset Processing

Workflow for dataset creation involved the following steps:

  1. Streamed loading of the LinguaNova multilingual dataset
  2. Application of the text preprocessing pipeline
  3. Sentence segmentation using PyICU for accurate boundary detection
  4. Quality filtering:
    • Length constraint (maximum 2048 characters per sentence)
    • High-reliability language verification
  5. Extraction of unique sentences
  6. Random shuffling for unbiased sampling
  7. Generation of language-specific files

Technical Details

Libraries and Tools

  • textacy: Advanced text preprocessing
  • Google CLD3: State-of-the-art language detection
  • Hugging Face datasets: Efficient data handling and processing
  • SentenceBreaker: Accurate sentence segmentation

Implementation Notes

  • Process was executed consistently across all 50 languages to ensure uniformity and high quality in the multilingual dataset preparation.
  • Special attention was given to maintaining the integrity of each language's unique characteristics throughout the processing pipeline.

Data Splits

Dataset is organized into the following splits:

  • Individual language files: Contains sentences for each of the 50 languages
  • "all" configuration: Aggregates sentences from all languages into a single dataset

Limitations and Biases

While extensive efforts were made to ensure dataset quality, users should be aware of potential limitations:

  • Language detection accuracy may vary for very short texts or closely related languages
  • Dataset may not fully represent all dialects or regional variations within each language
  • Potential biases in the original LinguaNova dataset could be carried over

Ethical Considerations

Users of this dataset should be mindful of:

  • Potential biases in language representation
  • Need for responsible use in AI applications, especially in multilingual contexts
  • Privacy considerations, although personal identifiable information should have been removed
Downloads last month
10
Size of downloaded dataset files:
999 MB
Size of the auto-converted Parquet files:
2.52 GB
Number of rows:
19,123,875