Add SetFit model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer.json filter=lfs diff=lfs merge=lfs -text

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+  "word_embedding_dimension": 768,
+  "pooling_mode_cls_token": false,
+  "pooling_mode_mean_tokens": true,
+  "pooling_mode_max_tokens": false,
+  "pooling_mode_mean_sqrt_len_tokens": false,
+  "pooling_mode_weightedmean_tokens": false,
+  "pooling_mode_lasttoken": false,
+  "include_prompt": true
+}

README.md

@@ -0,0 +1,333 @@
+---
+tags:
+- setfit
+- sentence-transformers
+- text-classification
+- generated_from_setfit_trainer
+widget:
+- text: '"Die jüngste Protestwelle der Klima-Aktivisten hat erneut die Straßen besetzt,
+    aber ihre Forderungen bleiben allzu oft in den Worten stecken. Die Notwendigkeit
+    von tatsächlichen Lösungen und politischen Kompromissen wird zu oft übersehen."'
+- text: 'Chaos in der City! Wieder einmal legen Klima-Aktivisten mit ihren radikalen
+    Aktionen den Verkehr lahm und sorgen für Frust bei den Pendlern. Viele fragen
+    sich: Geht''s hier wirklich noch ums Klima oder nur um Aufmerksamkeit um jeden
+    Preis?'
+- text: Klima-Aktivismus-Gruppen wie Fridays for Future und die Letzte Generation
+    haben in den vergangenen Jahren durch verschiedene Protestaktionen auf die Dringlichkeit
+    des Klimaschutzes aufmerksam gemacht. Während Befürworter die Aktionen als notwendiges
+    Mittel zur Sensibilisierung für die Klimakrise betrachten, kritisieren Gegner
+    die Störungen des öffentlichen Lebens und fordern konstruktivere Ansätze im Dialog
+    mit Politik und Gesellschaft.
+- text: Inmitten wachsender Besorgnis über den Klimawandel setzen Klima-Aktivismus-Gruppen
+    wie Fridays for Future und die Letzte Generation ein deutliches Zeichen für den
+    notwendigen Wandel. Ihre Aktionen erinnern eindringlich daran, dass dringende
+    Maßnahmen zum Schutz unserer Umwelt ergriffen werden müssen.
+- text: In den letzten Jahren haben Klima-Aktivismus-Gruppen wie Fridays for Future
+    und die Letzte Generation durch verschiedene Protestaktionen auf die Dringlichkeit
+    des Klimawandels aufmerksam gemacht und eine breite gesellschaftliche Debatte
+    angestoßen. Während einige ihre Methoden als notwendiges Mittel zur Beschleunigung
+    politischer Maßnahmen sehen, kritisieren andere die Störungen des öffentlichen
+    Lebens und fordern konstruktivere Ansätze.
+metrics:
+- accuracy
+pipeline_tag: text-classification
+library_name: setfit
+inference: true
+base_model: sentence-transformers/paraphrase-multilingual-mpnet-base-v2
+model-index:
+- name: SetFit with sentence-transformers/paraphrase-multilingual-mpnet-base-v2
+  results:
+  - task:
+      type: text-classification
+      name: Text Classification
+    dataset:
+      name: Unknown
+      type: unknown
+      split: test
+    metrics:
+    - type: accuracy
+      value: 1.0
+      name: Accuracy
+---
+
+# SetFit with sentence-transformers/paraphrase-multilingual-mpnet-base-v2
+
+This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [sentence-transformers/paraphrase-multilingual-mpnet-base-v2](https://huggingface.co/sentence-transformers/paraphrase-multilingual-mpnet-base-v2) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.
+
+The model has been trained using an efficient few-shot learning technique that involves:
+
+1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning.
+2. Training a classification head with features from the fine-tuned Sentence Transformer.
+
+## Model Details
+
+### Model Description
+- **Model Type:** SetFit
+- **Sentence Transformer body:** [sentence-transformers/paraphrase-multilingual-mpnet-base-v2](https://huggingface.co/sentence-transformers/paraphrase-multilingual-mpnet-base-v2)
+- **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
+- **Maximum Sequence Length:** 128 tokens
+- **Number of Classes:** 3 classes
+<!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit)
+- **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055)
+- **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)
+
+### Model Labels
+| Label      | Examples                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                   |
+|:-----------|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+| supportive | <ul><li>'Inmitten wachsender Besorgnis über den Klimawandel haben Gruppen wie Fridays for Future und die Letzte Generation mit ihrem unermüdlichen Engagement das Bewusstsein für die Dringlichkeit von Umweltmaßnahmen geschärft. Ihre Aktionen, die oft kontroverse Diskussionen auslösen, tragen dazu bei, den Klimaschutz auf der politischen Agenda zu halten und fordern von Entscheidungsträgern verstärkte Anstrengungen ein.'</li><li>'In den vergangenen Jahren haben Klima-Aktivismus-Gruppen wie Fridays for Future und die Letzte Generation erfolgreich das Bewusstsein für die Dringlichkeit des Klimaschutzes geschärft. Ihre Aktionen haben es geschafft, das Thema in den Mittelpunkt der öffentlichen Debatte zu rücken und politischen Druck zu erzeugen, der für notwendige Veränderungen sorgt.'</li><li>'In den Städten und auf dem Lande erhebt sich der Protest gegen das politische Zögern bei der Klimakrise. Unter dem Motto "Jetzt handeln!" drängen Fridays for Future, die Letzte Generation und andere Aktionäre die Regierungen zu umfassenden Maßnahmen an. Ihre Forderungen sind eindeutig: Der Klimawandel muss gestoppt werden, bevor es zu spät ist.'</li></ul>                                                                                                                                                                                      |
+| opposed    | <ul><li>'„Forderungen nach radikalen Maßnahmen, um den Klimawandel zu stoppen, sind leider oft von idealistischer Überheblichkeit geprägt. Die jungen Aktivisten mit ihren Blackout-Aktionen und Protestmahnungen geben nur vage Lösungsvorschläge, ohne sich um die realpolitischen Hürden und wirtschaftlichen Folgen zu kümmern.“'</li><li>'"Während die Welt arbeitet, um Lösungen für die tatsächlichen Probleme zu finden, verschwenden junge Aktivisten ihre Zeit mit Straßenblockaden und Schütteln von Plakaten. Ihre Rhetorik ist einstudiert, ihre Wirklichkeitserfahrung jedoch begrenzt."'</li><li>'"Die jüngste Welle von Protesten und Demonstrationszugängen veranschaulicht, dass viele junge Menschen sich tatsächlich besorgt um den Klimawandel zeigen. Allerdings fehlt es ihnen an realistischen Vorschlägen für eine Lösung und an politischer Reife in der Auseinandersetzung mit den wirtschaftlichen und gesellschaftlichen Konsequenzen eines abrupten Strukturwandels."'</li></ul>                                                                                                                                                                                                                                                                                                                                                                             |
+| neutral    | <ul><li>'In zahlreichen Städten haben Klima-Aktivismus-Gruppen wie Fridays for Future und die Letzte Generation erneut zu Protestaktionen aufgerufen, um auf die Dringlichkeit des Klimaschutzes aufmerksam zu machen. Während Befürworter die Aktionen als notwendiges Mittel zur Sensibilisierung der Öffentlichkeit betrachten, kritisieren Gegner die Störungen des Alltags und fordern konstruktivere Ansätze im Dialog mit politischen Entscheidungsträgern.'</li><li>'In den letzten Jahren haben Klima-Aktivismus-Gruppen wie Fridays for Future und die Letzte Generation verstärkt Aufmerksamkeit auf die Dringlichkeit des Klimaschutzes gelenkt, indem sie durch Proteste und Aktionen den öffentlichen Diskurs beeinflussen. Während ihre Methoden teils kontrovers diskutiert werden, unterstreichen sie die wachsende Besorgnis vieler Bürger über die unzureichenden politischen Maßnahmen zur Bekämpfung des Klimawandels.'</li><li>'In mehreren Städten haben Klima-Aktivismus-Gruppen wie Fridays for Future und die Letzte Generation erneut zu Protestaktionen aufgerufen, um auf die Dringlichkeit des Klimaschutzes aufmerksam zu machen. Während Unterstützer die Notwendigkeit dieser Aktionen betonen, um politischen Druck zu erzeugen, kritisieren Gegner die teils radikalen Methoden und die damit verbundenen Störungen des öffentlichen Lebens.'</li></ul> |
+
+## Evaluation
+
+### Metrics
+| Label   | Accuracy |
+|:--------|:---------|
+| **all** | 1.0      |
+
+## Uses
+
+### Direct Use for Inference
+
+First install the SetFit library:
+
+```bash
+pip install setfit
+```
+
+Then you can load this model and run inference.
+
+```python
+from setfit import SetFitModel
+
+# Download from the 🤗 Hub
+model = SetFitModel.from_pretrained("cbpuschmann/klimacoder_protest_v0.1")
+# Run inference
+preds = model("Chaos in der City! Wieder einmal legen Klima-Aktivisten mit ihren radikalen Aktionen den Verkehr lahm und sorgen für Frust bei den Pendlern. Viele fragen sich: Geht's hier wirklich noch ums Klima oder nur um Aufmerksamkeit um jeden Preis?")
+```
+
+<!--
+### Downstream Use
+
+*List how someone could finetune this model on their own dataset.*
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Set Metrics
+| Training set | Min | Median  | Max |
+|:-------------|:----|:--------|:----|
+| Word count   | 30  | 48.5311 | 73  |
+
+| Label      | Training Sample Count |
+|:-----------|:----------------------|
+| neutral    | 169                   |
+| opposed    | 177                   |
+| supportive | 185                   |
+
+### Training Hyperparameters
+- batch_size: (32, 32)
+- num_epochs: (1, 1)
+- max_steps: -1
+- sampling_strategy: oversampling
+- body_learning_rate: (2e-05, 1e-05)
+- head_learning_rate: 0.01
+- loss: CosineSimilarityLoss
+- distance_metric: cosine_distance
+- margin: 0.25
+- end_to_end: False
+- use_amp: False
+- warmup_proportion: 0.1
+- l2_weight: 0.01
+- seed: 42
+- eval_max_steps: -1
+- load_best_model_at_end: False
+
+### Training Results
+| Epoch  | Step | Training Loss | Validation Loss |
+|:------:|:----:|:-------------:|:---------------:|
+| 0.0002 | 1    | 0.2854        | -               |
+| 0.0085 | 50   | 0.2769        | -               |
+| 0.0170 | 100  | 0.1526        | -               |
+| 0.0255 | 150  | 0.0652        | -               |
+| 0.0341 | 200  | 0.0195        | -               |
+| 0.0426 | 250  | 0.0062        | -               |
+| 0.0511 | 300  | 0.0015        | -               |
+| 0.0596 | 350  | 0.0007        | -               |
+| 0.0681 | 400  | 0.0004        | -               |
+| 0.0766 | 450  | 0.0002        | -               |
+| 0.0852 | 500  | 0.0002        | -               |
+| 0.0937 | 550  | 0.0001        | -               |
+| 0.1022 | 600  | 0.0001        | -               |
+| 0.1107 | 650  | 0.0001        | -               |
+| 0.1192 | 700  | 0.0001        | -               |
+| 0.1277 | 750  | 0.0001        | -               |
+| 0.1363 | 800  | 0.0           | -               |
+| 0.1448 | 850  | 0.0           | -               |
+| 0.1533 | 900  | 0.0           | -               |
+| 0.1618 | 950  | 0.0           | -               |
+| 0.1703 | 1000 | 0.0           | -               |
+| 0.1788 | 1050 | 0.0           | -               |
+| 0.1874 | 1100 | 0.0           | -               |
+| 0.1959 | 1150 | 0.0           | -               |
+| 0.2044 | 1200 | 0.0           | -               |
+| 0.2129 | 1250 | 0.0           | -               |
+| 0.2214 | 1300 | 0.0           | -               |
+| 0.2299 | 1350 | 0.0           | -               |
+| 0.2385 | 1400 | 0.0           | -               |
+| 0.2470 | 1450 | 0.0           | -               |
+| 0.2555 | 1500 | 0.0           | -               |
+| 0.2640 | 1550 | 0.0           | -               |
+| 0.2725 | 1600 | 0.0           | -               |
+| 0.2810 | 1650 | 0.0           | -               |
+| 0.2896 | 1700 | 0.0           | -               |
+| 0.2981 | 1750 | 0.0           | -               |
+| 0.3066 | 1800 | 0.0           | -               |
+| 0.3151 | 1850 | 0.0           | -               |
+| 0.3236 | 1900 | 0.0           | -               |
+| 0.3321 | 1950 | 0.0           | -               |
+| 0.3407 | 2000 | 0.0           | -               |
+| 0.3492 | 2050 | 0.0           | -               |
+| 0.3577 | 2100 | 0.0           | -               |
+| 0.3662 | 2150 | 0.0           | -               |
+| 0.3747 | 2200 | 0.0           | -               |
+| 0.3832 | 2250 | 0.0           | -               |
+| 0.3918 | 2300 | 0.0           | -               |
+| 0.4003 | 2350 | 0.0           | -               |
+| 0.4088 | 2400 | 0.0           | -               |
+| 0.4173 | 2450 | 0.0           | -               |
+| 0.4258 | 2500 | 0.0           | -               |
+| 0.4343 | 2550 | 0.0           | -               |
+| 0.4429 | 2600 | 0.0           | -               |
+| 0.4514 | 2650 | 0.0           | -               |
+| 0.4599 | 2700 | 0.0           | -               |
+| 0.4684 | 2750 | 0.0           | -               |
+| 0.4769 | 2800 | 0.0           | -               |
+| 0.4854 | 2850 | 0.0           | -               |
+| 0.4940 | 2900 | 0.0           | -               |
+| 0.5025 | 2950 | 0.0           | -               |
+| 0.5110 | 3000 | 0.0           | -               |
+| 0.5195 | 3050 | 0.0           | -               |
+| 0.5280 | 3100 | 0.0           | -               |
+| 0.5365 | 3150 | 0.0           | -               |
+| 0.5451 | 3200 | 0.0           | -               |
+| 0.5536 | 3250 | 0.0           | -               |
+| 0.5621 | 3300 | 0.0           | -               |
+| 0.5706 | 3350 | 0.0           | -               |
+| 0.5791 | 3400 | 0.0           | -               |
+| 0.5876 | 3450 | 0.0           | -               |
+| 0.5962 | 3500 | 0.0           | -               |
+| 0.6047 | 3550 | 0.0           | -               |
+| 0.6132 | 3600 | 0.0           | -               |
+| 0.6217 | 3650 | 0.0           | -               |
+| 0.6302 | 3700 | 0.0           | -               |
+| 0.6387 | 3750 | 0.0           | -               |
+| 0.6472 | 3800 | 0.0           | -               |
+| 0.6558 | 3850 | 0.0           | -               |
+| 0.6643 | 3900 | 0.0           | -               |
+| 0.6728 | 3950 | 0.0           | -               |
+| 0.6813 | 4000 | 0.0           | -               |
+| 0.6898 | 4050 | 0.0           | -               |
+| 0.6983 | 4100 | 0.0           | -               |
+| 0.7069 | 4150 | 0.0           | -               |
+| 0.7154 | 4200 | 0.0           | -               |
+| 0.7239 | 4250 | 0.0           | -               |
+| 0.7324 | 4300 | 0.0           | -               |
+| 0.7409 | 4350 | 0.0           | -               |
+| 0.7494 | 4400 | 0.0           | -               |
+| 0.7580 | 4450 | 0.0           | -               |
+| 0.7665 | 4500 | 0.0           | -               |
+| 0.7750 | 4550 | 0.0           | -               |
+| 0.7835 | 4600 | 0.0           | -               |
+| 0.7920 | 4650 | 0.0           | -               |
+| 0.8005 | 4700 | 0.0           | -               |
+| 0.8091 | 4750 | 0.0           | -               |
+| 0.8176 | 4800 | 0.0           | -               |
+| 0.8261 | 4850 | 0.0           | -               |
+| 0.8346 | 4900 | 0.0           | -               |
+| 0.8431 | 4950 | 0.0           | -               |
+| 0.8516 | 5000 | 0.0           | -               |
+| 0.8602 | 5050 | 0.0           | -               |
+| 0.8687 | 5100 | 0.0           | -               |
+| 0.8772 | 5150 | 0.0           | -               |
+| 0.8857 | 5200 | 0.0           | -               |
+| 0.8942 | 5250 | 0.0           | -               |
+| 0.9027 | 5300 | 0.0           | -               |
+| 0.9113 | 5350 | 0.0           | -               |
+| 0.9198 | 5400 | 0.0           | -               |
+| 0.9283 | 5450 | 0.0           | -               |
+| 0.9368 | 5500 | 0.0           | -               |
+| 0.9453 | 5550 | 0.0           | -               |
+| 0.9538 | 5600 | 0.0           | -               |
+| 0.9624 | 5650 | 0.0           | -               |
+| 0.9709 | 5700 | 0.0           | -               |
+| 0.9794 | 5750 | 0.0           | -               |
+| 0.9879 | 5800 | 0.0           | -               |
+| 0.9964 | 5850 | 0.0           | -               |
+
+### Framework Versions
+- Python: 3.10.12
+- SetFit: 1.1.0
+- Sentence Transformers: 3.3.1
+- Transformers: 4.42.2
+- PyTorch: 2.5.1+cu121
+- Datasets: 3.2.0
+- Tokenizers: 0.19.1
+
+## Citation
+
+### BibTeX
+```bibtex
+@article{https://doi.org/10.48550/arxiv.2209.11055,
+    doi = {10.48550/ARXIV.2209.11055},
+    url = {https://arxiv.org/abs/2209.11055},
+    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
+    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
+    title = {Efficient Few-Shot Learning Without Prompts},
+    publisher = {arXiv},
+    year = {2022},
+    copyright = {Creative Commons Attribution 4.0 International}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,29 @@
+{
+  "_name_or_path": "sentence-transformers/paraphrase-multilingual-mpnet-base-v2",
+  "architectures": [
+    "XLMRobertaModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "eos_token_id": 2,
+  "gradient_checkpointing": false,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 514,
+  "model_type": "xlm-roberta",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.42.2",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 250002
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+  "__version__": {
+    "sentence_transformers": "3.3.1",
+    "transformers": "4.42.2",
+    "pytorch": "2.5.1+cu121"
+  },
+  "prompts": {},
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

config_setfit.json

@@ -0,0 +1,8 @@
+{
+  "normalize_embeddings": false,
+  "labels": [
+    "neutral",
+    "opposed",
+    "supportive"
+  ]
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ccc9d32a6303db5d6d24495776aa29b8c104d065dee9fb19e00d13e534a829ce
+size 1112197096

model_head.pkl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:341ea597c19ab5c651bca19ac164528ffda6faf7474153fd684d3c971a0b04cf
+size 19423

modules.json

@@ -0,0 +1,14 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+  "max_seq_length": 128,
+  "do_lower_case": false
+}

sentencepiece.bpe.model

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cfc8146abe2a0488e9e2a0c56de7952f7c11ab059eca145a0a727afce0db2865
+size 5069051

special_tokens_map.json

@@ -0,0 +1,51 @@
+{
+  "bos_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "cls_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "eos_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "mask_token": {
+    "content": "<mask>",
+    "lstrip": true,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "pad_token": {
+    "content": "<pad>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "sep_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "<unk>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cad551d5600a84242d0973327029452a1e3672ba6313c2a3c3d69c4310e12719
+size 17082987

tokenizer_config.json

@@ -0,0 +1,61 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "<s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "<pad>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "</s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "<unk>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "250001": {
+      "content": "<mask>",
+      "lstrip": true,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "mask_token": "<mask>",
+  "max_length": 128,
+  "model_max_length": 128,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "</s>",
+  "stride": 0,
+  "tokenizer_class": "XLMRobertaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>"
+}