File size: 1,480 Bytes
7c5c425 ddcbe43 7c5c425 dd2eb87 b68616c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 |
---
dataset_info:
features:
- name: info
dtype: string
- name: modern
dtype: string
- name: classical
dtype: string
splits:
- name: train
num_bytes: 209412286
num_examples: 972467
download_size: 123454543
dataset_size: 209412286
license: apache-2.0
task_categories:
- translation
language:
- zh
size_categories:
- 100K<n<1M
---
# Dataset Card for "Chinese_modern_classical"
数据来自于[NiuTrans/Classical-Modern: 非常全的文言文（古文）-现代文平行语料 (github.com)](https://github.com/NiuTrans/Classical-Modern)。
由于原始数据中部分古文没有译文，所以本数据集的数据仅包括了[双语数据 ](https://github.com/NiuTrans/Classical-Modern/tree/main/双语数据)。
# Usage
```python
from transformers import AutoModelForSeq2SeqLM
from transformers import AutoTokenizer
prefix = "普通话到文言文"
tokenizer = AutoTokenizer.from_pretrained("xmj2002/bart_modern_classical")
model = AutoModelForSeq2SeqLM.from_pretrained("xmj2002/bart_modern_classical")
text = "曲曲折折的荷塘上面，弥望旳是田田的叶子。叶子出水很高，像亭亭旳舞女旳裙。"
inputs = tokenizer(prefix+text, return_tensors="pt").input_ids
outputs = model.generate(inputs, max_new_tokens=40, do_sample=True, top_k=30, top_p=0.95)
tokenizer.decode(outputs[0], skip_special_tokens=True)
# output：曲 塘 之 上 ， 弥 望 则 田 田 之 叶 ， 叶 出 水 高 ， 若 舞 女 低 裙 。
``` |