README.md

metadata

dataset_info:
  features:
    - name: info
      dtype: string
    - name: modern
      dtype: string
    - name: classical
      dtype: string
  splits:
    - name: train
      num_bytes: 209412286
      num_examples: 972467
  download_size: 123454543
  dataset_size: 209412286
license: apache-2.0
task_categories:
  - translation
language:
  - zh
size_categories:
  - 100K<n<1M

Dataset Card for "Chinese_modern_classical"

数据来自于NiuTrans/Classical-Modern: 非常全的文言文（古文）-现代文平行语料 (github.com)。

由于原始数据中部分古文没有译文，所以本数据集的数据仅包括了双语数据 。

Usage

from transformers import AutoModelForSeq2SeqLM
from transformers import AutoTokenizer

prefix = "普通话到文言文"
tokenizer = AutoTokenizer.from_pretrained("xmj2002/bart_modern_classical")
model = AutoModelForSeq2SeqLM.from_pretrained("xmj2002/bart_modern_classical")

text = "曲曲折折的荷塘上面，弥望旳是田田的叶子。叶子出水很高，像亭亭旳舞女旳裙。"
inputs = tokenizer(prefix+text, return_tensors="pt").input_ids
outputs = model.generate(inputs, max_new_tokens=40, do_sample=True, top_k=30, top_p=0.95)
tokenizer.decode(outputs[0], skip_special_tokens=True)

# output：曲 塘 之 上 ， 弥 望 则 田 田 之 叶 ， 叶 出 水 高 ， 若 舞 女 低 裙 。