for the dataset

#1
by ziconghe - opened

hello, Is this dataset publicly available? Is there any way to access it?

Hi, sure it's publicly available. Here's an example to access it:

  • Git clone the repo to local path
git clone https://huggingface.co/datasets/mrzjy/honkai_impact_3rd_chinese_dialogue_corpus
  • Load the dataset with load_from_disk
import pandas as pd
from datasets import load_from_disk

ds = load_from_disk("PATH/TO//honkai_impact_3rd_chinese_dialogue_corpus")
df = pd.DataFrame(ds["train"])

for chapter_id, chapter in df.groupby("chapter_id"):
    print(chapter)
    if chapter_id > 1:
        break

You should see something like this:

     chapter  chapter_id utter_id       type       role      content
0  旧版本宣传CG纪念           0      0-0  narration  narration  沧海市东南34公里上空
1
         chapter  chapter_id  ...       role                                 content
1    主线1黄昏、少女、战舰           1  ...  <unknown>                         踩到附近的地面发光处进行跳跃吧
2    主线1黄昏、少女、战舰           1  ...        琪亚娜                              姬子……飞机坏了……
3    主线1黄昏、少女、战舰           1  ...         姬子                 解释的话以后再说。我现在就给你安排新的无人机。
4    主线1黄昏、少女、战舰           1  ...         姬子                  沧海市危在旦夕,为了这里的3000万市民——
5    主线1黄昏、少女、战舰           1  ...         姬子                     我们“天命”,必须阻止这艘失控的战舰!
..           ...         ...  ...        ...                                     ...
137  主线1黄昏、少女、战舰           1  ...  <unknown>                            太好了,你终于醒过来了!
138  主线1黄昏、少女、战舰           1  ...  <unknown>                 布洛妮娅…难道刚刚布洛妮娅的芯片失去了控制……
139  主线1黄昏、少女、战舰           1  ...  <unknown>                        通信恢复了?布洛妮娅?你没事吧?
140  主线1黄昏、少女、战舰           1  ...  <unknown>  布洛妮娅没事……但是,在返回学园后,姬子少校,请给布洛妮娅安排全面的身体检查
141  主线1黄昏、少女、战舰           1  ...  <unknown>                    布洛妮娅不想再以任何形式,拖大家的后腿了

[141 rows x 6 columns]

Thank you so much!!!

mrzjy changed discussion status to closed

Sign up or log in to comment