nenekochan/yoruno-vn

睡不着的夜晚和不想睡觉的夜晚

⚠️注意

• 请注意，数据来自 R18 的视觉小说，并且包含可能被认为是不适当、令人震惊、令人不安、令人反感和极端的主题。如果您不确定在您的国家拥有任何形式的虚构文字内容的法律后果，请不要下载。
• 本项目内的所有数据及基于这些数据的衍生作品禁止用作商业性目的。 我不拥有 scenario-raw 和 scenario_ja-raw 里的 krkr2 脚本源文件，而其余的数据处理方法按照 CC BY-NC 4.0 协议开放。
• 🔑 压缩包已加密，解压密码是 yorunohitsuji

文件结构

yoruno-vn.7z          # (zh)
 ├── scenario-raw/     # krkr2 脚本源文件
 ├── scenario/         # 清理后的结构化脚本
 └── conversation/     # 我主观分段制作的对话格式数据
yoruno_ja-vn.7z       # (ja)
 ├── scenario_ja-raw/  # krkr2 脚本源文件
 ├── scenario_ja/      # 清理后的结构化脚本
 └── sound_ja/         # （并不存在的语音和）我手工标注的分类元信息

• 对于主观分段，一部分是手动的，其余是基于文本相似度的不太靠谱自动分段（我还没推的那部分，我不想被剧透啊啊啊）。手动分段道且阻且长，慢慢做吧，进度记录在 manual_seg-progress.md。
• 2015-2017 的前四作是单女主，后面的作品都是双女主的，脚本格式也略微不同。
• 主观分段内容排除了一些与 npc 的对话、改了错别字，所以和原脚本不完全一致。
• 语音文件果然还是不放了，不过我有标注元信息，用来分离出含有喘和或口腔音的语音。

给我自己看的预处理流程

0. 各作的脚本提取出来放在 scenario[_ja]-raw/ 里，用 script/transcode.sh 转成 UTF-8，2015-sssa 额外需要 script/dos2unix.sh 转成 LF
1. 修复格式小问题 cd scenario-raw && bash patch.sh
2. 运行 python ks-parse-all.py --voice scenario[_ja]-raw/ scenario[_ja]/ 得到 scenario[_ja]/
3. 分段，再转成 conversation/ a. 自动分段：python -m segment.auto path/to/scenario.jsonl b. 手动分段后，python -m segment.manual path/to/scenario-manual_seg.jsonl

添加新卷：

0. 脚本放在 scenario[_ja]-raw/ 里
1. 在 ks-parse-all.py 里添加新卷的元数据

致谢

日夜陪伴我的夜羊社和数据源背后的众汉化组……