Delete docs
Browse files- docs/cn/README.cn.md +0 -198
- docs/cn/faq.md +0 -150
- docs/en/faiss_tips_en.md +0 -102
- docs/en/faq_en.md +0 -114
- docs/en/training_tips_en.md +0 -65
- docs/fr/README.fr.md +0 -166
- docs/fr/faiss_tips_fr.md +0 -105
- docs/fr/faq_fr.md +0 -164
- docs/fr/training_tips_fr.md +0 -65
- docs/jp/README.ja.md +0 -203
- docs/jp/faiss_tips_ja.md +0 -101
- docs/jp/faq_ja.md +0 -117
- docs/jp/training_tips_ja.md +0 -64
- docs/kr/README.ko.han.md +0 -100
- docs/kr/README.ko.md +0 -359
- docs/kr/faiss_tips_ko.md +0 -132
- docs/kr/faq_ko.md +0 -125
- docs/kr/training_tips_ko.md +0 -53
- docs/pt/README.pt.md +0 -180
- docs/pt/faiss_tips_pt.md +0 -102
- docs/pt/faq_pt.md +0 -220
- docs/pt/training_tips_pt.md +0 -65
- docs/tr/README.tr.md +0 -141
- docs/tr/faiss_tips_tr.md +0 -104
- docs/tr/faq_tr.md +0 -98
- docs/tr/training_tips_tr.md +0 -64
docs/cn/README.cn.md
DELETED
|
@@ -1,198 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
一个基于VITS的简单易用的变声框架<br><br>
|
| 5 |
-
|
| 6 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 12 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 13 |
-
|
| 14 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 15 |
-
|
| 16 |
-
[**常见问题解答**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98%E8%A7%A3%E7%AD%94) | [**AutoDL·5毛钱训练AI歌手**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/Autodl%E8%AE%AD%E7%BB%83RVC%C2%B7AI%E6%AD%8C%E6%89%8B%E6%95%99%E7%A8%8B) | [**对照实验记录**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/Autodl%E8%AE%AD%E7%BB%83RVC%C2%B7AI%E6%AD%8C%E6%89%8B%E6%95%99%E7%A8%8B](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%AF%B9%E7%85%A7%E5%AE%9E%E9%AA%8C%C2%B7%E5%AE%9E%E9%AA%8C%E8%AE%B0%E5%BD%95)) | [**在线演示**](https://modelscope.cn/studios/FlowerCry/RVCv2demo)
|
| 17 |
-
|
| 18 |
-
[**English**](../../README.md) | [**中文简体**](../cn/README.cn.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 19 |
-
|
| 20 |
-
</div>
|
| 21 |
-
|
| 22 |
-
> 底模使用接近50小时的开源高质量VCTK训练集训练，无版权方面的顾虑，请大家放心使用
|
| 23 |
-
|
| 24 |
-
> 请期待RVCv3的底模，参数更大，数据集更大，效果更好，基本持平的推理速度，需要训练数据量更少。
|
| 25 |
-
|
| 26 |
-
> 由于某些地区无法直连Hugging Face，即使设法成功访问，速度也十分缓慢，特推出模型/整合包/工具的一键下载器，欢迎试用：[RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)
|
| 27 |
-
|
| 28 |
-
| 训练推理界面 |
|
| 29 |
-
| :--------: |
|
| 30 |
-
|  |
|
| 31 |
-
|
| 32 |
-
| 实时变声界面 |
|
| 33 |
-
| :---------: |
|
| 34 |
-
|  |
|
| 35 |
-
|
| 36 |
-
## 简介
|
| 37 |
-
本仓库具有以下特点
|
| 38 |
-
+ 使用top1检索替换输入源特征为训练集特征来杜绝音色泄漏
|
| 39 |
-
+ 即便在相对较差的显卡上也能快速训练
|
| 40 |
-
+ 使用少量数据进行训练也能得到较好结果(推荐至少收集10分钟低底噪语音数据)
|
| 41 |
-
+ 可以通过模型融合来改变音色(借助ckpt处理选项卡中的ckpt-merge)
|
| 42 |
-
+ 简单易用的网页界面
|
| 43 |
-
+ 可调用UVR5模型来快速分离人声和伴奏
|
| 44 |
-
+ 使用最先进的[人声音高提取算法InterSpeech2023-RMVPE](#参考项目)根绝哑音问题，效果更好，运行更快，资源占用更少
|
| 45 |
-
+ A卡I卡加速支持
|
| 46 |
-
|
| 47 |
-
点此查看我们的[演示视频](https://www.bilibili.com/video/BV1pm4y1z7Gm/) !
|
| 48 |
-
|
| 49 |
-
## 环境配置
|
| 50 |
-
### Python 版本限制
|
| 51 |
-
> 建议使用 conda 管理 Python 环境
|
| 52 |
-
|
| 53 |
-
> 版本限制原因参见此[bug](https://github.com/facebookresearch/fairseq/issues/5012)
|
| 54 |
-
|
| 55 |
-
```bash
|
| 56 |
-
python --version # 3.8 <= Python < 3.11
|
| 57 |
-
```
|
| 58 |
-
|
| 59 |
-
### Linux/MacOS 一键依赖安装启动脚本
|
| 60 |
-
执行项目根目录下`run.sh`即可一键配置`venv`虚拟环境、自动安装所需依赖并启动主程序。
|
| 61 |
-
```bash
|
| 62 |
-
sh ./run.sh
|
| 63 |
-
```
|
| 64 |
-
|
| 65 |
-
### 手动安装依赖
|
| 66 |
-
1. 安装`pytorch`及其核心依赖，若已安装则跳过。参考自: https://pytorch.org/get-started/locally/
|
| 67 |
-
```bash
|
| 68 |
-
pip install torch torchvision torchaudio
|
| 69 |
-
```
|
| 70 |
-
2. 如果是 win 系统 + Nvidia Ampere 架构(RTX30xx)，根据 #21 的经验，需要指定 pytorch 对应的 CUDA 版本
|
| 71 |
-
```bash
|
| 72 |
-
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 73 |
-
```
|
| 74 |
-
3. 根据自己的显卡安装对应依赖
|
| 75 |
-
- N卡
|
| 76 |
-
```bash
|
| 77 |
-
pip install -r requirements/main.txt
|
| 78 |
-
```
|
| 79 |
-
- A卡/I卡
|
| 80 |
-
```bash
|
| 81 |
-
pip install -r requirements/dml.txt
|
| 82 |
-
```
|
| 83 |
-
- A卡ROCM(Linux)
|
| 84 |
-
```bash
|
| 85 |
-
pip install -r requirements/amd.txt
|
| 86 |
-
```
|
| 87 |
-
- I卡IPEX(Linux)
|
| 88 |
-
```bash
|
| 89 |
-
pip install -r requirements/ipex.txt
|
| 90 |
-
```
|
| 91 |
-
|
| 92 |
-
## 其他资源准备
|
| 93 |
-
### 1. assets
|
| 94 |
-
> RVC需要位于`assets`文件夹下的一些模型资源进行推理和训练。
|
| 95 |
-
#### 自动检查/下载资源(默认)
|
| 96 |
-
> 默认情况下，RVC可在主程序启动时自动检查所需资源的完整性。
|
| 97 |
-
|
| 98 |
-
> 即使资源不完整，程序也将继续启动。
|
| 99 |
-
|
| 100 |
-
- 如果您希望下载所有资源，请添加`--update`参数
|
| 101 |
-
- 如果您希望跳���启动时的资源完整性检查，请添加`--nocheck`参数
|
| 102 |
-
|
| 103 |
-
#### 手动下载资源
|
| 104 |
-
> 所有资源文件均位于[Hugging Face space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 105 |
-
|
| 106 |
-
> 你可以在`tools`文件夹找到下载它们的脚本
|
| 107 |
-
|
| 108 |
-
> 你也可以使用模型/整合包/工具的一键下载器：[RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)
|
| 109 |
-
|
| 110 |
-
以下是一份清单，包括了所有RVC所需的预模型和其他文件的名称。
|
| 111 |
-
|
| 112 |
-
- ./assets/hubert/hubert_base.pt
|
| 113 |
-
```bash
|
| 114 |
-
rvcmd assets/hubert # RVC-Models-Downloader command
|
| 115 |
-
```
|
| 116 |
-
- ./assets/pretrained
|
| 117 |
-
```bash
|
| 118 |
-
rvcmd assets/v1 # RVC-Models-Downloader command
|
| 119 |
-
```
|
| 120 |
-
- ./assets/uvr5_weights
|
| 121 |
-
```bash
|
| 122 |
-
rvcmd assets/uvr5 # RVC-Models-Downloader command
|
| 123 |
-
```
|
| 124 |
-
想使用v2版本模型的话，需要额外下载
|
| 125 |
-
|
| 126 |
-
- ./assets/pretrained_v2
|
| 127 |
-
```bash
|
| 128 |
-
rvcmd assets/v2 # RVC-Models-Downloader command
|
| 129 |
-
```
|
| 130 |
-
|
| 131 |
-
### 2. 下载 rmvpe 人声音高提取算法所需文件
|
| 132 |
-
|
| 133 |
-
如果你想使用最新的RMVPE人声音高提取算法，则你需要下载音高提取模型参数并放置于`assets/rmvpe`。
|
| 134 |
-
|
| 135 |
-
- 下载[rmvpe.pt](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt)
|
| 136 |
-
```bash
|
| 137 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 138 |
-
```
|
| 139 |
-
|
| 140 |
-
#### 下载 rmvpe 的 dml 环境(可选, A卡/I卡用户)
|
| 141 |
-
|
| 142 |
-
- 下载[rmvpe.onnx](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx)
|
| 143 |
-
```bash
|
| 144 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 145 |
-
```
|
| 146 |
-
|
| 147 |
-
### 3. AMD显卡Rocm(可选, 仅Linux)
|
| 148 |
-
|
| 149 |
-
如果你想基于AMD的Rocm技术在Linux系统上运行RVC，请先在[这里](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html)安装所需的驱动。
|
| 150 |
-
|
| 151 |
-
若你使用的是Arch Linux，可以使用pacman来安装所需驱动：
|
| 152 |
-
````
|
| 153 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 154 |
-
````
|
| 155 |
-
对于某些型号的显卡，你可能需要额外配置如下的环境变量（如：RX6700XT）：
|
| 156 |
-
````
|
| 157 |
-
export ROCM_PATH=/opt/rocm
|
| 158 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 159 |
-
````
|
| 160 |
-
同时确保你的当前用户处于`render`与`video`用户组内：
|
| 161 |
-
````
|
| 162 |
-
sudo usermod -aG render $USERNAME
|
| 163 |
-
sudo usermod -aG video $USERNAME
|
| 164 |
-
````
|
| 165 |
-
|
| 166 |
-
## 开始使用
|
| 167 |
-
### 直接启动
|
| 168 |
-
使用以下指令来启动 WebUI
|
| 169 |
-
```bash
|
| 170 |
-
python web.py
|
| 171 |
-
```
|
| 172 |
-
### Linux/MacOS 用户
|
| 173 |
-
```bash
|
| 174 |
-
./run.sh
|
| 175 |
-
```
|
| 176 |
-
### 对于需要使用IPEX技术的I卡用户(仅Linux)
|
| 177 |
-
```bash
|
| 178 |
-
source /opt/intel/oneapi/setvars.sh
|
| 179 |
-
./run.sh
|
| 180 |
-
```
|
| 181 |
-
### 使用整合包 (Windows 用户)
|
| 182 |
-
下载并解压`RVC-beta.7z`，解压后双击`go-web.bat`即可一键启动。
|
| 183 |
-
```bash
|
| 184 |
-
rvcmd packs/general/latest # RVC-Models-Downloader command
|
| 185 |
-
```
|
| 186 |
-
|
| 187 |
-
## 参考项目
|
| 188 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 189 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 190 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 191 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 192 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 193 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 194 |
-
+ [Vocal pitch extraction:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 195 |
-
+ The pretrained model is trained and tested by [yxlllc](https://github.com/yxlllc/RMVPE) and [RVC-Boss](https://github.com/RVC-Boss).
|
| 196 |
-
|
| 197 |
-
## 感谢所有贡献者作出的努力
|
| 198 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/cn/faq.md
DELETED
|
@@ -1,150 +0,0 @@
|
|
| 1 |
-
## Q1:一键训练结束没有索引
|
| 2 |
-
|
| 3 |
-
显示"Training is done. The program is closed."则模型训练成功，后续紧邻的报错是假的；
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
一键训练结束完成没有added开头的索引文件，可能是因为训练集太大卡住了添加索引的步骤；已通过批处理add索引解决内存add索引对内存需求过大的问题。临时可尝试再次点击"训练索引"按钮。
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
## Q2:训练结束推理没看到训练集的音色
|
| 10 |
-
点刷新音色再看看，如果还没有看看训练有没有报错，控制台和webui的截图，logs/实验名下的log，都可以发给开发者看看。
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
## Q3:如何分享模型
|
| 14 |
-
rvc_root/logs/实验名 下面存储的pth不是用来分享模型用来推理的，而是为了存储实验状态供复现，以及继续训练用的。用来分享的模型应该是weights文件夹下大小为60+MB的pth文件；
|
| 15 |
-
|
| 16 |
-
后续将把weights/exp_name.pth和logs/exp_name/added_xxx.index合并打包成weights/exp_name.zip省去填写index的步骤，那么zip文件用来分享，不要分享pth文件，除非是想换机器继续训练；
|
| 17 |
-
|
| 18 |
-
如果你把logs文件夹下的几百MB的pth文件复制/分享到weights文件夹下强行用于推理，可能会出现f0，tgt_sr等各种key不存在的报错。你需要用ckpt选项卡最下面，手工或自动（本地logs下如果能找到相关信息则会自动）选择是否携带音高、目标音频采样率的选项后进行ckpt小模型提取（输入路径填G开头的那个），提取完在weights文件夹下会出现60+MB的pth文件，刷新音色后可以选择使用。
|
| 19 |
-
|
| 20 |
-
|
| 21 |
-
## Q4:Connection Error.
|
| 22 |
-
也许你关闭了控制台（黑色窗口）。
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
## Q5:WebUI弹出Expecting value: line 1 column 1 (char 0).
|
| 26 |
-
请关闭系统局域网代理/全局代理。
|
| 27 |
-
|
| 28 |
-
|
| 29 |
-
这个不仅是客户端的代理，也包括服务端的代理（例如你使用autodl设置了http_proxy和https_proxy学术加速，使用时也需要unset关掉）
|
| 30 |
-
|
| 31 |
-
|
| 32 |
-
## Q6:不用WebUI如何通过命令训练推理
|
| 33 |
-
训练脚本：
|
| 34 |
-
|
| 35 |
-
可先跑通WebUI，消息窗内会显示数据集处理和训练用命令行；
|
| 36 |
-
|
| 37 |
-
|
| 38 |
-
推理脚本：
|
| 39 |
-
|
| 40 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py
|
| 41 |
-
|
| 42 |
-
|
| 43 |
-
例子：
|
| 44 |
-
|
| 45 |
-
|
| 46 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True
|
| 47 |
-
|
| 48 |
-
|
| 49 |
-
f0up_key=sys.argv[1]
|
| 50 |
-
|
| 51 |
-
input_path=sys.argv[2]
|
| 52 |
-
|
| 53 |
-
index_path=sys.argv[3]
|
| 54 |
-
|
| 55 |
-
f0method=sys.argv[4]#harvest or pm
|
| 56 |
-
|
| 57 |
-
opt_path=sys.argv[5]
|
| 58 |
-
|
| 59 |
-
model_path=sys.argv[6]
|
| 60 |
-
|
| 61 |
-
index_rate=float(sys.argv[7])
|
| 62 |
-
|
| 63 |
-
device=sys.argv[8]
|
| 64 |
-
|
| 65 |
-
is_half=bool(sys.argv[9])
|
| 66 |
-
|
| 67 |
-
|
| 68 |
-
## Q7:Cuda error/Cuda out of memory.
|
| 69 |
-
小概率是cuda配置问题、设备不支持；大概率是显存不够（out of memory）；
|
| 70 |
-
|
| 71 |
-
|
| 72 |
-
训练的话缩小batch size（如果缩小到1还不够只能更换显卡训练），推理的话酌情缩小config.py结尾的x_pad，x_query，x_center，x_max。4G以下显存（例如1060（3G）和各种2G显卡）可以直接放弃，4G显存显卡还有救。
|
| 73 |
-
|
| 74 |
-
|
| 75 |
-
## Q8:total_epoch调多少比较好
|
| 76 |
-
|
| 77 |
-
如果训练集音质差底噪大，20~30足够了，调太高，底模音质无法带高你的低音质训练集
|
| 78 |
-
|
| 79 |
-
如果训练集音质高底噪低时长多，可以调高，200是ok的（训练速度很快，既然你有条件准备高音质训练集，显卡想必条件也不错，肯定不在乎多一些训练时间）
|
| 80 |
-
|
| 81 |
-
|
| 82 |
-
## Q9:需要多少训练集时长
|
| 83 |
-
推荐10min至50min
|
| 84 |
-
|
| 85 |
-
保证音质高底噪低的情况下，如果有个人特色的音色统一，则多多益善
|
| 86 |
-
|
| 87 |
-
高水平的训练集（精简+音色有特色），5min至10min也是ok的，仓库作者本人就经常这么玩
|
| 88 |
-
|
| 89 |
-
也有人拿1min至2min的数据来训练并且训练成功的，但是成功经验是其他人不可复现的，不太具备参考价值。这要求训练集音色特色非常明显（比如说高频气声较明显的萝莉少女音），且音质高；
|
| 90 |
-
|
| 91 |
-
1min以下时长数据目前没见有人尝试（成功）过。不建议进行这种鬼畜行为。
|
| 92 |
-
|
| 93 |
-
|
| 94 |
-
## Q10:index rate干嘛用的，怎么调（科普）
|
| 95 |
-
如果底模和推理源的音质高于训练集的音质，他们可以带高推理结果的音质，但代价可能是音色往底模/推理源的音色靠，这种现象叫做"音色泄露"；
|
| 96 |
-
|
| 97 |
-
index rate用来削减/解决音色泄露问题。调到1，则理论上不存在推理源的音色泄露问题，但音质更倾向于训练集。如果训练集音质比推理源低，则index rate调高可能降低音质。调到0，则不具备利用检索混合来保护训练集音色的效果；
|
| 98 |
-
|
| 99 |
-
如果训练集优质时长多，可调高total_epoch，此时模型本身不太会引用推理源和底模的音色，很少存在"音色泄露"问题，此时index_rate不重要，你甚至可以不建立/分享index索引文件。
|
| 100 |
-
|
| 101 |
-
|
| 102 |
-
## Q11:推理怎么选gpu
|
| 103 |
-
config.py文件里device cuda:后面选择卡号；
|
| 104 |
-
|
| 105 |
-
卡号和显卡的映射关系，在��练选项卡的显卡信息栏里能看到。
|
| 106 |
-
|
| 107 |
-
|
| 108 |
-
## Q12:如何推理训练中间保存的pth
|
| 109 |
-
通过ckpt选项卡最下面提取小模型。
|
| 110 |
-
|
| 111 |
-
|
| 112 |
-
|
| 113 |
-
## Q13:如何中断和继续训练
|
| 114 |
-
现阶段只能关闭WebUI控制台双击go-web.bat重启程序。网页参数也要刷新重新填写；
|
| 115 |
-
|
| 116 |
-
继续训练：相同网页参数点训练模型，就会接着上次的checkpoint继续训练。
|
| 117 |
-
|
| 118 |
-
|
| 119 |
-
## Q14:训练时出现文件页面/内存error
|
| 120 |
-
进程开太多了，内存炸了。你可能可以通过如下方式解决
|
| 121 |
-
|
| 122 |
-
1、"提取音高和处理数据使用的CPU进程数" 酌情拉低；
|
| 123 |
-
|
| 124 |
-
2、训练集音频手工切一下，不要太长。
|
| 125 |
-
|
| 126 |
-
|
| 127 |
-
|
| 128 |
-
## Q15:如何中途加数据训练
|
| 129 |
-
1、所有数据新建一个实验名；
|
| 130 |
-
|
| 131 |
-
2、拷贝上一次的最新的那个G和D文件（或者你想基于哪个中间ckpt训练，也可以拷贝中间的）到新实验名；下
|
| 132 |
-
|
| 133 |
-
3、一键训练新实验名，他会继续上一次的最新进度训练。
|
| 134 |
-
|
| 135 |
-
|
| 136 |
-
## Q16: error about llvmlite.dll
|
| 137 |
-
|
| 138 |
-
OSError: Could not load shared object file: llvmlite.dll
|
| 139 |
-
|
| 140 |
-
FileNotFoundError: Could not find module lib\site-packages\llvmlite\binding\llvmlite.dll (or one of its dependencies). Try using the full path with constructor syntax.
|
| 141 |
-
|
| 142 |
-
win平台会报这个错，装上https://aka.ms/vs/17/release/vc_redist.x64.exe这个再重启WebUI就好了。
|
| 143 |
-
|
| 144 |
-
## Q17: RuntimeError: The expanded size of the tensor (17280) must match the existing size (0) at non-singleton dimension 1. Target sizes: [1, 17280]. Tensor sizes: [0]
|
| 145 |
-
|
| 146 |
-
wavs16k文件夹下，找到文件大小显著比其他都小的一些音频文件，删掉，点击训练模型，就不会报错了，不过由于一键流程中断了你训练完模型还要点训练索引。
|
| 147 |
-
|
| 148 |
-
## Q18: RuntimeError: The size of tensor a (24) must match the size of tensor b (16) at non-singleton dimension 2
|
| 149 |
-
|
| 150 |
-
不要中途变更采样率继续训练。如果一定要变更，应更换实验名从头训练。当然你也可以把上次提取的音高和特征（0/1/2/2b folders）拷贝过去加速训练流程。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/en/faiss_tips_en.md
DELETED
|
@@ -1,102 +0,0 @@
|
|
| 1 |
-
faiss tuning TIPS
|
| 2 |
-
==================
|
| 3 |
-
# about faiss
|
| 4 |
-
faiss is a library of neighborhood searches for dense vectors, developed by facebook research, which efficiently implements many approximate neighborhood search methods.
|
| 5 |
-
Approximate Neighbor Search finds similar vectors quickly while sacrificing some accuracy.
|
| 6 |
-
|
| 7 |
-
## faiss in RVC
|
| 8 |
-
In RVC, for the embedding of features converted by HuBERT, we search for embeddings similar to the embedding generated from the training data and mix them to achieve a conversion that is closer to the original speech. However, since this search takes time if performed naively, high-speed conversion is realized by using approximate neighborhood search.
|
| 9 |
-
|
| 10 |
-
# implementation overview
|
| 11 |
-
In '/logs/your-experiment/3_feature256' where the model is located, features extracted by HuBERT from each voice data are located.
|
| 12 |
-
From here we read the npy files in order sorted by filename and concatenate the vectors to create big_npy. (This vector has shape [N, 256].)
|
| 13 |
-
After saving big_npy as /logs/your-experiment/total_fea.npy, train it with faiss.
|
| 14 |
-
|
| 15 |
-
In this article, I will explain the meaning of these parameters.
|
| 16 |
-
|
| 17 |
-
# Explanation of the method
|
| 18 |
-
## index factory
|
| 19 |
-
An index factory is a unique faiss notation that expresses a pipeline that connects multiple approximate neighborhood search methods as a string.
|
| 20 |
-
This allows you to try various approximate neighborhood search methods simply by changing the index factory string.
|
| 21 |
-
In RVC it is used like this:
|
| 22 |
-
|
| 23 |
-
```python
|
| 24 |
-
index = faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 25 |
-
```
|
| 26 |
-
Among the arguments of index_factory, the first is the number of dimensions of the vector, the second is the index factory string, and the third is the distance to use.
|
| 27 |
-
|
| 28 |
-
For more detailed notation
|
| 29 |
-
https://github.com/facebookresearch/faiss/wiki/The-index-factory
|
| 30 |
-
|
| 31 |
-
## index for distance
|
| 32 |
-
There are two typical indexes used as similarity of embedding as follows.
|
| 33 |
-
|
| 34 |
-
- Euclidean distance (METRIC_L2)
|
| 35 |
-
- inner product (METRIC_INNER_PRODUCT)
|
| 36 |
-
|
| 37 |
-
Euclidean distance takes the squared difference in each dimension, sums the differences in all dimensions, and then takes the square root. This is the same as the distance in 2D and 3D that we use on a daily basis.
|
| 38 |
-
The inner product is not used as an index of similarity as it is, and the cosine similarity that takes the inner product after being normalized by the L2 norm is generally used.
|
| 39 |
-
|
| 40 |
-
Which is better depends on the case, but cosine similarity is often used in embedding obtained by word2vec and similar image retrieval models learned by ArcFace. If you want to do l2 normalization on vector X with numpy, you can do it with the following code with eps small enough to avoid 0 division.
|
| 41 |
-
|
| 42 |
-
```python
|
| 43 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 44 |
-
```
|
| 45 |
-
|
| 46 |
-
Also, for the index factory, you can change the distance index used for calculation by choosing the value to pass as the third argument.
|
| 47 |
-
|
| 48 |
-
```python
|
| 49 |
-
index = faiss.index_factory(dimention, text, faiss.METRIC_INNER_PRODUCT)
|
| 50 |
-
```
|
| 51 |
-
|
| 52 |
-
## IVF
|
| 53 |
-
IVF (Inverted file indexes) is an algorithm similar to the inverted index in full-text search.
|
| 54 |
-
During learning, the search target is clustered with kmeans, and Voronoi partitioning is performed using the cluster center. Each data point is assigned a cluster, so we create a dictionary that looks up the data points from the clusters.
|
| 55 |
-
|
| 56 |
-
For example, if clusters are assigned as follows
|
| 57 |
-
|index|Cluster|
|
| 58 |
-
|-----|-------|
|
| 59 |
-
|1|A|
|
| 60 |
-
|2|B|
|
| 61 |
-
|3|A|
|
| 62 |
-
|4|C|
|
| 63 |
-
|5|B|
|
| 64 |
-
|
| 65 |
-
The resulting inverted index looks like this:
|
| 66 |
-
|
| 67 |
-
|cluster|index|
|
| 68 |
-
|-------|-----|
|
| 69 |
-
|A|1, 3|
|
| 70 |
-
|B|2, 5|
|
| 71 |
-
|C|4|
|
| 72 |
-
|
| 73 |
-
When searching, we first search n_probe clusters from the clusters, and then calculate the distances for the data points belonging to each cluster.
|
| 74 |
-
|
| 75 |
-
# recommend parameter
|
| 76 |
-
There are official guidelines on how to choose an index, so I will explain accordingly.
|
| 77 |
-
https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index
|
| 78 |
-
|
| 79 |
-
For datasets below 1M, 4bit-PQ is the most efficient method available in faiss as of April 2023.
|
| 80 |
-
Combining this with IVF, narrowing down the candidates with 4bit-PQ, and finally recalculating the distance with an accurate index can be described by using the following index factory.
|
| 81 |
-
|
| 82 |
-
```python
|
| 83 |
-
index = faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 84 |
-
```
|
| 85 |
-
|
| 86 |
-
## Recommended parameters for IVF
|
| 87 |
-
Consider the case of too many IVFs. For example, if coarse quantization by IVF is performed for the number of data, this is the same as a naive exhaustive search and is inefficient.
|
| 88 |
-
For 1M or less, IVF values are recommended between 4*sqrt(N) ~ 16*sqrt(N) for N number of data points.
|
| 89 |
-
|
| 90 |
-
Since the calculation time increases in proportion to the number of n_probes, please consult with the accuracy and choose appropriately. Personally, I don't think RVC needs that much accuracy, so n_probe = 1 is fine.
|
| 91 |
-
|
| 92 |
-
## FastScan
|
| 93 |
-
FastScan is a method that enables high-speed approximation of distances by Cartesian product quantization by performing them in registers.
|
| 94 |
-
Cartesian product quantization performs clustering independently for each d dimension (usually d = 2) during learning, calculates the distance between clusters in advance, and creates a lookup table. At the time of prediction, the distance of each dimension can be calculated in O(1) by looking at the lookup table.
|
| 95 |
-
So the number you specify after PQ usually specifies half the dimension of the vector.
|
| 96 |
-
|
| 97 |
-
For a more detailed description of FastScan, please refer to the official documentation.
|
| 98 |
-
https://github.com/facebookresearch/faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 99 |
-
|
| 100 |
-
## RFlat
|
| 101 |
-
RFlat is an instruction to recalculate the rough distance calculated by FastScan with the exact distance specified by the third argument of index factory.
|
| 102 |
-
When getting k neighbors, k*k_factor points are recalculated.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/en/faq_en.md
DELETED
|
@@ -1,114 +0,0 @@
|
|
| 1 |
-
## Q1:Cannot find index file after "One-click Training".
|
| 2 |
-
If it displays "Training is done. The program is closed," then the model has been trained successfully, and the subsequent errors are fake;
|
| 3 |
-
|
| 4 |
-
The lack of an 'added' index file after One-click training may be due to the training set being too large, causing the addition of the index to get stuck; this has been resolved by using batch processing to add the index, which solves the problem of memory overload when adding the index. As a temporary solution, try clicking the "Train Index" button again.<br>
|
| 5 |
-
|
| 6 |
-
## Q2:Cannot find the model in “Inferencing timbre” after training
|
| 7 |
-
Click “Refresh timbre list” and check again; if still not visible, check if there are any errors during training and send screenshots of the console, web UI, and logs/experiment_name/*.log to the developers for further analysis.<br>
|
| 8 |
-
|
| 9 |
-
## Q3:How to share a model/How to use others' models?
|
| 10 |
-
The pth files stored in rvc_root/logs/experiment_name are not meant for sharing or inference, but for storing the experiment checkpoits for reproducibility and further training. The model to be shared should be the 60+MB pth file in the weights folder;
|
| 11 |
-
|
| 12 |
-
In the future, weights/exp_name.pth and logs/exp_name/added_xxx.index will be merged into a single weights/exp_name.zip file to eliminate the need for manual index input; so share the zip file, not the pth file, unless you want to continue training on a different machine;
|
| 13 |
-
|
| 14 |
-
Copying/sharing the several hundred MB pth files from the logs folder to the weights folder for forced inference may result in errors such as missing f0, tgt_sr, or other keys. You need to use the ckpt tab at the bottom to manually or automatically (if the information is found in the logs/exp_name), select whether to include pitch infomation and target audio sampling rate options and then extract the smaller model. After extraction, there will be a 60+ MB pth file in the weights folder, and you can refresh the voices to use it.<br>
|
| 15 |
-
|
| 16 |
-
## Q4:Connection Error.
|
| 17 |
-
You may have closed the console (black command line window).<br>
|
| 18 |
-
|
| 19 |
-
## Q5:WebUI popup 'Expecting value: line 1 column 1 (char 0)'.
|
| 20 |
-
Please disable system LAN proxy/global proxy and then refresh.<br>
|
| 21 |
-
|
| 22 |
-
## Q6:How to train and infer without the WebUI?
|
| 23 |
-
Training script:<br>
|
| 24 |
-
You can run training in WebUI first, and the command-line versions of dataset preprocessing and training will be displayed in the message window.<br>
|
| 25 |
-
|
| 26 |
-
Inference script:<br>
|
| 27 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py<br>
|
| 28 |
-
|
| 29 |
-
|
| 30 |
-
e.g.<br>
|
| 31 |
-
|
| 32 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True<br>
|
| 33 |
-
|
| 34 |
-
|
| 35 |
-
f0up_key=sys.argv[1]<br>
|
| 36 |
-
input_path=sys.argv[2]<br>
|
| 37 |
-
index_path=sys.argv[3]<br>
|
| 38 |
-
f0method=sys.argv[4]#harvest or pm<br>
|
| 39 |
-
opt_path=sys.argv[5]<br>
|
| 40 |
-
model_path=sys.argv[6]<br>
|
| 41 |
-
index_rate=float(sys.argv[7])<br>
|
| 42 |
-
device=sys.argv[8]<br>
|
| 43 |
-
is_half=bool(sys.argv[9])<br>
|
| 44 |
-
|
| 45 |
-
## Q7:Cuda error/Cuda out of memory.
|
| 46 |
-
There is a small chance that there is a problem with the CUDA configuration or the device is not supported; more likely, there is not enough memory (out of memory).<br>
|
| 47 |
-
|
| 48 |
-
For training, reduce the batch size (if reducing to 1 is still not enough, you may need to change the graphics card); for inference, adjust the x_pad, x_query, x_center, and x_max settings in the config.py file as needed. 4G or lower memory cards (e.g. 1060(3G) and various 2G cards) can be abandoned, while 4G memory cards still have a chance.<br>
|
| 49 |
-
|
| 50 |
-
## Q8:How many total_epoch are optimal?
|
| 51 |
-
If the training dataset's audio quality is poor and the noise floor is high, 20-30 epochs are sufficient. Setting it too high won't improve the audio quality of your low-quality training set.<br>
|
| 52 |
-
|
| 53 |
-
If the training set audio quality is high, the noise floor is low, and there is sufficient duration, you can increase it. 200 is acceptable (since training is fast, and if you're able to prepare a high-quality training set, your GPU likely can handle a longer training duration without issue).<br>
|
| 54 |
-
|
| 55 |
-
## Q9:How much training set duration is needed?
|
| 56 |
-
|
| 57 |
-
A dataset of around 10min to 50min is recommended.<br>
|
| 58 |
-
|
| 59 |
-
With guaranteed high sound quality and low bottom noise, more can be added if the dataset's timbre is uniform.<br>
|
| 60 |
-
|
| 61 |
-
For a high-level training set (lean + distinctive tone), 5min to 10min is fine.<br>
|
| 62 |
-
|
| 63 |
-
There are some people who have trained successfully with 1min to 2min data, but the success is not reproducible by others and is not very informative. <br>This requires that the training set has a very distinctive timbre (e.g. a high-frequency airy anime girl sound) and the quality of the audio is high;
|
| 64 |
-
Data of less than 1min duration has not been successfully attempted so far. This is not recommended.<br>
|
| 65 |
-
|
| 66 |
-
|
| 67 |
-
## Q10:What is the index rate for and how to adjust it?
|
| 68 |
-
If the tone quality of the pre-trained model and inference source is higher than that of the training set, they can bring up the tone quality of the inference result, but at the cost of a possible tone bias towards the tone of the underlying model/inference source rather than the tone of the training set, which is generally referred to as "tone leakage".<br>
|
| 69 |
-
|
| 70 |
-
The index rate is used to reduce/resolve the timbre leakage problem. If the index rate is set to 1, theoretically there is no timbre leakage from the inference source and the timbre quality is more biased towards the training set. If the training set has a lower sound quality than the inference source, then a higher index rate may reduce the sound quality. Turning it down to 0 does not have the effect of using retrieval blending to protect the training set tones.<br>
|
| 71 |
-
|
| 72 |
-
If the training set has good audio quality and long duration, turn up the total_epoch, when the model itself is less likely to refer to the inferred source and the pretrained underlying model, and there is little "tone leakage", the index_rate is not important and you can even not create/share the index file.<br>
|
| 73 |
-
|
| 74 |
-
## Q11:How to choose the gpu when inferring?
|
| 75 |
-
In the config.py file, select the card number after "device cuda:".<br>
|
| 76 |
-
|
| 77 |
-
The mapping between card number and graphics card can be seen in the graphics card information section of the training tab.<br>
|
| 78 |
-
|
| 79 |
-
## Q12:How to use the model saved in the middle of training?
|
| 80 |
-
Save via model extraction at the bottom of the ckpt processing tab.
|
| 81 |
-
|
| 82 |
-
## Q13:File/memory error(when training)?
|
| 83 |
-
Too many processes and your memory is not enough. You may fix it by:
|
| 84 |
-
|
| 85 |
-
1、decrease the input in field "Threads of CPU".
|
| 86 |
-
|
| 87 |
-
2、pre-cut trainset to shorter audio files.
|
| 88 |
-
|
| 89 |
-
## Q14: How to continue training using more data
|
| 90 |
-
|
| 91 |
-
step1: put all wav data to path2.
|
| 92 |
-
|
| 93 |
-
step2: exp_name2+path2 -> process dataset and extract feature.
|
| 94 |
-
|
| 95 |
-
step3: copy the latest G and D file of exp_name1 (your previous experiment) into exp_name2 folder.
|
| 96 |
-
|
| 97 |
-
step4: click "train the model", and it will continue training from the beginning of your previous exp model epoch.
|
| 98 |
-
|
| 99 |
-
## Q15: error about llvmlite.dll
|
| 100 |
-
|
| 101 |
-
OSError: Could not load shared object file: llvmlite.dll
|
| 102 |
-
|
| 103 |
-
FileNotFoundError: Could not find module lib\site-packages\llvmlite\binding\llvmlite.dll (or one of its dependencies). Try using the full path with constructor syntax.
|
| 104 |
-
|
| 105 |
-
The issue will happen in windows, install https://aka.ms/vs/17/release/vc_redist.x64.exe and it will be fixed.
|
| 106 |
-
|
| 107 |
-
## Q16: RuntimeError: The expanded size of the tensor (17280) must match the existing size (0) at non-singleton dimension 1. Target sizes: [1, 17280]. Tensor sizes: [0]
|
| 108 |
-
|
| 109 |
-
Delete the wav files whose size is significantly smaller than others, and that won't happen again. Than click "train the model"and "train the index".
|
| 110 |
-
|
| 111 |
-
## Q17: RuntimeError: The size of tensor a (24) must match the size of tensor b (16) at non-singleton dimension 2
|
| 112 |
-
|
| 113 |
-
Do not change the sampling rate and then continue training. If it is necessary to change, the exp name should be changed and the model will be trained from scratch. You can also copy the pitch and features (0/1/2/2b folders) extracted last time to accelerate the training process.
|
| 114 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/en/training_tips_en.md
DELETED
|
@@ -1,65 +0,0 @@
|
|
| 1 |
-
Instructions and tips for RVC training
|
| 2 |
-
======================================
|
| 3 |
-
This TIPS explains how data training is done.
|
| 4 |
-
|
| 5 |
-
# Training flow
|
| 6 |
-
I will explain along the steps in the training tab of the GUI.
|
| 7 |
-
|
| 8 |
-
## step1
|
| 9 |
-
Set the experiment name here.
|
| 10 |
-
|
| 11 |
-
You can also set here whether the model should take pitch into account.
|
| 12 |
-
If the model doesn't consider pitch, the model will be lighter, but not suitable for singing.
|
| 13 |
-
|
| 14 |
-
Data for each experiment is placed in `/logs/your-experiment-name/`.
|
| 15 |
-
|
| 16 |
-
## step2a
|
| 17 |
-
Loads and preprocesses audio.
|
| 18 |
-
|
| 19 |
-
### load audio
|
| 20 |
-
If you specify a folder with audio, the audio files in that folder will be read automatically.
|
| 21 |
-
For example, if you specify `C:Users\hoge\voices`, `C:Users\hoge\voices\voice.mp3` will be loaded, but `C:Users\hoge\voices\dir\voice.mp3` will Not loaded.
|
| 22 |
-
|
| 23 |
-
Since ffmpeg is used internally for reading audio, if the extension is supported by ffmpeg, it will be read automatically.
|
| 24 |
-
After converting to int16 with ffmpeg, convert to float32 and normalize between -1 to 1.
|
| 25 |
-
|
| 26 |
-
### denoising
|
| 27 |
-
The audio is smoothed by scipy's filtfilt.
|
| 28 |
-
|
| 29 |
-
### Audio Split
|
| 30 |
-
First, the input audio is divided by detecting parts of silence that last longer than a certain period (max_sil_kept=5 seconds?). After splitting the audio on silence, split the audio every 4 seconds with an overlap of 0.3 seconds. For audio separated within 4 seconds, after normalizing the volume, convert the wav file to `/logs/your-experiment-name/0_gt_wavs` and then convert it to 16k sampling rate to `/logs/your-experiment-name/1_16k_wavs ` as a wav file.
|
| 31 |
-
|
| 32 |
-
## step2b
|
| 33 |
-
### Extract pitch
|
| 34 |
-
Extract pitch information from wav files. Extract the pitch information (=f0) using the method built into parselmouth or pyworld and save it in `/logs/your-experiment-name/2a_f0`. Then logarithmically convert the pitch information to an integer between 1 and 255 and save it in `/logs/your-experiment-name/2b-f0nsf`.
|
| 35 |
-
|
| 36 |
-
### Extract feature_print
|
| 37 |
-
Convert the wav file to embedding in advance using HuBERT. Read the wav file saved in `/logs/your-experiment-name/1_16k_wavs`, convert the wav file to 256-dimensional features with HuBERT, and save in npy format in `/logs/your-experiment-name/3_feature256`.
|
| 38 |
-
|
| 39 |
-
## step3
|
| 40 |
-
train the model.
|
| 41 |
-
### Glossary for Beginners
|
| 42 |
-
In deep learning, the data set is divided and the learning proceeds little by little. In one model update (step), batch_size data are retrieved and predictions and error corrections are performed. Doing this once for a dataset counts as one epoch.
|
| 43 |
-
|
| 44 |
-
Therefore, the learning time is the learning time per step x (the number of data in the dataset / batch size) x the number of epochs. In general, the larger the batch size, the more stable the learning becomes (learning time per step ÷ batch size) becomes smaller, but it uses more GPU memory. GPU RAM can be checked with the nvidia-smi command. Learning can be done in a short time by increasing the batch size as much as possible according to the machine of the execution environment.
|
| 45 |
-
|
| 46 |
-
### Specify pretrained model
|
| 47 |
-
RVC starts training the model from pretrained weights instead of from 0, so it can be trained with a small dataset.
|
| 48 |
-
|
| 49 |
-
By default
|
| 50 |
-
|
| 51 |
-
- If you consider pitch, it loads `rvc-location/pretrained/f0G40k.pth` and `rvc-location/pretrained/f0D40k.pth`.
|
| 52 |
-
- If you don't consider pitch, it loads `rvc-location/pretrained/G40k.pth` and `rvc-location/pretrained/D40k.pth`.
|
| 53 |
-
|
| 54 |
-
When learning, model parameters are saved in `logs/your-experiment-name/G_{}.pth` and `logs/your-experiment-name/D_{}.pth` for each save_every_epoch, but by specifying this path, you can start learning. You can restart or start training from model weights learned in a different experiment.
|
| 55 |
-
|
| 56 |
-
### learning index
|
| 57 |
-
RVC saves the HuBERT feature values used during training, and during inference, searches for feature values that are similar to the feature values used during learning to perform inference. In order to perform this search at high speed, the index is learned in advance.
|
| 58 |
-
For index learning, we use the approximate neighborhood search library faiss. Read the feature value of `logs/your-experiment-name/3_feature256` and use it to learn the index, and save it as `logs/your-experiment-name/add_XXX.index`.
|
| 59 |
-
|
| 60 |
-
(From the 20230428update version, it is read from the index, and saving / specifying is no longer necessary.)
|
| 61 |
-
|
| 62 |
-
### Button description
|
| 63 |
-
- Train model: After executing step2b, press this button to train the model.
|
| 64 |
-
- Train feature index: After training the model, perform index learning.
|
| 65 |
-
- One-click training: step2b, model training and feature index training all at once.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/fr/README.fr.md
DELETED
|
@@ -1,166 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
Un framework simple et facile à utiliser pour la conversion vocale (modificateur de voix) basé sur VITS
|
| 5 |
-
|
| 6 |
-
|
| 7 |
-
|
| 8 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 14 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 15 |
-
|
| 16 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 17 |
-
|
| 18 |
-
[**FAQ**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98%E8%A7%A3%E7%AD%94) | [**AutoDL·Formation d'un chanteur AI pour 5 centimes**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/Autodl%E8%AE%AD%E7%BB%83RVC%C2%B7AI%E6%AD%8C%E6%89%8B%E6%95%99%E7%A8%8B) | [**Enregistrement des expériences comparatives**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%AF%B9%E7%85%A7%E5%AE%9E%E9%AA%8C%C2%B7%E5%AE%9E%E9%AA%8C%E8%AE%B0%E5%BD%95) | [**Démonstration en ligne**](https://huggingface.co/spaces/Ricecake123/RVC-demo)
|
| 19 |
-
|
| 20 |
-
</div>
|
| 21 |
-
|
| 22 |
-
------
|
| 23 |
-
|
| 24 |
-
[**English**](../en/README.en.md) | [ **中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Turc**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 25 |
-
|
| 26 |
-
Cliquez ici pour voir notre [vidéo de démonstration](https://www.bilibili.com/video/BV1pm4y1z7Gm/) !
|
| 27 |
-
|
| 28 |
-
> Conversion vocale en temps réel avec RVC : [w-okada/voice-changer](https://github.com/w-okada/voice-changer)
|
| 29 |
-
|
| 30 |
-
> Le modèle de base est formé avec près de 50 heures de données VCTK de haute qualité et open source. Aucun souci concernant les droits d'auteur, n'hésitez pas à l'utiliser.
|
| 31 |
-
|
| 32 |
-
> Attendez-vous au modèle de base RVCv3 : plus de paramètres, plus de données, de meilleurs résultats, une vitesse d'inférence presque identique, et nécessite moins de données pour la formation.
|
| 33 |
-
|
| 34 |
-
## Introduction
|
| 35 |
-
Ce dépôt a les caractéristiques suivantes :
|
| 36 |
-
+ Utilise le top1 pour remplacer les caractéristiques de la source d'entrée par les caractéristiques de l'ensemble d'entraînement pour éliminer les fuites de timbre vocal.
|
| 37 |
-
+ Peut être formé rapidement même sur une carte graphique relativement moins performante.
|
| 38 |
-
+ Obtient de bons résultats même avec peu de données pour la formation (il est recommandé de collecter au moins 10 minutes de données vocales avec un faible bruit de fond).
|
| 39 |
-
+ Peut changer le timbre vocal en fusionnant des modèles (avec l'aide de l'onglet ckpt-merge).
|
| 40 |
-
+ Interface web simple et facile à utiliser.
|
| 41 |
-
+ Peut appeler le modèle UVR5 pour séparer rapidement la voix et l'accompagnement.
|
| 42 |
-
+ Utilise l'algorithme de pitch vocal le plus avancé [InterSpeech2023-RMVPE](#projets-référencés) pour éliminer les problèmes de voix muette. Meilleurs résultats, plus rapide que crepe_full, et moins gourmand en ressources.
|
| 43 |
-
+ Support d'accélération pour les cartes AMD et Intel.
|
| 44 |
-
|
| 45 |
-
## Configuration de l'environnement
|
| 46 |
-
Exécutez les commandes suivantes dans un environnement Python de version 3.8 ou supérieure.
|
| 47 |
-
|
| 48 |
-
(Windows/Linux)
|
| 49 |
-
Installez d'abord les dépendances principales via pip :
|
| 50 |
-
```bash
|
| 51 |
-
# Installez Pytorch et ses dépendances essentielles, sautez si déjà installé.
|
| 52 |
-
# Voir : https://pytorch.org/get-started/locally/
|
| 53 |
-
pip install torch torchvision torchaudio
|
| 54 |
-
|
| 55 |
-
# Pour les utilisateurs de Windows avec une architecture Nvidia Ampere (RTX30xx), en se basant sur l'expérience #21, spécifiez la version CUDA correspondante pour Pytorch.
|
| 56 |
-
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 57 |
-
|
| 58 |
-
# Pour Linux + carte AMD, utilisez cette version de Pytorch:
|
| 59 |
-
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm5.4.2
|
| 60 |
-
```
|
| 61 |
-
|
| 62 |
-
Vous pouvez utiliser poetry pour installer les dépendances :
|
| 63 |
-
```bash
|
| 64 |
-
# Installez l'outil de gestion des dépendances Poetry, sautez si déjà installé.
|
| 65 |
-
# Voir : https://python-poetry.org/docs/#installation
|
| 66 |
-
curl -sSL https://install.python-poetry.org | python3 -
|
| 67 |
-
|
| 68 |
-
# Installez les dépendances avec poetry.
|
| 69 |
-
poetry install
|
| 70 |
-
```
|
| 71 |
-
|
| 72 |
-
Ou vous pouvez utiliser pip pour installer les dépendances :
|
| 73 |
-
```bash
|
| 74 |
-
# Cartes Nvidia :
|
| 75 |
-
pip install -r requirements/main.txt
|
| 76 |
-
|
| 77 |
-
# Cartes AMD/Intel :
|
| 78 |
-
pip install -r requirements/dml.txt
|
| 79 |
-
|
| 80 |
-
# Cartes Intel avec IPEX
|
| 81 |
-
pip install -r requirements/ipex.txt
|
| 82 |
-
|
| 83 |
-
# Cartes AMD sur Linux (ROCm)
|
| 84 |
-
pip install -r requirements/amd.txt
|
| 85 |
-
```
|
| 86 |
-
|
| 87 |
-
------
|
| 88 |
-
Les utilisateurs de Mac peuvent exécuter `run.sh` pour installer les dépendances :
|
| 89 |
-
```bash
|
| 90 |
-
sh ./run.sh
|
| 91 |
-
```
|
| 92 |
-
|
| 93 |
-
## Préparation d'autres modèles pré-entraînés
|
| 94 |
-
RVC nécessite d'autres modèles pré-entraînés pour l'inférence et la formation.
|
| 95 |
-
|
| 96 |
-
```bash
|
| 97 |
-
#Télécharger tous les modèles depuis https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/
|
| 98 |
-
python tools/download_models.py
|
| 99 |
-
```
|
| 100 |
-
|
| 101 |
-
Ou vous pouvez télécharger ces modèles depuis notre [espace Hugging Face](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/).
|
| 102 |
-
|
| 103 |
-
Voici une liste des modèles et autres fichiers requis par RVC :
|
| 104 |
-
```bash
|
| 105 |
-
./assets/hubert/hubert_base.pt
|
| 106 |
-
|
| 107 |
-
./assets/pretrained
|
| 108 |
-
|
| 109 |
-
./assets/uvr5_weights
|
| 110 |
-
|
| 111 |
-
# Pour tester la version v2 du modèle, téléchargez également :
|
| 112 |
-
|
| 113 |
-
./assets/pretrained_v2
|
| 114 |
-
|
| 115 |
-
# Si vous souhaitez utiliser le dernier algorithme RMVPE de pitch vocal, téléchargez les paramètres du modèle de pitch et placez-les dans le répertoire racine de RVC.
|
| 116 |
-
|
| 117 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt
|
| 118 |
-
|
| 119 |
-
# Les utilisateurs de cartes AMD/Intel nécessitant l'environnement DML doivent télécharger :
|
| 120 |
-
|
| 121 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx
|
| 122 |
-
|
| 123 |
-
```
|
| 124 |
-
Pour les utilisateurs d'Intel ARC avec IPEX, exécutez d'abord `source /opt/intel/oneapi/setvars.sh`.
|
| 125 |
-
Ensuite, exécutez la commande suivante pour démarrer WebUI :
|
| 126 |
-
```bash
|
| 127 |
-
python web.py
|
| 128 |
-
```
|
| 129 |
-
|
| 130 |
-
Si vous utilisez Windows ou macOS, vous pouvez télécharger et extraire `RVC-beta.7z`. Les utilisateurs de Windows peuvent exécuter `go-web.bat` pour démarrer WebUI, tandis que les utilisateurs de macOS peuvent exécuter `sh ./run.sh`.
|
| 131 |
-
|
| 132 |
-
## Compatibilité ROCm pour les cartes AMD (seulement Linux)
|
| 133 |
-
Installez tous les pilotes décrits [ici](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html).
|
| 134 |
-
|
| 135 |
-
Sur Arch utilisez pacman pour installer le pilote:
|
| 136 |
-
````
|
| 137 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 138 |
-
````
|
| 139 |
-
|
| 140 |
-
Vous devrez peut-être créer ces variables d'environnement (par exemple avec RX6700XT):
|
| 141 |
-
````
|
| 142 |
-
export ROCM_PATH=/opt/rocm
|
| 143 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 144 |
-
````
|
| 145 |
-
Assurez-vous que votre utilisateur est dans les groupes `render` et `video`:
|
| 146 |
-
````
|
| 147 |
-
sudo usermod -aG render $USERNAME
|
| 148 |
-
sudo usermod -aG video $USERNAME
|
| 149 |
-
````
|
| 150 |
-
Enfin vous pouvez exécuter WebUI:
|
| 151 |
-
```bash
|
| 152 |
-
python web.py
|
| 153 |
-
```
|
| 154 |
-
|
| 155 |
-
## Crédits
|
| 156 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 157 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 158 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 159 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 160 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 161 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 162 |
-
+ [Extraction de la hauteur vocale : RMVPE](https://github.com/Dream-High/RMVPE)
|
| 163 |
-
+ Le modèle pré-entraîné a été formé et testé par [yxlllc](https://github.com/yxlllc/RMVPE) et [RVC-Boss](https://github.com/RVC-Boss).
|
| 164 |
-
|
| 165 |
-
## Remerciements à tous les contributeurs pour leurs efforts
|
| 166 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/fr/faiss_tips_fr.md
DELETED
|
@@ -1,105 +0,0 @@
|
|
| 1 |
-
Conseils de réglage pour faiss
|
| 2 |
-
==================
|
| 3 |
-
# À propos de faiss
|
| 4 |
-
faiss est une bibliothèque de recherches de voisins pour les vecteurs denses, développée par Facebook Research, qui implémente efficacement de nombreuses méthodes de recherche de voisins approximatifs.
|
| 5 |
-
La recherche de voisins approximatifs trouve rapidement des vecteurs similaires tout en sacrifiant une certaine précision.
|
| 6 |
-
|
| 7 |
-
## faiss dans RVC
|
| 8 |
-
Dans RVC, pour l'incorporation des caractéristiques converties par HuBERT, nous recherchons des incorporations similaires à l'incorporation générée à partir des données d'entraînement et les mixons pour obtenir une conversion plus proche de la parole originale. Cependant, cette recherche serait longue si elle était effectuée de manière naïve, donc une conversion à haute vitesse est réalisée en utilisant une recherche de voisinage approximatif.
|
| 9 |
-
|
| 10 |
-
# Vue d'ensemble de la mise en œuvre
|
| 11 |
-
Dans '/logs/votre-expérience/3_feature256' où le modèle est situé, les caractéristiques extraites par HuBERT de chaque donnée vocale sont situées.
|
| 12 |
-
À partir de là, nous lisons les fichiers npy dans un ordre trié par nom de fichier et concaténons les vecteurs pour créer big_npy. (Ce vecteur a la forme [N, 256].)
|
| 13 |
-
Après avoir sauvegardé big_npy comme /logs/votre-expérience/total_fea.npy, nous l'entraînons avec faiss.
|
| 14 |
-
|
| 15 |
-
Dans cet article, j'expliquerai la signification de ces paramètres.
|
| 16 |
-
|
| 17 |
-
# Explication de la méthode
|
| 18 |
-
## Usine d'index
|
| 19 |
-
Une usine d'index est une notation unique de faiss qui exprime un pipeline qui relie plusieurs méthodes de recherche de voisinage approximatif sous forme de chaîne.
|
| 20 |
-
Cela vous permet d'essayer diverses méthodes de recherche de voisinage approximatif simplement en changeant la chaîne de l'usine d'index.
|
| 21 |
-
Dans RVC, elle est utilisée comme ceci :
|
| 22 |
-
|
| 23 |
-
```python
|
| 24 |
-
index = faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 25 |
-
```
|
| 26 |
-
|
| 27 |
-
Parmi les arguments de index_factory, le premier est le nombre de dimensions du vecteur, le second est la chaîne de l'usine d'index, et le troisième est la distance à utiliser.
|
| 28 |
-
|
| 29 |
-
Pour une notation plus détaillée :
|
| 30 |
-
https://github.com/facebookresearch/faiss/wiki/The-index-factory
|
| 31 |
-
|
| 32 |
-
## Index pour la distance
|
| 33 |
-
Il existe deux index typiques utilisés comme similarité de l'incorporation comme suit :
|
| 34 |
-
|
| 35 |
-
- Distance euclidienne (METRIC_L2)
|
| 36 |
-
- Produit intérieur (METRIC_INNER_PRODUCT)
|
| 37 |
-
|
| 38 |
-
La distance euclidienne prend la différence au carré dans chaque dimension, somme les différences dans toutes les dimensions, puis prend la racine carrée. C'est la même chose que la distance en 2D et 3D que nous utilisons au quotidien.
|
| 39 |
-
Le produit intérieur n'est pas utilisé comme index de similarité tel quel, et la similarité cosinus qui prend le produit intérieur après avoir été normalisé par la norme L2 est généralement utilisée.
|
| 40 |
-
|
| 41 |
-
Lequel est le mieux dépend du cas, mais la similarité cosinus est souvent utilisée dans l'incorporation obtenue par word2vec et des modèles de récupération d'images similaires appris par ArcFace. Si vous voulez faire une normalisation l2 sur le vecteur X avec numpy, vous pouvez le faire avec le code suivant avec eps suffisamment petit pour éviter une division par 0.
|
| 42 |
-
|
| 43 |
-
```python
|
| 44 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 45 |
-
```
|
| 46 |
-
|
| 47 |
-
De plus, pour l'usine d'index, vous pouvez changer l'index de distance utilisé pour le calcul en choisissant la valeur à passer comme troisième argument.
|
| 48 |
-
|
| 49 |
-
```python
|
| 50 |
-
index = faiss.index_factory(dimention, texte, faiss.METRIC_INNER_PRODUCT)
|
| 51 |
-
```
|
| 52 |
-
|
| 53 |
-
## IVF
|
| 54 |
-
IVF (Inverted file indexes) est un algorithme similaire à l'index inversé dans la recherche en texte intégral.
|
| 55 |
-
Lors de l'apprentissage, la cible de recherche est regroupée avec kmeans, et une partition de Voronoi est effectuée en utilisant le centre du cluster. Chaque point de données est attribué à un cluster, nous créons donc un dictionnaire qui permet de rechercher les points de données à partir des clusters.
|
| 56 |
-
|
| 57 |
-
Par exemple, si des clusters sont attribués comme suit :
|
| 58 |
-
|index|Cluster|
|
| 59 |
-
|-----|-------|
|
| 60 |
-
|1|A|
|
| 61 |
-
|2|B|
|
| 62 |
-
|3|A|
|
| 63 |
-
|4|C|
|
| 64 |
-
|5|B|
|
| 65 |
-
|
| 66 |
-
L'index inversé résultant ressemble à ceci :
|
| 67 |
-
|
| 68 |
-
|cluster|index|
|
| 69 |
-
|-------|-----|
|
| 70 |
-
|A|1, 3|
|
| 71 |
-
|B|2, 5|
|
| 72 |
-
|C|4|
|
| 73 |
-
|
| 74 |
-
Lors de la recherche, nous recherchons d'abord n_probe clusters parmi les clusters, puis nous calculons les distances pour les points de données appartenant à chaque cluster.
|
| 75 |
-
|
| 76 |
-
# Recommandation de paramètre
|
| 77 |
-
Il existe des directives officielles sur la façon de choisir un index, je vais donc expliquer en conséquence.
|
| 78 |
-
https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index
|
| 79 |
-
|
| 80 |
-
Pour les ensembles de données inférieurs à 1M, 4bit-PQ est la méthode la plus efficace disponible dans faiss en avril 2023.
|
| 81 |
-
En combinant cela avec IVF, en réduisant les candidats avec 4bit-PQ, et enfin en recalculant la distance avec un index précis, on peut le décrire en utilisant l'usine d'index suivante.
|
| 82 |
-
|
| 83 |
-
```python
|
| 84 |
-
index = faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 85 |
-
```
|
| 86 |
-
|
| 87 |
-
## Paramètres recommandés pour IVF
|
| 88 |
-
Considérez le cas de trop d'IVF. Par exemple, si une quantification grossière par IVF est effectuée pour le nombre de données, cela revient à une recherche exhaustive naïve et est inefficace.
|
| 89 |
-
Pour 1M ou moins, les valeurs IVF sont recommandées entre 4*sqrt(N) ~ 16*sqrt(N) pour N nombre de points de données.
|
| 90 |
-
|
| 91 |
-
Comme le temps de calcul augmente proportionnellement au nombre de n_probes, veuillez consulter la précision et choisir de manière appropriée. Personnellement, je ne pense pas que RVC ait besoin de tant de précision, donc n_probe = 1 est bien.
|
| 92 |
-
|
| 93 |
-
## FastScan
|
| 94 |
-
FastScan est une méthode qui permet d'approximer rapidement les distances par quantification de produit cartésien en les effectuant dans les registres.
|
| 95 |
-
La quantification du produit cartésien effectue un regroupement indépendamment
|
| 96 |
-
|
| 97 |
-
pour chaque dimension d (généralement d = 2) pendant l'apprentissage, calcule la distance entre les clusters à l'avance, et crée une table de recherche. Au moment de la prédiction, la distance de chaque dimension peut être calculée en O(1) en consultant la table de recherche.
|
| 98 |
-
Le nombre que vous spécifiez après PQ spécifie généralement la moitié de la dimension du vecteur.
|
| 99 |
-
|
| 100 |
-
Pour une description plus détaillée de FastScan, veuillez consulter la documentation officielle.
|
| 101 |
-
https://github.com/facebookresearch/faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 102 |
-
|
| 103 |
-
## RFlat
|
| 104 |
-
RFlat est une instruction pour recalculer la distance approximative calculée par FastScan avec la distance exacte spécifiée par le troisième argument de l'usine d'index.
|
| 105 |
-
Lors de l'obtention de k voisins, k*k_factor points sont recalculés.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/fr/faq_fr.md
DELETED
|
@@ -1,164 +0,0 @@
|
|
| 1 |
-
## Q1: Impossible de trouver le fichier index après "Entraînement en un clic".
|
| 2 |
-
Si l'affichage indique "L'entraînement est terminé. Le programme est fermé", alors le modèle a été formé avec succès, et les erreurs subséquentes sont fausses ;
|
| 3 |
-
|
| 4 |
-
L'absence d'un fichier index 'ajouté' après un entraînement en un clic peut être due au fait que le jeu d'entraînement est trop grand, ce qui bloque l'ajout de l'index ; cela a été résolu en utilisant un traitement par lots pour ajouter l'index, ce qui résout le problème de surcharge de mémoire lors de l'ajout de l'index. Comme solution temporaire, essayez de cliquer à nouveau sur le bouton "Entraîner l'index".<br>
|
| 5 |
-
|
| 6 |
-
## Q2: Impossible de trouver le modèle dans “Inférence du timbre” après l'entraînement
|
| 7 |
-
Cliquez sur “Actualiser la liste des timbres” et vérifiez à nouveau ; si vous ne le voyez toujours pas, vérifiez s'il y a des erreurs pendant l'entraînement et envoyez des captures d'écran de la console, de l'interface utilisateur web, et des logs/nom_de_l'expérience/*.log aux développeurs pour une analyse plus approfondie.<br>
|
| 8 |
-
|
| 9 |
-
## Q3: Comment partager un modèle/Comment utiliser les modèles d'autres personnes ?
|
| 10 |
-
Les fichiers pth stockés dans rvc_root/logs/nom_de_l'expérience ne sont pas destinés à être partagés ou inférés, mais à stocker les points de contrôle de l'expérience pour la reproductibilité et l'entraînement ultérieur. Le modèle à partager doit être le fichier pth de 60+MB dans le dossier des poids ;
|
| 11 |
-
|
| 12 |
-
À l'avenir, les poids/nom_de_l'expérience.pth et les logs/nom_de_l'expérience/ajouté_xxx.index seront fusionnés en un seul fichier poids/nom_de_l'expérience.zip pour éliminer le besoin d'une entrée d'index manuelle ; partagez donc le fichier zip, et non le fichier pth, sauf si vous souhaitez continuer l'entraînement sur une machine différente ;
|
| 13 |
-
|
| 14 |
-
Copier/partager les fichiers pth de plusieurs centaines de Mo du dossier des logs au dossier des poids pour une inférence forcée peut entraîner des erreurs telles que des f0, tgt_sr, ou d'autres clés manquantes. Vous devez utiliser l'onglet ckpt en bas pour sélectionner manuellement ou automatiquement (si l'information se trouve dans les logs/nom_de_l'expérience), si vous souhaitez inclure les informations sur la hauteur et les options de taux d'échantillonnage audio cible, puis extraire le modèle plus petit. Après extraction, il y aura un fichier pth de 60+ MB dans le dossier des poids, et vous pouvez actualiser les voix pour l'utiliser.<br>
|
| 15 |
-
|
| 16 |
-
## Q4: Erreur de connexion.
|
| 17 |
-
Il se peut que vous ayez fermé la console (fenêtre de ligne de commande noire).<br>
|
| 18 |
-
|
| 19 |
-
## Q5: WebUI affiche 'Expecting value: line 1 column 1 (char 0)'.
|
| 20 |
-
Veuillez désactiver le proxy système LAN/proxy global puis rafraîchir.<br>
|
| 21 |
-
|
| 22 |
-
## Q6: Comment s'entraîner et déduire sans le WebUI ?
|
| 23 |
-
Script d'entraînement :<br>
|
| 24 |
-
Vous pouvez d'abord lancer l'entraînement dans WebUI, et les versions en ligne de commande de la préparation du jeu de données et de l'entraînement seront affichées dans la fenêtre de message.<br>
|
| 25 |
-
|
| 26 |
-
Script d'inférence :<br>
|
| 27 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py<br>
|
| 28 |
-
|
| 29 |
-
Par exemple :<br>
|
| 30 |
-
|
| 31 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" récolte "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True<br>
|
| 32 |
-
|
| 33 |
-
f0up_key=sys.argv[1]<br>
|
| 34 |
-
input_path=sys.argv[2]<br>
|
| 35 |
-
index_path=sys.argv[3]<br>
|
| 36 |
-
f0method=sys.argv[4]#récolte ou pm<br>
|
| 37 |
-
opt_path=sys.argv[5]<br>
|
| 38 |
-
model_path=sys.argv[6]<br>
|
| 39 |
-
index_rate=float(sys.argv[7])<br>
|
| 40 |
-
device=sys.argv[8]<br>
|
| 41 |
-
is_half=bool(sys.argv[9])<br>
|
| 42 |
-
|
| 43 |
-
### Explication des arguments :
|
| 44 |
-
|
| 45 |
-
1. **Numéro de voix cible** : `0` (dans cet exemple)
|
| 46 |
-
2. **Chemin du fichier audio d'entrée** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\vocal.wav"`
|
| 47 |
-
3. **Chemin du fichier index** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\logs\Hagrid.index"`
|
| 48 |
-
4. **Méthode pour l'extraction du pitch (F0)** : `harvest` (dans cet exemple)
|
| 49 |
-
5. **Chemin de sortie pour le fichier audio traité** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\test.wav"`
|
| 50 |
-
6. **Chemin du modèle** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\weights\HagridFR.pth"`
|
| 51 |
-
7. **Taux d'index** : `0.6` (dans cet exemple)
|
| 52 |
-
8. **Périphérique pour l'exécution (GPU/CPU)** : `cuda:0` pour une carte NVIDIA, par exemple.
|
| 53 |
-
9. **Protection des droits d'auteur (True/False)**.
|
| 54 |
-
|
| 55 |
-
<!-- Pour myinfer nouveau models :
|
| 56 |
-
|
| 57 |
-
runtime\python.exe myinfer.py 0 "C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\vocal.wav" "C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\logs\Hagrid.index" harvest "C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\test.wav" "C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\weights\HagridFR.pth" 0.6 cuda:0 True 5 44100 44100 1.0 1.0 True
|
| 58 |
-
|
| 59 |
-
|
| 60 |
-
f0up_key=sys.argv[1]
|
| 61 |
-
input_path = sys.argv[2]
|
| 62 |
-
index_path = sys.argv[3]
|
| 63 |
-
f0method = sys.argv[4]
|
| 64 |
-
opt_path = sys.argv[5]
|
| 65 |
-
model_path = sys.argv[6]
|
| 66 |
-
index_rate = float(sys.argv[7])
|
| 67 |
-
device = sys.argv[8]
|
| 68 |
-
is_half = bool(sys.argv[9])
|
| 69 |
-
filter_radius = int(sys.argv[10])
|
| 70 |
-
tgt_sr = int(sys.argv[11])
|
| 71 |
-
resample_sr = int(sys.argv[12])
|
| 72 |
-
rms_mix_rate = float(sys.argv[13])
|
| 73 |
-
version = sys.argv[14]
|
| 74 |
-
protect = sys.argv[15].lower() == 'false' # change for true if needed
|
| 75 |
-
|
| 76 |
-
### Explication des arguments :
|
| 77 |
-
|
| 78 |
-
1. **Numéro de voix cible** : `0` (dans cet exemple)
|
| 79 |
-
2. **Chemin du fichier audio d'entrée** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\vocal.wav"`
|
| 80 |
-
3. **Chemin du fichier index** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\logs\Hagrid.index"`
|
| 81 |
-
4. **Méthode pour l'extraction du pitch (F0)** : `harvest` (dans cet exemple)
|
| 82 |
-
5. **Chemin de sortie pour le fichier audio traité** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\INPUTS_VOCAL\test.wav"`
|
| 83 |
-
6. **Chemin du modèle** : `"C:\ YOUR PATH FOR THE ROOT (RVC0813Nvidia)\weights\HagridFR.pth"`
|
| 84 |
-
7. **Taux d'index** : `0.6` (dans cet exemple)
|
| 85 |
-
8. **Périphérique pour l'exécution (GPU/CPU)** : `cuda:0` pour une carte NVIDIA, par exemple.
|
| 86 |
-
9. **Protection des droits d'auteur (True/False)**.
|
| 87 |
-
10. **Rayon du filtre** : `5` (dans cet exemple)
|
| 88 |
-
11. **Taux d'échantillonnage cible** : `44100` (dans cet exemple)
|
| 89 |
-
12. **Taux d'échantillonnage pour le rééchantillonnage** : `44100` (dans cet exemple)
|
| 90 |
-
13. **Taux de mixage RMS** : `1.0` (dans cet exemple)
|
| 91 |
-
14. **Version** : `1.0` (dans cet exemple)
|
| 92 |
-
15. **Protection** : `True` (dans cet exemple)
|
| 93 |
-
|
| 94 |
-
Assurez-vous de remplacer les chemins par ceux correspondant à votre configuration et d'ajuster les autres paramètres selon vos besoins.
|
| 95 |
-
-->
|
| 96 |
-
|
| 97 |
-
## Q7: Erreur Cuda/Mémoire Cuda épuisée.
|
| 98 |
-
Il y a une faible chance qu'il y ait un problème avec la configuration CUDA ou que le dispositif ne soit pas pris en charge ; plus probablement, il n'y a pas assez de mémoire (manque de mémoire).<br>
|
| 99 |
-
|
| 100 |
-
Pour l'entraînement, réduisez la taille du lot (si la réduction à 1 n'est toujours pas suffisante, vous devrez peut-être changer la carte graphique) ; pour l'inférence, ajustez les paramètres x_pad, x_query, x_center, et x_max dans le fichier config.py selon les besoins. Les cartes mémoire de 4 Go ou moins (par exemple 1060(3G) et diverses cartes de 2 Go) peuvent être abandonnées, tandis que les cartes mémoire de 4 Go ont encore une chance.<br>
|
| 101 |
-
|
| 102 |
-
## Q8: Combien de total_epoch sont optimaux ?
|
| 103 |
-
Si la qualité audio du jeu d'entraînement est médiocre et que le niveau de bruit est élevé, 20-30 époques sont suffisantes. Le fixer trop haut n'améliorera pas la qualité audio de votre jeu d'entraînement de faible qualité.<br>
|
| 104 |
-
|
| 105 |
-
Si la qualité audio du jeu d'entraînement est élevée, le niveau de bruit est faible, et la durée est suffisante, vous pouvez l'augmenter. 200 est acceptable (puisque l'entraînement est rapide, et si vous êtes capable de préparer un jeu d'entraînement de haute qualité, votre GPU peut probablement gérer une durée d'entraînement plus longue sans problème).<br>
|
| 106 |
-
|
| 107 |
-
## Q9: Quelle durée de jeu d'entraînement est nécessaire ?
|
| 108 |
-
Un jeu d'environ 10 min à 50 min est recommandé.<br>
|
| 109 |
-
|
| 110 |
-
Avec une garantie de haute qualité sonore et de faible bruit de fond, plus peut être ajouté si le timbre du jeu est uniforme.<br>
|
| 111 |
-
|
| 112 |
-
Pour un jeu d'entraînement de haut niveau (ton maigre + ton distinctif), 5 min à 10 min sont suffisantes.<br>
|
| 113 |
-
|
| 114 |
-
Il y a des personnes qui ont réussi à s'entraîner avec des données de 1 min à 2 min, mais le succès n'est pas reproductible par d'autres et n'est pas très informatif. <br>Cela nécessite que le jeu d'entraînement ait un timbre très distinctif (par exemple, un son de fille d'anime aérien à haute fréquence) et que la qualité de l'audio soit élevée ;
|
| 115 |
-
Aucune tentative réussie n'a été faite jusqu'à présent avec des données de moins de 1 min. Cela n'est pas recommandé.<br>
|
| 116 |
-
|
| 117 |
-
## Q10: À quoi sert le taux d'index et comment l'ajuster ?
|
| 118 |
-
Si la qualité tonale du modèle pré-entraîné et de la source d'inférence est supérieure à celle du jeu d'entraînement, ils peuvent améliorer la qualité tonale du résultat d'inférence, mais au prix d'un possible biais tonal vers le ton du modèle sous-jacent/source d'inférence plutôt que le ton du jeu d'entraînement, ce qui est généralement appelé "fuite de ton".<br>
|
| 119 |
-
|
| 120 |
-
Le taux d'index est utilisé pour réduire/résoudre le problème de la fuite de timbre. Si le taux d'index est fixé à 1, théoriquement il n'y a pas de fuite de timbre de la source d'inférence et la qualité du timbre est plus biaisée vers le jeu d'entraînement. Si le jeu d'entraînement a une qualité sonore inférieure à celle de la source d'inférence, alors un taux d'index plus élevé peut réduire la qualité sonore. Le réduire à 0 n'a pas l'effet d'utiliser le mélange de récupération pour protéger les tons du jeu d'entraînement.<br>
|
| 121 |
-
|
| 122 |
-
Si le jeu d'entraînement a une bonne qualité audio et une longue durée, augmentez le total_epoch, lorsque le modèle lui-même est moins susceptible de se référer à la source déduite et au modèle sous-jacent pré-entraîné, et qu'il y a peu de "fuite de ton", le taux d'index n'est pas important et vous pouvez même ne pas créer/partager le fichier index.<br>
|
| 123 |
-
|
| 124 |
-
## Q11: Comment choisir le gpu lors de l'inférence ?
|
| 125 |
-
Dans le fichier config.py, sélectionnez le numéro de carte après "device cuda:".<br>
|
| 126 |
-
|
| 127 |
-
La correspondance entre le numéro de carte et la carte graphique peut être vue dans la section d'information de la carte graphique de l'onglet d'entraînement.<br>
|
| 128 |
-
|
| 129 |
-
## Q12: Comment utiliser le modèle sauvegardé au milieu de l'entraînement ?
|
| 130 |
-
Sauvegardez via l'extraction de modèle en bas de l'onglet de traitement ckpt.
|
| 131 |
-
|
| 132 |
-
## Q13: Erreur de fichier/erreur de mémoire (lors de l'entraînement) ?
|
| 133 |
-
Il y a trop de processus et votre mémoire n'est pas suffisante. Vous pouvez le corriger en :
|
| 134 |
-
|
| 135 |
-
1. Diminuer l'entrée dans le champ "Threads of CPU".
|
| 136 |
-
|
| 137 |
-
2. Pré-découper le jeu d'entraînement en fichiers audio plus courts.
|
| 138 |
-
|
| 139 |
-
## Q14: Comment poursuivre l'entraînement avec plus de données
|
| 140 |
-
|
| 141 |
-
étape 1 : mettre toutes les données wav dans path2.
|
| 142 |
-
|
| 143 |
-
étape 2 : exp_name2+path2 -> traiter le jeu de données et extraire la caractéristique.
|
| 144 |
-
|
| 145 |
-
étape 3 : copier les derniers fichiers G et D de exp_name1 (votre expérience précédente) dans le dossier exp_name2.
|
| 146 |
-
|
| 147 |
-
étape 4 : cliquez sur "entraîner le modèle", et il continuera l'entraînement depuis le début de votre époque de modèle exp précédente.
|
| 148 |
-
|
| 149 |
-
## Q15: erreur à propos de llvmlite.dll
|
| 150 |
-
|
| 151 |
-
OSError: Impossible de charger le fichier objet partagé : llvmlite.dll
|
| 152 |
-
|
| 153 |
-
FileNotFoundError: Impossible de trouver le module lib\site-packages\llvmlite\binding\llvmlite.dll (ou l'une de ses dépendances). Essayez d'utiliser la syntaxe complète du constructeur.
|
| 154 |
-
|
| 155 |
-
Le problème se produira sous Windows, installez https://aka.ms/vs/17/release/vc_redist.x64.exe et il sera corrigé.
|
| 156 |
-
|
| 157 |
-
## Q16: RuntimeError: La taille étendue du tensor (17280) doit correspondre à la taille existante (0) à la dimension non-singleton 1. Tailles cibles : [1, 17280]. Tailles des tensors : [0]
|
| 158 |
-
|
| 159 |
-
Supprimez les fichiers wav dont la taille est nettement inférieure à celle des autres, et cela ne se reproduira plus. Ensuite, cliquez sur "entraîner le modèle" et "entraîner l'index".
|
| 160 |
-
|
| 161 |
-
## Q17: RuntimeError: La taille du tensor a (24) doit correspondre à la taille du tensor b (16) à la dimension non-singleton 2
|
| 162 |
-
|
| 163 |
-
Ne changez pas le taux d'échantillonnage puis continuez l'entraînement. S'il est nécessaire de changer, le nom de l'expérience doit être modifié et le modèle sera formé à partir de zéro. Vous pouvez également copier les hauteurs et caractéristiques (dossiers 0/1/2/2b) extraites la dernière fois pour accélérer le processus d'entraînement.
|
| 164 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/fr/training_tips_fr.md
DELETED
|
@@ -1,65 +0,0 @@
|
|
| 1 |
-
Instructions et conseils pour la formation RVC
|
| 2 |
-
======================================
|
| 3 |
-
Ces conseils expliquent comment se déroule la formation des données.
|
| 4 |
-
|
| 5 |
-
# Flux de formation
|
| 6 |
-
Je vais expliquer selon les étapes de l'onglet de formation de l'interface graphique.
|
| 7 |
-
|
| 8 |
-
## étape 1
|
| 9 |
-
Définissez ici le nom de l'expérience.
|
| 10 |
-
|
| 11 |
-
Vous pouvez également définir ici si le modèle doit prendre en compte le pitch.
|
| 12 |
-
Si le modèle ne considère pas le pitch, le modèle sera plus léger, mais pas adapté au chant.
|
| 13 |
-
|
| 14 |
-
Les données de chaque expérience sont placées dans `/logs/nom-de-votre-experience/`.
|
| 15 |
-
|
| 16 |
-
## étape 2a
|
| 17 |
-
Charge et pré-traite l'audio.
|
| 18 |
-
|
| 19 |
-
### charger l'audio
|
| 20 |
-
Si vous spécifiez un dossier avec de l'audio, les fichiers audio de ce dossier seront lus automatiquement.
|
| 21 |
-
Par exemple, si vous spécifiez `C:Users\hoge\voices`, `C:Users\hoge\voices\voice.mp3` sera chargé, mais `C:Users\hoge\voices\dir\voice.mp3` ne sera pas chargé.
|
| 22 |
-
|
| 23 |
-
Comme ffmpeg est utilisé en interne pour lire l'audio, si l'extension est prise en charge par ffmpeg, elle sera lue automatiquement.
|
| 24 |
-
Après la conversion en int16 avec ffmpeg, convertir en float32 et normaliser entre -1 et 1.
|
| 25 |
-
|
| 26 |
-
### débruitage
|
| 27 |
-
L'audio est lissé par filtfilt de scipy.
|
| 28 |
-
|
| 29 |
-
### Séparation audio
|
| 30 |
-
Tout d'abord, l'audio d'entrée est divisé en détectant des parties de silence qui durent plus d'une certaine période (max_sil_kept = 5 secondes ?). Après avoir séparé l'audio sur le silence, séparez l'audio toutes les 4 secondes avec un chevauchement de 0,3 seconde. Pour l'audio séparé en 4 secondes, après normalisation du volume, convertir le fichier wav en `/logs/nom-de-votre-experience/0_gt_wavs` puis le convertir à un taux d'échantillonnage de 16k dans `/logs/nom-de-votre-experience/1_16k_wavs` sous forme de fichier wav.
|
| 31 |
-
|
| 32 |
-
## étape 2b
|
| 33 |
-
### Extraire le pitch
|
| 34 |
-
Extrait les informations de pitch des fichiers wav. Extraire les informations de pitch (=f0) en utilisant la méthode intégrée dans parselmouth ou pyworld et les sauvegarder dans `/logs/nom-de-votre-experience/2a_f0`. Convertissez ensuite logarithmiquement les informations de pitch en un entier entre 1 et 255 et sauvegardez-le dans `/logs/nom-de-votre-experience/2b-f0nsf`.
|
| 35 |
-
|
| 36 |
-
### Extraire l'empreinte de caractéristique
|
| 37 |
-
Convertissez le fichier wav en incorporation à l'avance en utilisant HuBERT. Lisez le fichier wav sauvegardé dans `/logs/nom-de-votre-experience/1_16k_wavs`, convertissez le fichier wav en caractéristiques de dimension 256 avec HuBERT, et sauvegardez au format npy dans `/logs/nom-de-votre-experience/3_feature256`.
|
| 38 |
-
|
| 39 |
-
## étape 3
|
| 40 |
-
former le modèle.
|
| 41 |
-
### Glossaire pour les débutants
|
| 42 |
-
Dans l'apprentissage profond, l'ensemble de données est divisé et l'apprentissage progresse petit à petit. Dans une mise à jour de modèle (étape), les données de batch_size sont récupérées et des prédictions et corrections d'erreur sont effectuées. Faire cela une fois pour un ensemble de données compte comme une époque.
|
| 43 |
-
|
| 44 |
-
Par conséquent, le temps d'apprentissage est le temps d'apprentissage par étape x (le nombre de données dans l'ensemble de données / taille du lot) x le nombre d'époques. En général, plus la taille du lot est grande, plus l'apprentissage devient stable (temps d'apprentissage par étape ÷ taille du lot) devient plus petit, mais il utilise plus de mémoire GPU. La RAM GPU peut être vérifiée avec la commande nvidia-smi. L'apprentissage peut être effectué en peu de temps en augmentant la taille du lot autant que possible selon la machine de l'environnement d'exécution.
|
| 45 |
-
|
| 46 |
-
### Spécifier le modèle pré-entraîné
|
| 47 |
-
RVC commence à former le modèle à partir de poids pré-entraînés plutôt que de zéro, il peut donc être formé avec un petit ensemble de données.
|
| 48 |
-
|
| 49 |
-
Par défaut :
|
| 50 |
-
|
| 51 |
-
- Si vous considérez le pitch, il charge `rvc-location/pretrained/f0G40k.pth` et `rvc-location/pretrained/f0D40k.pth`.
|
| 52 |
-
- Si vous ne considérez pas le pitch, il charge `rvc-location/pretrained/f0G40k.pth` et `rvc-location/pretrained/f0D40k.pth`.
|
| 53 |
-
|
| 54 |
-
Lors de l'apprentissage, les paramètres du modèle sont sauvegardés dans `logs/nom-de-votre-experience/G_{}.pth` et `logs/nom-de-votre-experience/D_{}.pth` pour chaque save_every_epoch, mais en spécifiant ce chemin, vous pouvez démarrer l'apprentissage. Vous pouvez redémarrer ou commencer à former à partir de poids de modèle appris lors d'une expérience différente.
|
| 55 |
-
|
| 56 |
-
### Index d'apprentissage
|
| 57 |
-
RVC sauvegarde les valeurs de caractéristique HuBERT utilisées lors de la formation, et pendant l'inférence, recherche les valeurs de caractéristique qui sont similaires aux valeurs de caractéristique utilisées lors de l'apprentissage pour effectuer l'inférence. Afin d'effectuer cette recherche à haute vitesse, l'index est appris à l'avance.
|
| 58 |
-
Pour l'apprentissage d'index, nous utilisons la bibliothèque de recherche de voisinage approximatif faiss. Lisez la valeur de caractéristique de `logs/nom-de-votre-experience/3_feature256` et utilisez-la pour apprendre l'index, et sauvegardez-la sous `logs/nom-de-votre-experience/add_XXX.index`.
|
| 59 |
-
|
| 60 |
-
(À partir de la version de mise à jour 20230428, elle est lue à partir de l'index, et la sauvegarde / spécification n'est plus nécessaire.)
|
| 61 |
-
|
| 62 |
-
### Description du bouton
|
| 63 |
-
- Former le modèle : après avoir exécuté l'étape 2b, appuyez sur ce bouton pour former le modèle.
|
| 64 |
-
- Former l'index de caractéristique : après avoir formé le modèle, effectuez un apprentissage d'index.
|
| 65 |
-
- Formation en un clic : étape 2b, formation du modèle et formation de l'index de caractéristique tout d'un coup.```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/jp/README.ja.md
DELETED
|
@@ -1,203 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
VITSに基づく使いやすい音声変換（voice changer）framework
|
| 5 |
-
|
| 6 |
-
|
| 7 |
-
|
| 8 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 13 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 14 |
-
|
| 15 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 16 |
-
|
| 17 |
-
[**よくある質問**](./faq_ja.md) | [**AutoDLで推論(中国語のみ)**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/Autodl%E8%AE%AD%E7%BB%83RVC%C2%B7AI%E6%AD%8C%E6%89%8B%E6%95%99%E7%A8%8B) | [**対照実験記録**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%AF%B9%E7%85%A7%E5%AE%9E%E9%AA%8C%C2%B7%E5%AE%9E%E9%AA%8C%E8%AE%B0%E5%BD%95) | [**オンラインデモ(中国語のみ)**](https://modelscope.cn/studios/FlowerCry/RVCv2demo)
|
| 18 |
-
|
| 19 |
-
[**English**](../en/README.en.md) | [**中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 20 |
-
|
| 21 |
-
</div>
|
| 22 |
-
|
| 23 |
-
> 著作権侵害を心配することなく使用できるよう、約 50 時間の高品質なオープンソースデータセットを使用し、基底モデルを学習し出しました。
|
| 24 |
-
|
| 25 |
-
> RVCv3 の基底モデルをご期待ください。より大きなパラメータ、より大きなデータ、より良い効果を提供し、基本的に同様の推論速度を維持しながら学習に必要なデータ量はより少なくなります。
|
| 26 |
-
|
| 27 |
-
> モデルや統合パッケージをダウンロードしやすい[RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)のご利用がお勧めです。
|
| 28 |
-
|
| 29 |
-
| 学習・推論 |
|
| 30 |
-
| :--------: |
|
| 31 |
-
|  |
|
| 32 |
-
|
| 33 |
-
| 即時音声変換 |
|
| 34 |
-
| :---------: |
|
| 35 |
-
|  |
|
| 36 |
-
|
| 37 |
-
## はじめに
|
| 38 |
-
|
| 39 |
-
本リポジトリには下記の特徴があります。
|
| 40 |
-
|
| 41 |
-
- Top1 検索を用いることで、生の特徴量を学習用データセット特徴量に変換し、トーンリーケージを削減します。
|
| 42 |
-
- 比較的貧弱な GPU でも、高速かつ簡単に学習できます。
|
| 43 |
-
- 少量のデータセットからでも、比較的良い結果を得ることができます。（10 分以上のノイズの少ない音声を推奨します。）
|
| 44 |
-
- モデルを融合することで、音声を混ぜることができます。（ckpt processing タブの、ckpt merge を使用します。）
|
| 45 |
-
- 使いやすい WebUI。
|
| 46 |
-
- UVR5 Model も含んでいるため、人の声と BGM を素早く分離できます。
|
| 47 |
-
- 最先端の[人間の声のピッチ抽出アルゴリズム InterSpeech2023-RMVPE](#参照プロジェクト)を使用して無声音問題を解決します。効果は最高（著しく）で、crepe_full よりも速く、リソース使用が少ないです。
|
| 48 |
-
- AMD GPU と Intel GPU の加速サポート
|
| 49 |
-
|
| 50 |
-
デモ動画は[こちら](https://www.bilibili.com/video/BV1pm4y1z7Gm/)でご覧ください。
|
| 51 |
-
|
| 52 |
-
## 環境構築
|
| 53 |
-
### Python バージョン制限
|
| 54 |
-
> conda で Python 環境を管理することがお勧めです
|
| 55 |
-
|
| 56 |
-
> バージョン制限の原因はこの [bug](https://github.com/facebookresearch/fairseq/issues/5012) を参照してください。
|
| 57 |
-
|
| 58 |
-
```bash
|
| 59 |
-
python --version # 3.8 <= Python < 3.11
|
| 60 |
-
```
|
| 61 |
-
|
| 62 |
-
### Linux/MacOS ワンクリック依存関係インストール・起動するスクリプト
|
| 63 |
-
プロジェクトのルートディレクトリで`run.sh`を実行するだけで、`venv`仮想環境を一括設定し、必要な依存関係を自動的にインストールし、メインプログラムを起動できます。
|
| 64 |
-
```bash
|
| 65 |
-
sh ./run.sh
|
| 66 |
-
```
|
| 67 |
-
|
| 68 |
-
### 依存関係のマニュアルインストレーション
|
| 69 |
-
1. `pytorch`とそのコア依存関係をインストールします。すでにインストールされている場合は見送りできます。参考: https://pytorch.org/get-started/locally/
|
| 70 |
-
```bash
|
| 71 |
-
pip install torch torchvision torchaudio
|
| 72 |
-
```
|
| 73 |
-
2. もし、Windows + Nvidia Ampere (RTX30xx)の場合、#21 の経験に基づき、pytorchの対応する CUDA バージョンを指定する必要があります。
|
| 74 |
-
```bash
|
| 75 |
-
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 76 |
-
```
|
| 77 |
-
3. 自分の GPU に対応する依存関係をインストールします。
|
| 78 |
-
- Nvidia GPU
|
| 79 |
-
```bash
|
| 80 |
-
pip install -r requirements/main.txt
|
| 81 |
-
```
|
| 82 |
-
- AMD/Intel GPU
|
| 83 |
-
```bash
|
| 84 |
-
pip install -r requirements/dml.txt
|
| 85 |
-
```
|
| 86 |
-
- AMD ROCM (Linux)
|
| 87 |
-
```bash
|
| 88 |
-
pip install -r requirements/amd.txt
|
| 89 |
-
```
|
| 90 |
-
- Intel IPEX (Linux)
|
| 91 |
-
```bash
|
| 92 |
-
pip install -r requirements/ipex.txt
|
| 93 |
-
```
|
| 94 |
-
|
| 95 |
-
## その他のデータを準備
|
| 96 |
-
|
| 97 |
-
### 1. アセット
|
| 98 |
-
> RVCは、`assets`フォルダにある幾つかのモデルリソースで推論・学習することが必要です。
|
| 99 |
-
#### リソースの自動チェック/ダウンロード（デフォルト）
|
| 100 |
-
> デフォルトでは、RVC は主プログラムの起動時に必要なリソースの完全性を自動的にチェックしできます。
|
| 101 |
-
|
| 102 |
-
> リソースが不完全でも、プログラムは起動し続けます。
|
| 103 |
-
|
| 104 |
-
- すべてのリソースをダウンロードしたい場合は、`--update`パラメータを追加してください。
|
| 105 |
-
- 起動時のリソース完全性チェックを不要の場合は、`--nocheck`パラメータを追加してください。
|
| 106 |
-
|
| 107 |
-
#### リソースのマニュアルダウンロード
|
| 108 |
-
> すべてのリソースファイルは[Hugging Face space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)にあります。
|
| 109 |
-
|
| 110 |
-
> `tools`フォルダでそれらをダウンロードするスクリプトを見つけることができます。
|
| 111 |
-
|
| 112 |
-
> モデル/統合パッケージ/ツールの一括ダウンローダー、[RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)も使用できます。
|
| 113 |
-
|
| 114 |
-
以下は、RVCが必要とするすべての事前モデルデータやその他のファイルの名前を含むリストです。
|
| 115 |
-
|
| 116 |
-
- ./assets/hubert/hubert_base.pt
|
| 117 |
-
```bash
|
| 118 |
-
rvcmd assets/hubert # RVC-Models-Downloader command
|
| 119 |
-
```
|
| 120 |
-
- ./assets/pretrained
|
| 121 |
-
```bash
|
| 122 |
-
rvcmd assets/v1 # RVC-Models-Downloader command
|
| 123 |
-
```
|
| 124 |
-
- ./assets/uvr5_weights
|
| 125 |
-
```bash
|
| 126 |
-
rvcmd assets/uvr5 # RVC-Models-Downloader command
|
| 127 |
-
```
|
| 128 |
-
v2バージョンのモデルを使用したい場合は、追加ダウンロードが必要です。
|
| 129 |
-
|
| 130 |
-
- ./assets/pretrained_v2
|
| 131 |
-
```bash
|
| 132 |
-
rvcmd assets/v2 # RVC-Models-Downloader command
|
| 133 |
-
```
|
| 134 |
-
|
| 135 |
-
### 2. RMVPE人声音高抽出アルゴリズムに必要なファイルのダウンロード
|
| 136 |
-
|
| 137 |
-
最新のRMVPE人声音高抽出アルゴリズムを使用したい場合は、音高抽出モデルをダウンロードし、`assets/rmvpe`に配置する必要があります。
|
| 138 |
-
|
| 139 |
-
- [rmvpe.pt](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt)
|
| 140 |
-
```bash
|
| 141 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 142 |
-
```
|
| 143 |
-
|
| 144 |
-
#### RMVPE(dml環境)のダウンロード（オプション、AMD/Intel GPU ユーザー）
|
| 145 |
-
|
| 146 |
-
- [rmvpe.onnx](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx)
|
| 147 |
-
```bash
|
| 148 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 149 |
-
```
|
| 150 |
-
|
| 151 |
-
### 3. AMD ROCM（オプション、Linuxのみ）
|
| 152 |
-
|
| 153 |
-
AMDのRocm技術を基にLinuxシステムでRVCを実行したい場合は、まず[ここ](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html)で必要なドライバをインストールしてください。
|
| 154 |
-
|
| 155 |
-
Arch Linuxを使用している場合は、pacmanを使用して必要なドライバをインストールできます。
|
| 156 |
-
````
|
| 157 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 158 |
-
````
|
| 159 |
-
一部のグラフィックカードモデルでは、以下のような環境変数を追加で設定する必要があるかもしれません（例：RX6700XT）。
|
| 160 |
-
````
|
| 161 |
-
export ROCM_PATH=/opt/rocm
|
| 162 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 163 |
-
````
|
| 164 |
-
また、現在のユーザーが`render`および`video`ユーザーグループに所属していることを確認してください。
|
| 165 |
-
````
|
| 166 |
-
sudo usermod -aG render $USERNAME
|
| 167 |
-
sudo usermod -aG video $USERNAME
|
| 168 |
-
````
|
| 169 |
-
|
| 170 |
-
## 利用開始
|
| 171 |
-
### 直接起動
|
| 172 |
-
以下のコマンドで WebUI を起動します
|
| 173 |
-
```bash
|
| 174 |
-
python web.py
|
| 175 |
-
```
|
| 176 |
-
### Linux/MacOS
|
| 177 |
-
```bash
|
| 178 |
-
./run.sh
|
| 179 |
-
```
|
| 180 |
-
### IPEX 技術が必要な Intel GPU ユーザー向け(Linux のみ)
|
| 181 |
-
```bash
|
| 182 |
-
source /opt/intel/oneapi/setvars.sh
|
| 183 |
-
./run.sh
|
| 184 |
-
```
|
| 185 |
-
### 統合パッケージの使用 (Windowsのみ)
|
| 186 |
-
`RVC-beta.7z`をダウンロードして解凍し、`go-web.bat`をダブルクリック。
|
| 187 |
-
```bash
|
| 188 |
-
rvcmd packs/general/latest # RVC-Models-Downloader command
|
| 189 |
-
```
|
| 190 |
-
|
| 191 |
-
## 参考プロジェクト
|
| 192 |
-
- [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 193 |
-
- [VITS](https://github.com/jaywalnut310/vits)
|
| 194 |
-
- [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 195 |
-
- [Gradio](https://github.com/gradio-app/gradio)
|
| 196 |
-
- [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 197 |
-
- [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 198 |
-
- [Vocal pitch extraction:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 199 |
-
- 事前学習されたモデルは[yxlllc](https://github.com/yxlllc/RMVPE)と[RVC-Boss](https://github.com/RVC-Boss)によって学習され、テストされました。
|
| 200 |
-
|
| 201 |
-
## すべての貢献者の努力に感謝します
|
| 202 |
-
|
| 203 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/jp/faiss_tips_ja.md
DELETED
|
@@ -1,101 +0,0 @@
|
|
| 1 |
-
faiss tuning TIPS
|
| 2 |
-
==================
|
| 3 |
-
# about faiss
|
| 4 |
-
faissはfacebook researchの開発する、密なベクトルに対する近傍探索をまとめたライブラリで、多くの近似近傍探索の手法を効率的に実装しています。
|
| 5 |
-
近似近傍探索はある程度精度を犠牲にしながら高速に類似するベクトルを探します。
|
| 6 |
-
|
| 7 |
-
## faiss in RVC
|
| 8 |
-
RVCではHuBERTで変換した特徴量のEmbeddingに対し、学習データから生成されたEmbeddingと類似するものを検索し、混ぜることでより元の音声に近い変換を実現しています。ただ、この検索は愚直に行うと時間がかかるため、近似近傍探索を用いることで高速な変換を実現しています。
|
| 9 |
-
|
| 10 |
-
# 実装のoverview
|
| 11 |
-
モデルが配置されている '/logs/your-experiment/3_feature256'には各音声データからHuBERTで抽出された特徴量が配置されています。
|
| 12 |
-
ここからnpyファイルをファイル名でソートした順番で読み込み、ベクトルを連結してbig_npyを作成しfaissを学習させます。(このベクトルのshapeは[N, 256]です。)
|
| 13 |
-
|
| 14 |
-
本Tipsではまずこれらのパラメータの意味を解説します。
|
| 15 |
-
|
| 16 |
-
# 手法の解説
|
| 17 |
-
## index factory
|
| 18 |
-
index factoryは複数の近似近傍探索の手法を繋げるパイプラインをstringで表記するfaiss独自の記法です。
|
| 19 |
-
これにより、index factoryの文字列を変更するだけで様々な近似近傍探索の手法を試せます。
|
| 20 |
-
RVCでは以下のように使われています。
|
| 21 |
-
|
| 22 |
-
```python
|
| 23 |
-
index = faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 24 |
-
```
|
| 25 |
-
index_factoryの引数のうち、1つ目はベクトルの次元数、2つ目はindex factoryの文字列で、3つ目には用いる距離を指定することができます。
|
| 26 |
-
|
| 27 |
-
より詳細な記法については
|
| 28 |
-
https://github.com/facebookresearch/faiss/wiki/The-index-factory
|
| 29 |
-
|
| 30 |
-
## 距離指標
|
| 31 |
-
embeddingの類似度として用いられる代表的な指標として以下の二つがあります。
|
| 32 |
-
|
| 33 |
-
- ユークリッド距離(METRIC_L2)
|
| 34 |
-
- 内積(METRIC_INNER_PRODUCT)
|
| 35 |
-
|
| 36 |
-
ユークリッド距離では各次元において二乗の差をとり、全次元の差を足してから平方根をとります。これは日常的に用いる2次元、3次元での距離と同じです。
|
| 37 |
-
内積はこのままでは類似度の指標として用いず、一般的にはL2ノルムで正規化してから内積をとるコサイン類似度を用います。
|
| 38 |
-
|
| 39 |
-
どちらがよいかは場合によりますが、word2vec等で得られるembeddingやArcFace等で学習した類似画像検索のモデルではコサイン類似度が用いられることが多いです。ベクトルXに対してl2正規化をnumpyで行う場合は、0 divisionを避けるために十分に小さな値をepsとして以下のコードで可能です。
|
| 40 |
-
|
| 41 |
-
```python
|
| 42 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 43 |
-
```
|
| 44 |
-
|
| 45 |
-
また、index factoryには第3引数に渡す値を選ぶことで計算に用いる距離指標を変更できます。
|
| 46 |
-
|
| 47 |
-
```python
|
| 48 |
-
index = faiss.index_factory(dimention, text, faiss.METRIC_INNER_PRODUCT)
|
| 49 |
-
```
|
| 50 |
-
|
| 51 |
-
## IVF
|
| 52 |
-
IVF(Inverted file indexes)は全文検索における転置インデックスと似たようなアルゴリズムです。
|
| 53 |
-
学習時には検索対象に対してkmeansでクラスタリングを行い、クラスタ中心を用いてボロノイ分割を行います。各データ点には一つずつクラスタが割り当てられるので、クラスタからデータ点を逆引きする辞書を作成します。
|
| 54 |
-
|
| 55 |
-
例えば以下のようにクラスタが割り当てられた場合
|
| 56 |
-
|index|クラスタ|
|
| 57 |
-
|-----|-------|
|
| 58 |
-
|1|A|
|
| 59 |
-
|2|B|
|
| 60 |
-
|3|A|
|
| 61 |
-
|4|C|
|
| 62 |
-
|5|B|
|
| 63 |
-
|
| 64 |
-
作成される転置インデックスは以下のようになります。
|
| 65 |
-
|
| 66 |
-
|クラスタ|index|
|
| 67 |
-
|-------|-----|
|
| 68 |
-
|A|1, 3|
|
| 69 |
-
|B|2, 5|
|
| 70 |
-
|C|4|
|
| 71 |
-
|
| 72 |
-
検索時にはまずクラスタからn_probe個のクラスタを検索し、次にそれぞれのクラスタに属するデータ点について距離を計算します。
|
| 73 |
-
|
| 74 |
-
# 推奨されるパラメータ
|
| 75 |
-
indexの選び方については公式にガイドラインがあるので、それに準じて説明します。
|
| 76 |
-
https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index
|
| 77 |
-
|
| 78 |
-
1M以下のデータセットにおいては4bit-PQが2023年4月時点ではfaissで利用できる最も効率的な手法です。
|
| 79 |
-
これをIVFと組み合わせ、4bit-PQで候補を絞り、最後に正確な指標で距離を再計算するには以下のindex factoryを用いることで記載できます。
|
| 80 |
-
|
| 81 |
-
```python
|
| 82 |
-
index = faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 83 |
-
```
|
| 84 |
-
|
| 85 |
-
## IVFの推奨パラメータ
|
| 86 |
-
IVFの数が多すぎる場合、たとえばデータ数の数だけIVFによる粗量子化を行うと、これは愚直な全探索と同じになり効率が悪いです。
|
| 87 |
-
1M以下の場合ではIVFの値はデータ点の数Nに対して4*sqrt(N) ~ 16*sqrt(N)に推奨しています。
|
| 88 |
-
|
| 89 |
-
n_probeはn_probeの数に比例して計算時間が増えるので、精度と相談して適切に選んでください。個人的にはRVCにおいてそこまで精度は必要ないと思うのでn_probe = 1で良いと思います。
|
| 90 |
-
|
| 91 |
-
## FastScan
|
| 92 |
-
FastScanは直積量子化で大まかに距離を近似するのを、レジスタ内で行うことにより高速に行うようにした手法です。
|
| 93 |
-
直積量子化は学習時にd次元ごと(通常はd=2)に独立してクラスタリングを行い、クラスタ同士の距離を事前計算してlookup tableを作成します。予測時はlookup tableを見ることで各次元の距離をO(1)で計算できます。
|
| 94 |
-
そのため、PQの次に指定する数字は通常ベクトルの半分の次元を指定します。
|
| 95 |
-
|
| 96 |
-
FastScanに関するより詳細な説明は公式のドキュメントを参照してください。
|
| 97 |
-
https://github.com/facebookresearch/faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 98 |
-
|
| 99 |
-
## RFlat
|
| 100 |
-
RFlatはFastScanで計算した大まかな距離を、index factoryの第三引数で指定した正確な距離で再計算する指示です。
|
| 101 |
-
k個の近傍を取得する際は、k*k_factor個の点について再計算が行われます。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/jp/faq_ja.md
DELETED
|
@@ -1,117 +0,0 @@
|
|
| 1 |
-
## Q1: ワンクリックトレーニングが終わってもインデックスがない
|
| 2 |
-
|
| 3 |
-
"Training is done. The program is closed."と表示された場合、モデルトレーニングは成功しています。その直後のエラーは誤りです。<br>
|
| 4 |
-
|
| 5 |
-
ワンクリックトレーニングが終了しても added で始まるインデックスファイルがない場合、トレーニングセットが大きすぎてインデックス追加のステップが停止している可能性があります。バッチ処理 add インデックスでメモリの要求が高すぎる問題を解決しました。一時的に「トレーニングインデックス」ボタンをもう一度クリックしてみてください。<br>
|
| 6 |
-
|
| 7 |
-
## Q2: トレーニングが終了してもトレーニングセットの音色が見えない
|
| 8 |
-
|
| 9 |
-
音色をリフレッシュしてもう一度確認してください。それでも見えない場合は、トレーニングにエラーがなかったか、コンソールと WebUI のスクリーンショット、logs/実験名の下のログを開発者に送って確認してみてください。<br>
|
| 10 |
-
|
| 11 |
-
## Q3: モデルをどのように共有するか
|
| 12 |
-
|
| 13 |
-
rvc_root/logs/実験名の下に保存されている pth は、推論に使用するために共有するためのものではなく、実験の状態を保存して再現およびトレーニングを続けるためのものです。共有するためのモデルは、weights フォルダの下にある 60MB 以上の pth ファイルです。<br>
|
| 14 |
-
今後、weights/exp_name.pth と logs/exp_name/added_xxx.index を組み合わせて weights/exp_name.zip にパッケージ化し、インデックスの記入ステップを省略します。その場合、zip ファイルを共有し、pth ファイルは共有しないでください。別のマシンでトレーニングを続ける場合を除きます。<br>
|
| 15 |
-
logs フォルダの数百 MB の pth ファイルを weights フォルダにコピー/共有して推論に強制的に使用すると、f0、tgt_sr などのさまざまなキーが存在しないというエラーが発生する可能性があります。ckpt タブの一番下で、音高、目標オーディオサンプリングレートを手動または自動（ローカルの logs に関連情報が見つかる場合は自動的に）で選択してから、ckpt の小型モデルを抽出する必要があります（入力パスに G で始まるものを記入）。抽出が完了すると、weights フォルダに 60MB 以上の pth ファイルが表示され、音色をリフレッシュした後に使用できます。<br>
|
| 16 |
-
|
| 17 |
-
## Q4: Connection Error
|
| 18 |
-
|
| 19 |
-
コンソール（黒いウィンドウ）を閉じた可能性があります。<br>
|
| 20 |
-
|
| 21 |
-
## Q5: WebUI が Expecting value: line 1 column 1 (char 0)と表示する
|
| 22 |
-
|
| 23 |
-
システムのローカルネットワークプロキシ/グローバルプロキシを閉じてください。<br>
|
| 24 |
-
|
| 25 |
-
これはクライアントのプロキシだけでなく、サーバー側のプロキシも含まれます（例えば autodl で http_proxy と https_proxy を設定して学術的な加速を行っている場合、使用する際には unset でオフにする必要があります）。<br>
|
| 26 |
-
|
| 27 |
-
## Q6: WebUI を使わずにコマンドでトレーニングや推論を行うには
|
| 28 |
-
|
| 29 |
-
トレーニングスクリプト：<br>
|
| 30 |
-
まず WebUI を実行し、メッセージウィンドウにデータセット処理とトレーニング用のコマンドラインが表示されます。<br>
|
| 31 |
-
|
| 32 |
-
推論スクリプト：<br>
|
| 33 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py<br>
|
| 34 |
-
|
| 35 |
-
例：<br>
|
| 36 |
-
|
| 37 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True<br>
|
| 38 |
-
|
| 39 |
-
f0up_key=sys.argv[1]<br>
|
| 40 |
-
input_path=sys.argv[2]<br>
|
| 41 |
-
index_path=sys.argv[3]<br>
|
| 42 |
-
f0method=sys.argv[4]#harvest or pm<br>
|
| 43 |
-
opt_path=sys.argv[5]<br>
|
| 44 |
-
model_path=sys.argv[6]<br>
|
| 45 |
-
index_rate=float(sys.argv[7])<br>
|
| 46 |
-
device=sys.argv[8]<br>
|
| 47 |
-
is_half=bool(sys.argv[9])<br>
|
| 48 |
-
|
| 49 |
-
## Q7: Cuda error/Cuda out of memory
|
| 50 |
-
|
| 51 |
-
まれに cuda の設定問題やデバイスがサポートされていない可能性がありますが、大半はメモリ不足（out of memory）が原因です。<br>
|
| 52 |
-
|
| 53 |
-
トレーニングの場合は batch size を小さくします（1 にしても足りない場合はグラフィックカードを変更するしかありません）。推論の場合は、config.py の末尾にある x_pad、x_query、x_center、x_max を適宜小さくします。4GB 以下のメモリ（例えば 1060（3G）や各種 2GB のグラフィックカード）は諦めることをお勧めしますが、4GB のメモリのグラフィックカードはまだ救いがあります。<br>
|
| 54 |
-
|
| 55 |
-
## Q8: total_epoch はどのくらいに設定するのが良いですか
|
| 56 |
-
|
| 57 |
-
トレーニングセットの音質が悪く、ノイズが多い場合は、20〜30 で十分��す。高すぎると、ベースモデルの音質が低音質のトレーニングセットを高めることができません。<br>
|
| 58 |
-
トレーニングセットの音質が高く、ノイズが少なく、長い場合は、高く設定できます。200 は問題ありません（トレーニング速度が速いので、高音質のトレーニングセットを準備できる条件がある場合、グラフィックカードも条件が良いはずなので、少しトレーニング時間が長くなることを気にすることはありません）。<br>
|
| 59 |
-
|
| 60 |
-
## Q9: トレーニングセットはどれくらいの長さが必要ですか
|
| 61 |
-
|
| 62 |
-
10 分から 50 分を推奨します。
|
| 63 |
-
音質が良く、バックグラウンドノイズが低い場合、個人的な特徴のある音色であれば、多ければ多いほど良いです。
|
| 64 |
-
高品質のトレーニングセット（精巧に準備された + 特徴的な音色）であれば、5 分から 10 分でも大丈夫です。リポジトリの作者もよくこの方法で遊びます。
|
| 65 |
-
1 分から 2 分のデータでトレーニングに成功した人もいますが、その成功体験は他人には再現できないため、あまり参考になりません。トレーニングセットの音色が非常に特徴的である必要があります（例：高い周波数の透明な声や少女の声など）、そして音質が良い必要があります。
|
| 66 |
-
1 分未満のデータでトレーニングを試みた（成功した）ケースはまだ見たことがありません。このような試みはお勧めしません。
|
| 67 |
-
|
| 68 |
-
## Q10: index rate は何に使うもので、どのように調整するのか（啓蒙）
|
| 69 |
-
|
| 70 |
-
もしベースモデルや推論ソースの音質がトレーニングセットよりも高い場合、推論結果の音質を向上させることができますが、音色がベースモデル/推論ソースの音色に近づくことがあります。これを「音色漏れ」と言います。
|
| 71 |
-
index rate は音色漏れの問題を減少させたり解決するために使用されます。1 に設定すると、理論的には推論ソースの音色漏れの問題は存在しませんが、音質はトレーニングセットに近づきます。トレーニングセットの音質が推論ソースよりも低い場合、index rate を高くすると音質が低下する可能性があります。0 に設定すると、検索ミックスを利用してトレーニングセットの音色を保護する効果はありません。
|
| 72 |
-
トレーニングセットが高品質で長い場合、total_epoch を高く設定することができ、この場合、モデル自体は推論ソースやベースモデルの音色をあまり参照しないため、「音色漏れ」の問題はほとんど発生しません。この時、index rate は重要ではなく、インデックスファイルを作成したり共有したりする必要もありません。
|
| 73 |
-
|
| 74 |
-
## Q11: 推論時に GPU をどのように選択するか
|
| 75 |
-
|
| 76 |
-
config.py ファイルの device cuda:の後にカード番号を選択します。
|
| 77 |
-
カード番号とグラフィックカードのマッピング関係は、トレーニングタブのグラフィックカード情報欄で確認できます。
|
| 78 |
-
|
| 79 |
-
## Q12: トレーニング中に保存された pth ファイルをどのように推論するか
|
| 80 |
-
|
| 81 |
-
ckpt タブの一番下で小型モデルを抽出します。
|
| 82 |
-
|
| 83 |
-
## Q13: トレーニングをどのように中断し、続行するか
|
| 84 |
-
|
| 85 |
-
現在の段階では、WebUI コンソールを閉じて go-web.bat をダブルクリックしてプログラムを再起動するしかありません。ウェブページのパラメータもリフレッシュして再度入力する必要があります。
|
| 86 |
-
トレーニングを続けるには：同じウェブページのパラメータでトレーニングモデルをクリックすると、前回のチェックポイントからトレーニングを続けます。
|
| 87 |
-
|
| 88 |
-
## Q14: トレーニング中にファイルページ/メモリエラーが発生した場合の対処法
|
| 89 |
-
|
| 90 |
-
プロセスが多すぎてメモリがオーバーフローしました。以下の方法で解決できるかもしれません。
|
| 91 |
-
|
| 92 |
-
1. 「音高抽出とデータ処理に使用する CPU プロセス数」を適宜下げます。
|
| 93 |
-
2. トレーニングセットのオーディオを手動でカットして、あまり長くならないようにします。
|
| 94 |
-
|
| 95 |
-
## Q15: 途中でデータを追加してトレーニングする方法
|
| 96 |
-
|
| 97 |
-
1. 全データに新しい実験名を作成します。
|
| 98 |
-
2. 前回の最新の G と D ファイル（あるいはどの中間 ckpt を基にトレーニングしたい場合は、その中間のものをコピーすることもできます）を新しい実験名にコピーします。
|
| 99 |
-
3. 新しい実験名でワンクリックトレーニングを開始すると、前回の最新の進捗からトレーニングを続けます。
|
| 100 |
-
|
| 101 |
-
## Q16: llvmlite.dll に関するエラー
|
| 102 |
-
|
| 103 |
-
```bash
|
| 104 |
-
OSError: Could not load shared object file: llvmlite.dll
|
| 105 |
-
|
| 106 |
-
FileNotFoundError: Could not find module lib\site-packages\llvmlite\binding\llvmlite.dll (or one of its dependencies). Try using the full path with constructor syntax.
|
| 107 |
-
```
|
| 108 |
-
|
| 109 |
-
Windows プラットフォームではこのエラーが発生しますが、https://aka.ms/vs/17/release/vc_redist.x64.exeをインストールしてWebUIを再起動すれば解決します。
|
| 110 |
-
|
| 111 |
-
## Q17: RuntimeError: テンソルの拡張サイズ（17280）は、非シングルトン次元 1 での既存サイズ（0）と一致する必要があります。 ターゲットサイズ：[1, 17280]。 テンソルサイズ：[0]
|
| 112 |
-
|
| 113 |
-
wavs16k フォルダーの下で、他のファイルよりも明らかに小さいいくつかのオーディオファイルを見つけて削除し、トレーニングモデルをクリックすればエラーは発生しませんが、ワンクリックプロセスが中断されたため、モデルのトレーニングが完了したらインデックスのトレーニングをクリックする必要があります。
|
| 114 |
-
|
| 115 |
-
## Q18: RuntimeError: テンソル a のサイズ（24）は、非シングルトン次元 2 でテンソル b（16）のサイズと一致する必要があります
|
| 116 |
-
|
| 117 |
-
トレーニング中にサンプリングレートを変更してはいけません。変更する必要がある場合は、実験名を変更して最初からトレーニングする必要があります。もちろん、前回抽出した音高と特徴（0/1/2/2b フォルダ）をコピーしてトレーニングプロセスを加速することもできます。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/jp/training_tips_ja.md
DELETED
|
@@ -1,64 +0,0 @@
|
|
| 1 |
-
RVCの訓練における説明、およびTIPS
|
| 2 |
-
===============================
|
| 3 |
-
本TIPSではどのようにデータの訓練が行われているかを説明します。
|
| 4 |
-
|
| 5 |
-
# 訓練の流れ
|
| 6 |
-
GUIの訓練タブのstepに沿って説明します。
|
| 7 |
-
|
| 8 |
-
## step1
|
| 9 |
-
実験名の設定を行います。
|
| 10 |
-
|
| 11 |
-
また、モデルに音高ガイド(ピッチ)を考慮させるかもここで設定できます。考慮させない場合はモデルは軽量になりますが、歌唱には向かなくなります。
|
| 12 |
-
|
| 13 |
-
各実験のデータは`/logs/実験名/`に配置されます。
|
| 14 |
-
|
| 15 |
-
## step2a
|
| 16 |
-
音声の読み込みと前処理を行います。
|
| 17 |
-
|
| 18 |
-
### load audio
|
| 19 |
-
音声のあるフォルダを指定すると、そのフォルダ内にある音声ファイルを自動で読み込みます。
|
| 20 |
-
例えば`C:Users\hoge\voices`を指定した場合、`C:Users\hoge\voices\voice.mp3`は読み込まれますが、`C:Users\hoge\voices\dir\voice.mp3`は読み込まれません。
|
| 21 |
-
|
| 22 |
-
音声の読み込みには内部でffmpegを利用しているので、ffmpegで対応している拡張子であれば自動的に読み込まれます。
|
| 23 |
-
ffmpegでint16に変換した後、float32に変換し、-1 ~ 1の間に正規化されます。
|
| 24 |
-
|
| 25 |
-
### denoising
|
| 26 |
-
音声についてscipyのfiltfiltによる平滑化を行います。
|
| 27 |
-
|
| 28 |
-
### 音声の分割
|
| 29 |
-
入力した音声はまず、一定期間(max_sil_kept=5秒?)より長く無音が続く部分を検知して音声を分割します。無音で音声を分割した後は、0.3秒のoverlapを含む4秒ごとに音声を分割します。4秒以内に区切られた音声は、音量の正規化を行った後wavファイルを`/logs/実験名/0_gt_wavs`に、そこから16kのサンプリングレートに変換して`/logs/実験名/1_16k_wavs`にwavファイルで保存します。
|
| 30 |
-
|
| 31 |
-
## step2b
|
| 32 |
-
### ピッチの抽出
|
| 33 |
-
wavファイルからピッチ(音の高低)の情報を抽出します。parselmouthやpyworldに内蔵されている手法でピッチ情報(=f0)を抽出し、`/logs/実験名/2a_f0`に保存します。その後、ピッチ情報を対数で変換して1~255の整数に変換し、`/logs/実験名/2b-f0nsf`に保存します。
|
| 34 |
-
|
| 35 |
-
### feature_printの抽出
|
| 36 |
-
HuBERTを用いてwavファイルを事前にembeddingに変換します。`/logs/実験名/1_16k_wavs`に保存したwavファイルを読み込み、HuBERTでwavファイルを256次元の特徴量に変換し、npy形式で`/logs/実験名/3_feature256`に保存します。
|
| 37 |
-
|
| 38 |
-
## step3
|
| 39 |
-
モデルのトレーニングを行います。
|
| 40 |
-
### 初心者向け用語解説
|
| 41 |
-
深層学習ではデータセットを分割し、少しずつ学習を進めていきます。一回のモデルの更新(step)では、batch_size個のデータを取り出し予測と誤差の修正を行います。これをデータセットに対して一通り行うと一epochと数えます。
|
| 42 |
-
|
| 43 |
-
そのため、学習時間は 1step当たりの学習時間 x (データセット内のデータ数 ÷ バッチサイズ) x epoch数 かかります。一般にバッチサイズを大きくするほど学習は安定し、(1step当たりの学習時間÷バッチサイズ)は小さくなりますが、その分GPUのメモリを多く使用します。GPUのRAMはnvidia-smiコマンド等で確認できます。実行環境のマシンに合わせてバッチサイズをできるだけ大きくするとより短時間で学習が可能です。
|
| 44 |
-
|
| 45 |
-
### pretrained modelの指定
|
| 46 |
-
RVCではモデルの訓練を0からではなく、事前学習済みの重みから開始するため、少ないデータセットで学習を行えます。
|
| 47 |
-
|
| 48 |
-
デフォルトでは
|
| 49 |
-
|
| 50 |
-
- 音高ガイドを考慮する場合、`RVCのある場所/pretrained/f0G40k.pth`と`RVCのある場所/pretrained/f0D40k.pth`を読み込みます。
|
| 51 |
-
- 音高ガイドを考慮しない場合、`RVCのある場所/pretrained/G40k.pth`と`RVCのある場所/pretrained/D40k.pth`を読み込みます。
|
| 52 |
-
|
| 53 |
-
学習時はsave_every_epochごとにモデルのパラメータが`logs/実験名/G_{}.pth`と`logs/実験名/D_{}.pth`に保存されますが、このパスを指定することで学習を再開したり、もしくは違う実験で学習したモデルの重みから学習を開始できます。
|
| 54 |
-
|
| 55 |
-
### indexの学習
|
| 56 |
-
RVCでは学習時に使われたHuBERTの特徴量を保存し、推論時は学習時の特徴量から近い特徴量を探してきて推論を行います。この検索を高速に行うために事前にindexの学習を行います。
|
| 57 |
-
indexの学習には近似近傍探索ライブラリのfaissを用います。`/logs/実験名/3_feature256`の特徴量を読み込み、それを用いて学習したindexを`/logs/実験名/add_XXX.index`として保存します。
|
| 58 |
-
(20230428updateよりtotal_fea.npyはindexから読み込むので不要になりました。)
|
| 59 |
-
|
| 60 |
-
### ボタンの説明
|
| 61 |
-
- モデルのトレーニング: step2bまでを実行した後、このボタンを押すとモデルの学習を行います。
|
| 62 |
-
- 特徴インデックスのトレーニング: モデルのトレーニング後、indexの学習を行います。
|
| 63 |
-
- ワンクリックトレーニング: step2bまでとモデルのトレーニング、特徴インデックスのトレーニングを一括で行います。
|
| 64 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/kr/README.ko.han.md
DELETED
|
@@ -1,100 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
VITS基盤의 簡單하고使用하기 쉬운音聲變換틀
|
| 5 |
-
|
| 6 |
-
|
| 7 |
-
|
| 8 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 14 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 15 |
-
|
| 16 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 17 |
-
|
| 18 |
-
</div>
|
| 19 |
-
|
| 20 |
-
------
|
| 21 |
-
|
| 22 |
-
[**English**](../en/README.en.md) | [**中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 23 |
-
|
| 24 |
-
> [示範映像](https://www.bilibili.com/video/BV1pm4y1z7Gm/)을 確認해 보세요!
|
| 25 |
-
|
| 26 |
-
> RVC를活用한實時間音聲變換: [w-okada/voice-changer](https://github.com/w-okada/voice-changer)
|
| 27 |
-
|
| 28 |
-
> 基本모델은 50時間假量의 高品質 오픈 소스 VCTK 데이터셋을 使用하였으므로, 著作權上의 念慮가 없으니 安心하고 使用하시기 바랍니다.
|
| 29 |
-
|
| 30 |
-
> 著作權問題가 없는 高品質의 노래를 以後에도 繼續해서 訓練할 豫定입니다.
|
| 31 |
-
|
| 32 |
-
## 紹介
|
| 33 |
-
本Repo는 다음과 같은 特徵을 가지고 있습니다:
|
| 34 |
-
+ top1檢索을利用하여 入力音色特徵을 訓練세트音色特徵으로 代替하여 音色의漏出을 防止;
|
| 35 |
-
+ 相對的으로 낮은性能의 GPU에서도 빠른訓練可能;
|
| 36 |
-
+ 적은量의 데이터로 訓練해도 좋은 結果를 얻을 수 있음 (最小10分以上의 低雜음音聲데이터를 使用하는 것을 勸獎);
|
| 37 |
-
+ 모델融合을通한 音色의 變調可能 (ckpt處理탭->ckpt混合選擇);
|
| 38 |
-
+ 使用하기 쉬운 WebUI (웹 使用者인터페이스);
|
| 39 |
-
+ UVR5 모델을 利用하여 목소리와 背景音樂의 빠른 分離;
|
| 40 |
-
|
| 41 |
-
## 環境의準備
|
| 42 |
-
poetry를通해 依存를設置하는 것을 勸獎합니다.
|
| 43 |
-
|
| 44 |
-
다음命令은 Python 버전3.8以上의環境에서 實行되어야 합니다:
|
| 45 |
-
```bash
|
| 46 |
-
# PyTorch 關聯主要依存設置, 이미設置되어 있는 境遇 건너뛰기 可能
|
| 47 |
-
# 參照: https://pytorch.org/get-started/locally/
|
| 48 |
-
pip install torch torchvision torchaudio
|
| 49 |
-
|
| 50 |
-
# Windows + Nvidia Ampere Architecture(RTX30xx)를 使用하고 있다面, #21 에서 명시된 것과 같이 PyTorch에 맞는 CUDA 버전을 指定해야 합니다.
|
| 51 |
-
#pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 52 |
-
|
| 53 |
-
# Poetry 設置, 이미設置되어 있는 境遇 건너뛰기 可能
|
| 54 |
-
# Reference: https://python-poetry.org/docs/#installation
|
| 55 |
-
curl -sSL https://install.python-poetry.org | python3 -
|
| 56 |
-
|
| 57 |
-
# 依存設置
|
| 58 |
-
poetry install
|
| 59 |
-
```
|
| 60 |
-
pip를 活用하여依存를 設置하여도 無妨합니다.
|
| 61 |
-
|
| 62 |
-
```bash
|
| 63 |
-
pip install -r requirements/main.txt
|
| 64 |
-
```
|
| 65 |
-
|
| 66 |
-
## 其他預備모델準備
|
| 67 |
-
RVC 모델은 推論과訓練을 依하여 다른 預備모델이 必要합니다.
|
| 68 |
-
|
| 69 |
-
[Huggingface space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)를 通해서 다운로드 할 수 있습니다.
|
| 70 |
-
|
| 71 |
-
다음은 RVC에 必要한 預備모델 및 其他 파일 目錄입니다:
|
| 72 |
-
```bash
|
| 73 |
-
./assets/hubert/hubert_base.pt
|
| 74 |
-
|
| 75 |
-
./assets/pretrained
|
| 76 |
-
|
| 77 |
-
./assets/uvr5_weights
|
| 78 |
-
|
| 79 |
-
V2 버전 모델을 테스트하려면 추가 다운로드가 필요합니다.
|
| 80 |
-
|
| 81 |
-
./assets/pretrained_v2
|
| 82 |
-
|
| 83 |
-
```
|
| 84 |
-
그後 以下의 命令을 使用하여 WebUI를 始作할 수 있습니다:
|
| 85 |
-
```bash
|
| 86 |
-
python web.py
|
| 87 |
-
```
|
| 88 |
-
Windows를 使用하는境遇 `RVC-beta.7z`를 다운로드 및 壓縮解除하여 RVC를 直接使用하거나 `go-web.bat`을 使用하여 WebUi를 直接할 수 있습니다.
|
| 89 |
-
|
| 90 |
-
## 參考
|
| 91 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 92 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 93 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 94 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 95 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 96 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 97 |
-
## 모든寄與者분들의勞力에感謝드립니다
|
| 98 |
-
|
| 99 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
| 100 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/kr/README.ko.md
DELETED
|
@@ -1,359 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
VITS 기반의 간단하고 사용하기 쉬운 음성 변환 프레임워크.
|
| 5 |
-
|
| 6 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 11 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 12 |
-
|
| 13 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 14 |
-
|
| 15 |
-
[**자주 묻는 질문**](./faq_ko.md) | [**AutoDL·5원으로 AI 가수 훈련**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/Autodl%E8%AE%AD%E7%BB%83RVC%C2%B7AI%E6%AD%8C%E6%89%8B%E6%95%99%E7%A8%8B) | [**대조 실험 기록**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/%E5%AF%B9%E7%85%A7%E5%AE%9E%E9%AA%8C%C2%B7%E5%AE%9E%E9%AA%8C%E8%AE%B0%E5%BD%95) | [**온라인 데모**](https://modelscope.cn/studios/FlowerCry/RVCv2demo)
|
| 16 |
-
|
| 17 |
-
[**English**](../en/README.en.md) | [**中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 18 |
-
|
| 19 |
-
</div>
|
| 20 |
-
|
| 21 |
-
> 기본 모델은 50시간 가량의 고퀄리티 오픈 소스 VCTK 데이터셋을 사용하였으므로, 저작권상의 염려가 없으니 안심하고 사용하시기 바랍니다.
|
| 22 |
-
|
| 23 |
-
> 더 큰 매개변수, 더 큰 데이터, 더 나은 효과, 기본적으로 동일한 추론 속도, 더 적은 양의 훈련 데이터가 필요한 RVCv3의 기본 모델을 기대해 주십시오.
|
| 24 |
-
|
| 25 |
-
> 특정 지역에서 Hugging Face에 직접 연결할 수 없는 경우가 있으며, 성공적으로 연결해도 속도가 매우 느릴 수 있으므로, 모델/통합 패키지/도구의 일괄 다운로더를 특별히 소개합니다. [RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)
|
| 26 |
-
|
| 27 |
-
| 훈련 및 추론 인터페이스 |
|
| 28 |
-
| :--------: |
|
| 29 |
-
|  |
|
| 30 |
-
|
| 31 |
-
| 실시간 음성 변환 인터페이스 |
|
| 32 |
-
| :---------: |
|
| 33 |
-
|  |
|
| 34 |
-
|
| 35 |
-
## 소개
|
| 36 |
-
|
| 37 |
-
본 프로젝트는 다음과 같은 특징을 가지고 있습니다:
|
| 38 |
-
|
| 39 |
-
- top1 검색을 이용하여 입력 음색 특징을 훈련 세트 음색 특징으로 대체하여 음색의 누출을 방지
|
| 40 |
-
- 상대적으로 낮은 성능의 GPU에서도 빠른 훈련 가능
|
| 41 |
-
- 적은 양의 데이터로 훈련해도 좋은 결과를 얻을 수 있음 (최소 10분 이상의 저잡음 음성 데이터를 사용하는 것을 권장)
|
| 42 |
-
- 모델 융합을 통한 음색의 변조 가능 (ckpt 처리 탭->ckpt 병합 선택)
|
| 43 |
-
- 사용하기 쉬운 WebUI (웹 인터페이스)
|
| 44 |
-
- UVR5 모델을 이용하여 목소리와 배경음악의 빠른 분리;
|
| 45 |
-
- 최첨단 [음성 피치 추출 알고리즘 InterSpeech2023-RMVPE](#参考项目)을 사용하여 무성음 문제를 해결합니다. 효과는 최고(압도적)이며 crepe_full보다 더 빠르고 리소스 사용이 적음
|
| 46 |
-
- A카드와 I카드 가속을 지원
|
| 47 |
-
|
| 48 |
-
해당 프로젝트의 [데모 비디오](https://www.bilibili.com/video/BV1pm4y1z7Gm/)를 확인해보세요!
|
| 49 |
-
|
| 50 |
-
## 환경 설정
|
| 51 |
-
|
| 52 |
-
다음 명령은 Python 버전이 3.8 이상인 환경에서 실행해야 합니다.
|
| 53 |
-
|
| 54 |
-
### Windows/Linux/MacOS 등 플랫폼 공통 방법
|
| 55 |
-
|
| 56 |
-
아래 방법 중 하나를 선택하세요.
|
| 57 |
-
|
| 58 |
-
#### 1. pip를 통한 의존성 설치
|
| 59 |
-
|
| 60 |
-
1. Pytorch 및 의존성 모듈 설치, 이미 설치되어 있으면 생략. 참조: https://pytorch.org/get-started/locally/
|
| 61 |
-
|
| 62 |
-
```bash
|
| 63 |
-
pip install torch torchvision torchaudio
|
| 64 |
-
```
|
| 65 |
-
|
| 66 |
-
2. win 시스템 + Nvidia Ampere 아키텍처(RTX30xx) 사용 시, #21의 사례에 따라 pytorch에 해당하는 cuda 버전을 지정
|
| 67 |
-
|
| 68 |
-
```bash
|
| 69 |
-
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 70 |
-
```
|
| 71 |
-
|
| 72 |
-
3. 자신의 그래픽 카드에 맞는 의존성 설치
|
| 73 |
-
|
| 74 |
-
- N카드
|
| 75 |
-
|
| 76 |
-
```bash
|
| 77 |
-
pip install -r requirements/main.txt
|
| 78 |
-
```
|
| 79 |
-
|
| 80 |
-
- A카드/I카드
|
| 81 |
-
|
| 82 |
-
```bash
|
| 83 |
-
pip install -r requirements/dml.txt
|
| 84 |
-
```
|
| 85 |
-
|
| 86 |
-
- A카드ROCM(Linux)
|
| 87 |
-
|
| 88 |
-
```bash
|
| 89 |
-
pip install -r requirements/amd.txt
|
| 90 |
-
```
|
| 91 |
-
|
| 92 |
-
- I카드IPEX(Linux)
|
| 93 |
-
|
| 94 |
-
```bash
|
| 95 |
-
pip install -r requirements/ipex.txt
|
| 96 |
-
```
|
| 97 |
-
|
| 98 |
-
#### 2. poetry를 통한 의존성 설치
|
| 99 |
-
|
| 100 |
-
Poetry 의존성 관리 도구 설치, 이미 설치된 경우 생략. 참조: https://python-poetry.org/docs/#installation
|
| 101 |
-
|
| 102 |
-
```bash
|
| 103 |
-
curl -sSL https://install.python-poetry.org | python3 -
|
| 104 |
-
```
|
| 105 |
-
|
| 106 |
-
poetry를 통한 의존성 설치
|
| 107 |
-
|
| 108 |
-
```bash
|
| 109 |
-
poetry install
|
| 110 |
-
```
|
| 111 |
-
|
| 112 |
-
### MacOS
|
| 113 |
-
|
| 114 |
-
`run.sh`를 통해 의존성 설치 가능
|
| 115 |
-
|
| 116 |
-
```bash
|
| 117 |
-
sh ./run.sh
|
| 118 |
-
```
|
| 119 |
-
|
| 120 |
-
<!--
|
| 121 |
-
|
| 122 |
-
## 其他资源准备
|
| 123 |
-
### 1. assets
|
| 124 |
-
> RVC需要位于`assets`文件夹下的一些模型资源进行推理和训练。
|
| 125 |
-
#### 自动检查/下载资源(默认)
|
| 126 |
-
> 默认情况下，RVC可在主程序启动时自动检查所需资源的完整性。
|
| 127 |
-
|
| 128 |
-
> 即使资源不完整，程序也将继续启动。
|
| 129 |
-
|
| 130 |
-
- 如果您希望下载所有资源，请添加`--update`参数
|
| 131 |
-
- 如果您希望跳过启动时的资源完整性检查，请添加`--nocheck`参数
|
| 132 |
-
|
| 133 |
-
#### 手动下载资源
|
| 134 |
-
> 所有资源文件均位于[Hugging Face space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 135 |
-
|
| 136 |
-
> 你可以在`tools`文件夹找到下载它们的脚本
|
| 137 |
-
|
| 138 |
-
> 你也可以使用模型/整合包/工具的一键下载器：[RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)
|
| 139 |
-
|
| 140 |
-
以下是一份清单，包括了所有RVC所需的预模型和其他文件的名称。
|
| 141 |
-
|
| 142 |
-
- ./assets/hubert/hubert_base.pt
|
| 143 |
-
```bash
|
| 144 |
-
rvcmd assets/hubert # RVC-Models-Downloader command
|
| 145 |
-
```
|
| 146 |
-
- ./assets/pretrained
|
| 147 |
-
```bash
|
| 148 |
-
rvcmd assets/v1 # RVC-Models-Downloader command
|
| 149 |
-
```
|
| 150 |
-
- ./assets/uvr5_weights
|
| 151 |
-
```bash
|
| 152 |
-
rvcmd assets/uvr5 # RVC-Models-Downloader command
|
| 153 |
-
```
|
| 154 |
-
想使用v2版本模型的话，需要额外下载
|
| 155 |
-
|
| 156 |
-
- ./assets/pretrained_v2
|
| 157 |
-
```bash
|
| 158 |
-
rvcmd assets/v2 # RVC-Models-Downloader command
|
| 159 |
-
```
|
| 160 |
-
|
| 161 |
-
### 3. 下载 rmvpe 人声音高提取算法所需文件
|
| 162 |
-
|
| 163 |
-
如果你想使用最新的RMVPE人声音高提取算法，则你需要下载音高提取模型参数并放置于`assets/rmvpe`。
|
| 164 |
-
|
| 165 |
-
- 下载[rmvpe.pt](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt)
|
| 166 |
-
```bash
|
| 167 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 168 |
-
```
|
| 169 |
-
|
| 170 |
-
#### 下载 rmvpe 的 dml 环境(可选, A卡/I卡用户)
|
| 171 |
-
|
| 172 |
-
- 下载[rmvpe.onnx](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx)
|
| 173 |
-
```bash
|
| 174 |
-
rvcmd assets/rmvpe # RVC-Models-Downloader command
|
| 175 |
-
```
|
| 176 |
-
|
| 177 |
-
### 4. AMD显卡Rocm(可选, 仅Linux)
|
| 178 |
-
|
| 179 |
-
如果你想基于AMD的Rocm技术在Linux系统上运行RVC，请先在[这里](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html)安装所需的驱动。
|
| 180 |
-
|
| 181 |
-
若你使用的是Arch Linux，可以使用pacman来安装所需驱动：
|
| 182 |
-
````
|
| 183 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 184 |
-
````
|
| 185 |
-
对于某些型号的显卡，你可能需要额外配置如下的环境变量（如：RX6700XT）：
|
| 186 |
-
````
|
| 187 |
-
export ROCM_PATH=/opt/rocm
|
| 188 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 189 |
-
````
|
| 190 |
-
同时确保你的当前用户处于`render`与`video`用户组内：
|
| 191 |
-
````
|
| 192 |
-
sudo usermod -aG render $USERNAME
|
| 193 |
-
sudo usermod -aG video $USERNAME
|
| 194 |
-
````
|
| 195 |
-
|
| 196 |
-
## 开始使用
|
| 197 |
-
### 直接启动
|
| 198 |
-
使用以下指令来启动 WebUI
|
| 199 |
-
```bash
|
| 200 |
-
python web.py
|
| 201 |
-
```
|
| 202 |
-
### Linux/MacOS 用户
|
| 203 |
-
```bash
|
| 204 |
-
./run.sh
|
| 205 |
-
```
|
| 206 |
-
### 对于需要使用IPEX技术的I卡用户(仅Linux)
|
| 207 |
-
```bash
|
| 208 |
-
source /opt/intel/oneapi/setvars.sh
|
| 209 |
-
./run.sh
|
| 210 |
-
```
|
| 211 |
-
### 使用整合包 (Windows 用户)
|
| 212 |
-
下载并解压`RVC-beta.7z`，解压后双击`go-web.bat`即可一键启动。
|
| 213 |
-
```bash
|
| 214 |
-
rvcmd packs/general/latest # RVC-Models-Downloader command
|
| 215 |
-
```
|
| 216 |
-
|
| 217 |
-
## 参考项目
|
| 218 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 219 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 220 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 221 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 222 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 223 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 224 |
-
+ [Vocal pitch extraction:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 225 |
-
+ The pretrained model is trained and tested by [yxlllc](https://github.com/yxlllc/RMVPE) and [RVC-Boss](https://github.com/RVC-Boss).
|
| 226 |
-
|
| 227 |
-
## 感谢所有贡献者作出的努力
|
| 228 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
| 229 |
-
|
| 230 |
-
translate to Korean
|
| 231 |
-
-->
|
| 232 |
-
|
| 233 |
-
## 기타 사전 훈련된 모델 준비
|
| 234 |
-
|
| 235 |
-
### assets
|
| 236 |
-
|
| 237 |
-
> RVC는 추론과 훈련을 위해 assets 폴더 하위에 사전 훈련된 모델이 필요합니다.
|
| 238 |
-
|
| 239 |
-
#### 자동 검사/다운로드 리소스(기본값)
|
| 240 |
-
|
| 241 |
-
> 기본적으로 RVC는 시작할 때 필요한 리소스의 무결성을 자동으로 확인할 수 있습니다.
|
| 242 |
-
|
| 243 |
-
> 리소스가 불완전하더라도 프로그램은 계속 실행됩니다.
|
| 244 |
-
|
| 245 |
-
- 모든 리소스를 다운로드하려면 `--update` 매개변수를 추가하세요
|
| 246 |
-
- 시작 시 리소스 무결성 검사를 건너뛰려면 `--nocheck` 매개변수를 추가하세요
|
| 247 |
-
|
| 248 |
-
#### 리소스 수동 다운로드
|
| 249 |
-
|
| 250 |
-
> 모든 리소스 파일은 [Hugging Face space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)에 있습니다.
|
| 251 |
-
|
| 252 |
-
> 이들을 다운로드하는 스크립트는 `tools` 폴더에서 찾을 수 있습니다.
|
| 253 |
-
|
| 254 |
-
> 모델/통합 패키지/도구의 일괄 다운로더를 사용할 수도 있습니다: [RVC-Models-Downloader](https://github.com/fumiama/RVC-Models-Downloader)
|
| 255 |
-
|
| 256 |
-
다음은 RVC에 필요한 모든 사전 훈련된 모델과 기타 파일의 목록입니다.
|
| 257 |
-
|
| 258 |
-
- ./assets/hubert/hubert_base.pt
|
| 259 |
-
|
| 260 |
-
```bash
|
| 261 |
-
rvcmd assets/hubert # RVC-Models-Downloader command
|
| 262 |
-
```
|
| 263 |
-
|
| 264 |
-
- ./assets/pretrained
|
| 265 |
-
|
| 266 |
-
```bash
|
| 267 |
-
rvcmd assets/v1 # RVC-Models-Downloader command
|
| 268 |
-
```
|
| 269 |
-
|
| 270 |
-
- ./assets/uvr5_weights
|
| 271 |
-
```bash
|
| 272 |
-
rvcmd assets/uvr5 # RVC-Models-Downloader command
|
| 273 |
-
```
|
| 274 |
-
|
| 275 |
-
v2 버전 모델을 사용하려면 추가로 다음을 다운로드해야 합니다.
|
| 276 |
-
|
| 277 |
-
- ./assets/pretrained_v2
|
| 278 |
-
```bash
|
| 279 |
-
rvcmd assets/v2 # RVC-Models-Downloader command
|
| 280 |
-
```
|
| 281 |
-
|
| 282 |
-
### 2. RMVPE 인간 음성 피치 추출 알고리즘에 필요한 파일 다운로드
|
| 283 |
-
|
| 284 |
-
최신 RMVPE 인간 음성 피치 추출 알고리즘을 사용하려면 음피치 추출 모델 매개변수를 다운로드하고 RVC 루트 디렉토리에 배치해야 합니다.
|
| 285 |
-
|
| 286 |
-
- [rmvpe.pt 다운로드](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt)
|
| 287 |
-
|
| 288 |
-
#### dml 환경의 RMVPE 다운로드(선택사항, A카드/I카드 사용자)
|
| 289 |
-
|
| 290 |
-
- [rmvpe.onnx 다운로드](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx)
|
| 291 |
-
|
| 292 |
-
### 3. AMD 그래픽 카드 Rocm(선택사항, Linux만 해당)
|
| 293 |
-
|
| 294 |
-
Linux 시스템에서 AMD의 Rocm 기술을 기반으로 RVC를 실행하려면 [여기](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html)에서 필요한 드라이버를 먼저 설치하세요.
|
| 295 |
-
|
| 296 |
-
Arch Linux를 사용하는 경우 pacman을 사용하여 필요한 드라이버를 설치할 수 있습니다.
|
| 297 |
-
|
| 298 |
-
```
|
| 299 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 300 |
-
```
|
| 301 |
-
|
| 302 |
-
일부 모델의 그래픽 카드(예: RX6700XT)의 경우, 다음과 같은 환경 변수를 추가로 설정해야 할 수 있습니다.
|
| 303 |
-
|
| 304 |
-
```
|
| 305 |
-
export ROCM_PATH=/opt/rocm
|
| 306 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 307 |
-
```
|
| 308 |
-
|
| 309 |
-
동시에 현재 사용자가 `render` 및 `video` 사용자 그룹에 속해 있는지 확인하세요.
|
| 310 |
-
|
| 311 |
-
```
|
| 312 |
-
sudo usermod -aG render $USERNAME
|
| 313 |
-
sudo usermod -aG video $USERNAME
|
| 314 |
-
```
|
| 315 |
-
|
| 316 |
-
## 시작하기
|
| 317 |
-
|
| 318 |
-
### 직접 시작
|
| 319 |
-
|
| 320 |
-
다음 명령어로 WebUI를 시작하세요
|
| 321 |
-
|
| 322 |
-
```bash
|
| 323 |
-
python web.py
|
| 324 |
-
```
|
| 325 |
-
|
| 326 |
-
### 통합 패키지 사용
|
| 327 |
-
|
| 328 |
-
`RVC-beta.7z`를 다운로드하고 압축 해제
|
| 329 |
-
|
| 330 |
-
#### Windows 사용자
|
| 331 |
-
|
| 332 |
-
`go-web.bat` 더블 클릭
|
| 333 |
-
|
| 334 |
-
#### MacOS 사용자
|
| 335 |
-
|
| 336 |
-
```bash
|
| 337 |
-
sh ./run.sh
|
| 338 |
-
```
|
| 339 |
-
|
| 340 |
-
### IPEX 기술이 필요한 I카드 사용자를 위한 지침(Linux만 해당)
|
| 341 |
-
|
| 342 |
-
```bash
|
| 343 |
-
source /opt/intel/oneapi/setvars.sh
|
| 344 |
-
```
|
| 345 |
-
|
| 346 |
-
## 참조 프로젝트
|
| 347 |
-
|
| 348 |
-
- [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 349 |
-
- [VITS](https://github.com/jaywalnut310/vits)
|
| 350 |
-
- [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 351 |
-
- [Gradio](https://github.com/gradio-app/gradio)
|
| 352 |
-
- [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 353 |
-
- [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 354 |
-
- [Vocal pitch extraction:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 355 |
-
- 사전 훈련된 모델은 [yxlllc](https://github.com/yxlllc/RMVPE)와 [RVC-Boss](https://github.com/RVC-Boss)에 의해 훈련되고 테스트되었습니다.
|
| 356 |
-
|
| 357 |
-
## 모든 기여자들의 노력에 감사드립니다
|
| 358 |
-
|
| 359 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/kr/faiss_tips_ko.md
DELETED
|
@@ -1,132 +0,0 @@
|
|
| 1 |
-
Facebook AI Similarity Search (Faiss) 팁
|
| 2 |
-
==================
|
| 3 |
-
# Faiss에 대하여
|
| 4 |
-
Faiss 는 Facebook Research가 개발하는, 고밀도 벡터 이웃 검색 라이브러리입니다. 근사 근접 탐색법 (Approximate Neigbor Search)은 약간의 정확성을 희생하여 유사 벡터를 고속으로 찾습니다.
|
| 5 |
-
|
| 6 |
-
## RVC에 있어서 Faiss
|
| 7 |
-
RVC에서는 HuBERT로 변환한 feature의 embedding을 위해 훈련 데이터에서 생성된 embedding과 유사한 embadding을 검색하고 혼합하여 원래의 음성에 더욱 가까운 변환을 달성합니다. 그러나, 이 탐색법은 단순히 수행하면 시간이 다소 소모되므로, 근사 근접 탐색법을 통해 고속 변환을 가능케 하고 있습니다.
|
| 8 |
-
|
| 9 |
-
# 구현 개요
|
| 10 |
-
모델이 위치한 `/logs/your-experiment/3_feature256`에는 각 음성 데이터에서 HuBERT가 추출한 feature들이 있습니다. 여기에서 파일 이름별로 정렬된 npy 파일을 읽고, 벡터를 연결하여 big_npy ([N, 256] 모양의 벡터) 를 만듭니다. big_npy를 `/logs/your-experiment/total_fea.npy`로 저장한 후, Faiss로 학습시킵니다.
|
| 11 |
-
|
| 12 |
-
2023/04/18 기준으로, Faiss의 Index Factory 기능을 이용해, L2 거리에 근거하는 IVF를 이용하고 있습니다. IVF의 분할수(n_ivf)는 N//39로, n_probe는 int(np.power(n_ivf, 0.3))가 사용되고 있습니다. (web.py의 train_index 주위를 찾으십시오.)
|
| 13 |
-
|
| 14 |
-
이 팁에서는 먼저 이러한 매개 변수의 의미를 설명하고, 개발자가 추후 더 나은 index를 작성할 수 있도록 하는 조언을 작성합니다.
|
| 15 |
-
|
| 16 |
-
# 방법의 설명
|
| 17 |
-
## Index factory
|
| 18 |
-
index factory는 여러 근사 근접 탐색법을 문자열로 연결하는 pipeline을 문자열로 표기하는 Faiss만의 독자적인 기법입니다. 이를 통해 index factory의 문자열을 변경하는 것만으로 다양한 근사 근접 탐색을 시도해 볼 수 있습니다. RVC에서는 다음과 같이 사용됩니다:
|
| 19 |
-
|
| 20 |
-
```python
|
| 21 |
-
index = Faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 22 |
-
```
|
| 23 |
-
`index_factory`의 인수들 중 첫 번째는 벡터의 차원 수이고, 두번째는 index factory 문자열이며, 세번째에는 사용할 거리를 지정할 수 있습니다.
|
| 24 |
-
|
| 25 |
-
기법의 보다 자세한 설명은 https://github.com/facebookresearch/Faiss/wiki/The-index-factory 를 확인해 주십시오.
|
| 26 |
-
|
| 27 |
-
## 거리에 대한 index
|
| 28 |
-
embedding의 유사도로서 사용되는 대표적인 지표로서 이하의 2개가 있습니다.
|
| 29 |
-
|
| 30 |
-
- 유클리드 거리 (METRIC_L2)
|
| 31 |
-
- 내적(内積) (METRIC_INNER_PRODUCT)
|
| 32 |
-
|
| 33 |
-
유클리드 거리에서는 각 차원에서 제곱의 차를 구하고, 각 차원에서 구한 차를 모두 더한 후 제곱근을 취합니다. 이것은 일상적으로 사용되는 2차원, 3차원에서의 거리의 연산법과 같습니다. 내적은 그 값을 그대로 유사도 지표로 사용하지 않고, L2 정규화를 한 이후 내적을 취하는 코사인 유사도를 사용합니다.
|
| 34 |
-
|
| 35 |
-
어느 쪽이 더 좋은지는 경우에 따라 다르지만, word2vec에서 얻은 embedding 및 ArcFace를 활용한 이미지 검색 모델은 코사인 유사성이 이용되는 경우가 많습니다. numpy를 사용하여 벡터 X에 대해 L2 정규화를 하고자 하는 경우, 0 division을 피하기 위해 충분히 작은 값을 eps로 한 뒤 이하에 코드를 활용하면 됩니다.
|
| 36 |
-
|
| 37 |
-
```python
|
| 38 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 39 |
-
```
|
| 40 |
-
|
| 41 |
-
또한, `index factory`의 3번째 인수에 건네주는 값을 선택하는 것을 통해 계산에 사용하는 거리 index를 변경할 수 있습니다.
|
| 42 |
-
|
| 43 |
-
```python
|
| 44 |
-
index = Faiss.index_factory(dimention, text, Faiss.METRIC_INNER_PRODUCT)
|
| 45 |
-
```
|
| 46 |
-
|
| 47 |
-
## IVF
|
| 48 |
-
IVF (Inverted file indexes)는 역색인 탐색법과 유사한 알고리즘입니다. 학습시에는 검색 대상에 대해 k-평균 군집법을 실시하고 클러스터 중심을 이용해 보로노이 분할을 실시합니다. 각 데이터 포인트에는 클러스터가 할당되므로, 클러스터에서 데이터 포인트를 조회하는 dictionary를 만듭니다.
|
| 49 |
-
|
| 50 |
-
예를 들어, 클러스터가 다음과 같이 할당된 경우
|
| 51 |
-
|index|Cluster|
|
| 52 |
-
|-----|-------|
|
| 53 |
-
|1|A|
|
| 54 |
-
|2|B|
|
| 55 |
-
|3|A|
|
| 56 |
-
|4|C|
|
| 57 |
-
|5|B|
|
| 58 |
-
|
| 59 |
-
IVF 이후의 결과는 다음과 같습니다:
|
| 60 |
-
|
| 61 |
-
|cluster|index|
|
| 62 |
-
|-------|-----|
|
| 63 |
-
|A|1, 3|
|
| 64 |
-
|B|2, 5|
|
| 65 |
-
|C|4|
|
| 66 |
-
|
| 67 |
-
탐색 시, 우선 클러스터에서 `n_probe`개의 클러스터를 탐색한 다음, 각 클러스터에 속한 데이터 포인트의 거리를 계산합니다.
|
| 68 |
-
|
| 69 |
-
# 권장 매개변수
|
| 70 |
-
index의 선택 방법에 대해서는 공식적으로 가이드 라인이 있으므로, 거기에 준해 설명합니다.
|
| 71 |
-
https://github.com/facebookresearch/Faiss/wiki/Guidelines-to-choose-an-index
|
| 72 |
-
|
| 73 |
-
1M 이하의 데이터 세트에 있어서는 4bit-PQ가 2023년 4월 시점에서는 Faiss로 이용할 수 있는 가장 효율적인 수법입니다. 이것을 IVF와 조합해, 4bit-PQ로 후보를 추려내고, 마지막으로 이하의 index factory를 이용하여 정확한 지표로 거리를 재계산하면 됩니다.
|
| 74 |
-
|
| 75 |
-
```python
|
| 76 |
-
index = Faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 77 |
-
```
|
| 78 |
-
|
| 79 |
-
## IVF 권장 매개변수
|
| 80 |
-
IVF의 수가 너무 많으면, 가령 데이터 수의 수만큼 IVF로 양자화(Quantization)를 수행하면, 이것은 완전탐색과 같아져 효율이 나빠지게 됩니다. 1M 이하의 경우 IVF 값은 데이터 포인트 수 N에 대해 4sqrt(N) ~ 16sqrt(N)를 사용하는 것을 권장합니다.
|
| 81 |
-
|
| 82 |
-
n_probe는 n_probe의 수에 비례하여 계산 시간이 늘어나므로 정확도와 시간을 적절히 균형을 맞추어 주십시오. 개인적으로 RVC에 있어서 그렇게까지 정확도는 필요 없다고 생각하기 때문에 n_probe = 1이면 된다고 생각합니다.
|
| 83 |
-
|
| 84 |
-
## FastScan
|
| 85 |
-
FastScan은 직적 양자화를 레지스터에서 수행함으로써 거리의 고속 근사를 가능하게 하는 방법입니다.직적 양자화는 학습시에 d차원마다(보통 d=2)에 독립적으로 클러스터링을 실시해, 클러스터끼리의 거리를 사전 계산해 lookup table를 작성합니다. 예측시는 lookup table을 보면 각 차원의 거리를 O(1)로 계산할 수 있습니다. 따라서 PQ 다음에 지정하는 숫자는 일반적으로 벡터의 절반 차원을 지정합니다.
|
| 86 |
-
|
| 87 |
-
FastScan에 대한 자세한 설명은 공식 문서를 참조하십시오.
|
| 88 |
-
https://github.com/facebookresearch/Faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 89 |
-
|
| 90 |
-
## RFlat
|
| 91 |
-
RFlat은 FastScan이 계산한 대략적인 거리를 index factory의 3번째 인수로 지정한 정확한 거리로 다시 계산하라는 인스트럭션입니다. k개의 근접 변수를 가져올 때 k*k_factor개의 점에 대해 재계산이 이루어집니다.
|
| 92 |
-
|
| 93 |
-
# Embedding 테크닉
|
| 94 |
-
## Alpha 쿼리 확장
|
| 95 |
-
퀴리 확장이란 탐색에서 사용되는 기술로, 예를 들어 전문 탐색 시, 입력된 검색문에 단어를 몇 개를 추가함으로써 검색 정확도를 올리는 방법입니다. 백터 탐색을 위해서도 몇가지 방법이 제안되었는데, 그 중 α-쿼리 확장은 추가 학습이 필요 없는 매우 효과적인 방법으로 알려져 있습니다. [Attention-Based Query Expansion Learning](https://arxiv.org/abs/2007.08019)와 [2nd place solution of kaggle shopee competition](https://www.kaggle.com/code/lyakaap/2nd-place-solution/notebook) 논문에서 소개된 바 있습니다..
|
| 96 |
-
|
| 97 |
-
α-쿼리 확장은 한 벡터에 인접한 벡터를 유사도의 α곱한 가중치로 더해주면 됩니다. 코드로 예시를 들어 보겠습니다. big_npy를 α query expansion로 대체합니다.
|
| 98 |
-
|
| 99 |
-
```python
|
| 100 |
-
alpha = 3.
|
| 101 |
-
index = Faiss.index_factory(256, "IVF512,PQ128x4fs,RFlat")
|
| 102 |
-
original_norm = np.maximum(np.linalg.norm(big_npy, ord=2, axis=1, keepdims=True), 1e-9)
|
| 103 |
-
big_npy /= original_norm
|
| 104 |
-
index.train(big_npy)
|
| 105 |
-
index.add(big_npy)
|
| 106 |
-
dist, neighbor = index.search(big_npy, num_expand)
|
| 107 |
-
|
| 108 |
-
expand_arrays = []
|
| 109 |
-
ixs = np.arange(big_npy.shape[0])
|
| 110 |
-
for i in range(-(-big_npy.shape[0]//batch_size)):
|
| 111 |
-
ix = ixs[i*batch_size:(i+1)*batch_size]
|
| 112 |
-
weight = np.power(np.einsum("nd,nmd->nm", big_npy[ix], big_npy[neighbor[ix]]), alpha)
|
| 113 |
-
expand_arrays.append(np.sum(big_npy[neighbor[ix]] * np.expand_dims(weight, axis=2),axis=1))
|
| 114 |
-
big_npy = np.concatenate(expand_arrays, axis=0)
|
| 115 |
-
|
| 116 |
-
# index version 정규화
|
| 117 |
-
big_npy = big_npy / np.maximum(np.linalg.norm(big_npy, ord=2, axis=1, keepdims=True), 1e-9)
|
| 118 |
-
```
|
| 119 |
-
|
| 120 |
-
위 테크닉은 탐색을 수행하는 쿼리에도, 탐색 대상 DB에도 적응 가능한 테크닉입니다.
|
| 121 |
-
|
| 122 |
-
## MiniBatch KMeans에 의한 embedding 압축
|
| 123 |
-
|
| 124 |
-
total_fea.npy가 너무 클 경우 K-means를 이용하여 벡터를 작게 만드는 것이 가능합니다. 이하 코드로 embedding의 압축이 가능합니다. n_clusters에 압축하고자 하는 크기를 지정하고 batch_size에 256 * CPU의 코어 수를 지정함으로써 CPU 병렬화의 혜택을 충분히 얻을 수 있습니다.
|
| 125 |
-
|
| 126 |
-
```python
|
| 127 |
-
import multiprocessing
|
| 128 |
-
from sklearn.cluster import MiniBatchKMeans
|
| 129 |
-
kmeans = MiniBatchKMeans(n_clusters=10000, batch_size=256 * multiprocessing.cpu_count(), init="random")
|
| 130 |
-
kmeans.fit(big_npy)
|
| 131 |
-
sample_npy = kmeans.cluster_centers_
|
| 132 |
-
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/kr/faq_ko.md
DELETED
|
@@ -1,125 +0,0 @@
|
|
| 1 |
-
## Q1:일괄 트레이닝이 끝나고 인덱스가 없음
|
| 2 |
-
|
| 3 |
-
"Training is done. The program is closed."라고 표시되면 모델 트레이닝이 성공한 것이며, 이어지는 오류는 가짜입니다. <br>
|
| 4 |
-
|
| 5 |
-
일괄 트레이닝이 끝나고 'added'로 시작하는 인덱스 파일이 없으면 트레이닝 세트가 너무 커서 인덱스 추가 단계에서 멈췄을 수 있습니다. 메모리에 대한 인덱스 추가 요구 사항이 너무 큰 문제를 배치 처리 add 인덱스로 해결했습니다. 임시로 "트레이닝 인덱스" 버튼을 다시 클릭해 보세요. <br>
|
| 6 |
-
|
| 7 |
-
## Q2:트레이닝이 끝나고 트레이닝 세트의 음색을 추론에서 보지 못함
|
| 8 |
-
|
| 9 |
-
'음색 새로고침'을 클릭해 보세요. 여전히 없다면 트레이닝에 오류가 있는지, 콘솔 및 webui의 스크린샷, logs/실험명 아래의 로그를 개발자에게 보내 확인해 보세요. <br>
|
| 10 |
-
|
| 11 |
-
## Q3:모델 공유 방법
|
| 12 |
-
|
| 13 |
-
rvc_root/logs/실험명 아래에 저장된 pth는 추론에 사용하기 위한 것이 아니라 실험 상태를 저장하고 복원하며, 트레이닝을 계속하기 위한 것입니다. 공유에 사용되는 모델은 weights 폴더 아래 60MB 이상인 pth 파일입니다. <br>
|
| 14 |
-
<br/>
|
| 15 |
-
향후에는 weights/exp_name.pth와 logs/exp_name/added_xxx.index를 결합하여 weights/exp_name.zip으로 만들어 index 입력 단계를 생략할 예정입니다. 그러면 zip 파일을 공유하고 pth 파일은 공유하지 마세요. 단지 다른 기계에서 트레이닝을 계속하려는 경우에만 공유하세요. <br>
|
| 16 |
-
<br/>
|
| 17 |
-
logs 폴더 아래 수백 MB의 pth 파일을 weights 폴더에 복사/공유하여 강제로 추론에 사용하면 f0, tgt_sr 등의 키가 없다는 오류가 발생할 수 있습니다. ckpt 탭 아래에서 수동 또는 자동(로컬 logs에서 관련 정보를 찾을 수 있는 경우 자동)으로 음성, 대상 오디오 샘플링률 옵션을 선택한 후 ckpt 소형 모델을 추출해야 합니다(입력 경로에 G로 시작하는 경로를 입력). 추출 후 weights 폴더에 60MB 이상의 pth 파일이 생성되며, 음색 새로고침 후 사용할 수 있습니다. <br>
|
| 18 |
-
|
| 19 |
-
## Q4:연결 오류
|
| 20 |
-
|
| 21 |
-
아마도 컨트롤 콘솔(검은 창)을 닫았을 것입니다. <br>
|
| 22 |
-
|
| 23 |
-
## Q5:WebUI에서 "Expecting value: line 1 column 1 (char 0)" 오류가 발생함
|
| 24 |
-
|
| 25 |
-
시스템 로컬 네트워크 프록시/글로벌 프록시를 닫으세요. <br>
|
| 26 |
-
|
| 27 |
-
이는 클라이언트의 프록시뿐만 아니라 서버 측의 프록시도 포함합니다(예: autodl로 http_proxy 및 https_proxy를 설정한 경우 사용 시 unset으로 끄세요). <br>
|
| 28 |
-
|
| 29 |
-
## Q6:WebUI 없이 명령으로 트레이닝 및 추론하는 방법
|
| 30 |
-
|
| 31 |
-
트레이닝 스크립트: <br>
|
| 32 |
-
먼저 WebUI를 실행하여 데이터 세트 처리 및 트레이닝에 사용되는 명령줄을 메시지 창에서 확인할 수 있습니다. <br>
|
| 33 |
-
|
| 34 |
-
추론 스크립트: <br>
|
| 35 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py <br>
|
| 36 |
-
|
| 37 |
-
예제: <br>
|
| 38 |
-
|
| 39 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True <br>
|
| 40 |
-
|
| 41 |
-
f0up_key=sys.argv[1] <br>
|
| 42 |
-
input_path=sys.argv[2] <br>
|
| 43 |
-
index_path=sys.argv[3] <br>
|
| 44 |
-
f0method=sys.argv[4]#harvest 또는 pm <br>
|
| 45 |
-
opt_path=sys.argv[5] <br>
|
| 46 |
-
model_path=sys.argv[6] <br>
|
| 47 |
-
index_rate=float(sys.argv[7]) <br>
|
| 48 |
-
device=sys.argv[8] <br>
|
| 49 |
-
is_half=bool(sys.argv[9]) <br>
|
| 50 |
-
|
| 51 |
-
## Q7:Cuda 오류/Cuda 메모리 부족
|
| 52 |
-
|
| 53 |
-
아마도 cuda 설정 문제이거나 장치가 지원되지 않을 수 있습니다. 대부분의 경우 메모리가 부족합니다(out of memory). <br>
|
| 54 |
-
|
| 55 |
-
트레이닝의 경우 batch size를 줄이세요(1로 줄여도 부족하다면 다른 그래픽 카드로 트레이닝을 해야 합니다). 추론의 경우 config.py 파일 끝에 있는 x_pad, x_query, x_center, x_max를 적절히 줄이세요. 4GB 미만의 메모리(예: 1060(3GB) 및 여러 2GB 그래픽 카드)를 가진 경우는 포기하세요. 4GB 메모리 그래픽 카드는 아직 구할 수 있습니다. <br>
|
| 56 |
-
|
| 57 |
-
## Q8:total_epoch를 몇으로 설정하는 것이 좋을까요
|
| 58 |
-
|
| 59 |
-
트레이닝 세트의 오디오 품질이 낮고 배경 소음이 많으면 20~30이면 충분합니다. 너무 높게 설정하면 바닥 모델의 오디오 품질이 낮은 트레이닝 세트를 높일 수 없습니다. <br>
|
| 60 |
-
트레이닝 세트의 오디오 품질이 높고 배경 소음이 적고 길이가 길 경우 높게 설정할 수 있습니다. 200도 괜찮습니다(트레이닝 속도가 빠르므로, 고품질 트레이닝 세트를 준비할 수 있는 조건이 있다면, 그래픽 카드도 좋을 것이므로, 조금 더 긴 트레이닝 시간에 대해 걱정하지 않을 것입니다). <br>
|
| 61 |
-
|
| 62 |
-
## Q9: 트레이닝 세트는 얼마나 길어야 하나요
|
| 63 |
-
|
| 64 |
-
10분에서 50분을 추천합니다.
|
| 65 |
-
<br/>
|
| 66 |
-
음질이 좋고 백그라운드 노이즈가 낮은 상태에서, 개인적인 특색 있는 음색이라면 더 많으면 더 좋��니다.
|
| 67 |
-
<br/>
|
| 68 |
-
고품질의 트레이닝 세트(정교하게 준비된 + 특색 있는 음색)라면, 5분에서 10분도 괜찮습니다. 저장소의 저자도 종종 이렇게 합니다.
|
| 69 |
-
<br/>
|
| 70 |
-
1분에서 2분의 데이터로 트레이닝에 성공한 사람도 있지만, 그러한 성공 사례는 다른 사람이 재현하기 어려우며 참고 가치가 크지 않습니다. 이는 트레이닝 세트의 음색이 매우 뚜렷해야 하며(예: 높은 주파수의 명확한 목소리나 소녀음) 음질이 좋아야 합니다.
|
| 71 |
-
<br/>
|
| 72 |
-
1분 미만의 데이터로 트레이닝을 시도(성공)한 사례는 아직 보지 못했습니다. 이런 시도는 권장하지 않습니다.
|
| 73 |
-
|
| 74 |
-
## Q10: index rate는 무엇이며, 어떻게 조정하나요? (과학적 설명)
|
| 75 |
-
|
| 76 |
-
만약 베이스 모델과 추론 소스의 음질이 트레이닝 세트보다 높다면, 그들은 추론 결과의 음질을 높일 수 있지만, 음색이 베이스 모델/추론 소스의 음색으로 기울어질 수 있습니다. 이 현상을 "음색 유출"이라고 합니다.
|
| 77 |
-
<br/>
|
| 78 |
-
index rate는 음색 유출 문제를 줄이거나 해결하는 데 사용됩니다. 1로 조정하면 이론적으로 추론 소스의 음색 유출 문제가 없지만, 음질은 트레이닝 세트에 더 가깝게 됩니다. 만약 트레이닝 세트의 음질이 추론 소스보다 낮다면, index rate를 높이면 음질이 낮아질 수 있습니다. 0으로 조정하면 검색 혼합을 이용하여 트레이닝 세트의 음색을 보호하는 효과가 없습니다.
|
| 79 |
-
<br/>
|
| 80 |
-
트레이닝 세트가 고품질이고 길이가 길 경우, total_epoch를 높일 수 있으며, 이 경우 모델 자체가 추론 소스와 베이스 모델의 음색을 거의 참조하지 않아 "음색 유출" 문제가 거의 발생하지 않습니다. 이때 index rate는 중요하지 않으며, 심지어 index 색인 파일을 생성하거나 공유하지 않아도 됩니다.
|
| 81 |
-
|
| 82 |
-
## Q11: 추론시 GPU를 어떻게 선택하나요?
|
| 83 |
-
|
| 84 |
-
config.py 파일에서 device cuda: 다음에 카드 번호를 선택합니다.
|
| 85 |
-
카드 번호와 그래픽 카드의 매핑 관계는 트레이닝 탭의 그래픽 카드 정보란에서 볼 수 있습니다.
|
| 86 |
-
|
| 87 |
-
## Q12: 트레이닝 중간에 저장된 pth를 어떻게 추론하나요?
|
| 88 |
-
|
| 89 |
-
ckpt 탭 하단에서 소형 모델을 추출합니다.
|
| 90 |
-
|
| 91 |
-
## Q13: 트레이닝을 어떻게 중단하고 계속할 수 있나요?
|
| 92 |
-
|
| 93 |
-
현재 단계에서는 WebUI 콘솔을 닫고 go-web.bat을 더블 클릭하여 프로그램을 다시 시작해야 합니다. 웹 페이지 매개변수도 새로 고쳐서 다시 입력해야 합니다.
|
| 94 |
-
트레이닝을 계속하려면: 같은 웹 페이지 매개변수로 트레이닝 모델을 클릭하면 이전 체크포인트에서 트레이닝을 계속합니다.
|
| 95 |
-
|
| 96 |
-
## Q14: 트레이닝 중 파일 페이지/메모리 오류가 발생하면 어떻게 해야 하나요?
|
| 97 |
-
|
| 98 |
-
프로세스가 너무 많이 열려 메모리가 폭발했습니다. 다음과 같은 방법으로 해결할 수 있습니다.
|
| 99 |
-
|
| 100 |
-
1. "음높이 추출 및 데이터 처리에 사용되는 CPU 프로세스 수"를 적당히 낮춥니다.
|
| 101 |
-
2. 트레이닝 세트 오디오를 수동으로 잘라 너무 길지 않게 합니다.
|
| 102 |
-
|
| 103 |
-
## Q15: 트레이닝 도중 데이터를 어떻게 추가하나요?
|
| 104 |
-
|
| 105 |
-
1. 모든 데이터에 새로운 실험 이름을 만듭니다.
|
| 106 |
-
2. 이전에 가장 최신의 G와 D 파일(또는 어떤 중간 ckpt를 기반으로 트레이닝하고 싶다면 중간 것을 복사할 수도 있음)을 새 실험 이름으로 복사합니다.
|
| 107 |
-
3. 새 실험 이름으로 원클릭 트레이닝을 시작하면 이전의 최신 진행 상황에서 계속 트레이닝합니다.
|
| 108 |
-
|
| 109 |
-
## Q16: llvmlite.dll에 관한 오류
|
| 110 |
-
|
| 111 |
-
```bash
|
| 112 |
-
OSError: Could not load shared object file: llvmlite.dll
|
| 113 |
-
|
| 114 |
-
FileNotFoundError: Could not find module lib\site-packages\llvmlite\binding\llvmlite.dll (or one of its dependencies). Try using the full path with constructor syntax.
|
| 115 |
-
```
|
| 116 |
-
|
| 117 |
-
Windows 플랫폼에서 이 오류가 발생하면 https://aka.ms/vs/17/release/vc_redist.x64.exe를 설치하고 WebUI를 다시 시작하면 해결됩니다.
|
| 118 |
-
|
| 119 |
-
## Q17: RuntimeError: 텐서의 확장된 크기(17280)는 비 단일 항목 차원 1에서 기존 크기(0)와 일치해야 합니다. 대상 크기: [1, 17280]. 텐서 크기: [0]
|
| 120 |
-
|
| 121 |
-
wavs16k 폴더 아래에서 다른 파일들보다 크기가 현저히 작은 일부 오디오 파일을 찾아 삭제하고, 트레이닝 모델을 클릭하면 오류가 발생하지 않습니다. 하지만 원클릭 프로세스가 중단되었기 때문에 모델 트레이닝이 완료된 후에는 인덱스 트레이닝을 클릭해야 합니다.
|
| 122 |
-
|
| 123 |
-
## Q18: RuntimeError: 텐서 a의 크기(24)가 비 단일 항목 차원 2에서 텐서 b(16)의 크기와 일치해야 합니다.
|
| 124 |
-
|
| 125 |
-
트레이닝 도중에 샘플링 레이트를 변경해서는 안 됩니다. 변경해야 한다면 실험 이름을 변경하고 처음부터 트레이닝해야 합니다. 물론, 이전에 추출한 음높이와 특징(0/1/2/2b 폴더)을 복사하여 트레이닝 프로세스를 가속화할 수도 있습니다.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/kr/training_tips_ko.md
DELETED
|
@@ -1,53 +0,0 @@
|
|
| 1 |
-
RVC 훈련에 대한 설명과 팁들
|
| 2 |
-
======================================
|
| 3 |
-
본 팁에서는 어떻게 데이터 훈련이 이루어지고 있는지 설명합니다.
|
| 4 |
-
|
| 5 |
-
# 훈련의 흐름
|
| 6 |
-
GUI의 훈련 탭의 단계를 따라 설명합니다.
|
| 7 |
-
|
| 8 |
-
## step1
|
| 9 |
-
실험 이름을 지정합니다. 또한, 모델이 피치(소리의 높낮이)를 고려해야 하는지 여부를 여기에서 설정할 수도 있습니다..
|
| 10 |
-
각 실험을 위한 데이터는 `/logs/experiment name/`에 배치됩니다..
|
| 11 |
-
|
| 12 |
-
## step2a
|
| 13 |
-
음성 파일을 불러오고 전처리합니다.
|
| 14 |
-
|
| 15 |
-
### 음성 파일 불러오기
|
| 16 |
-
음성 파일이 있는 폴더를 지정하면 해당 폴더에 있는 음성 파일이 자동으로 가져와집니다.
|
| 17 |
-
예를 들어 `C:Users\hoge\voices`를 지정하면 `C:Users\hoge\voices\voice.mp3`가 읽히지만 `C:Users\hoge\voices\dir\voice.mp3`는 읽히지 않습니다.
|
| 18 |
-
|
| 19 |
-
음성 로드에는 내부적으로 ffmpeg를 이용하고 있으므로, ffmpeg로 대응하고 있는 확장자라면 자동적으로 읽힙니다.
|
| 20 |
-
ffmpeg에서 int16으로 변환한 후 float32로 변환하고 -1과 1 사이에 정규화됩니다.
|
| 21 |
-
|
| 22 |
-
### 잡음 제거
|
| 23 |
-
음성 파일에 대해 scipy의 filtfilt를 이용하여 잡음을 처리합니다.
|
| 24 |
-
|
| 25 |
-
### 음성 분할
|
| 26 |
-
입력한 음성 파일은 먼저 일정 기간(max_sil_kept=5초?)보다 길게 무음이 지속되는 부분을 감지하여 음성을 분할합니다.무음으로 음성을 분할한 후에는 0.3초의 overlap을 포함하여 4초마다 음성을 분할합니다.4초 이내에 구분된 음성은 음량의 정규화를 실시한 후 wav 파일을 `/logs/실험명/0_gt_wavs`로, 거기에서 16k의 샘플링 레이트로 변환해 `/logs/실험명/1_16k_wavs`에 wav 파일로 저장합니다.
|
| 27 |
-
|
| 28 |
-
## step2b
|
| 29 |
-
### 피치 추출
|
| 30 |
-
wav 파일에서 피치(소리의 높낮이) 정보를 추출합니다. parselmouth나 pyworld에 내장되어 있는 메서드으로 피치 정보(=f0)를 추출해, `/logs/실험명/2a_f0`에 저장합니다. 그 후 피치 정보를 로그로 변환하여 1~255 정수로 변환하고 `/logs/실험명/2b-f0nsf`에 저장합니다.
|
| 31 |
-
|
| 32 |
-
### feature_print 추출
|
| 33 |
-
HuBERT를 이용하여 wav 파일을 미리 embedding으로 변환합니다. `/logs/실험명/1_16k_wavs`에 저장한 wav 파일을 읽고 HuBERT에서 wav 파일을 256차원 feature들로 변환한 후 npy 형식으로 `/logs/실험명/3_feature256`에 저장합니다.
|
| 34 |
-
|
| 35 |
-
## step3
|
| 36 |
-
모델의 훈련을 진행합니다.
|
| 37 |
-
|
| 38 |
-
### 초보자용 용어 해설
|
| 39 |
-
심층학습(딥러닝)에서는 데이터셋을 분할하여 조금씩 학습을 진행합니다.한 번의 모델 업데이트(step) 단계 당 batch_size개의 데이터를 탐색하여 예측과 오차를 수정합니다. 데이터셋 전부에 대해 이 작업을 한 번 수행하는 이를 하나의 epoch라고 계산합니다.
|
| 40 |
-
|
| 41 |
-
따라서 학습 시간은 단계당 학습 시간 x (데이터셋 내 데이터의 수 / batch size) x epoch 수가 소요됩니다. 일반적으로 batch size가 클수록 학습이 안정적이게 됩니다. (step당 학습 시간 ÷ batch size)는 작아지지만 GPU 메모리를 더 많이 사용합니다. GPU RAM은 nvidia-smi 명령어를 통해 확인할 수 있습니다. 실행 환경에 따라 배치 크기를 최대한 늘리면 짧은 시간 내에 학습이 가능합니다.
|
| 42 |
-
|
| 43 |
-
### 사전 학습된 모델 지정
|
| 44 |
-
RVC는 적은 데이터셋으로도 훈련이 가능하도록 사전 훈련된 가중치에서 모델 훈련을 시작합니다. 기본적으로 `rvc-location/pretrained/f0G40k.pth` 및 `rvc-location/pretrained/f0D40k.pth`를 불러옵니다. 학습을 할 시에, 모델 파라미터는 각 save_every_epoch별로 `logs/experiment name/G_{}.pth` 와 `logs/experiment name/D_{}.pth`로 저장이 되는데, 이 경로를 지정함으로써 학습을 재개하거나, 다른 실험에서 학습한 모델의 가중치에서 학습을 시작할 수 있습니다.
|
| 45 |
-
|
| 46 |
-
### index의 학습
|
| 47 |
-
RVC에서는 학습시에 사용된 HuBERT의 feature값을 저장하고, 추론 시에는 학습 시 사용한 feature값과 유사한 feature 값을 탐색해 추론을 진행합니다. 이 탐색을 고속으로 수행하기 위해 사전에 index을 학습하게 됩니다.
|
| 48 |
-
Index 학습에는 근사 근접 탐색법 라이브러리인 Faiss를 사용하게 됩니다. `/logs/실험명/3_feature256`의 feature값을 불러와, 이를 모두 결합시킨 feature값을 `/logs/실험명/total_fea.npy`로서 저장, 그것을 사용해 학습한 index를`/logs/실험명/add_XXX.index`로 저장합니다.
|
| 49 |
-
|
| 50 |
-
### 버튼 설명
|
| 51 |
-
- モデルのトレーニング (모델 학습): step2b까지 실행한 후, 이 버튼을 눌러 모델을 학습합니다.
|
| 52 |
-
- 特徴インデックスのトレーニング (특징 지수 훈련): 모델의 훈련 후, index를 학습합니다.
|
| 53 |
-
- ワンクリックトレーニング (원클릭 트레이닝): step2b까지의 모델 훈련, feature index 훈련을 일괄로 실시합니다.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/pt/README.pt.md
DELETED
|
@@ -1,180 +0,0 @@
|
|
| 1 |
-
<div align="center">
|
| 2 |
-
|
| 3 |
-
# Retrieval-based-Voice-Conversion-WebUI
|
| 4 |
-
Uma estrutura de conversão de voz fácil de usar baseada em VITS.
|
| 5 |
-
|
| 6 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 12 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 13 |
-
|
| 14 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 15 |
-
|
| 16 |
-
</div>
|
| 17 |
-
|
| 18 |
-
------
|
| 19 |
-
[**FAQ (Frequently Asked Questions)**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/FAQ-(Frequently-Asked-Questions))
|
| 20 |
-
|
| 21 |
-
[**English**](../en/README.en.md) | [**中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 22 |
-
|
| 23 |
-
|
| 24 |
-
Confira nosso [Vídeo de demonstração](https://www.bilibili.com/video/BV1pm4y1z7Gm/) aqui!
|
| 25 |
-
|
| 26 |
-
Treinamento/Inferência WebUI：go-web.bat
|
| 27 |
-
|
| 28 |
-
|
| 29 |
-
GUI de conversão de voz em tempo real：go-realtime-gui.bat
|
| 30 |
-
|
| 31 |
-
|
| 32 |
-
|
| 33 |
-
> O dataset para o modelo de pré-treinamento usa quase 50 horas de conjunto de dados de código aberto VCTK de alta qualidade.
|
| 34 |
-
|
| 35 |
-
> Dataset de músicas licenciadas de alta qualidade serão adicionados ao conjunto de treinamento, um após o outro, para seu uso, sem se preocupar com violação de direitos autorais.
|
| 36 |
-
|
| 37 |
-
> Aguarde o modelo básico pré-treinado do RVCv3, que possui parâmetros maiores, mais dados de treinamento, melhores resultados, velocidade de inferência inalterada e requer menos dados de treinamento para treinamento.
|
| 38 |
-
|
| 39 |
-
## Resumo
|
| 40 |
-
Este repositório possui os seguintes recursos:
|
| 41 |
-
+ Reduza o vazamento de tom substituindo o recurso de origem pelo recurso de conjunto de treinamento usando a recuperação top1;
|
| 42 |
-
+ Treinamento fácil e rápido, mesmo em placas gráficas relativamente ruins;
|
| 43 |
-
+ Treinar com uma pequena quantidade de dados também obtém resultados relativamente bons (>=10min de áudio com baixo ruído recomendado);
|
| 44 |
-
+ Suporta fusão de modelos para alterar timbres (usando guia de processamento ckpt-> mesclagem ckpt);
|
| 45 |
-
+ Interface Webui fácil de usar;
|
| 46 |
-
+ Use o modelo UVR5 para separar rapidamente vocais e instrumentos.
|
| 47 |
-
+ Use o mais poderoso algoritmo de extração de voz de alta frequência [InterSpeech2023-RMVPE](#Credits) para evitar o problema de som mudo. Fornece os melhores resultados (significativamente) e é mais rápido, com consumo de recursos ainda menor que o Crepe_full.
|
| 48 |
-
+ Suporta aceleração de placas gráficas AMD/Intel.
|
| 49 |
-
+ Aceleração de placas gráficas Intel ARC com suporte para IPEX.
|
| 50 |
-
|
| 51 |
-
## Preparando o ambiente
|
| 52 |
-
Os comandos a seguir precisam ser executados no ambiente Python versão 3.8 ou superior.
|
| 53 |
-
|
| 54 |
-
(Windows/Linux)
|
| 55 |
-
Primeiro instale as dependências principais através do pip:
|
| 56 |
-
```bash
|
| 57 |
-
# Instale as dependências principais relacionadas ao PyTorch, pule se instaladas
|
| 58 |
-
# Referência: https://pytorch.org/get-started/locally/
|
| 59 |
-
pip install torch torchvision torchaudio
|
| 60 |
-
|
| 61 |
-
#Para arquitetura Windows + Nvidia Ampere (RTX30xx), você precisa especificar a versão cuda correspondente ao pytorch de acordo com a experiência de https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/issues/ 21
|
| 62 |
-
#pip instalar tocha torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 63 |
-
|
| 64 |
-
#Para placas Linux + AMD, você precisa usar as seguintes versões do pytorch:
|
| 65 |
-
#pip instalar tocha torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm5.4.2
|
| 66 |
-
```
|
| 67 |
-
|
| 68 |
-
Então pode usar poesia para instalar as outras dependências:
|
| 69 |
-
```bash
|
| 70 |
-
# Instale a ferramenta de gerenciamento de dependências Poetry, pule se instalada
|
| 71 |
-
# Referência: https://python-poetry.org/docs/#installation
|
| 72 |
-
curl -sSL https://install.python-poetry.org | python3 -
|
| 73 |
-
|
| 74 |
-
#Instale as dependências do projeto
|
| 75 |
-
poetry install
|
| 76 |
-
```
|
| 77 |
-
|
| 78 |
-
Você também pode usar pip para instalá-los:
|
| 79 |
-
```bash
|
| 80 |
-
|
| 81 |
-
for Nvidia graphics cards
|
| 82 |
-
pip install -r requirements/main.txt
|
| 83 |
-
|
| 84 |
-
for AMD/Intel graphics cards on Windows (DirectML)：
|
| 85 |
-
pip install -r requirements/dml.txt
|
| 86 |
-
|
| 87 |
-
for Intel ARC graphics cards on Linux / WSL using Python 3.10:
|
| 88 |
-
pip install -r requirements/ipex.txt
|
| 89 |
-
|
| 90 |
-
for AMD graphics cards on Linux (ROCm):
|
| 91 |
-
pip install -r requirements/amd.txt
|
| 92 |
-
```
|
| 93 |
-
|
| 94 |
-
------
|
| 95 |
-
Usuários de Mac podem instalar dependências via `run.sh`:
|
| 96 |
-
```bash
|
| 97 |
-
sh ./run.sh
|
| 98 |
-
```
|
| 99 |
-
|
| 100 |
-
## Preparação de outros Pré-modelos
|
| 101 |
-
RVC requer outros pré-modelos para inferir e treinar.
|
| 102 |
-
|
| 103 |
-
```bash
|
| 104 |
-
#Baixe todos os modelos necessários em https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/
|
| 105 |
-
python tools/download_models.py
|
| 106 |
-
```
|
| 107 |
-
|
| 108 |
-
Ou apenas baixe-os você mesmo em nosso [Huggingface space](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/).
|
| 109 |
-
|
| 110 |
-
Aqui está uma lista de pré-modelos e outros arquivos que o RVC precisa:
|
| 111 |
-
```bash
|
| 112 |
-
./assets/hubert/hubert_base.pt
|
| 113 |
-
|
| 114 |
-
./assets/pretrained
|
| 115 |
-
|
| 116 |
-
./assets/uvr5_weights
|
| 117 |
-
|
| 118 |
-
Downloads adicionais são necessários se você quiser testar a versão v2 do modelo.
|
| 119 |
-
|
| 120 |
-
./assets/pretrained_v2
|
| 121 |
-
|
| 122 |
-
Se você deseja testar o modelo da versão v2 (o modelo da versão v2 alterou a entrada do recurso dimensional 256 do Hubert + final_proj de 9 camadas para o recurso dimensional 768 do Hubert de 12 camadas e adicionou 3 discriminadores de período), você precisará baixar recursos adicionais
|
| 123 |
-
|
| 124 |
-
./assets/pretrained_v2
|
| 125 |
-
|
| 126 |
-
Se quiser usar o algoritmo de extração de tom vocal SOTA RMVPE mais recente, você precisa baixar os pesos RMVPE e colocá-los no diretório raiz RVC
|
| 127 |
-
|
| 128 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt
|
| 129 |
-
|
| 130 |
-
Para usuários de placas gráficas AMD/Intel, você precisa baixar:
|
| 131 |
-
|
| 132 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx
|
| 133 |
-
|
| 134 |
-
```
|
| 135 |
-
|
| 136 |
-
Os usuários de placas gráficas Intel ARC precisam executar o comando `source /opt/intel/oneapi/setvars.sh` antes de iniciar o Webui.
|
| 137 |
-
|
| 138 |
-
Em seguida, use este comando para iniciar o Webui:
|
| 139 |
-
```bash
|
| 140 |
-
python web.py
|
| 141 |
-
```
|
| 142 |
-
|
| 143 |
-
Se estiver usando Windows ou macOS, você pode baixar e extrair `RVC-beta.7z` para usar RVC diretamente usando `go-web.bat` no Windows ou `sh ./run.sh` no macOS para iniciar o Webui.
|
| 144 |
-
|
| 145 |
-
## Suporte ROCm para placas gráficas AMD (somente Linux)
|
| 146 |
-
Para usar o ROCm no Linux, instale todos os drivers necessários conforme descrito [aqui](https://rocm.docs.amd.com/en/latest/deploy/linux/os-native/install.html).
|
| 147 |
-
|
| 148 |
-
No Arch use pacman para instalar o driver:
|
| 149 |
-
````
|
| 150 |
-
pacman -S rocm-hip-sdk rocm-opencl-sdk
|
| 151 |
-
````
|
| 152 |
-
|
| 153 |
-
Talvez você também precise definir estas variáveis de ambiente (por exemplo, em um RX6700XT):
|
| 154 |
-
````
|
| 155 |
-
export ROCM_PATH=/opt/rocm
|
| 156 |
-
export HSA_OVERRIDE_GFX_VERSION=10.3.0
|
| 157 |
-
````
|
| 158 |
-
Verifique também se seu usuário faz parte do grupo `render` e `video`:
|
| 159 |
-
````
|
| 160 |
-
sudo usermod -aG render $USERNAME
|
| 161 |
-
sudo usermod -aG video $USERNAME
|
| 162 |
-
````
|
| 163 |
-
Depois disso, você pode executar o WebUI:
|
| 164 |
-
```bash
|
| 165 |
-
python web.py
|
| 166 |
-
```
|
| 167 |
-
|
| 168 |
-
## Credits
|
| 169 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 170 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 171 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 172 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 173 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 174 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 175 |
-
+ [Vocal pitch extraction:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 176 |
-
+ The pretrained model is trained and tested by [yxlllc](https://github.com/yxlllc/RMVPE) and [RVC-Boss](https://github.com/RVC-Boss).
|
| 177 |
-
|
| 178 |
-
## Thanks to all contributors for their efforts
|
| 179 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
| 180 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/pt/faiss_tips_pt.md
DELETED
|
@@ -1,102 +0,0 @@
|
|
| 1 |
-
pONTAS de afinação FAISS
|
| 2 |
-
==================
|
| 3 |
-
# sobre faiss
|
| 4 |
-
faiss é uma biblioteca de pesquisas de vetores densos na área, desenvolvida pela pesquisa do facebook, que implementa com eficiência muitos métodos de pesquisa de área aproximada.
|
| 5 |
-
A Pesquisa Aproximada de área encontra vetores semelhantes rapidamente, sacrificando alguma precisão.
|
| 6 |
-
|
| 7 |
-
## faiss em RVC
|
| 8 |
-
No RVC, para a incorporação de recursos convertidos pelo HuBERT, buscamos incorporações semelhantes à incorporação gerada a partir dos dados de treinamento e as misturamos para obter uma conversão mais próxima do discurso original. No entanto, como essa pesquisa leva tempo se realizada de forma ingênua, a conversão de alta velocidade é realizada usando a pesquisa aproximada de área.
|
| 9 |
-
|
| 10 |
-
# visão geral da implementação
|
| 11 |
-
Em '/logs/nome-do-seu-modelo/3_feature256', onde o modelo está localizado, os recursos extraídos pelo HuBERT de cada dado de voz estão localizados.
|
| 12 |
-
A partir daqui, lemos os arquivos npy ordenados por nome de arquivo e concatenamos os vetores para criar big_npy. (Este vetor tem a forma [N, 256].)
|
| 13 |
-
Depois de salvar big_npy as /logs/nome-do-seu-modelo/total_fea.npy, treine-o com faiss.
|
| 14 |
-
|
| 15 |
-
Neste artigo, explicarei o significado desses parâmetros.
|
| 16 |
-
|
| 17 |
-
# Explicação do método
|
| 18 |
-
## Fábrica de Index
|
| 19 |
-
Uma fábrica de Index é uma notação faiss exclusiva que expressa um pipeline que conecta vários métodos de pesquisa de área aproximados como uma string.
|
| 20 |
-
Isso permite que você experimente vários métodos aproximados de pesquisa de área simplesmente alterando a cadeia de caracteres de fábrica do Index.
|
| 21 |
-
No RVC é usado assim:
|
| 22 |
-
|
| 23 |
-
```python
|
| 24 |
-
index = faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 25 |
-
```
|
| 26 |
-
Entre os argumentos de index_factory, o primeiro é o número de dimensões do vetor, o segundo é a string de fábrica do Index e o terceiro é a distância a ser usada.
|
| 27 |
-
|
| 28 |
-
Para uma notação mais detalhada
|
| 29 |
-
https://github.com/facebookresearch/faiss/wiki/The-index-factory
|
| 30 |
-
|
| 31 |
-
## Construção de Index
|
| 32 |
-
Existem dois Indexs típicos usados como similaridade de incorporação da seguinte forma.
|
| 33 |
-
|
| 34 |
-
- Distância euclidiana (MÉTRICA_L2)
|
| 35 |
-
- Produto interno (METRIC_INNER_PRODUCT)
|
| 36 |
-
|
| 37 |
-
A distância euclidiana toma a diferença quadrática em cada dimensão, soma as diferenças em todas as dimensões e, em seguida, toma a raiz quadrada. Isso é o mesmo que a distância em 2D e 3D que usamos diariamente.
|
| 38 |
-
O produto interno não é usado como um Index de similaridade como é, e a similaridade de cosseno que leva o produto interno depois de ser normalizado pela norma L2 é geralmente usada.
|
| 39 |
-
|
| 40 |
-
O que é melhor depende do caso, mas a similaridade de cosseno é frequentemente usada na incorporação obtida pelo word2vec e modelos de recuperação de imagem semelhantes aprendidos pelo ArcFace. Se você quiser fazer a normalização l2 no vetor X com numpy, você pode fazê-lo com o seguinte código com eps pequeno o suficiente para evitar a divisão 0.
|
| 41 |
-
|
| 42 |
-
```python
|
| 43 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 44 |
-
```
|
| 45 |
-
|
| 46 |
-
Além disso, para a Construção de Index, você pode alterar o Index de distância usado para cálculo escolhendo o valor a ser passado como o terceiro argumento.
|
| 47 |
-
|
| 48 |
-
```python
|
| 49 |
-
index = faiss.index_factory(dimention, text, faiss.METRIC_INNER_PRODUCT)
|
| 50 |
-
```
|
| 51 |
-
|
| 52 |
-
## FI
|
| 53 |
-
IVF (Inverted file indexes) é um algoritmo semelhante ao Index invertido na pesquisa de texto completo.
|
| 54 |
-
Durante o aprendizado, o destino da pesquisa é agrupado com kmeans e o particionamento Voronoi é realizado usando o centro de cluster. A cada ponto de dados é atribuído um cluster, por isso criamos um dicionário que procura os pontos de dados dos clusters.
|
| 55 |
-
|
| 56 |
-
Por exemplo, se os clusters forem atribuídos da seguinte forma
|
| 57 |
-
|index|Cluster|
|
| 58 |
-
|-----|-------|
|
| 59 |
-
|1|A|
|
| 60 |
-
|2|B|
|
| 61 |
-
|3|A|
|
| 62 |
-
|4|C|
|
| 63 |
-
|5|B|
|
| 64 |
-
|
| 65 |
-
O Index invertido resultante se parece com isso:
|
| 66 |
-
|
| 67 |
-
| cluster | Index |
|
| 68 |
-
|-------|-----|
|
| 69 |
-
| A | 1, 3 |
|
| 70 |
-
| B | 2 5 |
|
| 71 |
-
| C | 4 |
|
| 72 |
-
|
| 73 |
-
Ao pesquisar, primeiro pesquisamos n_probe clusters dos clusters e, em seguida, calculamos as distâncias para os pontos de dados pertencentes a cada cluster.
|
| 74 |
-
|
| 75 |
-
# Parâmetro de recomendação
|
| 76 |
-
Existem diretrizes oficiais sobre como escolher um Index, então vou explicar de
|
| 77 |
-
acordo. https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index
|
| 78 |
-
|
| 79 |
-
Para conjuntos de dados abaixo de 1M, o 4bit-PQ é o método mais eficiente disponível no faiss em abril de 2023.
|
| 80 |
-
Combinando isso com a fertilização in vitro, estreitando os candidatos com 4bit-PQ e, finalmente, recalcular a distância com um Index preciso pode ser descrito usando a seguinte fábrica de Indexs.
|
| 81 |
-
|
| 82 |
-
```python
|
| 83 |
-
index = faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 84 |
-
```
|
| 85 |
-
|
| 86 |
-
## Parâmetros recomendados para FIV
|
| 87 |
-
Considere o caso de muitas FIVs. Por exemplo, se a quantização grosseira por FIV for realizada para o número de dados, isso é o mesmo que uma pesquisa exaustiva ingênua e é ineficiente.
|
| 88 |
-
Para 1M ou menos, os valores de FIV são recomendados entre 4*sqrt(N) ~ 16*sqrt(N) para N número de pontos de dados.
|
| 89 |
-
|
| 90 |
-
Como o tempo de cálculo aumenta proporcionalmente ao número de n_sondas, consulte a precisão e escolha adequadamente. Pessoalmente, não acho que o RVC precise de tanta precisão, então n_probe = 1 está bem.
|
| 91 |
-
|
| 92 |
-
## FastScan
|
| 93 |
-
O FastScan é um método que permite a aproximação de alta velocidade de distâncias por quantização de produto cartesiano, realizando-as em registros.
|
| 94 |
-
A quantização cartesiana do produto executa o agrupamento independentemente para cada dimensão d (geralmente d = 2) durante o aprendizado, calcula a distância entre os agrupamentos com antecedência e cria uma tabela de pesquisa. No momento da previsão, a distância de cada dimensão pode ser calculada em O(1) olhando para a tabela de pesquisa.
|
| 95 |
-
Portanto, o número que você especifica após PQ geralmente especifica metade da dimensão do vetor.
|
| 96 |
-
|
| 97 |
-
Para uma descrição mais detalhada do FastScan, consulte a documentação oficial.
|
| 98 |
-
https://github.com/facebookresearch/faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 99 |
-
|
| 100 |
-
## RFlat
|
| 101 |
-
RFlat é uma instrução para recalcular a distância aproximada calculada pelo FastScan com a distância exata especificada pelo terceiro argumento da Construção de Index.
|
| 102 |
-
Ao obter áreas k, os pontos k*k_factor são recalculados.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/pt/faq_pt.md
DELETED
|
@@ -1,220 +0,0 @@
|
|
| 1 |
-
# <b>FAQ AI HUB BRASIL</b>
|
| 2 |
-
## <span style="color: #337dff;">O que é epoch, quantos utilizar, quanto de dataset utilizar e qual à configuração interessante?</span>
|
| 3 |
-
Epochs basicamente quantas vezes o seu dataset foi treinado.
|
| 4 |
-
|
| 5 |
-
Recomendado ler Q8 e Q9 no final dessa página pra entender mais sobre dataset e epochs
|
| 6 |
-
|
| 7 |
-
__**Não é uma regra, mas opinião:**__
|
| 8 |
-
|
| 9 |
-
### **Mangio-Crepe Hop Length**
|
| 10 |
-
- 64 pra cantores e dubladores
|
| 11 |
-
- 128(padrão) para os demais (editado)
|
| 12 |
-
|
| 13 |
-
### **Epochs e dataset**
|
| 14 |
-
600epoch para cantores - --dataset entre 10 e 50 min desnecessario mais que 50 minutos--
|
| 15 |
-
300epoch para os demais - --dataset entre 10 e 50 min desnecessario mais que 50 minutos--
|
| 16 |
-
|
| 17 |
-
### **Tom**
|
| 18 |
-
magio-crepe se for audios extraído de alguma musica
|
| 19 |
-
harvest se for de estúdio<hr>
|
| 20 |
-
|
| 21 |
-
## <span style="color: #337dff;">O que é index?</span>
|
| 22 |
-
Basicamente o que define o sotaque. Quanto maior o numero, mas próximo o sotaque fica do original. Porém, quando o modelo é bem, não é necessário um index.<hr>
|
| 23 |
-
|
| 24 |
-
## <span style="color: #337dff;">O que significa cada sigla (pm, harvest, crepe, magio-crepe, RMVPE)?</span>
|
| 25 |
-
|
| 26 |
-
- pm = extração mais rápida, mas discurso de qualidade inferior;
|
| 27 |
-
- harvest = graves melhores, mas extremamente lentos;
|
| 28 |
-
- dio = conversão rápida mas pitch ruim;
|
| 29 |
-
- crepe = melhor qualidade, mas intensivo em GPU;
|
| 30 |
-
- crepe-tiny = mesma coisa que o crepe, só que com a qualidade um pouco inferior;
|
| 31 |
-
- **mangio-crepe = melhor qualidade, mais otimizado; (MELHOR OPÇÃO)**
|
| 32 |
-
- mangio-crepe-tiny = mesma coisa que o mangio-crepe, só que com a qualidade um pouco inferior;
|
| 33 |
-
- RMVPE: um modelo robusto para estimativa de afinação vocal em música polifônica;<hr>
|
| 34 |
-
|
| 35 |
-
## <span style="color: #337dff;">Pra rodar localmente, quais os requisitos minimos?</span>
|
| 36 |
-
Já tivemos relatos de pessoas com GTX 1050 rodando inferencia, se for treinar numa 1050 vai demorar muito mesmo e inferior a isso, normalmente da tela azul
|
| 37 |
-
|
| 38 |
-
O mais importante é placa de vídeo, vram na verdade
|
| 39 |
-
Se você tiver 4GB ou mais, você tem uma chance.
|
| 40 |
-
|
| 41 |
-
**NOS DOIS CASOS NÃO É RECOMENDADO UTILIZAR O PC ENQUANTO ESTÁ UTILIZNDO, CHANCE DE TELA AZUL É ALTA**
|
| 42 |
-
### Inference
|
| 43 |
-
Não é algo oficial para requisitos minimos
|
| 44 |
-
- Placa de vídeo: nvidia de 4gb
|
| 45 |
-
- Memoria ram: 8gb
|
| 46 |
-
- CPU: ?
|
| 47 |
-
- Armanezamento: 20gb (sem modelos)
|
| 48 |
-
|
| 49 |
-
### Treinamento de voz
|
| 50 |
-
Não é algo oficial para requisitos minimos
|
| 51 |
-
- Placa de vídeo: nvidia de 6gb
|
| 52 |
-
- Memoria ram: 16gb
|
| 53 |
-
- CPU: ?
|
| 54 |
-
- Armanezamento: 20gb (sem modelos)<hr>
|
| 55 |
-
|
| 56 |
-
## <span style="color: #337dff;">Limite de GPU no Google Colab excedido, apenas CPU o que fazer?</span>
|
| 57 |
-
Recomendamos esperar outro dia pra liberar mais 15gb ou 12 horas pra você. Ou você pode contribuir com o Google pagando algum dos planos, ai aumenta seu limite.<br>
|
| 58 |
-
Utilizar apenas CPU no Google Colab demora DEMAIS.<hr>
|
| 59 |
-
|
| 60 |
-
|
| 61 |
-
## <span style="color: #337dff;">Google Colab desconectando com muita frequencia, o que fazer?</span>
|
| 62 |
-
Neste caso realmente não tem muito o que fazer. Apenas aguardar o proprietário do código corrigir ou a gente do AI HUB Brasil achar alguma solução. Isso acontece por diversos motivos, um incluindo a Google barrando o treinamento de voz.<hr>
|
| 63 |
-
|
| 64 |
-
## <span style="color: #337dff;">O que é Batch Size/Tamanho de lote e qual numero utilizar?</span>
|
| 65 |
-
Batch Size/Tamanho do lote é basicamente quantos epoch faz ao mesmo tempo. Se por 20, ele fazer 20 epoch ao mesmo tempo e isso faz pesar mais na máquina e etc.<br>
|
| 66 |
-
|
| 67 |
-
No Google Colab você pode utilizar até 20 de boa.<br>
|
| 68 |
-
Se rodando localmente, depende da sua placa de vídeo, começa por baixo (6) e vai testando.<hr>
|
| 69 |
-
|
| 70 |
-
## <span style="color: #337dff;">Sobre backup na hora do treinamento</span>
|
| 71 |
-
Backup vai de cada um. Eu quando uso a ``easierGUI`` utilizo a cada 100 epoch (meu caso isolado).
|
| 72 |
-
No colab, se instavel, coloque a cada 10 epoch
|
| 73 |
-
Recomendo utilizarem entre 25 e 50 pra garantir.
|
| 74 |
-
|
| 75 |
-
Lembrando que cada arquivo geral é por volta de 50mb, então tenha muito cuidado quanto você coloca. Pois assim pode acabar lotando seu Google Drive ou seu PC.
|
| 76 |
-
|
| 77 |
-
Depois de finalizado, da pra apagar os epoch de backup.<hr>
|
| 78 |
-
|
| 79 |
-
## <span style="color: #337dff;">Como continuar da onde parou pra fazer mais epochs?</span>
|
| 80 |
-
Primeira coisa que gostaria de lembrar, não necessariamente quanto mais epochs melhor. Se fizer epochs demais vai dar **overtraining** o que pode ser ruim.
|
| 81 |
-
|
| 82 |
-
### GUI NORMAL
|
| 83 |
-
- Inicie normalmente a GUI novamente.
|
| 84 |
-
- Na aba de treino utilize o MESMO nome que estava treinando, assim vai continuar o treino onde parou o ultimo backup.
|
| 85 |
-
- Ignore as opções ``Processar o Conjunto de dados`` e ``Extrair Tom``
|
| 86 |
-
- Antes de clicar pra treinar, arrume os epoch, bakcup e afins.
|
| 87 |
-
- Obviamente tem que ser um numero maior do qu estava em epoch.
|
| 88 |
-
- Backup você pode aumentar ou diminuir
|
| 89 |
-
- Agora você vai ver a opção ``Carregue o caminho G do modelo base pré-treinado:`` e ``Carregue o caminho D do modelo base pré-treinado:``
|
| 90 |
-
-Aqui você vai por o caminho dos modelos que estão em ``./logs/minha-voz``
|
| 91 |
-
- Vai ficar algo parecido com isso ``e:/RVC/logs/minha-voz/G_0000.pth`` e ``e:/RVC/logs/minha-voz/D_0000.pth``
|
| 92 |
-
-Coloque pra treinar
|
| 93 |
-
|
| 94 |
-
**Lembrando que a pasta logs tem que ter todos os arquivos e não somente o arquivo ``G`` e ``D``**
|
| 95 |
-
|
| 96 |
-
### EasierGUI
|
| 97 |
-
- Inicie normalmente a easierGUI novamente.
|
| 98 |
-
- Na aba de treino utilize o MESMO nome que estava treinando, assim vai continuar o treino onde parou o ultimo backup.
|
| 99 |
-
- Selecione 'Treinar modelo', pode pular os 2 primeiros passos já que vamos continuar o treino.<hr><br>
|
| 100 |
-
|
| 101 |
-
|
| 102 |
-
# <b>FAQ Original traduzido</b>
|
| 103 |
-
|
| 104 |
-
## <b><span style="color: #337dff;">Q1:Não é possível encontrar o arquivo de Index após "Treinamento com um clique".</span></b>
|
| 105 |
-
Se exibir "O treinamento está concluído. O programa é fechado ", então o modelo foi treinado com sucesso e os erros subsequentes são falsos;
|
| 106 |
-
|
| 107 |
-
A falta de um arquivo de index 'adicionado' após o treinamento com um clique pode ser devido ao conjunto de treinamento ser muito grande, fazendo com que a adição do index fique presa; isso foi resolvido usando o processamento em lote para adicionar o index, o que resolve o problema de sobrecarga de memória ao adicionar o index. Como solução temporária, tente clicar no botão "Treinar Index" novamente.<hr>
|
| 108 |
-
|
| 109 |
-
## <b><span style="color: #337dff;">Q2:Não é possível encontrar o modelo em “Modelo de voz” após o treinamento</span></b>
|
| 110 |
-
Clique em "Atualizar lista de voz" ou "Atualizar na EasyGUI e verifique novamente; se ainda não estiver visível, verifique se há erros durante o treinamento e envie capturas de tela do console, da interface do usuário da Web e dos ``logs/experiment_name/*.log`` para os desenvolvedores para análise posterior.<hr>
|
| 111 |
-
|
| 112 |
-
## <b><span style="color: #337dff;">Q3:Como compartilhar um modelo/Como usar os modelos dos outros?</span></b>
|
| 113 |
-
Os arquivos ``.pth`` armazenados em ``*/logs/minha-voz`` não são destinados para compartilhamento ou inference, mas para armazenar os checkpoits do experimento para reprodutibilidade e treinamento adicional. O modelo a ser compartilhado deve ser o arquivo ``.pth`` de 60+MB na pasta **weights**;
|
| 114 |
-
|
| 115 |
-
No futuro, ``weights/minha-voz.pth`` e ``logs/minha-voz/added_xxx.index`` serão mesclados em um único arquivo de ``weights/minha-voz.zip`` para eliminar a necessidade de entrada manual de index; portanto, compartilhe o arquivo zip, não somente o arquivo .pth, a menos que você queira continuar treinando em uma máquina diferente;
|
| 116 |
-
|
| 117 |
-
Copiar/compartilhar os vários arquivos .pth de centenas de MB da pasta de logs para a pasta de weights para inference forçada pode resultar em erros como falta de f0, tgt_sr ou outras chaves. Você precisa usar a guia ckpt na parte inferior para manualmente ou automaticamente (se as informações forem encontradas nos ``logs/minha-voz``), selecione se deseja incluir informações de tom e opções de taxa de amostragem de áudio de destino e, em seguida, extrair o modelo menor. Após a extração, haverá um arquivo pth de 60+ MB na pasta de weights, e você pode atualizar as vozes para usá-lo.<hr>
|
| 118 |
-
|
| 119 |
-
## <b><span style="color: #337dff;">Q4 Erro de conexão:</span></b>
|
| 120 |
-
Para sermos otimistas, aperte F5/recarregue a página, pode ter sido apenas um bug da GUI
|
| 121 |
-
|
| 122 |
-
Se não...
|
| 123 |
-
Você pode ter fechado o console (janela de linha de comando preta).
|
| 124 |
-
Ou o Google Colab, no caso do Colab, as vezes pode simplesmente fechar<hr>
|
| 125 |
-
|
| 126 |
-
## <b><span style="color: #337dff;">Q5: Pop-up WebUI 'Valor esperado: linha 1 coluna 1 (caractere 0)'.</span></b>
|
| 127 |
-
Desative o proxy LAN do sistema/proxy global e atualize.<hr>
|
| 128 |
-
|
| 129 |
-
## <b><span style="color: #337dff;">Q6:Como treinar e inferir sem a WebUI?</span></b>
|
| 130 |
-
Script de treinamento:
|
| 131 |
-
<br>Você pode executar o treinamento em WebUI primeiro, e as versões de linha de comando do pré-processamento e treinamento do conjunto de dados serão exibidas na janela de mensagens.<br>
|
| 132 |
-
|
| 133 |
-
Script de inference:
|
| 134 |
-
<br>https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py<br>
|
| 135 |
-
|
| 136 |
-
|
| 137 |
-
por exemplo<br>
|
| 138 |
-
|
| 139 |
-
``runtime\python.exe myinfer.py 0 "E:\audios\1111.wav" "E:\RVC\logs\minha-voz\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True``<br>
|
| 140 |
-
|
| 141 |
-
|
| 142 |
-
f0up_key=sys.argv[1]<br>
|
| 143 |
-
input_path=sys.argv[2]<br>
|
| 144 |
-
index_path=sys.argv[3]<br>
|
| 145 |
-
f0method=sys.argv[4]#harvest or pm<br>
|
| 146 |
-
opt_path=sys.argv[5]<br>
|
| 147 |
-
model_path=sys.argv[6]<br>
|
| 148 |
-
index_rate=float(sys.argv[7])<br>
|
| 149 |
-
device=sys.argv[8]<br>
|
| 150 |
-
is_half=bool(sys.argv[9])<hr>
|
| 151 |
-
|
| 152 |
-
## <b><span style="color: #337dff;">Q7: Erro Cuda/Cuda sem memória.</span></b>
|
| 153 |
-
Há uma pequena chance de que haja um problema com a configuração do CUDA ou o dispositivo não seja suportado; mais provavelmente, não há memória suficiente (falta de memória).<br>
|
| 154 |
-
|
| 155 |
-
Para treinamento, reduza o (batch size) tamanho do lote (se reduzir para 1 ainda não for suficiente, talvez seja necessário alterar a placa gráfica); para inference, ajuste as configurações x_pad, x_query, x_center e x_max no arquivo config.py conforme necessário. Cartões de memória 4G ou inferiores (por exemplo, 1060(3G) e várias placas 2G) podem ser abandonados, enquanto os placas de vídeo com memória 4G ainda têm uma chance.<hr>
|
| 156 |
-
|
| 157 |
-
## <b><span style="color: #337dff;">Q8:Quantos total_epoch são ótimos?</span></b>
|
| 158 |
-
Se a qualidade de áudio do conjunto de dados de treinamento for ruim e o nível de ruído for alto, **20-30 epochs** são suficientes. Defini-lo muito alto não melhorará a qualidade de áudio do seu conjunto de treinamento de baixa qualidade.<br>
|
| 159 |
-
|
| 160 |
-
Se a qualidade de áudio do conjunto de treinamento for alta, o nível de ruído for baixo e houver duração suficiente, você poderá aumentá-lo. **200 é aceitável** (uma vez que o treinamento é rápido e, se você puder preparar um conjunto de treinamento de alta qualidade, sua GPU provavelmente poderá lidar com uma duração de treinamento mais longa sem problemas).<hr>
|
| 161 |
-
|
| 162 |
-
## <b><span style="color: #337dff;">Q9:Quanto tempo de treinamento é necessário?</span></b>
|
| 163 |
-
|
| 164 |
-
**Recomenda-se um conjunto de dados de cerca de 10 min a 50 min.**<br>
|
| 165 |
-
|
| 166 |
-
Com garantia de alta qualidade de som e baixo ruído de fundo, mais pode ser adicionado se o timbre do conjunto de dados for uniforme.<br>
|
| 167 |
-
|
| 168 |
-
Para um conjunto de treinamento de alto nível (limpo + distintivo), 5min a 10min é bom.<br>
|
| 169 |
-
|
| 170 |
-
Há algumas pessoas que treinaram com sucesso com dados de 1 a 2 minutos, mas o sucesso não é reproduzível por outros e não é muito informativo. <br>Isso requer que o conjunto de treinamento tenha um timbre muito distinto (por exemplo, um som de menina de anime arejado de alta frequência) e a qualidade do áudio seja alta;
|
| 171 |
-
Dados com menos de 1 minuto, já obtivemo sucesso. Mas não é recomendado.<hr>
|
| 172 |
-
|
| 173 |
-
|
| 174 |
-
## <b><span style="color: #337dff;">Q10:Qual é a taxa do index e como ajustá-la?</span></b>
|
| 175 |
-
Se a qualidade do tom do modelo pré-treinado e da fonte de inference for maior do que a do conjunto de treinamento, eles podem trazer a qualidade do tom do resultado do inference, mas ao custo de um possível viés de tom em direção ao tom do modelo subjacente/fonte de inference, em vez do tom do conjunto de treinamento, que é geralmente referido como "vazamento de tom".<br>
|
| 176 |
-
|
| 177 |
-
A taxa de index é usada para reduzir/resolver o problema de vazamento de timbre. Se a taxa do index for definida como 1, teoricamente não há vazamento de timbre da fonte de inference e a qualidade do timbre é mais tendenciosa em relação ao conjunto de treinamento. Se o conjunto de treinamento tiver uma qualidade de som mais baixa do que a fonte de inference, uma taxa de index mais alta poderá reduzir a qualidade do som. Reduzi-lo a 0 não tem o efeito de usar a mistura de recuperação para proteger os tons definidos de treinamento.<br>
|
| 178 |
-
|
| 179 |
-
Se o conjunto de treinamento tiver boa qualidade de áudio e longa duração, aumente o total_epoch, quando o modelo em si é menos propenso a se referir à fonte inferida e ao modelo subjacente pré-treinado, e há pouco "vazamento de tom", o index_rate não é importante e você pode até não criar/compartilhar o arquivo de index.<hr>
|
| 180 |
-
|
| 181 |
-
## <b><span style="color: #337dff;">Q11:Como escolher o GPU ao inferir?</span></b>
|
| 182 |
-
No arquivo ``config.py``, selecione o número da placa em "device cuda:".<br>
|
| 183 |
-
|
| 184 |
-
O mapeamento entre o número da placa e a placa gráfica pode ser visto na seção de informações da placa gráfica da guia de treinamento.<hr>
|
| 185 |
-
|
| 186 |
-
## <b><span style="color: #337dff;">Q12:Como usar o modelo salvo no meio do treinamento?</span></b>
|
| 187 |
-
Salvar via extração de modelo na parte inferior da guia de processamento do ckpt.<hr>
|
| 188 |
-
|
| 189 |
-
## <b><span style="color: #337dff;">Q13: Erro de arquivo/memória (durante o treinamento)?</span></b>
|
| 190 |
-
Muitos processos e sua memória não é suficiente. Você pode corrigi-lo por:
|
| 191 |
-
|
| 192 |
-
1. Diminuir a entrada no campo "Threads da CPU".
|
| 193 |
-
2. Diminuir o tamanho do conjunto de dados.
|
| 194 |
-
|
| 195 |
-
## Q14: Como continuar treinando usando mais dados
|
| 196 |
-
|
| 197 |
-
passo 1: coloque todos os dados wav no path2.
|
| 198 |
-
|
| 199 |
-
etapa 2: exp_name2 + path2 -> processar conjunto de dados e extrair recurso.
|
| 200 |
-
|
| 201 |
-
passo 3: copie o arquivo G e D mais recente de exp_name1 (seu experimento anterior) para a pasta exp_name2.
|
| 202 |
-
|
| 203 |
-
passo 4: clique em "treinar o modelo" e ele continuará treinando desde o início da época anterior do modelo exp.
|
| 204 |
-
|
| 205 |
-
## Q15: erro sobre llvmlite.dll
|
| 206 |
-
|
| 207 |
-
OSError: Não foi possível carregar o arquivo de objeto compartilhado: llvmlite.dll
|
| 208 |
-
|
| 209 |
-
FileNotFoundError: Não foi possível encontrar o módulo lib\site-packages\llvmlite\binding\llvmlite.dll (ou uma de suas dependências). Tente usar o caminho completo com sintaxe de construtor.
|
| 210 |
-
|
| 211 |
-
O problema acontecerá no Windows, instale https://aka.ms/vs/17/release/vc_redist.x64.exe e será corrigido.
|
| 212 |
-
|
| 213 |
-
## Q16: RuntimeError: O tamanho expandido do tensor (17280) deve corresponder ao tamanho existente (0) na dimensão 1 não singleton. Tamanhos de destino: [1, 17280]. Tamanhos de tensor: [0]
|
| 214 |
-
|
| 215 |
-
Exclua os arquivos wav cujo tamanho seja significativamente menor que outros e isso não acontecerá novamente. Em seguida, clique em "treinar o modelo" e "treinar o índice".
|
| 216 |
-
|
| 217 |
-
## Q17: RuntimeError: O tamanho do tensor a (24) deve corresponder ao tamanho do tensor b (16) na dimensão não singleton 2
|
| 218 |
-
|
| 219 |
-
Não altere a taxa de amostragem e continue o treinamento. Caso seja necessário alterar, o nome do exp deverá ser alterado e o modelo será treinado do zero. Você também pode copiar o pitch e os recursos (pastas 0/1/2/2b) extraídos da última vez para acelerar o processo de treinamento.
|
| 220 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/pt/training_tips_pt.md
DELETED
|
@@ -1,65 +0,0 @@
|
|
| 1 |
-
Instruções e dicas para treinamento RVC
|
| 2 |
-
======================================
|
| 3 |
-
Estas DICAS explicam como o treinamento de dados é feito.
|
| 4 |
-
|
| 5 |
-
# Fluxo de treinamento
|
| 6 |
-
Explicarei ao longo das etapas na guia de treinamento da GUI.
|
| 7 |
-
|
| 8 |
-
## Passo 1
|
| 9 |
-
Defina o nome do experimento aqui.
|
| 10 |
-
|
| 11 |
-
Você também pode definir aqui se o modelo deve levar em consideração o pitch.
|
| 12 |
-
Se o modelo não considerar o tom, o modelo será mais leve, mas não será adequado para cantar.
|
| 13 |
-
|
| 14 |
-
Os dados de cada experimento são colocados em `/logs/nome-do-seu-modelo/`.
|
| 15 |
-
|
| 16 |
-
## Passo 2a
|
| 17 |
-
Carrega e pré-processa áudio.
|
| 18 |
-
|
| 19 |
-
### Carregar áudio
|
| 20 |
-
Se você especificar uma pasta com áudio, os arquivos de áudio dessa pasta serão lidos automaticamente.
|
| 21 |
-
Por exemplo, se você especificar `C:Users\hoge\voices`, `C:Users\hoge\voices\voice.mp3` será carregado, mas `C:Users\hoge\voices\dir\voice.mp3` será Não carregado.
|
| 22 |
-
|
| 23 |
-
Como o ffmpeg é usado internamente para leitura de áudio, se a extensão for suportada pelo ffmpeg, ela será lida automaticamente.
|
| 24 |
-
Após converter para int16 com ffmpeg, converta para float32 e normalize entre -1 e 1.
|
| 25 |
-
|
| 26 |
-
### Eliminar ruído
|
| 27 |
-
O áudio é suavizado pelo filtfilt do scipy.
|
| 28 |
-
|
| 29 |
-
### Divisão de áudio
|
| 30 |
-
Primeiro, o áudio de entrada é dividido pela detecção de partes de silêncio que duram mais que um determinado período (max_sil_kept=5 segundos?). Após dividir o áudio no silêncio, divida o áudio a cada 4 segundos com uma sobreposição de 0,3 segundos. Para áudio separado em 4 segundos, após normalizar o volume, converta o arquivo wav para `/logs/nome-do-seu-modelo/0_gt_wavs` e, em seguida, converta-o para taxa de amostragem de 16k para `/logs/nome-do-seu-modelo/1_16k_wavs ` como um arquivo wav.
|
| 31 |
-
|
| 32 |
-
## Passo 2b
|
| 33 |
-
### Extrair pitch
|
| 34 |
-
Extraia informações de pitch de arquivos wav. Extraia as informações de pitch (=f0) usando o método incorporado em Parselmouth ou pyworld e salve-as em `/logs/nome-do-seu-modelo/2a_f0`. Em seguida, converta logaritmicamente as informações de pitch para um número inteiro entre 1 e 255 e salve-as em `/logs/nome-do-seu-modelo/2b-f0nsf`.
|
| 35 |
-
|
| 36 |
-
### Extrair feature_print
|
| 37 |
-
Converta o arquivo wav para incorporação antecipadamente usando HuBERT. Leia o arquivo wav salvo em `/logs/nome-do-seu-modelo/1_16k_wavs`, converta o arquivo wav em recursos de 256 dimensões com HuBERT e salve no formato npy em `/logs/nome-do-seu-modelo/3_feature256`.
|
| 38 |
-
|
| 39 |
-
## Passo 3
|
| 40 |
-
treinar o modelo.
|
| 41 |
-
### Glossário para iniciantes
|
| 42 |
-
No aprendizado profundo, o conjunto de dados é dividido e o aprendizado avança aos poucos. Em uma atualização do modelo (etapa), os dados batch_size são recuperados e previsões e correções de erros são realizadas. Fazer isso uma vez para um conjunto de dados conta como um epoch.
|
| 43 |
-
|
| 44 |
-
Portanto, o tempo de aprendizagem é o tempo de aprendizagem por etapa x (o número de dados no conjunto de dados/tamanho do lote) x o número de epoch. Em geral, quanto maior o tamanho do lote, mais estável se torna o aprendizado (tempo de aprendizado por etapa ÷ tamanho do lote) fica menor, mas usa mais memória GPU. A RAM da GPU pode ser verificada com o comando nvidia-smi. O aprendizado pode ser feito em pouco tempo aumentando o tamanho do lote tanto quanto possível de acordo com a máquina do ambiente de execução.
|
| 45 |
-
|
| 46 |
-
### Especifique o modelo pré-treinado
|
| 47 |
-
O RVC começa a treinar o modelo a partir de pesos pré-treinados em vez de 0, para que possa ser treinado com um pequeno conjunto de dados.
|
| 48 |
-
|
| 49 |
-
Por padrão
|
| 50 |
-
|
| 51 |
-
- Se você considerar o pitch, ele carrega `rvc-location/pretrained/f0G40k.pth` e `rvc-location/pretrained/f0D40k.pth`.
|
| 52 |
-
- Se você não considerar o pitch, ele carrega `rvc-location/pretrained/f0G40k.pth` e `rvc-location/pretrained/f0D40k.pth`.
|
| 53 |
-
|
| 54 |
-
Ao aprender, os parâmetros do modelo são salvos em `logs/nome-do-seu-modelo/G_{}.pth` e `logs/nome-do-seu-modelo/D_{}.pth` para cada save_every_epoch, mas especificando nesse caminho, você pode começar a aprender. Você pode reiniciar ou iniciar o treinamento a partir de weights de modelo aprendidos em um experimento diferente.
|
| 55 |
-
|
| 56 |
-
### Index de aprendizado
|
| 57 |
-
O RVC salva os valores de recursos do HuBERT usados durante o treinamento e, durante a inferência, procura valores de recursos que sejam semelhantes aos valores de recursos usados durante o aprendizado para realizar a inferência. Para realizar esta busca em alta velocidade, o index é aprendido previamente.
|
| 58 |
-
Para aprendizagem de index, usamos a biblioteca de pesquisa de associação de áreas aproximadas faiss. Leia o valor do recurso `logs/nome-do-seu-modelo/3_feature256` e use-o para aprender o index, e salve-o como `logs/nome-do-seu-modelo/add_XXX.index`.
|
| 59 |
-
|
| 60 |
-
(A partir da versão 20230428update, ele é lido do index e não é mais necessário salvar/especificar.)
|
| 61 |
-
|
| 62 |
-
### Descrição do botão
|
| 63 |
-
- Treinar modelo: Após executar o passo 2b, pressione este botão para treinar o modelo.
|
| 64 |
-
- Treinar índice de recursos: após treinar o modelo, execute o aprendizado do index.
|
| 65 |
-
- Treinamento com um clique: etapa 2b, treinamento de modelo e treinamento de index de recursos, tudo de uma vez.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/tr/README.tr.md
DELETED
|
@@ -1,141 +0,0 @@
|
|
| 1 |
-
|
| 2 |
-
<div align="center">
|
| 3 |
-
|
| 4 |
-
# Çekme Temelli Ses Dönüşümü Web Arayüzü
|
| 5 |
-
VITS'e dayalı kullanımı kolay bir Ses Dönüşümü çerçevesi.
|
| 6 |
-
|
| 7 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI)
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/blob/main/LICENSE)
|
| 13 |
-
[](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/)
|
| 14 |
-
|
| 15 |
-
[](https://discord.gg/HcsmBBGyVk)
|
| 16 |
-
|
| 17 |
-
</div>
|
| 18 |
-
|
| 19 |
-
------
|
| 20 |
-
[**SSS (Sıkça Sorulan Sorular)**](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/wiki/SSS-(Sıkça-Sorulan-Sorular))
|
| 21 |
-
|
| 22 |
-
[**İngilizce**](../en/README.en.md) | [**中文简体**](../../README.md) | [**日本語**](../jp/README.ja.md) | [**한국어**](../kr/README.ko.md) ([**韓國語**](../kr/README.ko.han.md)) | [**Français**](../fr/README.fr.md) | [**Türkçe**](../tr/README.tr.md) | [**Português**](../pt/README.pt.md)
|
| 23 |
-
|
| 24 |
-
Burada [Demo Video'muzu](https://www.bilibili.com/video/BV1pm4y1z7Gm/) izleyebilirsiniz!
|
| 25 |
-
|
| 26 |
-
RVC Kullanarak Gerçek Zamanlı Ses Dönüşüm Yazılımı: [w-okada/voice-changer](https://github.com/w-okada/voice-changer)
|
| 27 |
-
|
| 28 |
-
> Ön eğitim modeli için veri kümesi neredeyse 50 saatlik yüksek kaliteli VCTK açık kaynak veri kümesini kullanır.
|
| 29 |
-
|
| 30 |
-
> Yüksek kaliteli lisanslı şarkı veri setleri telif hakkı ihlali olmadan kullanımınız için eklenecektir.
|
| 31 |
-
|
| 32 |
-
> Lütfen daha büyük parametrelere, daha fazla eğitim verisine sahip RVCv3'ün ön eğitimli temel modeline göz atın; daha iyi sonuçlar, değişmeyen çıkarsama hızı ve daha az eğitim verisi gerektirir.
|
| 33 |
-
|
| 34 |
-
## Özet
|
| 35 |
-
Bu depo aşağıdaki özelliklere sahiptir:
|
| 36 |
-
+ Ton sızıntısını en aza indirmek için kaynak özelliğini en iyi çıkarımı kullanarak eğitim kümesi özelliği ile değiştirme;
|
| 37 |
-
+ Kolay ve hızlı eğitim, hatta nispeten zayıf grafik kartlarında bile;
|
| 38 |
-
+ Az miktarda veriyle bile nispeten iyi sonuçlar alın (>=10 dakika düşük gürültülü konuşma önerilir);
|
| 39 |
-
+ Timbraları değiştirmek için model birleştirmeyi destekleme (ckpt işleme sekmesi-> ckpt birleştir);
|
| 40 |
-
+ Kullanımı kolay Web arayüzü;
|
| 41 |
-
+ UVR5 modelini kullanarak hızla vokalleri ve enstrümanları ayırma.
|
| 42 |
-
+ En güçlü Yüksek tiz Ses Çıkarma Algoritması [InterSpeech2023-RMVPE](#Krediler) sessiz ses sorununu önlemek için kullanılır. En iyi sonuçları (önemli ölçüde) sağlar ve Crepe_full'den daha hızlı çalışır, hatta daha düşük kaynak tüketimi sağlar.
|
| 43 |
-
+ AMD/Intel grafik kartları hızlandırması desteklenir.
|
| 44 |
-
+ Intel ARC grafik kartları hızlandırması IPEX ile desteklenir.
|
| 45 |
-
|
| 46 |
-
## Ortamın Hazırlanması
|
| 47 |
-
Aşağıdaki komutlar, Python sürümü 3.8 veya daha yüksek olan bir ortamda çalıştırılmalıdır.
|
| 48 |
-
|
| 49 |
-
(Windows/Linux)
|
| 50 |
-
İlk olarak ana bağımlılıkları pip aracılığıyla kurun:
|
| 51 |
-
```bash
|
| 52 |
-
# PyTorch ile ilgili temel bağımlılıkları kurun, zaten kuruluysa atlayın
|
| 53 |
-
# Referans: https://pytorch.org/get-started/locally/
|
| 54 |
-
pip install torch torchvision torchaudio
|
| 55 |
-
|
| 56 |
-
# Windows + Nvidia Ampere Mimarisi(RTX30xx) için, https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/issues/21 deneyime göre pytorch'a karşılık gelen cuda sürümünü belirtmeniz gerekebilir
|
| 57 |
-
#pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
|
| 58 |
-
```
|
| 59 |
-
|
| 60 |
-
Sonra poetry kullanarak diğer bağımlılıkları kurabilirsiniz:
|
| 61 |
-
```bash
|
| 62 |
-
# Poetry bağımlılık yönetim aracını kurun, zaten kuruluysa atlayın
|
| 63 |
-
# Referans: https://python-poetry.org/docs/#installation
|
| 64 |
-
curl -sSL https://install.python-poetry.org | python3 -
|
| 65 |
-
|
| 66 |
-
# Projeyi bağımlılıkları kurun
|
| 67 |
-
poetry install
|
| 68 |
-
```
|
| 69 |
-
|
| 70 |
-
Ayrıca bunları pip kullanarak da kurabilirsiniz:
|
| 71 |
-
```bash
|
| 72 |
-
|
| 73 |
-
Nvidia grafik kartları için
|
| 74 |
-
pip install -r requirements/main.txt
|
| 75 |
-
|
| 76 |
-
AMD/Intel grafik kartları için：
|
| 77 |
-
pip install -r requirements/dml.txt
|
| 78 |
-
|
| 79 |
-
Intel ARC grafik kartları için Linux / WSL ile Python 3.10 kullanarak:
|
| 80 |
-
pip install -r requirements/ipex.txt
|
| 81 |
-
|
| 82 |
-
```
|
| 83 |
-
|
| 84 |
-
------
|
| 85 |
-
Mac kullanıcıları `run.sh` aracılığıyla bağımlılıkları kurabilir:
|
| 86 |
-
```bash
|
| 87 |
-
sh ./run.sh
|
| 88 |
-
```
|
| 89 |
-
|
| 90 |
-
## Diğer Ön Modellerin Hazırlanması
|
| 91 |
-
RVC'nin çıkarım ve eğitim yapması için diğer ön modellere ihtiyacı vardır.
|
| 92 |
-
|
| 93 |
-
Bu ön modelleri [Huggingface alanımızdan](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/) indirmeniz gerekecektir.
|
| 94 |
-
|
| 95 |
-
İşte RVC'nin ihtiyaç duyduğu diğer ön modellerin ve dosyaların bir listesi:
|
| 96 |
-
```bash
|
| 97 |
-
./assets/hubert/hubert_base.pt
|
| 98 |
-
|
| 99 |
-
./assets/pretrained
|
| 100 |
-
|
| 101 |
-
./assets/uvr5_weights
|
| 102 |
-
|
| 103 |
-
V2 sürümü modelini test etmek isterseniz, ek özellikler indirmeniz gerekecektir.
|
| 104 |
-
|
| 105 |
-
./assets/pretrained_v2
|
| 106 |
-
|
| 107 |
-
V2 sürüm modelini test etmek isterseniz (v2 sürüm modeli, 9 katmanlı Hubert+final_proj'ün 256 boyutlu özelliğini 12 katmanlı Hubert'ün 768 boyutlu özelliğiyle değiştirmiştir ve 3 periyot ayırıcı eklemiştir), ek özellikleri indirmeniz gerekecektir.
|
| 108 |
-
|
| 109 |
-
./assets/pretrained_v2
|
| 110 |
-
|
| 111 |
-
En son SOTA RMVPE vokal ton çıkarma algoritmasını kullanmak istiyorsanız, RMVPE ağırlıklarını indirip RVC kök dizinine koymalısınız.
|
| 112 |
-
|
| 113 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.pt
|
| 114 |
-
|
| 115 |
-
AMD/Intel grafik kartları kullanıcıları için indirmeniz gereken:
|
| 116 |
-
|
| 117 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/rmvpe.onnx
|
| 118 |
-
|
| 119 |
-
```
|
| 120 |
-
|
| 121 |
-
Intel ARC grafik kartları kullanıcıları Webui'yi başlatmadan önce `source /opt/intel/oneapi/setvars.sh` komutunu çalıştırmalı.
|
| 122 |
-
|
| 123 |
-
Daha sonra bu komutu kullanarak Webui'yi başlatabilirsiniz:
|
| 124 |
-
```bash
|
| 125 |
-
python web.py
|
| 126 |
-
```
|
| 127 |
-
Windows veya macOS kullanıyorsanız, `RVC-beta.7z` dosyasını indirip çıkararak `go-web.bat`i kullanarak veya macOS'ta `sh ./run.sh` kullanarak doğrudan RVC'yi kullanabilirsiniz.
|
| 128 |
-
|
| 129 |
-
## Krediler
|
| 130 |
-
+ [ContentVec](https://github.com/auspicious3000/contentvec/)
|
| 131 |
-
+ [VITS](https://github.com/jaywalnut310/vits)
|
| 132 |
-
+ [HIFIGAN](https://github.com/jik876/hifi-gan)
|
| 133 |
-
+ [Gradio](https://github.com/gradio-app/gradio)
|
| 134 |
-
+ [Ultimate Vocal Remover](https://github.com/Anjok07/ultimatevocalremovergui)
|
| 135 |
-
+ [audio-slicer](https://github.com/openvpi/audio-slicer)
|
| 136 |
-
+ [Vokal ton çıkarma:RMVPE](https://github.com/Dream-High/RMVPE)
|
| 137 |
-
+ Ön eğitimli model [yxlllc](https://github.com/yxlllc/RMVPE) ve [RVC-Boss](https://github.com/RVC-Boss) tarafından eğitilip test edilmiştir.
|
| 138 |
-
|
| 139 |
-
## Katkıda Bulunan Herkese Teşekkürler
|
| 140 |
-
[](https://github.com/fumiama/Retrieval-based-Voice-Conversion-WebUI/graphs/contributors)
|
| 141 |
-
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/tr/faiss_tips_tr.md
DELETED
|
@@ -1,104 +0,0 @@
|
|
| 1 |
-
|
| 2 |
-
# faiss Ayar İpuçları
|
| 3 |
-
==================
|
| 4 |
-
|
| 5 |
-
# faiss Hakkında
|
| 6 |
-
faiss, yoğun vektörler için komşuluk aramalarının bir kütüphanesidir ve birçok yaklaşık komşuluk arama yöntemini verimli bir şekilde uygular. Facebook araştırma tarafından geliştirilen faiss, benzer vektörleri hızlı bir şekilde bulurken bazı doğruluğu feda eder.
|
| 7 |
-
|
| 8 |
-
## RVC'de faiss Kullanımı
|
| 9 |
-
RVC'de, HuBERT tarafından dönüştürülen özelliklerin gömülmesi için eğitim verisinden oluşturulan gömme ile benzer gömlemeleri ararız ve bunları karıştırarak orijinal konuşmaya daha yakın bir dönüşüm elde ederiz. Ancak bu arama basitçe yapıldığında zaman alır, bu nedenle yaklaşık komşuluk araması kullanarak yüksek hızlı dönüşüm sağlanır.
|
| 10 |
-
|
| 11 |
-
# Uygulama Genel Bakış
|
| 12 |
-
Modelin bulunduğu '/logs/your-experiment/3_feature256' dizininde, her ses verisinden HuBERT tarafından çıkarılan özellikler bulunur.
|
| 13 |
-
Buradan, dosya adına göre sıralanmış npy dosyalarını okuyarak vektörleri birleştirip büyük_npy'yi oluştururuz. (Bu vektörün şekli [N, 256] şeklindedir.)
|
| 14 |
-
Büyük_npy'yi /logs/your-experiment/total_fea.npy olarak kaydettikten sonra, onu faiss ile eğitiriz.
|
| 15 |
-
|
| 16 |
-
Bu makalede, bu parametrelerin anlamını açıklayacağım.
|
| 17 |
-
|
| 18 |
-
# Yöntemin Açıklaması
|
| 19 |
-
## İndeks Fabrikası
|
| 20 |
-
Bir indeks fabrikası, birden fazla yaklaşık komşuluk arama yöntemini bir dizi olarak bağlayan benzersiz bir faiss gösterimidir. Bu, indeks fabrikası dizesini değiştirerek basitçe çeşitli yaklaşık komşuluk arama yöntemlerini denemenizi sağlar.
|
| 21 |
-
RVC'de bunu şu şekilde kullanırız:
|
| 22 |
-
|
| 23 |
-
```python
|
| 24 |
-
index = faiss.index_factory(256, "IVF%s,Flat" % n_ivf)
|
| 25 |
-
```
|
| 26 |
-
index_factory'nin argümanları arasında ilk vektör boyutu, ikinci indeks fabrikası dizesi ve üçüncü kullanılacak mesafe yer alır.
|
| 27 |
-
|
| 28 |
-
Daha ayrıntılı gösterim için
|
| 29 |
-
https://github.com/facebookresearch/faiss/wiki/The-index-factory
|
| 30 |
-
|
| 31 |
-
## Mesafe İçin İndeks
|
| 32 |
-
Aşağıdaki gibi gömme benzerliği olarak kullanılan iki tipik indeks bulunur.
|
| 33 |
-
|
| 34 |
-
- Öklidyen mesafe (METRIC_L2)
|
| 35 |
-
- iç çarpım (METRIC_INNER_PRODUCT)
|
| 36 |
-
|
| 37 |
-
Öklidyen mesafe, her boyutta karesel farkı alır, tüm boyutlardaki farkları toplar ve ardından karekök alır. Bu, günlük hayatta kullandığımız 2D ve 3D'deki mesafeye benzer.
|
| 38 |
-
İç çarpım, çoğunlukla L2 norm ile normalize edildikten sonra iç çarpımı alan ve genellikle kosinüs benzerliği olarak kullanılan bir benzerlik göstergesi olarak kullanılır.
|
| 39 |
-
|
| 40 |
-
Hangisinin daha iyi olduğu duruma bağlıdır, ancak kosinüs benzerliği genellikle word2vec tarafından elde edilen gömme ve ArcFace tarafından öğrenilen benzer görüntü alım modellerinde kullanılır. Vektör X'i numpy ile l2 normalize yapmak isterseniz, 0 bölme hatasından kaçınmak için yeterince küçük bir eps ile şu kodu kullanabilirsiniz:
|
| 41 |
-
|
| 42 |
-
```python
|
| 43 |
-
X_normed = X / np.maximum(eps, np.linalg.norm(X, ord=2, axis=-1, keepdims=True))
|
| 44 |
-
```
|
| 45 |
-
|
| 46 |
-
Ayrıca, indeks fabrikası için üçüncü argüman olarak geçirilecek değeri seçerek hesaplamada kullanılan mesafe indeksini değiştirebilirsiniz.
|
| 47 |
-
|
| 48 |
-
```python
|
| 49 |
-
index = faiss.index_factory(dimention, text, faiss.METRIC_INNER_PRODUCT)
|
| 50 |
-
```
|
| 51 |
-
|
| 52 |
-
## IVF
|
| 53 |
-
IVF (Ters dosya indeksleri), tam metin aramasındaki ters indeksle benzer bir algoritmadır.
|
| 54 |
-
Öğrenme sırasında, arama hedefi kmeans ile kümelendirilir ve küme merkezi kullanılarak Voronoi bölütleme gerçekleştirilir. Her veri noktasına bir küme atanır, bu nedenle veri noktalarını kümeden arayan bir sözlük oluştururuz.
|
| 55 |
-
|
| 56 |
-
Örneğin, kümelere aşağıdaki gibi atanmışsa
|
| 57 |
-
|index|Cluster|
|
| 58 |
-
|-----|-------|
|
| 59 |
-
|1|A|
|
| 60 |
-
|2|B|
|
| 61 |
-
|3|A|
|
| 62 |
-
|4|C|
|
| 63 |
-
|5|B|
|
| 64 |
-
|
| 65 |
-
Elde edilen ters indeks şu şekildedir:
|
| 66 |
-
|
| 67 |
-
|cluster|index|
|
| 68 |
-
|-------|-----|
|
| 69 |
-
|A|1, 3|
|
| 70 |
-
|B|2, 5|
|
| 71 |
-
|C|4|
|
| 72 |
-
|
| 73 |
-
Arama yaparken, önce kümeden n_probe küme ararız ve ardından her küme için ait veri noktalarının mesafelerini hesaplarız.
|
| 74 |
-
|
| 75 |
-
# Tavsiye Edilen Parametreler
|
| 76 |
-
Resmi olarak nasıl bir indeks seçileceği konusunda rehberler bulunmaktadır, bu nedenle buna uygun olarak açıklayacağım.
|
| 77 |
-
https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index
|
| 78 |
-
|
| 79 |
-
1M'den düşük veri kümeleri için, N sayısı için 4bit-PQ, Nisan 2023 itibariyle faiss'de mevcut en verimli yöntemdir.
|
| 80 |
-
Bunu IVF ile birleştirerek adayları 4bit-PQ ile daraltmak ve nihayet doğru bir indeksle mesafeyi yeniden hesaplamak, aşağıdaki indeks fabrikas
|
| 81 |
-
|
| 82 |
-
ını kullanarak açıklanabilir.
|
| 83 |
-
|
| 84 |
-
```python
|
| 85 |
-
index = faiss.index_factory(256, "IVF1024,PQ128x4fs,RFlat")
|
| 86 |
-
```
|
| 87 |
-
|
| 88 |
-
## IVF İçin Tavsiye Edilen Parametreler
|
| 89 |
-
Çok sayıda IVF durumunu düşünün. Örneğin, veri sayısı için IVF tarafından kabaca nicelleme yapılırsa, bu basit bir tükenmez arama ile aynıdır ve verimsizdir.
|
| 90 |
-
1M veya daha az için IVF değerleri, N veri noktaları için 4*sqrt(N) ~ 16*sqrt(N) arasında tavsiye edilir.
|
| 91 |
-
|
| 92 |
-
Hesaplama süresi n_probes sayısına orantılı olarak arttığından, doğrulukla danışmanlık yapın ve uygun şekilde seçin. Kişisel olarak, RVC'nin bu kadar doğruluk gerektirmediğini düşünüyorum, bu nedenle n_probe = 1 uygundur.
|
| 93 |
-
|
| 94 |
-
## FastScan
|
| 95 |
-
FastScan, bunları kaydedicilerde gerçekleştirerek onları Kartez ürünü nicelleme ile hızlı yaklaşık mesafe sağlayan bir yöntemdir.
|
| 96 |
-
Kartez ürünü nicelleme öğrenme sırasında her d boyut için (genellikle d = 2) kümeleme yapar, küme merkezlerini önceden hesaplar ve küme merkezleri arasındaki mesafeyi hesaplar ve bir arama tablosu oluşturur. Tahmin yaparken, her boyutun mesafesi arama tablosuna bakarak O(1) hesaplanabilir.
|
| 97 |
-
PQ sonrası belirttiğiniz sayı genellikle vektörün yarısı olan boyutu belirtir.
|
| 98 |
-
|
| 99 |
-
FastScan hakkında daha ayrıntılı açıklama için lütfen resmi belgelere başvurun.
|
| 100 |
-
https://github.com/facebookresearch/faiss/wiki/Fast-accumulation-of-PQ-and-AQ-codes-(FastScan)
|
| 101 |
-
|
| 102 |
-
## RFlat
|
| 103 |
-
RFlat, FastScan ile hesaplanan kesirli mesafeyi indeks fabrikasının üçüncü argümanı tarafından belirtilen doğru mesafe ile yeniden hesaplamak için bir talimattır.
|
| 104 |
-
k komşuları alırken, k*k_factor nokta yeniden hesaplanır.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/tr/faq_tr.md
DELETED
|
@@ -1,98 +0,0 @@
|
|
| 1 |
-
## Q1: "Tek Tıklamayla Eğitim" Sonrası İndeks Dosyası Bulunamıyor
|
| 2 |
-
Eğer "Eğitim tamamlandı. Program kapatıldı." mesajını görüyorsa, model başarıyla eğitilmiş demektir ve sonraki hatalar sahte;
|
| 3 |
-
|
| 4 |
-
"Added" dizini oluşturulduğu halde "Tek Tıklamayla Eğitim" sonrası indeks dosyası bulunamıyorsa, bu genellikle eğitim setinin çok büyük olmasından kaynaklanabilir ve indeksin eklenmesi sıkışabilir. Bu sorun indeks eklerken bellek yükünü azaltmak için toplu işlem yaparak çözülmüştür. Geçici bir çözüm olarak, "Eğitim İndeksini Eğit" düğmesine tekrar tıklamayı deneyin.<br>
|
| 5 |
-
|
| 6 |
-
## Q2: Eğitim Sonrası "Tonlama İnceleniyor" Bölümünde Model Bulunamıyor
|
| 7 |
-
"Lanetleme İstemi Listesini Yenile" düğmesine tıklayarak tekrar kontrol edin; hala görünmüyorsa, eğitim sırasında herhangi bir hata olup olmadığını kontrol edin ve geliştiricilere daha fazla analiz için konsol, web arayüzü ve logs/experiment_name/*.log ekran görüntülerini gönderin.<br>
|
| 8 |
-
|
| 9 |
-
## Q3: Bir Model Nasıl Paylaşılır/Başkalarının Modelleri Nasıl Kullanılır?
|
| 10 |
-
rvc_root/logs/experiment_name dizininde saklanan pth dosyaları paylaşım veya çıkarım için değildir, bunlar deney checkpoint'larıdır ve çoğaltılabilirlik ve daha fazla eğitim için saklanır. Paylaşılacak olan model, weights klasöründeki 60+MB'lık pth dosyası olmalıdır;
|
| 11 |
-
|
| 12 |
-
Gelecekte, weights/exp_name.pth ve logs/exp_name/added_xxx.index birleştirilerek tek bir weights/exp_name.zip dosyasına dönüştürülecek ve manuel indeks girişi gereksinimini ortadan kaldıracaktır; bu nedenle pth dosyasını değil, farklı bir makinede eğitime devam etmek istemezseniz zip dosyasını paylaşın;
|
| 13 |
-
|
| 14 |
-
Çıkarılmış modelleri zorlama çıkarım için logs klasöründen weights klasörüne birkaç yüz MB'lık pth dosyalarını kopyalamak/paylaşmak, eksik f0, tgt_sr veya diğer anahtarlar gibi hatalara neden olabilir. Smaller modeli manuel veya otomatik olarak çıkarmak için alttaki ckpt sekmesini kullanmanız gerekmektedir (eğer bilgi logs/exp_name içinde bulunuyorsa), pitch bilgisini ve hedef ses örnekleme oranı seçeneklerini seçmeli ve ardından daha küçük modele çıkarmalısınız. Çıkardıktan sonra weights klasöründe 60+ MB'lık bir pth dosyası olacaktır ve sesleri yeniden güncelleyebilirsiniz.<br>
|
| 15 |
-
|
| 16 |
-
## Q4: Bağlantı Hatası
|
| 17 |
-
Büyük ihtimalle konsolu (siyah komut satırı penceresi) kapatmış olabilirsiniz.<br>
|
| 18 |
-
|
| 19 |
-
## Q5: Web Arayüzünde 'Beklenen Değer: Satır 1 Sütun 1 (Karakter 0)' Hatası
|
| 20 |
-
Lütfen sistem LAN proxy/global proxy'sini devre dışı bırakın ve ardından sayfayı yenileyin.<br>
|
| 21 |
-
|
| 22 |
-
## Q6: WebUI Olmadan Nasıl Eğitim Yapılır ve Tahmin Yapılır?
|
| 23 |
-
Eğitim komut dosyası:<br>
|
| 24 |
-
Önce WebUI'de eğitimi çalıştırabilirsiniz, ardından veri seti önişleme ve eğitiminin komut satırı sürümleri mesaj penceresinde görüntülenecektir.<br>
|
| 25 |
-
|
| 26 |
-
Tahmin komut dosyası:<br>
|
| 27 |
-
https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/myinfer.py<br>
|
| 28 |
-
|
| 29 |
-
|
| 30 |
-
örn:<br>
|
| 31 |
-
|
| 32 |
-
runtime\python.exe myinfer.py 0 "E:\codes\py39\RVC-beta\todo-songs\1111.wav" "E:\codes\py39\logs\mi-test\added_IVF677_Flat_nprobe_7.index" harvest "test.wav" "weights/mi-test.pth" 0.6 cuda:0 True<br>
|
| 33 |
-
|
| 34 |
-
|
| 35 |
-
f0up_key=sys.argv[1]<br>
|
| 36 |
-
input_path=sys.argv[2]<br>
|
| 37 |
-
index_path=sys.argv[3]<br>
|
| 38 |
-
f0method=sys.argv[4]#harvest or pm<br>
|
| 39 |
-
opt_path=sys.argv[5]<br>
|
| 40 |
-
model_path=sys.argv[6]<br>
|
| 41 |
-
index_rate=float(sys.argv[7])<br>
|
| 42 |
-
device=sys.argv[8]<br>
|
| 43 |
-
is_half=bool(sys.argv[9])<br>
|
| 44 |
-
|
| 45 |
-
## Q7: Cuda Hatası/Cuda Bellek Yetersizliği
|
| 46 |
-
Küçük bir ihtimalle CUDA konfigürasyonunda bir problem olabilir veya cihaz desteklenmiyor olabilir; daha muhtemel olarak yetersiz bellek olabilir (bellek yetersizliği).<br>
|
| 47 |
-
|
| 48 |
-
Eğitim için toplu işlem boyutunu azaltın (1'e indirgemek yeterli değilse, grafik kartını değiştirmeniz gerekebilir); çıkarım için ise config.py dosyasındaki x_pad, x_query, x_center ve x_max ayarlarını ihtiyaca göre düzenleyin. 4GB veya daha düşük bellekli kartlar (örneğin 1060(3G) ve çeşit
|
| 49 |
-
|
| 50 |
-
li 2GB kartlar) terk edilebilir, 4GB bellekli kartlar hala bir şansı vardır.<br>
|
| 51 |
-
|
| 52 |
-
## Q8: Optimal Olarak Kaç total_epoch Gerekli?
|
| 53 |
-
Eğitim veri setinin ses kalitesi düşük ve gürültü seviyesi yüksekse, 20-30 dönem yeterlidir. Fazla yüksek bir değer belirlemek, düşük kaliteli eğitim setinizin ses kalitesini artırmaz.<br>
|
| 54 |
-
|
| 55 |
-
Eğitim setinin ses kalitesi yüksek, gürültü seviyesi düşük ve yeterli süre varsa, bu değeri artırabilirsiniz. 200 kabul edilebilir bir değerdir (çünkü eğitim hızlıdır ve yüksek kaliteli bir eğitim seti hazırlayabiliyorsanız, GPU'nuz muhtemelen uzun bir eğitim süresini sorunsuz bir şekilde yönetebilir).<br>
|
| 56 |
-
|
| 57 |
-
## Q9: Kaç Dakika Eğitim Verisi Süresi Gerekli?
|
| 58 |
-
|
| 59 |
-
10 ila 50 dakika arası bir veri seti önerilir.<br>
|
| 60 |
-
|
| 61 |
-
Garantili yüksek ses kalitesi ve düşük arka plan gürültüsü varsa, veri setinin tonlaması homojen ise daha fazlası eklenebilir.<br>
|
| 62 |
-
|
| 63 |
-
Yüksek seviyede bir eğitim seti (zarif ve belirgin tonlama), 5 ila 10 dakika arası uygundur.<br>
|
| 64 |
-
|
| 65 |
-
1 ila 2 dakika veri ile başarılı bir şekilde eğitim yapan bazı insanlar olsa da, başarı diğerleri tarafından tekrarlanabilir değil ve çok bilgilendirici değil. Bu, eğitim setinin çok belirgin bir tonlamaya sahip olmasını (örneğin yüksek frekansta havadar bir anime kız sesi gibi) ve ses kalitesinin yüksek olmasını gerektirir; 1 dakikadan daha kısa süreli veri denenmemiştir ve önerilmez.<br>
|
| 66 |
-
|
| 67 |
-
|
| 68 |
-
## Q10: İndeks Oranı Nedir ve Nasıl Ayarlanır?
|
| 69 |
-
Eğer önceden eğitilmiş model ve tahmin kaynağının ton kalitesi, eğitim setinden daha yüksekse, tahmin sonucunun ton kalitesini yükseltebilirler, ancak altta yatan modelin/tahmin kaynağının tonu yerine eğitim setinin tonuna yönelik olası bir ton önyargısıyla sonuçlanır, bu genellikle "ton sızıntısı" olarak adlandırılır.<br>
|
| 70 |
-
|
| 71 |
-
İndeks oranı, ton sızıntı sorununu azaltmak/çözmek için kullanılır. İndeks oranı 1 olarak ayarlandığında, teorik olarak tahmin kaynağından ton sızıntısı olmaz ve ton kalitesi daha çok eğitim setine yönelik olur. Eğer eğitim seti, tahmin kaynağından daha düşük ses kalitesine sahipse, daha yüksek bir indeks oranı ses kalitesini azaltabilir. Oranı 0'a düşürmek, eğitim seti tonlarını korumak için getirme karıştırmasını kullanmanın etkisine sahip değildir.<br>
|
| 72 |
-
|
| 73 |
-
Eğer eğitim seti iyi ses kalitesine ve uzun süreye sahipse, total_epoch'u artırın. Model, tahmin kaynağına ve önceden eğitilmiş alt modeline daha az başvurduğunda ve "ton sızıntısı" daha az olduğunda, indeks oranı önemli değil ve hatta indeks dosyası oluşturmak/paylaşmak gerekli değildir.<br>
|
| 74 |
-
|
| 75 |
-
## Q11: Tahmin Yaparken Hangi GPU'yu Seçmeli?
|
| 76 |
-
config.py dosyasında "device cuda:" ardından kart numarasını seçin.<br>
|
| 77 |
-
|
| 78 |
-
Kart numarası ile grafik kartı arasındaki eşleme, eğitim sekmesinin grafik kartı bilgileri bölümünde görülebilir.<br>
|
| 79 |
-
|
| 80 |
-
## Q12: Eğitimin Ortasında Kaydedilen Model Nasıl Kullanılır?
|
| 81 |
-
Kaydetme işlemini ckpt işleme sekmesinin altında yer alan model çıkarımı ile yapabilirsiniz.
|
| 82 |
-
|
| 83 |
-
## Q13: Dosya/Bellek Hatası (Eğitim Sırasında)?
|
| 84 |
-
Çok fazla işlem ve yetersiz bellek olabilir. Bu sorunu düzeltebilirsiniz:
|
| 85 |
-
|
| 86 |
-
1. "CPU İş Parçacıkları" alanındaki girişi azaltarak.
|
| 87 |
-
|
| 88 |
-
2. Eğitim verisini daha kısa ses dosyalarına önceden keserek.
|
| 89 |
-
|
| 90 |
-
## Q14: Daha Fazla Veri Kullanarak Eğitime Nasıl Devam Edilir?
|
| 91 |
-
|
| 92 |
-
Adım 1: Tüm wav verilerini path2 dizinine yerleştirin.
|
| 93 |
-
|
| 94 |
-
Adım 2: exp_name2+path2 -> veri setini önişleme ve özellik çıkarma.
|
| 95 |
-
|
| 96 |
-
Adım 3: exp_name1 (önceki deneyinizin) en son G ve D dosyalarını exp_name2 klasörüne kopyalayın.
|
| 97 |
-
|
| 98 |
-
Adım 4: "modeli eğit" düğmesine tıklayın ve önceki deneyinizin model döneminden başlayarak eğitime devam edecektir.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
docs/tr/training_tips_tr.md
DELETED
|
@@ -1,64 +0,0 @@
|
|
| 1 |
-
## RVC Eğitimi için Talimatlar ve İpuçları
|
| 2 |
-
======================================
|
| 3 |
-
Bu TALİMAT, veri eğitiminin nasıl yapıldığını açıklamaktadır.
|
| 4 |
-
|
| 5 |
-
# Eğitim Akışı
|
| 6 |
-
Eğitim sekmesindeki adımları takip ederek açıklayacağım.
|
| 7 |
-
|
| 8 |
-
## Adım 1
|
| 9 |
-
Deney adını burada belirleyin.
|
| 10 |
-
|
| 11 |
-
Ayrıca burada modelin pitch'i dikkate alıp almayacağını da belirleyebilirsiniz.
|
| 12 |
-
Eğer model pitch'i dikkate almazsa, model daha hafif olacak, ancak şarkı söyleme için uygun olmayacaktır.
|
| 13 |
-
|
| 14 |
-
Her deney için veriler `/logs/your-experiment-name/` dizinine yerleştirilir.
|
| 15 |
-
|
| 16 |
-
## Adım 2a
|
| 17 |
-
Ses yüklenir ve ön işleme yapılır.
|
| 18 |
-
|
| 19 |
-
### Ses Yükleme
|
| 20 |
-
Ses içeren bir klasör belirtirseniz, bu klasördeki ses dosyaları otomatik olarak okunur.
|
| 21 |
-
Örneğin, `C:Users\hoge\voices` belirtirseniz, `C:Users\hoge\voices\voice.mp3` yüklenecek, ancak `C:Users\hoge\voices\dir\voice.mp3` yüklenmeyecektir.
|
| 22 |
-
|
| 23 |
-
### Gürültü Temizleme
|
| 24 |
-
Ses scipy'nin filtfilt işlevi ile yumuşatılır.
|
| 25 |
-
|
| 26 |
-
### Ses Ayırma
|
| 27 |
-
İlk olarak, giriş sesi belirli bir süreden (max_sil_kept=5 saniye?) daha uzun süren sessiz kısımları tespit ederek böler. Sessizlik üzerinde ses bölündükten sonra sesi 4 saniyede bir 0.3 saniyelik bir örtüşme ile böler. 4 saniye içinde ayrılan sesler için ses normalleştirildikten sonra wav dosyası olarak `/logs/your-experiment-name/0_gt_wavs`'a, ardından 16 kHz örnekleme hızına dönüştürülerek `/logs/your-experiment-name/1_16k_wavs` olarak kaydedilir.
|
| 28 |
-
|
| 29 |
-
## Adım 2b
|
| 30 |
-
### Pitch Çıkarımı
|
| 31 |
-
Wav dosyalarından pitch bilgisi çıkarılır. ParSelMouth veya PyWorld'e dahili olarak yerleştirilmiş yöntemi kullanarak pitch bilgisi (=f0) çıkarılır ve `/logs/your-experiment-name/2a_f0` dizinine kaydedilir. Ardından pitch bilgisi logaritmik olarak 1 ile 255 arasında bir tamsayıya dönüştürülüp `/logs/your-experiment-name/2b-f0nsf` dizinine kaydedilir.
|
| 32 |
-
|
| 33 |
-
### Özellik Çıkarımı
|
| 34 |
-
HuBERT'i kullanarak önceden gömme olarak wav dosyasını çıkarır. `/logs/your-experiment-name/1_16k_wavs`'a kaydedilen wav dosyasını okuyarak, wav dosyasını 256 boyutlu HuBERT özelliklerine dönüştürür ve npy formatında `/logs/your-experiment-name/3_feature256` dizinine kaydeder.
|
| 35 |
-
|
| 36 |
-
## Adım 3
|
| 37 |
-
Modeli eğit.
|
| 38 |
-
### Başlangıç Seviyesi Sözlüğü
|
| 39 |
-
Derin öğrenmede, veri kümesi bölmeye ve öğrenmeye adım adım devam eder. Bir model güncellemesinde (adım), batch_size veri alınır ve tahminler ve hata düzeltmeleri yapılır. Bunun bir defa bir veri kümesi için yapılması bir dönem olarak sayılır.
|
| 40 |
-
|
| 41 |
-
Bu nedenle, öğrenme zamanı adım başına öğrenme zamanı x (veri kümesindeki veri sayısı / batch boyutu) x dönem sayısıdır. Genel olarak, batch boyutu ne kadar büyükse, öğrenme daha istikrarlı hale gelir (adım başına öğrenme süresi ÷ batch boyutu) küçülür, ancak daha fazla GPU belleği kullanır. GPU RAM'ı nvidia-smi komutu ile kontrol edilebilir. Çalışma ortamının makinesine göre batch boyutunu mümkün olduğunca artırarak öğrenme süresini kısa sürede yapabilirsiniz.
|
| 42 |
-
|
| 43 |
-
### Önceden Eğitilmiş Modeli Belirtme
|
| 44 |
-
RVC, modeli 0'dan değil önceden eğitilmiş ağırlıklardan başlatarak eğitir, bu nedenle küçük bir veri kümesi ile eğitilebilir.
|
| 45 |
-
|
| 46 |
-
Varsayılan olarak
|
| 47 |
-
|
| 48 |
-
- Eğer pitch'i dikkate alıyorsanız, `rvc-location/pretrained/f0G40k.pth` ve `rvc-location/pretrained/f0D40k.pth` yüklenir.
|
| 49 |
-
- Eğer pitch'i dikkate almıyorsanız, yine `rvc-location/pretrained/f0G40k.pth` ve `rvc-location/pretrained/f0D40k.pth` yüklenir.
|
| 50 |
-
|
| 51 |
-
Öğrenirken model parametreleri her save_every_epoch için `logs/your-experiment-name/G_{}.pth` ve `logs/your-experiment-name/D_{}.pth` olarak kaydedilir, ancak bu yolu belirterek öğrenmeye başlayabilirsiniz. Farklı bir deneyde öğrenilen model ağırlıklarından öğrenmeye yeniden başlayabilir veya eğitimi başlatabilirsiniz.
|
| 52 |
-
|
| 53 |
-
### Öğrenme İndeksi
|
| 54 |
-
RVC, eğitim sırasında kullanılan HuBERT özellik değerlerini kaydeder ve çıkarım sırasında, öğrenme sırasında kullanılan özellik değerlerine benzer özellik değerlerini arayarak çıkarım yapar. Bu aramayı yüksek hızda gerçekleştirebilmek için indeks öğrenilir.
|
| 55 |
-
İndeks öğrenimi için yaklaş
|
| 56 |
-
|
| 57 |
-
ık komşuluk arama kütüphanesi faiss kullanılır. `/logs/your-experiment-name/3_feature256`'daki özellik değerini okur ve indeksi öğrenmek için kullanır, `logs/your-experiment-name/add_XXX.index` olarak kaydedilir.
|
| 58 |
-
|
| 59 |
-
(20230428 güncelleme sürümünden itibaren indeks okunur ve kaydetmek/belirtmek artık gerekli değildir.)
|
| 60 |
-
|
| 61 |
-
### Düğme Açıklaması
|
| 62 |
-
- Modeli Eğit: Adım 2b'yi çalıştırdıktan sonra, modeli eğitmek için bu düğmeye basın.
|
| 63 |
-
- Özellik İndeksini Eğit: Modeli eğittikten sonra, indeks öğrenme işlemi yapın.
|
| 64 |
-
- Tek Tıklamayla Eğitim: Adım 2b, model eğitimi ve özellik indeks eğitimini bir arada yapar.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|