# Diff-SVC

Singing Voice Conversion via diffusion model




## 注意事项

> 本仓库为 diff-svc fork 重构版，新增多说话人、辅助脚本、新 hubert 等，请自行评估并承担风险
>
> 建议使用稳定版：[Diff-SVC](https://github.com/prophesier/diff-svc)
>
> 项目教程在 doc 文件夹下，此魔改版问题请勿在原项目频道、discord 等询问。 
>
> 同参数下，中文 hubert 所需训练步数约为 soft hubert 的 1.5~2 倍，不建议新手使用
>
> 本项目是基于学术交流目的建立，仅供交流与学习使用并非为生产环境准备，不对由此项目模型产生的任何声音的版权问题负责，请勿用于违法违规或违反公序良德等不良用途
>
> 继续使用视为已同意本仓库README所述相关条例，本仓库README已进行劝导义务，不对后续可能存在问题负责。
>
> 如将本仓库代码二次分发，或将由此项目产出的任何结果公开发表 (包括但不限于视频网站投稿)，请注明原作者及代码来源 (此仓库)。
>
> 如果将此项目用于任何其他企划，请提前联系并告知本仓库作者，十分感谢。




## 训练

详细训练过程和各种参数介绍请查看： [推理与训练说明](./doc/train_and_inference.markdown) 

想追求更好的训练效果请查看：[中文 hubert 与特化教程](./doc/advanced_skills.markdown) 




## 推理

参考 `infer.py` 内注释进行修改




## 工具 

音频切片参考 [audio-slicer](https://github.com/openvpi/audio-slicer)




## 学术

项目基于 [diffsinger](https://github.com/MoonInTheRiver/DiffSinger)、[diffsinger (openvpi 维护版)](https://github.com/openvpi/DiffSinger)、[soft-vc](https://github.com/bshall/soft-vc) 开发

同时也十分感谢 openvpi 成员在开发训练过程中给予的帮助。




## 更新日志 

> 2023.03.09
>
> 优化nsf-hifigan速度 @diffsinger
>
> 2023.02.18
>
> 更新config参数，增加flask_api多人模型；取消midi a模式diffsinger套娃支持 @小狼
>
> 2023.01.20
>
> 重构目录，精简代码，去除多层继承 @小狼 
>
> 2023.01.18
>
> 配置文件改为级联，仅需修改 config_nsf、config_ms（二选一）即可预处理 @小狼 
>
> 2023.01.16
>
> 增加多说话人支持 (config_ms.yaml)，预处理代码参考 diffsinger 修改 @小狼 
>
> 2023.01.09  
>
> 新增 select.py 筛选数据集音域（数据量足够时，删去重复音域部分，加快高低音收敛）
>
> 删除 24k 的 pe、hifigan 等依赖，删除 pitch cwt 模式，infer 复用预处理部分代码 @小狼
>
> 2023.01.07
>
> 预处理新增 f0_static 超参统计音域，新增自适应变调功能 (需 f0_static，旧模型 config 可用 data_static 添加此超参) @小狼
>
> 2023.01.05 
>
> 取消 24k 采样率、pe 支持，删减部分参数、doc 新增特化教程；batch.py 支持特化、套娃两种模式的导出；
>
> pre_hubert 为分步预处理（4g 及以下内存预处理使用）；data_static 为数据集音域统计（仅供参考）；中文 hubert 所需依赖 fairseq 请自行安装 @小狼
>
> 2023.01.01
>
> 更新切片机 v2、取消切片缓存，简化部分 infer 流程；取消 vec 支持、增加中文 hubert（仅 base 模型，1.1g 左右）@小狼
>
> 2022.12.17
>
> 新增 pre_check 检测环境、数据 @深夜诗人；改进 simplify 精简模型 @九尾玄狐；监修代码 @小狼
>
> 2022.12.16
>
> 修复推理时 hubert 模型重复加载的问题 @小狼
>
> 2022.12.04
>
> 44.1kHz 声码器开放申请，正式提供对 44.1kHz 的支持
>
> 2022.11.28
>
> 增加了默认打开的 no_fs2 选项，可优化部分网络，提升训练速度、缩减模型体积，对于未来新训练的模型有效
>
> 2022.11.23 
>
> 修复了一个重大 bug，曾导致可能将用于推理的原始 gt 音频转变采样率为 22.05kHz, 对于由此造成的影响我们表示十分抱歉，请务必检查自己的测试音频，并使用更新后的代码
>
> 2022.11.22
>
> 修复了很多 bug，其中有几个影响推理效果重大的 bug
>
> 2022.11.20
>
> 增加对推理时多数格式的输入和保存，无需手动借助其他软件转换
>
> 2022.11.13
>
> 修正中断后读取模型的 epoch/steps 显示问题，添加 f0 处理的磁盘缓存，添加实时变声推理的支持文件
>
> 2022.11.11
>
> 修正切片时长误差，补充对 44.1khz 的适配，增加对 contentvec 的支持
>
> 2022.11.04
>
> 添加梅尔谱保存功能
>
> 2022.11.02
>
> 整合新声码器代码，更新 parselmouth 算法
>
> 2022.10.29
>
> 整理推理部分，添加长音频自动切片功能。
>
> 2022.10.28
> 将 hubert 的 onnx 推理迁移为 torch 推理，并整理推理逻辑。
>
> <font color=#FFA500 > 如原先下载过 onnx 的 hubert 模型需重新下载并替换为 pt 模型 </font>，config 不需要改，目前可以实现 1060
> 6G 显存的直接 GPU 推理与预处理，详情请查看文档。
>
> 2022.10.27
>
> 更新依赖文件，去除冗余依赖。
>
> 2022.10.27
>
> 修复了一个严重错误，曾导致在 gpu 服务器上 hubert 仍使用 cpu 推理，速度减慢 3-5 倍，影响预处理与推理，不影响训练
>
> 2022.10.26
>
> 修复 windows 上预处理数据在 linux 上无法使用的问题，更新部分文档
>
> 2022.10.25
>
> 编写推理 / 训练详细文档，修改整合部分代码，增加对 ogg 格式音频的支持 (无需与 wav 区分，直接使用即可)
>
> 2022.10.24
>
> 支持对自定义数据集的训练，并精简代码
>
> 2022.10.22
>
> 完成对 opencpop 数据集的训练并创建仓库




## 一些法律条文参考

#### 《民法典》

##### 第一千零一十九条 

任何组织或者个人**不得**以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。**未经**肖像权人同意，**不得**制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。
**未经**肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
对自然人声音的保护，参照适用肖像权保护的有关规定。

#####  第一千零二十四条 

【名誉权】民事主体享有名誉权。任何组织或者个人**不得**以侮辱、诽谤等方式侵害他人的名誉权。  

#####  第一千零二十七条

【作品侵害名誉权】行为人发表的文学、艺术作品以真人真事或者特定人为描述对象，含有侮辱、诽谤内容，侵害他人名誉权的，受害人有权依法请求该行为人承担民事责任。
行为人发表的文学、艺术作品不以特定人为描述对象，仅其中的情节与该特定人的情况相似的，不承担民事责任。