app.py

import io

import gradio as gr
import librosa
import numpy as np
import soundfile
import torch
from inference.infer_tool import Svc
import logging
logging.getLogger('numba').setLevel(logging.WARNING)

model_name = "logs/48k/G_1M111000_sing.pth"
config_name = "configs/config.json"

svc_model = Svc(model_name, config_name)
def vc_fn(input_audio, vc_transform):
    if input_audio is None:
        return None
    sampling_rate, audio = input_audio
    # print(audio.shape,sampling_rate)
    duration = audio.shape[0] / sampling_rate
    audio = (audio / np.iinfo(audio.dtype).max).astype(np.float32)
    if len(audio.shape) > 1:
        audio = librosa.to_mono(audio.transpose(1, 0))
    if sampling_rate != 16000:
        audio = librosa.resample(audio, orig_sr=sampling_rate, target_sr=16000)
    print(audio.shape)
    out_wav_path = io.BytesIO()
    soundfile.write(out_wav_path, audio, 16000, format="wav")
    out_wav_path.seek(0)
    out_audio, out_sr = svc_model.infer("suiji", vc_transform, out_wav_path)
    _audio = out_audio.cpu().numpy()
    return (48000, _audio)

app = gr.Blocks()
with app:
    with gr.Tabs():
        with gr.TabItem("SUI-svc-3.0"):
            gr.Markdown(value="""
                # 这是AI岁己歌声变声器的在线demo（第二代移步）[Miuzarte/SUI-svc-4.0](https://huggingface.co/spaces/Miuzarte/SUI-svc-4.0)

                ### 项目：[sovits 3.0 48kHz](https://github.com/innnky/so-vits-svc/tree/main) | 目前模型训练状态：1000000steps底模 + 111000steps

                #### 查看模型介绍、获取模型移步[Miuzarte/SUImodels](https://huggingface.co/Miuzarte/SUImodels)

                ||
                |-|
                ||

                ## 一些注意事项❗❕❗❕：

                #### 输入的音频一定要是纯净的干音，不要把歌曲直接扔进来

                #### 和声和混响也不能有，UVR分离出人声之后需要注意一下

                #### 对陈述语气没多大作用，实在没干音库的话，你可以自己唱然后升十几个调慢慢试效果

                #### 推理出来有概率会给吸气音上电，需要后期小修一下，大概可能也许是因为炼太久糊了
            """)
            vc_input3 = gr.Audio(label="输入音频（长度请控制在30s左右，过长可能会爆内存）")
            vc_transform = gr.Number(label="变调（整数，可以正负，半音数量，升高八度就是12）", value=0)
            vc_submit = gr.Button("转换", variant="primary")
            vc_output2 = gr.Audio(label="输出音频（最右侧三个点可以下载）")
        vc_submit.click(vc_fn, [vc_input3, vc_transform], [vc_output2])
        with gr.TabItem("在本地使用MoeSS高速推理的教程"):
            gr.Markdown(value="""
                # 在本地使用 [MoeSS](https://github.com/NaruseMioShirakana/MoeSS) 推理：

                #### 因为该程序每次更新都会有较大的变化，下面的下载链接都将指向[[MoeSS 4.2.3]](https://github.com/NaruseMioShirakana/MoeSS/releases/tag/4.2.3)

                ### 0. 下载[[MoeSS本体]](https://github.com/NaruseMioShirakana/MoeSS/releases/download/4.2.3/MoeSS-CPU.7z)、[[hubert]](https://huggingface.co/NaruseMioShirakana/MoeSS-SUBModel/resolve/main/hubert.7z)，并解压成以下的文件结构

                Windows 7用户需要另一个编译版本的本体[[MoeSS-Win7.7z]](https://github.com/NaruseMioShirakana/MoeSS/releases/download/4.2.3/MoeSS-Win7.7z)

                ```
                MoeSS
                ├── cleaners
                ├── emotion
                ├── hifigan
                ├── hubert
                │   └── hubert.onnx
                ├── Mods
                ├── OutPuts
                ├── temp
                ├── avcodec-58.dll
                ├── avformat-58.dll
                ├── avutil-56.dll
                ├── MoeSS.exe
                ├── onnxruntime.dll
                ├── onnxruntime_providers_shared.dll
                ├── ParamsRegex.json
                ├── ShirakanaUI.dmres
                ├── swresample-3.dll
                └── swscale-5.dll
                ```

                ### 1. 下载[[转换好的onnx模型]](https://huggingface.co/Miuzarte/SUImodels/blob/main/sovits3_48k/v1/Singing/suijiSUI_v1_1M111000_SoVits.onnx)，放在 MoeSS\\\Mods\\suijiSUI_v1_1M111000 里面

                ### 2. 在 MoeSS\\Mods 新建一个 岁己SUI_v1_1M111k.json （文件名不影响程序读取）并写入以下文本，保存时请确保编码为UTF-8，保存时请确保编码为UTF-8，保存时请确保编码为UTF-8

                ```json
                {
                "Folder" : "suijiSUI_v1_1M111000",
                "Name" : "岁己SUI_v1_1M111k",
                "Type" : "SoVits",
                "Rate" : 48000,
                "Hop" : 320,
                "Hubert": "hubert",
                "SoVits3": true,
                "Characters" : ["岁己SUI"]
                }
                ```

                #### 以上步骤完成之后的文件结构应该长这样

                ```
                MoeSS
                ├── cleaners
                ├── emotion
                ├── hifigan
                ├── hubert
                │   └── hubert.onnx
                ├── Mods
                │   ├── 岁己SUI_v1_1M111k.json
                │   └── suijiSUI_v1_1M111000
                │       └── suijiSUI_v1_1M111000_SoVits.onnx
                ├── OutPuts
                ├── temp
                ├── avcodec-58.dll
                ├── avformat-58.dll
                ├── avutil-56.dll
                ├── MoeSS.exe
                ├── onnxruntime.dll
                ├── onnxruntime_providers_shared.dll
                ├── ParamsRegex.json
                ├── ShirakanaUI.dmres
                ├── swresample-3.dll
                └── swscale-5.dll
                ```

                ### （A卡不用看）如果要使用GPU推理的话，下载[[MoeSS-GPU.7z]](https://github.com/NaruseMioShirakana/MoeSS/releases/download/3.2.0/MoeSS-GPU.7z)并解压"MoeSS - CUDA.exe"、"onnxruntime_providers_cuda.dll"至 MoeSS 目录（全覆盖一遍也行）。注意：需要CUDA版本 ≥ 11.6 < 12 、 CUdnn < 83.0 ，目前30系显卡最新驱动是cuda12，需要降级，建议直接选CPU版本

                ### 3. 运行 MoeSS.exe / Moess - CUDA.exe

                1. 在左上角选择模型 “SoVits:岁己SUI_v1_1M111k” 并等待加载，完成后右边会显示 “当前模型: 岁己SUI_v1_1M111k”

                2. 将音频文件拖入程序窗口 或 直接点击开始转换后选择文件 或 在左下角输入框中写入音频文件路径再点击开始转换，支持批量，如：

                从 3.0.0 到 4.0.1 MoeSS 终于支持了文件拖放

                ```
                A:\\SUI\\so-vits-svc\\raw\\wavs\\2043.wav
                A:\\SUI\\so-vits-svc\\raw\\wavs\\2044.flac
                "B:\\引号\\加不加\\都行.mp3"
                "D:\\应该吧\\路径有空格\\最好还是加.aac"
                "Z:\\作者说\\只能用\\这五种格式.ogg"
                ```

                3. 开始转换前可在弹出的参数框中调整对输入音频的升降调，确定后等待最下方进度条走完然后点右上角保存音频文件，批量推理会直接输出至 MoeSS\\OutPuts\\ 无需再保存

                |下面的弃用|下面的弃用|下面的弃用|
                |:-|:-:|-:|
                |下面的弃用|下面的弃用|下面的弃用|

                ### 本地推理可调用GPU(NVIDIA)，3060Ti 8G可推理一条20(建议) - 30s的音频，过长音频可分割后批量处理，就算用CPU推理也比 Hugging Face 快不少

                # 在本地部署并使用 inference_main.py 处理的保姆级教程：

                #### 我都写成这样了再小白应该都能搞定（不怕麻烦的话）

                ### 0. 创建一个存放文件的目录，例如 D:\\SUI\\

                ### 1. 安装所需的软件

                1. [miniconda-Python3.8](https://docs.conda.io/en/latest/miniconda.html#windows-installers)（未测试其他Python版本）[点这里可以直接下载](https://repo.anaconda.com/miniconda/Miniconda3-py38_22.11.1-1-Windows-x86_64.exe)，Just Me 与 All Users 都行，其余可无脑下一步

                2. [git](https://git-scm.com/download/win)（建议使用便携版）[点这里可以直接下载(便携版v2.39.0.2)](https://github.com/git-for-windows/git/releases/download/v2.39.0.windows.2/PortableGit-2.39.0.2-64-bit.7z.exe)，路径填 D:\\SUI\\git\\

                3. [Visual Studio 生成工具](https://visualstudio.microsoft.com/zh-hans/)（用于编译pyworld，流程走完后可卸载）[点这里可以直接下载](https://c2rsetup.officeapps.live.com/c2r/downloadVS.aspx?sku=community&channel=Release&version=VS2022)，左边勾选“使用 C++ 的桌面开发”，右边只需以下四个，"MSVC v143 - VS 2022 C++......"、"适用于最新 v143 生成工具的 C++ ATL......"、"Windows 11 SDK......"、"用于 Windows 的 C++ CMake......"

                ### 2. 在开始菜单中运行 Anaconda Powershell Prompt 并配置环境（除了工作目录，复制粘贴回车即可）

                ```
                # 切换工作目录
                cd D:\\SUI\\
                # 拉取仓库
                .\\git\\bin\\git lfs clone https://huggingface.co/spaces/Miuzarte/SUI-svc-3.0
                # 切换工作目录至仓库内
                cd D:\\SUI\\SUI-svc-3.0\\
                # 创建并激活环境
                # 如果conda报SSL相关错误请关闭科学上网
                conda create -n sovits python=3.8 -y
                conda activate sovits

                # 更换国内清华源
                conda config --set show_channel_urls yes
                conda config --remove-key channels
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/menpo/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ 
                conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ 
                pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
                ```
                推理所使用的设备取决于安装的torch是否支持cuda，请仔细阅读以下汉字
                ```
                # GPU（NVIDIA，CUDA版本不低于11.3）
                # 似乎10系及以前都不支持cuda11？
                # 如果pip报SSL相关错误请关闭科学上网
                pip install -r requirements_gpu.txt
                pip install https://download.pytorch.org/whl/cu113/torch-1.12.1%2Bcu113-cp38-cp38-win_amd64.whl
                pip install https://download.pytorch.org/whl/cu113/torchvision-0.13.1%2Bcu113-cp38-cp38-win_amd64.whl
                pip install https://download.pytorch.org/whl/cu113/torchaudio-0.12.1%2Bcu113-cp38-cp38-win_amd64.whl
                ```
                ```
                # CPU（x86，内存建议不小于8G）
                # 如果pip报SSL相关错误请关闭科学上网
                pip install -r requirements_cpu.txt
                ```
                至此环境配置完成，关闭该终端窗口（方便我写下一步）

                ### 3. 歌声音色转换

                1. 运行 Anaconda Powershell Prompt 切换工作目录并激活环境

                ```
                cd D:\\SUI\\SUI-svc-3.0\\
                conda activate sovits
                ```

                2. 如果想要像这个demo一样用网页的GUI处理，这条之后的可以跳过了

                ```
                python app.py
                # 运行完成后日志会输出应用所在的端口，默认7860，则浏览器访问 127.0.0.1:7860
                # 不排除该端口被占用后程序选择了其他端口
                ```

                3. 在 SUI-svc-3.0\\raw\\ 文件夹中放入需要转换的音频（wav格式），8G显存的情况下建议每条音频的长度控制在20(建议) - 30s（不包括无声部分），过长会爆显存导致处理时间超级加倍甚至直接报错

                4. 编辑 SUI-svc-3.0\\inference_main.py 的第23行（可参考第24行注释的格式），以及26行的变调，修改完保存时注意编码应为 UTF-8

                5. 在终端中运行 inference_main.py 开始推理

                ```
                python inference_main.py
                # 音频将输出至 SUI-svc-3.0\\results\\ 文件夹
                ```
            """)
    app.launch()