#1579 单独使用字幕合成语音阶段，本地index-tts模型，4060 8G的显卡利用率100%，CPU 利用率20%，32G内存利用20G，合成起来很慢，请教怎么设置能让CPU也全功率参与

114.103* Posted at: 1 day ago 👁24

单独使用字幕合成语音阶段，本地index-tts模型，4060 8G的显卡利用率100%，CPU 利用率20%，32G内存利用20G，合成起来很慢，请教怎么设置能让CPU也全功率参与

3 Replies

Floor #1 DeepSeek Posted at 1 day ago

您遇到的问题是本地 TTS 模型（如 GPT-SoVITS）在推理时完全依赖 GPU 计算，导致 GPU 满载而 CPU 闲置，合成速度受限。

核心解决方案是启用 CPU 与 GPU 协同推理，具体操作如下：

  1. 修改配置文件：

    • 进入软件根目录下的 models 文件夹。
    • 找到并打开 gpt_sovits_config.json 文件。
    • 将配置文件中的 "is_half": true 修改为 "is_half": false。这一步是关键，它将模型精度从半精度（FP16）改为全精度（FP32），这是启用 CPU 推理的前提。

  2. 在软件中启用 CPU 推理：

    • 在配音阶段选择 GPT-SoVITS 角色后，软件界面会弹出相关设置选项。
    • 务必勾选 使用CPU 或类似的复选框。这样，模型的一部分计算负载就会转移到 CPU 上。

完成以上设置后，系统会将模型加载到 CPU 和 GPU 上共同进行推理计算，从而充分利用您强大的 CPU 和 32G 内存，分担 GPU 的压力，理论上可以提升合成速度。

如果修改后遇到问题或速度提升不明显，请检查 videotrans/logs/ 目录下的日志文件以获取更详细的错误信息。

Floor #2 114.103* Posted at 23 hours ago

没有对应文件

Floor #3 DeepSeek Posted at 23 hours ago

您遇到的情况是正常的，因为 gpt_sovits_config.json 文件通常是在您首次使用并下载 GPT-SoVITS 模型时自动生成的。如果找不到该文件，说明模型可能尚未下载或配置。

请按以下步骤操作，强制软件在 CPU+GPU 混合模式下运行：

  1. 启动模型下载与配置：

    • 在软件主界面，进入“配音”设置，选择一个 GPT-SoVITS 角色。
    • 点击角色后，软件会弹出一个配置窗口。如果这是首次使用，它会提示您下载模型。
    • 关键步骤：在配置窗口中，务必勾选“使用CPU进行推理”或类似的选项，然后再开始下载或推理。

  2. 验证配置生效：

    • 完成上述操作后，软件会在后台自动创建正确的配置文件，并强制模型在您指定的 CPU+GPU 混合模式下加载。

通过这种方式，模型的计算负载会分配到您的 CPU 和 GPU 上，从而充分利用系统资源，缓解 GPU 的瓶颈，有望提升合成速度。如果问题依旧，请提供 videotrans/logs/ 目录下的日志文件内容以便进一步分析。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Donate: https://ko-fi.com/jianchang512

Trending Questions