#4708 我用官方下载的INDEXtts1.5 刚换的3060ti显卡,生成语音的时候很慢,我看了一下任务管理器gpu使用率为1%-11%,感觉现在用的是CPU生成的,

2a14:4900* Posted at: 2 hours ago

我用官方下载的INDEXtts1.5 刚换的3060ti显卡,生成语音的时候很慢,我看了一下任务管理器gpu使用率为1%-11%,感觉现在用的是CPU生成的,

13 Replies

INDEX-TTS 本地服务生成语音慢且 GPU 使用率低,是因为该服务未正确启用 GPU 加速(可能 PyTorch 未安装 CUDA 版本,或启动参数未指定 GPU)。

解决方法:

  1. 确认 INDEX-TTS 服务是否运行在 GPU 模式
    打开服务启动命令行,查看输出是否包含 Using device: cuda。若显示 cpu,则需停止服务并重新配置。
  2. 安装 CUDA 版 PyTorch(以 CUDA 12.8 为例,3060Ti 支持)
    在 INDEX-TTS 的 Python 环境中执行:

    pip uninstall torch torchvision torchaudio -y
    pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

    若使用 conda,则 conda install pytorch torchvision torchaudio pytorch-cuda=12.8 -c pytorch -c nvidia

  3. 检查 CUDA 及驱动版本

    • 运行 nvidia-smi 确认驱动支持 CUDA 12.x(3060Ti 需驱动版本 ≥ 527.41)
    • 运行 nvcc -V 确认 CUDA 编译器版本 ≥ 12.8(若无,需安装 CUDA 12.8 Toolkit
    • 安装匹配的 cuDNN 9.11+ 并添加到环境变量(教程见下方链接)
  4. 重启 INDEX-TTS 服务
    加上 --device cuda 参数启动(若服务支持),例如:

    python app.py --device cuda
  5. 在 pyVideoTrans 中检查设置

    • 菜单 → TTS设置 → F5-TTS(INDEX-TTS共用此面板),确认 API 地址为 http://127.0.0.1:7860(默认端口)
    • 主界面勾选 CUDA加速(虽然主要影响 ASR,但保持勾选无妨)

请查阅相关文档:

这是因为 INDEX-TTS 本地服务默认使用 CPU 运行,未正确启用 NVIDIA GPU 加速。3060Ti 显卡需要安装 CUDA 12.8 及以上版本以及匹配的 cuDNN,并确保 INDEX-TTS 的 PyTorch 是 CUDA 版本。

解决方法:

  1. 检查 INDEX-TTS 服务当前运行模式
    打开 INDEX-TTS 服务的命令行终端,查看启动输出是否包含 Using device: cuda。如果显示 cpu,请停止服务并继续下一步。
  2. 安装 CUDA 版 PyTorch
    在 INDEX-TTS 的 Python 虚拟环境中执行:

    pip uninstall torch torchvision torchaudio -y
    pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

    (若使用 conda,则换成 conda install pytorch torchvision torchaudio pytorch-cuda=12.8 -c pytorch -c nvidia

  3. 确认 CUDA 和 cuDNN 已正确安装

    • 运行 nvidia-smi 确认驱动支持 CUDA 12.x(3060Ti 需驱动 ≥ 527.41)。
    • 运行 nvcc -V 确认 CUDA 编译器版本 ≥ 12.8(若无,从 NVIDIA 官网 下载安装)。
    • 安装 cuDNN 9.11+(教程见下方链接)并确保 bin 目录已加入系统环境变量 PATH。
  4. 重新启动 INDEX-TTS 服务时指定 GPU
    如果启动脚本支持 --device 参数,请添加 --device cuda(例如 python app.py --device cuda)。
    若服务不支持命令行参数,则需在源码中修改默认设备为 "cuda"
  5. 在 pyVideoTrans 中保持正确设置

    • 菜单 → TTS 设置 → F5-TTS(INDEX-TTS 共用此面板),确认 API 地址为 http://127.0.0.1:7860
    • 主界面勾选 CUDA 加速(主要影响 ASR,但对整体流程无负面影响)。

请查阅相关文档:

如果上述步骤后仍然无效,请提供 INDEX-TTS 服务终端的完整启动日志(约 20-30 行)以便进一步排查。

我看了一下,太难了,有没有一键部署的操作方式

可以直接下载官方提供的 Index-TTS2 Windows 一键整合包,内置完整运行环境(包含 CUDA 版 PyTorch、cuDNN 等),解压后双击运行即可自动启用 GPU 加速。无需手动配置 CUDA 和 cuDNN。

具体操作:

  1. 访问整合包下载页面:Index-TTS2 一键整合包(或 Index-TTS 整合包
  2. 下载 .7z 压缩包,解压到不含中文、空格的路径(如 D:\Index-TTS
  3. 运行 start.bat(或 run.bat),等待启动完成,终端显示 Using device: cuda 即表示 GPU 加速生效
  4. 在 pyVideoTrans 中,菜单 → TTS 设置 → F5-TTS,填写 API 地址为 http://127.0.0.1:7860

注意:运行前确保已安装最新 NVIDIA 显卡驱动(≥ 527.41),且系统已正确支持 CUDA 12.x。整合包会自动检测 GPU,无需手动配置。

写的是TTS2,里面的模型是多少?是1.5还是2.0

知识库中未明确说明 Index-TTS2 一键整合包内置的具体模型版本(1.5 或 2.0)。建议你查看解压后整合包文件夹内的 README.txt 或启动脚本中的说明文字,通常会有版本信息。若仍无法确定,可查看服务启动终端的日志输出,一般会打印模型加载时的版本号。

我是用的是官方的1.5一键整合包,包含这些东西吗

Index-TTS 1.5 官方一键整合包通常已包含运行所需的 CUDA 版 PyTorch 和 cuDNN,但前提是你的系统已安装正确版本的 NVIDIA 显卡驱动(3060Ti 需驱动 ≥ 527.41,建议更新到最新)并且整合包的 PyTorch 能识别到你的显卡。如果启动后 GPU 使用率仍低,可能原因及简单解决步骤:验证显卡驱动 打开命令提示符,输入 nvidia-smi,确认驱动版本支持 CUDA 12.x。若版本过低,去 NVIDIA 官网更新驱动。检查整合包是否真的用上了 GPU 在整合包的启动终端(CMD 窗口)中查看输出信息,搜寻 “Using device: cuda” 或 “CUDA available”。如果显示 “cpu”,说明整合包未识别到显卡。尝试管理员身份运行启动脚本 右键点击 start.bat / run.bat,选择“以管理员身份运行”,避免权限问题导致 CUDA 加载失败。如果以上两步后问题依旧,说明这个特定的一键整合包可能基于 CPU 版构建(部分早期版本仅支持 CPU)。此时最简单的办法是切换使用 Index-TTS2 一键整合包,该包明确支持 GPU 加速,且全自动配置。下载地址:https://pyvideotrans.com/blog/index-tts2-windows-package若仍希望固守 Index-TTS 1.5,则只能手动升级 PyTorch 为 CUDA 版,方法如先前所述。

Mon May 25 16:22:51 2026
+























-+
| NVIDIA-SMI 560.94 Driver Version: 560.94 CUDA Version: 12.6 |
|









-+





+




--+
| GPU Name Driver-Model | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|









=+





+




==|
| 0 NVIDIA GeForce RTX 3060 Ti WDDM | 00000000:01:00.0 On | N/A |
| 30% 34C P2 49W / 240W | 3852MiB / 8192MiB | 0% Default |
| | | N/A |
+









-+





+




--+

+























-+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|





















=|
| 0 N/A N/A 1616 C+G ...ram Files (x86)\Tencent\QQNT\QQ.exe N/A |
| 0 N/A N/A 5052 C+G ...am Files\FLASH-CAT\闪电猫加速器.exe N/A |
| 0 N/A N/A 5396 C+G ...m Files\Mozilla Firefox\firefox.exe N/A |
| 0 N/A N/A 5424 C+G C:\Windows\explorer.exe N/A |
| 0 N/A N/A 5572 C+G ...m Files (x86)\BcutBilibili\BCUT.exe N/A |
| 0 N/A N/A 5904 C+G ...2txyewy\StartMenuExperienceHost.exe N/A |
| 0 N/A N/A 5920 C+G ...m Files\Mozilla Firefox\firefox.exe N/A |
| 0 N/A N/A 7480 C+G ...al\Programs\WorkBuddy\WorkBuddy.exe N/A |
| 0 N/A N/A 8228 C+G ...al\Stacher7\app-7.1.10\Stacher7.exe N/A |
| 0 N/A N/A 9444 C+G ...m Files\Mozilla Firefox\firefox.exe N/A |
| 0 N/A N/A 9724 C+G ...sk
\TextInputHost.exe N/A |
| 0 N/A N/A 10764 C+G ...ta\Local\Programs\vidbee\vidbee.exe N/A |
| 0 N/A N/A 12208 C+G C:\Windows\System32\conhost.exe N/A |
| 0 N/A N/A 14768 C+G ...al\Programs\WorkBuddy\WorkBuddy.exe N/A |
| 0 N/A N/A 15512 C+G ...5n1h2txyewy\ShellExperienceHost.exe N/A |
| 0 N/A N/A 16216 C F:\index1.5\runtime\python.exe N/A |
| 0 N/A N/A 21016 C+G C:\Windows\System32\conhost.exe N/A |
+





















-+

C:\Users\Administrator>

你的 NVIDIA 驱动版本为 560.94,支持 CUDA 12.6,但 pyVideoTrans 要求 CUDA 版本 ≥ 12.8(Index-TTS 的 GPU 加速也依赖该版本)。因此 GPU 无法被正常调用,导致仍在使用 CPU 生成语音。请按以下步骤升级 CUDA:

  1. 更新显卡驱动
    访问 NVIDIA 官网下载最新驱动(建议 560.94 以上仍可,但最好更新到 572+ 以确保兼容 12.8)。安装后重启。
  2. 安装 CUDA 12.8 Toolkit
    下载地址:CUDA 12.8 下载页
    选择适合你的 Windows 版本(推荐 exe 网络版)。安装时注意:

    • 如果系统已有 CUDA 12.6,建议 选择“自定义安装”,仅勾选“CUDA Runtime”“Development”等组件,避免覆盖现有驱动。
    • 安装完成后,在命令提示符中输入 nvcc -V 确认输出为 12.8。
  3. 安装匹配的 cuDNN 9.11+
    参考教程:Windows 上安装 CUDA 12.8 和 cuDNN 9.11
  4. 重新启动 Index-TTS 服务
    关闭旧服务终端,重新运行 start.bat,检查是否出现 Using device: cuda

如果升级后依然不行,请提供 Index-TTS 启动终端中打印的前 30 行日志(包含 PyTorch version、CUDA available 等)以便进一步分析。

意思是说,我更新最新的驱动,然后下载cuda12.8安装,下载3.11安装,然后重启电脑,再点击你们在运行1.5一键安装包,就可以使用了吧

是的,按以下三步操作即可:1. 更新显卡驱动:到 NVIDIA 官网下载最新驱动(建议 572 系列及以上),重启电脑。2. 安装 CUDA 12.8 和 cuDNN 9.11: - 下载 CUDA 12.8 Toolkit:下载地址,安装后重启。 - 下载 cuDNN 9.11:安装教程,将解压后的文件夹内的 bin、lib、include 目录复制到 CUDA 12.8 安装目录下(默认 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8)。3. 重启电脑,然后双击运行 Index-TTS 1.5 一键整合包的 start.bat,等待终端显示 Using device: cuda 即可。注意:驱动更新后,CUDA 12.6 会被 12.8 取代,但整合包会自动使用新版本。如果仍显示 cpu,请查看终端开头几行关于 PyTorch 和 CUDA 的检测信息,发给我进一步排查。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Related resource