#5284 moss-tts-nano只有cpu再跑gpu没动静

147.45* Posted at: 2 days ago

moss-tts-nano只有cpu再跑gpu没动静

8 Replies

moss-tts 本身基于 PyTorch,默认应自动调用 GPU(若环境正确)。GPU 无动静通常是因为 未启用软件内的 CUDA 加速 或 CUDA 环境配置不完整

解决方案:

  1. 确认主界面已勾选“CUDA 加速”
    翻译视频和音频 面板第 6 行,必须勾选该选项,否则所有本地模型(包括 moss-tts)都强制跑 CPU。
  2. 检查 CUDA 环境是否正确
    打开命令提示符,执行:

    • nvcc -V 查看 CUDA 编译器版本(需 ≥12.8)
    • nvidia-smi 查看显卡驱动及支持的最高 CUDA 版本
      若其中任意一项失败或版本过低,需重新安装 CUDA Toolkit 12.8+ 及 cuDNN 9.11+,并确保 binlib 目录已添加到系统 PATH 环境变量。
  3. 验证 PyTorch 是否能检测到 GPU
    在 Python 环境下执行:

    import torch
    print(torch.cuda.is_available())

    若返回 False,说明 PyTorch 未识别到 GPU,可考虑重装带 CUDA 支持的 PyTorch 版本。

  4. moss-tts 特殊说明
    moss-tts 依赖 pyniniWeTextProcessing 等库,这些库不影响 GPU 调用。如果上述步骤均正确但 GPU 仍无负载,可能是 moss-tts 模型本身运行时未主动选择 GPU 设备,可在 高级选项 -> 语音识别参数 中将 计算数据类型 设为 float16 并重启任务尝试。

如果仍无法解决,请提供 logs/ 目录下最新的日志文件(底部约 30 行错误),以便进一步分析。

请查阅相关文档:

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2025 NVIDIA Corporation
Built on Wed_Jan_15_19:38:46_Pacific_Standard_Time_2025
Cuda compilation tools, release 12.8, V12.8.61
Build cuda_12.8.r12.8/compiler.35404655_0Thu Jun 18 19:55:40 2026
+























-+
| NVIDIA-SMI 591.59 Driver Version: 591.59 CUDA Version: 13.1 |
+









-+





+




--+
| GPU Name Driver-Model | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|









=+





+




==|
| 0 NVIDIA GeForce RTX 4070 ... WDDM | 00000000:01:00.0 On | N/A |
| 0% 48C P0 31W / 245W | 921MiB / 12282MiB | 1% Default |
| | | N/A |
+









-+





+




--+

+























-+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|





















=|
| 0 N/A N/A 4720 C+G ...IA app\CEF\NVIDIA Overlay.exe N/A |
| 0 N/A N/A 8296 C+G ...5n1h2txyewy\TextInputHost.exe N/A |
| 0 N/A N/A 10776 C+G C:\Windows\explorer.exe N/A |
| 0 N/A N/A 11408 C+G ...xyewy\ShellExperienceHost.exe N/A |
| 0 N/A N/A 11728 C+G ....0.4022.69\msedgewebview2.exe N/A |
| 0 N/A N/A 12488 C+G ...Chrome\Application\chrome.exe N/A |
| 0 N/A N/A 13924 C+G ...h_cw5n1h2txyewy\SearchApp.exe N/A |
| 0 N/A N/A 15504 C+G ...App_cw5n1h2txyewy\LockApp.exe N/A |
| 0 N/A N/A 17344 C+G ...4__8wekyb3d8bbwe\Video.UI.exe N/A |
| 0 N/A N/A 17656 C+G E:\Tencent\QQNT\QQ.exe N/A |
| 0 N/A N/A 18332 C+G ...em_tray\lghub_system_tray.exe N/A |
| 0 N/A N/A 21932 C+G ...IA app\CEF\NVIDIA Overlay.exe N/A |
+





















-+

你的 CUDA 环境配置完全正确(CUDA 12.8 + 驱动 CUDA 13.1),显卡性能也足够。moss-tts 仍跑 CPU 通常是以下三个原因之一:

  1. 软件主界面未勾选“CUDA加速”
    在“翻译视频和音频”面板第 6 行,务必勾选 CUDA加速 选项(左侧面板所有功能里均需单独勾选)。
  2. cuDNN 未安装或环境变量缺失

    • 下载 cuDNN 9.11+(https://developer.nvidia.com/cudnn
    • 将 cuDNN 的 bin 目录(通常解压到 CUDA 安装目录下)添加到系统 PATH 环境变量中。
    • 重启电脑后,在 CMD 中执行 where cudnn*.dll 应能返回路径。
  3. PyTorch 未检测到 GPU
    在软件根目录下打开 CMD(或 PowerShell),运行:

    .\python.exe -c "import torch; print(torch.cuda.is_available())"
    • 若返回 False,则说明内置的 PyTorch 安装有问题。
    • 解决办法:重新下载完整版压缩包(2.6GB)并解压到全英文路径(如 D:\pyVideoTrans),覆盖原有文件。
    • 若返回 True,则继续检查 moss-tts 的配置。

进阶排查

  • 高级选项 → 语音识别参数 中,将 计算数据类型 设为 float16(若未生效可重启软件)。
  • 如果以上步骤均无效,请提供 logs/ 目录下最新日志文件的底部 30 行内容,以便进一步定位 moss-tts 的调用细节。

Traceback (most recent call last):
File "", line 1, in

import torch; print(torch.cuda.is_available())
^^^^^^^^^^^^

ModuleNotFoundError: No module named 'torch'

ModuleNotFoundError: No module named 'torch' 说明你所调用的 python.exe 并非 pyVideoTrans 自带的 Python 环境。打包版软件的 Python 运行环境位于 _internal 文件夹下。

解决方法:

  1. 找到正确的 python.exe
    进入软件根目录(即 sp.exe 所在文件夹),再进入 _internal 子目录,找到 python.exe
  2. 重新测试
    在该目录打开命令提示符(可以按住 Shift 单击右键,选择“在此处打开 PowerShell 窗口”或 CMD),执行:

    .\python.exe -c "import torch; print(torch.cuda.is_available())"

    若返回 True,则说明 PyTorch 环境正常,GPU 可用;若仍然报错,说明内置 PyTorch 损坏,需要重新下载完整的 2.6GB 压缩包并解压到全英文路径覆盖。

  3. 如果返回 True,请再测试 moss-tts
    返回主界面,确认已勾选“CUDA 加速”,重启任务,GPU 应开始工作。

若重下完整版覆盖后问题依旧,请提供 logs/ 目录下最新的日志文件以便进一步分析。

Traceback (most recent call last):
File "", line 1, in

import torch; print(torch.cuda.is_available())
^^^^^^^^^^^^

File "E:\win-pyvideotrans-v4.02-0616\_internal\torch\__init__.py", line 14, in

import ctypes

File "E:\miniconda3\Lib\ctypes\__init__.py", line 8, in

from _ctypes import Union, Structure, Array

ImportError: Module use of python310.dll conflicts with this version of Python.

错误原因是系统环境变量中存在其他 Python(如 Miniconda3)的路径,导致加载了错误的 python310.dll。解决办法:使用软件自带的 python.exe 并屏蔽系统 PATH 干扰。


操作步骤:

  1. 打开命令提示符(CMD),依次执行以下命令(请逐行复制执行,不要跳过):

    cd /d E:\win-pyvideotrans-v4.02-0616
    set PATH=%CD%\_internal;%CD%\_internal\Lib\site-packages\torch\lib;%SystemRoot%\system32;%SystemRoot%
    .\_internal\python.exe -c "import torch; print(torch.cuda.is_available())"
  2. 如果返回 True,说明 GPU 可用,关闭命令提示符窗口,直接双击软件根目录的 sp.exe 启动软件,并在主界面勾选 CUDA 加速 即可正常使用 moss-tts 的 GPU 加速。
  3. 如果仍然报错 ModuleNotFoundError: No module named 'torch' 或其他导入错误,说明软件内置的 torch 包已损坏。请重新下载完整的 v4.02 完整版压缩包(2.6GB),解压到全英文目录(如 D:\pyVideoTrans)覆盖原有文件,然后重复上述步骤。

⚠️ 注意:不要在已激活 Conda 环境的 CMD 中运行 sp.exe,直接双击 sp.exe 即可。如果习惯用 CMD 启动,请先执行 deactivate 退出所有 Conda 环境。

正常。这个渠道是使用onnxruntime运行的,仅包含cpu运行时,不使用gpu

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update. Dondate: ko-fi.com/jianchang512

Related resource