#5718 配音阶段出错 [Qwen3-TTS(本地内置)] CUDA error: device-side assert triggeredCompile with `TORCH_USE_CUDA_DSA` to enable device-side

240e:b8f* Posted at: 3 hours ago

配音阶段出错 [Qwen3-TTS(本地内置)] CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 121, in qwen3tts_fun
File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\generation\utils.py",
......
ble device-side assertions.

Traceback (most recent call last):

File "videotrans\task\job.py", line 35, in run

File "videotrans\task\job.py", line 154, in process_task

File "videotrans\task\dubbing.py", line 51, in dubbing

File "videotrans\task\dubbing.py", line 204, in _tts

File "videotrans\tts\__init__.py", line 207, in run

File "videotrans\tts\_base.py", line 93, in run

File "videotrans\tts\_qwenttslocal.py", line 46, in _exec

File "videotrans\configure\base.py", line 272, in _new_process

videotrans.configure.excepts.VideoTransError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 121, in qwen3tts_fun
File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\generation\utils.py", line 2566, in generate

result = decoding_method(

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\generation\utils.py", line 2789, in _sample

outputs = model_forward(**model_inputs, return_dict=True)

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\nn\modules\module.py", line 1751, in _wrapped_call_impl

return self._call_impl(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\nn\modules\module.py", line 1762, in _call_impl

return forward_call(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\utils\generic.py", line 918, in wrapper

output = func(self, *args, **kwargs)

File "qwen_tts\core\models\modeling_qwen3_tts.py", line 1671, in forward

predictor_result = self.code_predictor.generate(

File "D:\AI\win-pyvideotrans-v4.05\_internal\torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\generation\utils.py", line 2566, in generate

result = decoding_method(

File "D:\AI\win-pyvideotrans-v4.05\_internal\transformers4576\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
cfg=TaskCfgTTS(uuid='b3619607b7', name='D:/AI/win-pyvideotrans-v4.04/output/translate/发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', dirname='D:/AI/win-pyvideotrans-v4.04/output/translate', noextname='发现更多精彩视频 - 抖音搜索.ZH-HANS', basename='发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', ext='srt', target_dir='D:/AI/win-pyvideotrans-v4.05/output/tts', cache_folder='D:/AI/win-pyvideotrans-v4.05/tmp/17104/b3619607b7', is_cuda=True, source_language=None, source_language_code=None, source_sub=None, source_wav=None, source_wav_output=None, target_language=None, target_language_code='zh-cn', target_sub='D:/AI/win-pyvideotrans-v4.04/output/translate/发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', target_wav='D:/AI/win-pyvideotrans-v4.05/output/tts/发现更多精彩视频 - 抖音搜索.ZH-HANS.wav', target_wav_output=None, tts_type=1, volume='+0%', pitch='+0Hz', voice_rate='+0%', voice_role='nverguo.wav', voice_autorate=True, video_autorate=False, remove_silent_mid=False, align_sub_audio=False)


=
system:Windows-10-10.0.26200-SP0
version:v4.05
frozen:True
language:zh
root_dir:D:/AI/win-pyvideotrans-v4.05

13 Replies

Qwen3-TTS 在克隆配音时触发 device-side assert triggered,通常是参考音频不符合要求或 CUDA 环境不稳定导致。

排查步骤:

  1. 检查参考音频文件 nverguo.wav

    • 必须为 单声道、WAV 格式、采样率 16kHz 或 22kHz
    • 时长严格控制在 3~10 秒 之间,过短或过长都会触发 GPU 断言。
    • 确保音频内容清晰,无背景噪声、无开头结尾静音
    • 可在 菜单 → TTS设置 → 设置参考音频 中确认文件名和对应文本是否正确填写。
  2. 暂时关闭 CUDA 加速
    在翻译视频主界面取消勾选 CUDA加速,改用 CPU 运行一次测试。如果 CPU 模式正常,说明问题出在 CUDA 驱动或显存上;如果 CPU 模式也报错,则参考音频本身有问题。
  3. 降低 GPU 负载

    • 进入 菜单 → 工具 → 高级选项 → 通用设置,将 GPU同时任务数 设为 1
    • 如果有多张显卡,确保首选显存充足的显卡(v4.05 会自动选择)。
  4. 验证 CUDA 环境
    软件绑定 CUDA 12.8 / cuDNN 9.11。请确认 nvcc -V 输出版本号与 nvidia-smi 中驱动支持的 CUDA 版本均符合要求。若不符,请参考官方文档重新配置。
  5. 更换配音渠道
    如果问题持续,可暂用 F5-TTS(本地内置)Edge-TTS(免费) 代替 Qwen3-TTS,两者均支持克隆且对参考音频容错性更好。

请查阅相关文档:

关闭CUDA 可以正常使用

这是典型的 CUDA 环境不兼容或配置错误导致的 GPU 端断言失败。由于关闭 CUDA 后可正常运行,请按以下步骤排查并修复:

  1. 确认 CUDA 版本
    打开命令行,执行 nvcc -V,输出必须显示 release 12.8 或更高(12.8+)。如果版本不符,需重新安装 CUDA 12.8 Toolkit
  2. 确认 cuDNN 版本
    检查 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\lib\x64 下是否有 cudnn64_9.dll(或类似 cudnn64_9 开头的文件),cuDNN 版本需为 9.11 或更高
    若缺少,请下载 cuDNN 9.11+ for CUDA 12.x 并将 binlibinclude 目录分别合并到 CUDA 安装目录对应文件夹。
  3. 检查环境变量
    确保系统 Path 中包含:

    • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\bin
    • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\lib\x64
      修改后需重启软件生效。
  4. 降低 GPU 负载
    进入 菜单 → 工具 → 高级选项 → 通用设置,将 GPU同时任务数 设为 1多显卡模式 取消勾选。再次尝试开启 CUDA 运行。

如果以上操作后仍报错,请在 logs/ 目录找到最新日志文件,复制最后 30 行报错信息,以便进一步分析。

缺少 cudnn64_9.dll

缺少 cudnn64_9.dll 说明 cuDNN 未安装或版本不匹配。请按以下步骤操作:

  1. 下载 cuDNN 9.11+
    访问 NVIDIA cuDNN 页面(需注册/登录):
    https://developer.nvidia.com/cudnn
    选择 cuDNN for CUDA 12.x 版本(v9.11 或更高),下载 Windows 版 zip 包。
  2. 解压并复制文件
    将压缩包解压,得到 binincludelib 三个文件夹。
  3. 合并到 CUDA 目录
    binincludelib 内的文件分别复制粘贴到 CUDA 安装目录(默认 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\)对应的文件夹中,覆盖已有文件。
  4. 确认文件存在
    检查 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\bin 下是否存在 cudnn64_9.dll 文件。
  5. 重启软件
    关闭 pyVideoTrans 并重新启动,再次勾选 CUDA 加速 尝试运行。

如果仍找不到 cudnn64_9.dll,可检查环境变量 Path 中是否已包含 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\bin。若不包含,请手动添加并重启软件。

完成后,建议关闭软件重新启动,再开启 CUDA 测试。若问题持续,请提供日志。

C:\Program Files\NVIDIA\CUDNN\v9.24\lib\13.3\x64

请将 cuDNN 的 bin 目录添加到系统环境变量 Path:按 Win + R,输入 sysdm.cpl → 高级 → 环境变量 → 系统变量 → 找到 Path → 编辑 → 新建 → 添加 C:\Program Files\NVIDIA\CUDNN\v9.24\bin → 确定保存。重启软件后再次勾选 CUDA 加速测试即可。

cuDNN系统环境变量

请确认已按以下路径添加系统环境变量:C:\Program Files\NVIDIA\CUDNN\v9.24\bin(注意是 bin 目录,不是 lib\13.3\x64)。添加后需要 重启软件 以使环境变量生效。如果仍提示缺少 cudnn64_9.dll,可将 cuDNN 解压后的 binincludelib 三个文件夹直接复制覆盖到 CUDA 安装目录(如 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\),这是最稳妥的方法。重启软件后重新开启 CUDA 加速测试。

cudnn64_9.lib

cudnn64_9.lib 是静态库文件,运行时需要的是 cudnn64_9.dll(动态链接库)。请确认 C:\Program Files\NVIDIA\CUDNN\v9.24\bin 目录下是否存在 cudnn64_9.dll。若不存在,请将 cuDNN 的 binincludelib 三个文件夹完整复制到 CUDA 安装目录(默认 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\)下覆盖,然后重启软件。

C:\Program Files\NVIDIA\CUDNN\v9.24\bin\13.3\x64

您提供的路径 C:\Program Files\NVIDIA\CUDNN\v9.24\bin\13.3\x64 看起来是 cuDNN 包的深层目录。请按以下步骤操作:确认 DLL 文件位置 进入该路径,查看是否存在 cudnn64_9.dll 文件。如果存在,将该路径添加到系统环境变量 Path 中: 右击“此电脑” → 属性 → 高级系统设置 → 环境变量 → 系统变量 → 找到 Path → 编辑 → 新建 → 粘贴 C:\Program Files\NVIDIA\CUDNN\v9.24\bin\13.3\x64 → 确定保存。 如果该路径下没有 cudnn64_9.dll,请重新检查 cuDNN 解压包,找到包含该文件的文件夹(通常在顶层的 bin 目录下),然后添加其完整路径。或直接复制 DLL 到 CUDA 目录 直接将 cudnn64_9.dll 文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8\bin 目录下(覆盖已有文件),这比配置环境变量更直接可靠。重启软件后再次尝试开启 CUDA 加速。如果问题仍然存在,请在 logs/ 目录中查看最新的日志文件,复制最后 30 行报错信息以便进一步分析。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update. Dondate: ko-fi.com/jianchang512

Related resource