#3286 配音阶段出错 [Qwen3-TTS(本地)] CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at s

167.253* Posted at: 4 months ago

配音阶段出错 [Qwen3-TTS(本地)] CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1 Compile with TORCH_USE_CUDA_DSA to enable device-side assertions. concurrent.futures.process._RemoteTraceback:

3 Replies

这是由于 Qwen3-TTS 本地模型在 CUDA 环境下运行时触发了设备端断言错误,通常与模型加载、数据格式或 CUDA 环境不匹配有关。

解决方案:

  1. 升级软件版本:根据知识库 6.7 条,如果软件版本低于 v3.97,请先升级到 v3.97 或更高版本,此问题可能已被修复。
  2. 检查 CUDA 环境:确保你的 NVIDIA 显卡驱动、CUDA 12.8 和 cuDNN 9.x 已正确安装并配置了环境变量。在 CMD 中运行 nvcc -Vnvidia-smi 进行验证。
  3. 设置环境变量(调试):按照错误提示,在运行软件前,设置环境变量 CUDA_LAUNCH_BLOCKING=1。这会使 CUDA 错误同步报告,有助于定位具体出错位置。

    • Windows 预打包版:可以尝试在启动 sp.exe 前,在命令行中设置:set CUDA_LAUNCH_BLOCKING=1,然后从同一命令行窗口启动软件。
    • 源码版:在启动命令前添加,如 set CUDA_LAUNCH_BLOCKING=1 && uv run sp.py (Windows) 或 CUDA_LAUNCH_BLOCKING=1 uv run sp.py (macOS/Linux)。
  4. 检查模型文件:确认 Qwen3-TTS 的本地模型文件已正确下载且完整,没有损坏。如果是从其他来源下载的,请确保其与软件要求的格式兼容。
  5. 降低配置:如果问题持续,尝试在 Qwen3-TTS 的配置中降低参数(如批量大小),或暂时切换到其他 TTS 渠道(如 Edge-TTS)以完成当前任务。

如果以上步骤无法解决,请提供软件 logs 目录下最新的日志文件内容(底部约30行)以便进一步分析。

请查阅相关文档:


Application started at 2026-07-08 05:37:27

1783460247:Loading resources...
1783460247:Loading main window...
1783460247:Initializing UI...
1783460247:SetupUI end...
1783460247:import recognition ...
1783460247:import tts ...
1783460247:import translate ...
1783460247:Get cache ...
1783460247:Set default value ...
1783460247:import voices list ...
1783460247:Set tts voice ...
[DEBUG] 上次缓存的角色:No,字幕嵌入类型:1,发音语言:en,目标语言:zh-cn,目标语言代码:None,模型:large-v3-turbo,TTS渠道[0]
1783460247:show main window ...
1783460247:Bind signal...
1783460247:set cursor...
1783460247:preload TTS win...
1783460247:preload STT win...
1783460247:preload translate srt win...
1783460247:end
[DEBUG] 平台: Windows。正在按优先级检测最佳的 'h264' 编码器: ['nvenc', 'qsv', 'amf']
[DEBUG] 正在测试编码器是否可用: h264_nvenc...
[DEBUG] 可用 Nvidia 显卡数: 1
[DEBUG] 找到 1 个 Nvidia GPUs, 耗时: 5s

[DEBUG] start 9 jobs
[DEBUG] 硬件编码器 'h2
......

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

Traceback (most recent call last):
File "videotrans\task\job.py", line 35, in run
File "videotrans\task\job.py", line 154, in process_task
File "videotrans\task\dubbing.py", line 51, in dubbing
File "videotrans\task\dubbing.py", line 204, in _tts
File "videotrans\tts\__init__.py", line 207, in run
File "videotrans\tts\_base.py", line 93, in run
File "videotrans\tts\_qwenttslocal.py", line 46, in _exec
File "videotrans\configure\base.py", line 272, in _new_process
videotrans.configure.excepts.VideoTransError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 90, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\inference\qwen3_tts_model.py", line 829, in generate_custom_voice

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2789, in _sample

outputs = model_forward(**model_inputs, return_dict=True)

File "torch\nn\modules\module.py", line 1751, in _wrapped_call_impl

return self._call_impl(*args, **kwargs)

File "torch\nn\modules\module.py", line 1762, in _call_impl

return forward_call(*args, **kwargs)

File "transformers\utils\generic.py", line 918, in wrapper

output = func(self, *args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 1671, in forward

predictor_result = self.code_predictor.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

这是由于 Qwen3-TTS 本地模型在 CUDA 环境下遇到设备端断言失败(device-side assert triggered),通常由输入数据异常(如非法 token ID 或 NaN)、显存不足或模型文件损坏引起。

解决方案步骤:

  1. 设置调试环境变量
    在启动软件前设置 CUDA_LAUNCH_BLOCKING=1,使错误立即报告,便于定位具体输入数据。

    • Windows 预打包版:在 cmd 中执行:

      set CUDA_LAUNCH_BLOCKING=1
      sp.exe

      然后从该窗口启动软件,重现报错,观察控制台输出中是否有更详细的错误信息(如具体是哪一行输入导致的)。

  2. 检查显存占用
    确保满足 Qwen3-TTS 的显存要求(至少 8GB 以上)。如果显存不足,尝试:

    • 关闭其他占用显存的程序(如浏览器、游戏)。
    • 在高级选项中关闭其他本地模型(如 faster-whisper 等)。
    • 降低配音并发数(高级选项 → 字幕配音调整 → 并发配音线程数,设为 1)。
  3. 重新下载或验证模型文件
    Qwen3-TTS 模型文件可能因下载中断而损坏。删除 models/ 下的 Qwen3-TTS 模型文件夹(通常为 models--Qwen--Qwen3-TTS-xxx 或类似),然后重启软件自动重新下载,或手动从 Hugging Face 镜像 下载完整文件。
  4. 临时使用 CPU 测试
    在“菜单 → 工具 → 高级选项 → 通用设置”中,确保“GPU 加速”未勾选(或直接关闭 CUDA 加速),重新执行配音任务。如果 CPU 模式下正常,则问题确与 CUDA 环境有关。
  5. 更新显卡驱动 & CUDA
    确保驱动版本支持 CUDA 12.8+,并安装 cuDNN 9.11+(配置方法见参考文档)。
  6. 切换配音渠道
    如果以上步骤无法快速解决,可暂时改回 Edge-TTS(免费、开箱即用)继续完成当前任务。

请查阅相关文档:

如果仍然报错,请提供设置 CUDA_LAUNCH_BLOCKING=1 后控制台输出的完整错误信息(尤其是报错前几行的数据片段),以便进一步分析。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Dondate via ko-fi.com

Dondate via PayPal

Related resource