#5672 cfg=TaskCfgTTS(uuid='e3c787aa67', name='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/20260707-133743.txt', dirnam

113.240* Posted at: 3 hours ago

配音阶段出错 [Qwen3-TTS(本地内置)] CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 127, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "G:\videotools\win-pyvideotrans-v4.04-0704\_internal\qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "G:\videotools\win-pyvideotrans-v4.04-0704\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

......

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

Traceback (most recent call last):

File "videotrans\task\job.py", line 35, in run

File "videotrans\task\job.py", line 154, in process_task

File "videotrans\task\dubbing.py", line 51, in dubbing

File "videotrans\task\dubbing.py", line 204, in _tts

File "videotrans\tts\__init__.py", line 207, in run

File "videotrans\tts\_base.py", line 93, in run

File "videotrans\tts\_qwenttslocal.py", line 46, in _exec

File "videotrans\configure\base.py", line 272, in _new_process

videotrans.configure.excepts.VideoTransError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 127, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "G:\videotools\win-pyvideotrans-v4.04-0704\_internal\qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "G:\videotools\win-pyvideotrans-v4.04-0704\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2789, in _sample

outputs = model_forward(**model_inputs, return_dict=True)

File "torch\nn\modules\module.py", line 1751, in _wrapped_call_impl

return self._call_impl(*args, **kwargs)

File "torch\nn\modules\module.py", line 1762, in _call_impl

return forward_call(*args, **kwargs)

File "transformers\utils\generic.py", line 918, in wrapper

output = func(self, *args, **kwargs)

File "G:\videotools\win-pyvideotrans-v4.04-0704\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 1671, in forward

predictor_result = self.code_predictor.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
cfg=TaskCfgTTS(uuid='e3c787aa67', name='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/20260707-133743.txt', dirname='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448', noextname='20260707-133743', basename='20260707-133743.txt', ext='txt', target_dir='G:/videotools/win-pyvideotrans-v4.04-0704/output/tts', cache_folder='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/e3c787aa67', is_cuda=True, source_language=None, source_language_code=None, source_sub=None, source_wav=None, source_wav_output=None, target_language=None, target_language_code='zh-cn', target_sub='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/20260707-133743.txt', target_wav='G:/videotools/win-pyvideotrans-v4.04-0704/output/tts/20260707-133743.wav', target_wav_output=None, tts_type=1, volume='+0%', pitch='+0Hz', voice_rate='+0%', voice_role='zhoush.wav', voice_autorate=True, video_autorate=False, remove_silent_mid=False, align_sub_audio=False)

=
system:Windows-10-10.0.26200-SP0
version:v4.04
frozen:True
language:zh
root_dir:G:/videotools/win-pyvideotrans-v4.04-0704

7 Replies

Floor #1 DeepSeek reply at 3 hours ago

该错误是由于 Qwen3-TTS 本地克隆配音时 CUDA 内部断言触发导致的，常见原因是参考音频不符合要求或CUDA环境配置有出入。

排查步骤：

  1. 检查参考音频：zhoush.wav 必须满足以下条件：

    • 格式为 wav，采样率 16kHz，单声道，时长 3-10 秒。
    • 声音清晰、无背景噪声、无开头/结尾静音。
    • 必须将音频文件放入 软件目录/f5-tts/ 文件夹内，并在 菜单 → TTS设置 → 设置参考音频 中添加描述（例如 zhoush.wav#该音频的说话文本），否则软件无法正确加载。

  2. 显存不足：large-v3 或 Qwen3-TTS 模型在克隆模式下对显存要求较高。若显卡显存低于 8GB，尝试：

    • 关闭其他占用显存的程序。
    • 在 高级选项 → 语音识别参数 中将 计算数据类型 改为 float16 或 int8。
    • 降低 beam_size 和 best_of 至 1。
    • 暂时取消 CUDA加速 改用 CPU 测试能否正常执行。
  3. CUDA 版本校验：确保 CUDA Toolkit ≥ 12.8，cuDNN ≥ 9.11，且 nvcc -V 和 nvidia-smi 显示的 CUDA 版本一致。
  4. 重启并清理缓存：重启软件，在主界面勾选 清理已生成 后重试，避免旧缓存干扰。

问题仍存在？ 请提供参考音频时长、显卡型号、显存大小以及运行命令或更完整的日志（logs/ 目录下最新 .log 文件）。

Floor #2 113.240* reply at 3 hours ago

参考音频9秒，5090，24G显存

Floor #3 DeepSeek reply at 3 hours ago

根据你的配置（RTX 5090，24GB显存，参考音频9秒），报错 device-side assert triggered 通常指向 CUDA/cuDNN 版本不兼容 或 新显卡架构（Blackwell）的算子适配问题。

请按以下顺序排查：

  1. 更新显卡驱动
    RTX 5090 需要 NVIDIA 驱动 ≥ 570.x（建议官网下载最新 Game Ready 驱动）。
    打开命令行输入 nvidia-smi 确认驱动版本，并检查 CUDA 版本是否为 12.8 或更高。

  2. 确认 CUDA 和 cuDNN 正确安装

    • 运行 nvcc -V 确保 CUDA Toolkit 版本 ≥ 12.8。
    • cuDNN 版本必须 ≥ 9.11，且 bin 和 lib 目录已添加到 PATH 环境变量（参考 Windows 配置 CUDA+cuDNN）。

  3. 临时降级测试
    如果仍报错，尝试 取消勾选 CUDA 加速，纯 CPU 运行一次，若能成功则说明是 CUDA 兼容问题。此时可考虑：

    • 更换为 F5-TTS（本地内置） 或 OmniVoice-TTS（本地API） 渠道，它们对 Blackwell 架构支持更好。
    • 或等待 pyVideoTrans 后续更新针对 50 系显卡的优化。
  4. 参考音频再次确认
    确保 zhoush.wav 是 16kHz 单声道 wav，且已在 菜单 → TTS设置 → 设置参考音频 中按格式填入描述（如 zhoush.wav#说话文本），否则 Qwen3-TTS 无法正确解析。

若以上均无效，请提供完整日志文件（logs/ 目录下的最新 .log），或尝试将 CUDA_LAUNCH_BLOCKING=1 环境变量加入启动脚本后再运行，以便获取更精确的错误行。

Floor #4 113.240* reply at 3 hours ago

Application started at 2026-07-07 13:33:42

1783402422:Loading resources...
1783402422:Loading main window...
1783402422:Initializing UI...
1783402422:SetupUI end...
1783402422:import recognition ...
1783402422:import tts ...
1783402422:import translate ...
1783402422:Get cache ...
1783402422:Set default value ...
1783402422:import voices list ...
1783402422:Set tts voice ...
[DEBUG] 上次缓存的角色:No,字幕嵌入类型:1,发音语言:en,目标语言:zh-cn，目标语言代码:None,模型:large-v3-turbo,TTS渠道[0]
1783402422:show main window ...
1783402422:Bind signal...
1783402423:set cursor...
1783402423:preload TTS win...
1783402423:preload STT win...
1783402423:preload translate srt win...
1783402423:end
[DEBUG] 可用 Nvidia 显卡数: 1
[DEBUG] 找到 1 个 Nvidia GPUs, 耗时: 1s
[DEBUG] 返回缓存的编解码器 Windows-264: h264_nvenc
[DEBUG] 返回缓存的编解码器 Windows-265: hevc_nvenc

[DEBUG] start 9 jobs
[DEBUG] app_cfg.proxy=''
[DEBUG] 无法连接 huggingface.co, 使用镜像替换: hf-mirror.com
[DEBUG] 配音 self.cfg=TaskCfgTTS(uuid='e3c787aa67', name='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/20260707-133743.txt', dirname='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448', noextname='20260707-133743', basename='20260707-133743.txt', ext='txt', target_dir='G:/videotools/win-pyvideotrans-v4.04-0704/output/tts', cache_folder='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/e3c787aa67', is_cuda=True, source_language=None, source_language_code=None, source_sub=None, source_wav=None, source_wav_output=None, target_language=None, target_language_code='zh-cn', target_sub='G:/videotools/win-pyvideotrans-v4.04-0704/tmp/11448/20260707-133743.txt', target_wav='G:/videotools/win-pyvideotrans-v4.04-0704/output/tts/20260707-133743.wav', target_wav_output=None, tts_type=1, volume='+0%', pitch='+0Hz', voice_rate='+0%', voice_role='zhoush.wav', voice_autorate=True, video_autorate=False, remove_silent_mid=False, align_sub_audio=False)
[DEBUG] self.volume='+0%', self.rate='+0%', self.pitch='+0Hz'
[DEBUG] 当前使用配音渠道：Qwen3-TTS(本地内置)
[DEBUG] 获取到下载锁，开始从 ms 下载 Qwen/Qwen3-TTS-12Hz-0.6B-Base
Downloading Model from https://www.modelscope.cn to directory: G:\videotools\win-pyvideotrans-v4.04-0704\models\models--Qwen--Qwen3-TTS-12Hz-0.6B-Base
2026-07-07 13:37:47,380 - modelscope - INFO - Got 13 files, start to download ...

Processing 13 items: 0%| | 0.00/13.0 [00:00

Floor #5 DeepSeek reply at 3 hours ago

从日志看，模型 Qwen3-TTS-12Hz-0.6B-Base 正在从 ModelScope 下载，但日志中没有显示下载完成。若下载中途失败或文件损坏，运行推理时就会触发 CUDA device-side assert。此外，RTX 5090 的新架构可能对 torch.multinomial 存在已知兼容问题。

请按顺序执行以下步骤：

  1. 删除已下载的模型文件夹，强制重新下载：
    关闭软件，删除 models/models--Qwen--Qwen3-TTS-12Hz-0.6B-Base 整个目录。重新启动软件，让它重新下载。

  2. 确认 CUDA 与 cuDNN 安装正确：

    • 运行 nvcc -V 确认 CUDA 版本 ≥ 12.8。
    • 运行 where cudnn64_9.dll 确认 cuDNN ≥ 9.11 且在 PATH 中（否则添加 C:\Program Files\NVIDIA\CUDNN\v9.x\bin 等路径）。
    • 若缺少 cuDNN，参考 Windows 配置 CUDA+cuDNN 安装。
  3. 降低计算精度（显存充足，但可避免未知算子问题）：
    在 菜单 → 工具 → 高级选项 → 语音识别参数 中将 计算数据类型 改为 float16。
  4. 临时改用其他配音渠道验证：
    切换到 F5-TTS(本地内置) 或 Edge-TTS(免费)，如果正常，则确认是 Qwen3-TTS 与 5090 的兼容问题，等待软件更新或改用其他渠道。
  5. 检查参考音频描述：
    确保在 菜单 → TTS设置 → 设置参考音频 中已添加一行，格式如：
    zhoush.wav#音频里的说话文本

若以上操作后仍报错，请提供第二次下载完成后的完整日志（logs/ 下的最新 .log 文件），以及 nvidia-smi 输出的驱动和 CUDA 版本信息。

Floor #6 113.240* reply at 3 hours ago

使用上一个版本就可以用cuda加速~

Floor #7 DeepSeek reply at 3 hours ago

这是 v4.04 版本与 RTX 5090 （Blackwell 架构）的兼容性问题。v4.04 将 Qwen3-TTS 模型升级为 12Hz 新模型，其推理代码（特别是 torch.multinomial 和 code_predictor）在 50 系显卡上会触发 CUDA 设备端断言，这在 v4.03 中因使用旧版模型和代码而未出现。

请选择以下任一方案解决：

方案一：降级回退（推荐，功能不变）

  1. 卸载当前 v4.04。
  2. 下载并解压 v4.03 完整包：https://github.com/jianchang512/pyvideotrans/releases/tag/v4.03
  3. 使用该版本运行，CUDA 加速正常。

方案二：保留 v4.04，改用其他配音渠道（支持克隆）

  • 切换至 F5-TTS(本地内置) ：支持中英日法德等十多种语言，克隆效果优秀，且与 RTX 5090 无此兼容问题。
  • 或使用 ZipVoice(本地内置) （支持中英）、OmniVoice-TTS(本地API)（支持所有语言）。
  • 配置参考音频、操作步骤同 Qwen3-TTS 一致。

方案三：临时使用 CPU（不推荐）

取消勾选 “CUDA 加速”，用纯 CPU 运行，速度较慢但可验证是否是 GPU 问题。

后续更新会修复此兼容性，敬请关注。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update. Dondate: ko-fi.com/jianchang512

Related resource