#5712 配音阶段出错 [Qwen3-TTS(本地内置)] CUDA error: device-side assert triggeredCompile with `TORCH_USE_CUDA_DSA` to enable device-side

101.87* Posted at: 5 hours ago

配音阶段出错 [Qwen3-TTS(本地内置)] CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 127, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "
......
enerate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

Traceback (most recent call last):

File "videotrans\task\job.py", line 35, in run

File "videotrans\task\job.py", line 154, in process_task

File "videotrans\task\dubbing.py", line 51, in dubbing

File "videotrans\task\dubbing.py", line 204, in _tts

File "videotrans\tts\__init__.py", line 207, in run

File "videotrans\tts\_base.py", line 93, in run

File "videotrans\tts\_qwenttslocal.py", line 46, in _exec

File "videotrans\configure\base.py", line 272, in _new_process

videotrans.configure.excepts.VideoTransError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 127, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2789, in _sample

outputs = model_forward(**model_inputs, return_dict=True)

File "torch\nn\modules\module.py", line 1751, in _wrapped_call_impl

return self._call_impl(*args, **kwargs)

File "torch\nn\modules\module.py", line 1762, in _call_impl

return forward_call(*args, **kwargs)

File "transformers\utils\generic.py", line 918, in wrapper

output = func(self, *args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 1671, in forward

predictor_result = self.code_predictor.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
cfg=TaskCfgTTS(uuid='b3619607b7', name='D:/AI/win-pyvideotrans-v4.04/output/translate/发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', dirname='D:/AI/win-pyvideotrans-v4.04/output/translate', noextname='发现更多精彩视频 - 抖音搜索.ZH-HANS', basename='发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', ext='srt', target_dir='D:/AI/win-pyvideotrans-v4.04-0704 (1)/output/tts', cache_folder='D:/AI/win-pyvideotrans-v4.04-0704 (1)/tmp/21188/b3619607b7', is_cuda=True, source_language=None, source_language_code=None, source_sub=None, source_wav=None, source_wav_output=None, target_language=None, target_language_code='zh-cn', target_sub='D:/AI/win-pyvideotrans-v4.04/output/translate/发现更多精彩视频 - 抖音搜索.ZH-HANS.srt', target_wav='D:/AI/win-pyvideotrans-v4.04-0704 (1)/output/tts/发现更多精彩视频 - 抖音搜索.ZH-HANS.wav', target_wav_output=None, tts_type=1, volume='+0%', pitch='+0Hz', voice_rate='+0%', voice_role='cosy.wav', voice_autorate=True, video_autorate=False, remove_silent_mid=False, align_sub_audio=False)


=
system:Windows-10-10.0.26200-SP0
version:v4.04
frozen:True
language:zh
root_dir:D:/AI/win-pyvideotrans-v4.04-0704 (1)

11 Replies

该错误是 Qwen3-TTS 在 GPU 推理时发生的 CUDA 设备端断言异常,常见原因包括显存不足、模型文件损坏或 CUDA/cuDNN 版本不兼容。请按以下步骤排查:

  1. 检查显存:Qwen3-TTS 本地模型需要至少 8GB 可用显存,请确保其他程序未占用过多显卡资源(使用 nvidia-smi 确认空闲显存)。
  2. 重新下载模型:退出软件,进入软件目录下的 models/models--Qwen--Qwen3-TTS-* 或类似文件夹,删除该文件夹内的所有文件(或整个文件夹),然后重新运行软件,让其在首次配音时自动下载完整模型文件。模型损坏会导致 CUDA 断言错误。
  3. 检查 CUDA 环境:确保已安装 CUDA 12.8+ 和 cuDNN 9.11+,并在系统环境变量中正确配置了 binlib 路径。可在命令行输入 nvcc -Vnvidia-smi 确认版本。
  4. 临时切换为 CPU 模式:在主界面取消勾选 "CUDA 加速",用 CPU 运行同一配音任务。若 CPU 下能正常完成,说明问题确为 GPU 环境或模型兼容性导致,请优先更新驱动和 CUDA。
  5. 参考音频规范:你当前使用的 voice_role='cosy.wav' 是自定义参考音频(放置于 f5-tts/ 目录),Qwen3-TTS 也支持使用参考音频进行音色克隆。请确保该音频为 wav 格式、时长 3~10 秒、无背景噪声,且文本内容已正确填入“设置参考音频”菜单。

若上述步骤无效,请提供 logs/ 目录下最新的日志文件(复制最后约30行)以及 nvidia-smi 的输出,以便进一步分析。


Application started at 2026-07-08 05:37:27

1783460247:Loading resources...
1783460247:Loading main window...
1783460247:Initializing UI...
1783460247:SetupUI end...
1783460247:import recognition ...
1783460247:import tts ...
1783460247:import translate ...
1783460247:Get cache ...
1783460247:Set default value ...
1783460247:import voices list ...
1783460247:Set tts voice ...
[DEBUG] 上次缓存的角色:No,字幕嵌入类型:1,发音语言:en,目标语言:zh-cn,目标语言代码:None,模型:large-v3-turbo,TTS渠道[0]
1783460247:show main window ...
1783460247:Bind signal...
1783460247:set cursor...
1783460247:preload TTS win...
1783460247:preload STT win...
1783460247:preload translate srt win...
1783460247:end
[DEBUG] 平台: Windows。正在按优先级检测最佳的 'h264' 编码器: ['nvenc', 'qsv', 'amf']
[DEBUG] 正在测试编码器是否可用: h264_nvenc...
[DEBUG] 可用 Nvidia 显卡数: 1
[DEBUG] 找到 1 个 Nvidia GPUs, 耗时: 5s

[DEBUG] start 9 jobs
[DEBUG] 硬件编码器 'h2
......

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

Traceback (most recent call last):
File "videotrans\task\job.py", line 35, in run
File "videotrans\task\job.py", line 154, in process_task
File "videotrans\task\dubbing.py", line 51, in dubbing
File "videotrans\task\dubbing.py", line 204, in _tts
File "videotrans\tts\__init__.py", line 207, in run
File "videotrans\tts\_base.py", line 93, in run
File "videotrans\tts\_qwenttslocal.py", line 46, in _exec
File "videotrans\configure\base.py", line 272, in _new_process
videotrans.configure.excepts.VideoTransError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.
,Traceback (most recent call last):
File "videotrans\process\tts_fun.py", line 127, in qwen3tts_fun
File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\inference\qwen3_tts_model.py", line 603, in generate_voice_clone

talker_codes_list, _ = self.model.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 2272, in generate

talker_result = self.talker.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2789, in _sample

outputs = model_forward(**model_inputs, return_dict=True)

File "torch\nn\modules\module.py", line 1751, in _wrapped_call_impl

return self._call_impl(*args, **kwargs)

File "torch\nn\modules\module.py", line 1762, in _call_impl

return forward_call(*args, **kwargs)

File "transformers\utils\generic.py", line 918, in wrapper

output = func(self, *args, **kwargs)

File "D:\AI\win-pyvideotrans-v4.04-0704 (1)\_internal\qwen_tts\core\models\modeling_qwen3_tts.py", line 1671, in forward

predictor_result = self.code_predictor.generate(

File "torch\utils\_contextlib.py", line 116, in decorate_context

return func(*args, **kwargs)

File "transformers\generation\utils.py", line 2566, in generate

result = decoding_method(

File "transformers\generation\utils.py", line 2831, in _sample

next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1)

RuntimeError: CUDA error: device-side assert triggered
Compile with TORCH_USE_CUDA_DSA to enable device-side assertions.

从日志看,问题依然在执行 Qwen3-TTS 音色克隆时触发 GPU 设备端断言。请按以下步骤操作:

  1. 检查 CUDA / cuDNN 版本
    打开命令提示符,运行 nvcc -Vnvidia-smi,确认 CUDA 版本 ≥ 12.8,并已安装 cuDNN 9.11。若版本不符,请升级后重启电脑。
  2. 降低 GPU 负载
    菜单 → 工具 → 高级选项 → 通用设置 中,将 GPU 同时任务数 设为 1;在 语音识别参数 中将 计算数据类型 设为 int8float16,以节省显存。
  3. 验证参考音频
    你当前使用了 voice_role='cosy.wav',请确保该文件:

    • wav 格式
    • 时长在 3~10 秒 之间
    • 内容仅为单一人声,无背景噪声
    • 已按知识库要求在 菜单 → TTS 设置 → 设置参考音频 中填写了对应的文本内容(格式:cosy.wav#音频里的说话文本内容
  4. 重新下载模型
    退出软件,进入 models/ 目录,找到 Qwen3-TTS 相关文件夹(可能名为 models--Qwen--Qwen3-TTS-*),删除其内所有文件。重新启动软件后配音,让软件自动下载完整模型。模型文件损坏也会触发此错误。
  5. 临时改用 CPU 模式
    在主界面取消勾选 CUDA 加速,尝试再次配音。若 CPU 模式下成功完成,说明问题确为 GPU 环境或模型损坏所致,请返回步骤 1 确认环境。

完成以上步骤后,若仍报错,请提供 nvidia-smi 的输出和 logs/ 目录下最新日志文件的最后 30 行,以便进一步分析。

必须使用
cuDNN 9.11

是的,cuDNN 版本必须 ≥ 9.11(推荐 9.11 或更高),且与 CUDA 12.8 配套使用。如果已安装正确版本但仍报错,请检查系统环境变量中是否包含了 cuDNN 的 binlib 目录,确保路径设置无误。若问题依旧,请在取消勾选 CUDA 加速后用 CPU 测试同一任务,以排除 GPU 环境干扰。

CUDNN 13.3 CUDA 12.8.93

cuDNN 13.3 满足要求(需 ≥ 9.11)。问题可能出在其他方面,请继续按以下重点排查:参考音频及其文本配置:确认使用 Qwen3-TTS 克隆时,参考音频文件(cosy.wav)为 wav 格式、时长 3~10 秒、单一人声无噪声,并且在 菜单 → TTS 设置 → 设置参考音频 中已按格式 cosy.wav#音频里的说话文本内容 正确填写。显存占用:运行 nvidia-smi 确认在执行配音前至少有 8GB 空闲显存。可临时降低模型计算精度(高级选项 → 语音识别参数 → 计算数据类型 → int8)。模型完整性:删除 models/ 下 Qwen3-TTS 相关文件夹,让软件重新下载模型,防止文件损坏导致断言失败。强制 CPU 测试:取消勾选 CUDA 加速后重新运行相同任务。若 CPU 下成功,说明问题在于 GPU 环境,请检查驱动程序是否为最新。若仍失败请提供具体报错日志。

显卡是4070S

感谢提供硬件信息。RTX 4070 Super 拥有 12GB 显存,理论上是足够的,但 device-side assert triggered 通常指向模型内部计算越界,常见原因依然是参考音频格式不规范或模型文件损坏。

请按以下顺序操作:

  1. 检查参考音频配置

    • 进入 菜单 → TTS设置 → 设置参考音频
    • 确认 cosy.wav 已在文本框中以一行 cosy.wav#音频里的说话文本内容 正确填写。
    • 确保 cosy.wav 实际存在于 软件根目录/f5-tts/ 文件夹内,且格式为 wav,时长 3~10 秒,无背景噪声。
  2. 删除 Qwen3-TTS 模型缓存并重新下载
    退出软件,进入 models/ 目录,删除所有与 Qwen3-TTS 相关的文件夹(通常包含 QwenQwen3-TTS 字样),重启软件后再次执行配音任务,让软件自动下载完整模型。
  3. 更新 GPU 驱动
    请前往 NVIDIA 官网下载并安装最新的 Game Ready 或 Studio 驱动(当前建议 555.xx 或更高)。
  4. 临时用 CPU 测试
    在主界面取消勾选 CUDA 加速,用纯 CPU 运行相同任务。如果成功完成,则问题确认为 GPU 环境,请重点检查驱动或尝试重新安装 CUDA 12.8 及配套 cuDNN。

完成上述操作后,若仍然报错,请提供 nvidia-smi 的输出以及 logs/ 目录下最新日志文件的最后 30 行,以便进一步定位。

cosy.wav 是软件自带示范

明白了,软件自带示范文件 cosy.wav 已存在于正确的目录(通常为 软件根目录/f5-tts/软件根目录/models/ 下)。但 Qwen3-TTS 渠道使用自定义参考音频时,仍需在“设置参考音频”中显式配置文本内容,否则软件无法获取参考音频的文字,可能导致内部计算异常。

请按以下步骤核实:

  1. 检查参考音频配置
    打开 菜单 → TTS设置 → 设置参考音频,查看是否已有一行类似以下的内容:
    cosy.wav#该音频内的说话文本内容
    如果为空或不含文本,请按格式补全。注意:必须准确填入该音频中说话人所说的文字,即使是示范文件也需要填写,否则 Qwen3-TTS 无法正确进行音色克隆。
  2. 验证参考音频文件位置
    确保 cosy.wav 文件位于 软件根目录/f5-tts/ 文件夹内(Qwen3-TTS 的参考音频统一放置在此目录,与 F5-TTS 共用),且文件名完全一致(注意大小写和扩展名 .wav)。
  3. 模型完整性
    删除 models/ 目录下与 Qwen3-TTS 相关的文件夹(如 models--Qwen--Qwen3-TTS-*),重启软件让其在首次配音时重新下载完整模型。

完成以上配置后重新运行配音任务。若仍报错,请取消勾选“CUDA 加速”用 CPU 试一次,以排除 GPU 环境问题。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update. Dondate: ko-fi.com/jianchang512

Related resource