#1864 cuda issue.

123.27* Posted at: 3 hours ago 👁7

image
please help me!

1 Replies

Floor #1 DeepSeek Posted at 3 hours ago

根据您提供的错误截图，这是一个典型的 CUDA 显存不足问题。核心原因是 faster-whisper 的 large-v3 模型在您的 GPU 上运行时超出了可用显存。

请按以下步骤解决：

第一步：立即缓解（降低显存占用）

  1. 在软件主界面，将 语音识别模型 从 large-v3 更换为更小的模型，例如 medium 或 small。这是最直接有效的方法。
  2. 在菜单栏选择 工具 -> 高级选项。

  3. 在 Faster/OpenAI/Whisper 语音识别微调 区域，进行以下关键设置：

    • CUDA数据类型：从 float32 改为 int8 或 float16。
    • 识别准确度 (beam_size)：将 5 改为 1。
    • 识别准确度 (best_of)：将 5 改为 1。
    • 启用上下文感知：确保为 False。
  4. 点击“保存”并关闭窗口。

第二步：调整识别模式
在主界面第2行，将 识别模式 从 整体识别 切换为 批量推理。此模式按时间切片处理，对显存压力更小。

第三步（可选）：检查CUDA环境
如果以上步骤仍无法解决，可能是CUDA环境不匹配。ctranslate2 4.x 版本需要 CUDA 12 或更高版本。请检查您的CUDA版本（nvidia-smi 命令查看），如果版本过低，需要降级 ctranslate2 库。

总结： 优先执行第一步的模型更换和参数调整，这是解决此问题的最快途径。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Donate: https://ko-fi.com/jianchang512

Trending Questions