#4327 回答提示:内存或显存不足,使用小点的模型。请问要求什么配置?

2408**3618 Posted at: 5 months ago

回答提示:内存或显存不足,使用小点的模型。请问要求什么配置?

1 Replies

#1 DeepSeek reply at 5 months ago

这是由显存或内存不足导致的,使用大型模型时对硬件资源有较高要求。

硬件配置要求:

  • 若使用本地 faster-whisper 的 large-v3 模型,推荐配置:NVIDIA显卡(支持CUDA)且显存 ≥ 10 GB,或系统内存 ≥ 16 GB(不使用GPU加速时)。
  • 若使用 medium、small 等较小模型,硬件门槛相应降低。
  • GPU加速必须安装 CUDA 12.8 和 cuDNN 9.11,且仅支持NVIDIA显卡。

解决方案:

  1. 在语音识别渠道中选择较小的模型(如 small、medium),避免使用 large-v3。
  2. 如果必须用大模型,可在 菜单 → 工具/选项 → 高级选项 中调整参数以降低显存占用:将 CUDA数据类型 设为 int8,beam_size 和 best_of 设为 1,关闭 上下文感知。
  3. 处理长视频时,在高级选项中开启 Whisper预分割音频 可降低显存峰值。

请查阅相关文档:

Thinking...
Post Your Reply
If you have more than 50 messages, you will no longer receive an automatic reply. Please ask a new question!
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Dondate via ko-fi.com

Related resource