#4327 回答提示:内存或显存不足,使用小点的模型。请问要求什么配置?

2408:8256* Posted at: 2 hours ago 👁10

回答提示:内存或显存不足,使用小点的模型。请问要求什么配置?

1 Replies

这是由显存或内存不足导致的,使用大型模型时对硬件资源有较高要求。

硬件配置要求

  • 若使用本地 faster-whisperlarge-v3 模型,推荐配置:NVIDIA显卡(支持CUDA)且显存 ≥ 10 GB,或系统内存 ≥ 16 GB(不使用GPU加速时)。
  • 若使用 mediumsmall 等较小模型,硬件门槛相应降低。
  • GPU加速必须安装 CUDA 12.8 和 cuDNN 9.11,且仅支持NVIDIA显卡。

解决方案

  1. 在语音识别渠道中选择较小的模型(如 smallmedium),避免使用 large-v3
  2. 如果必须用大模型,可在 菜单 → 工具/选项 → 高级选项 中调整参数以降低显存占用:将 CUDA数据类型 设为 int8beam_sizebest_of 设为 1,关闭 上下文感知
  3. 处理长视频时,在高级选项中开启 Whisper预分割音频 可降低显存峰值。

请查阅相关文档:

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Related resource