mat1 and mat2 must have the same dtype, but got Float and BFloat16
这个错误表明在运行语音识别时,模型的数据类型不匹配。这通常在使用 faster-whisper 模型并启用了 CUDA 加速时发生,尤其是在 Windows 系统上。
faster-whisper
核心原因: 您可能选择了 large-v3 模型,并且 CUDA数据类型 设置为了 bfloat16,但您的显卡或驱动不完全支持 bfloat16 运算。
large-v3
CUDA数据类型
bfloat16
请按以下步骤解决:
(首选方案)修改 CUDA 数据类型:
float16
int8
(备选方案)更换更小的模型:
medium
small
(临时方案)关闭 CUDA 加速:
预防建议: