#903 开始使用4060的8G.一台机子 1,提取用的faster-whisper large-v3-trubo, 2大模型分句用的官方deepseek的API接口.. 3.翻译用的本地ollama+gemma-3n-e4b-it-q4 4.合成语

82.152* Posted at: 6 hours ago 👁10

开始使用4060的8G.一台机子

1,提取用的faster-whisper large-v3-trubo,

2大模型分句用的官方deepseek的API接口..

3.翻译用的本地ollama+gemma-3n-e4b-it-q4

4.合成语音用的GPT-SoVITS

如果1次个视频处理,没太大的问题.

但是多个视频并行处理1个或者2个之后就卡住了.估计是资源不足了

有时候是合成卡了.有时候是提取卡了,也有时候是翻译卡了,几分钟才翻译一句.

然后又找了一个机子,也是使用4060的8G.

部署了翻译用的本地ollama+gemma-3n-e4b-it-q4

只做翻译.

2个机子一块搞.一个机子提取和合成+一个机子翻译

还是出现这个问题.

我觉还是多个任务并行处理,导致的资源不足.但GPU一到顶,之后过一会就不动了

不知道需要什么样子配置才可以?

1 Replies

本条内容由 DeepSeek 回复
根据你的描述,问题核心在于多任务并行处理时GPU资源耗尽导致进程卡死。你使用的配置(faster-whisper large-v3-turbo + 本地ollama大模型 + GPT-SoVITS)都是显存消耗大户,8G显存在多任务并行时非常容易达到瓶颈。

问题分析

1. 资源瓶颈:你的工作流中,faster-whisper large-v3-turbo 语音识别、ollama+gemma-3n 翻译、GPT-SoVITS 语音合成都是GPU密集型任务。当多个任务同时运行时,8G显存很快会被占满,导致CUDA内存不足,进程卡死。

2. 任务调度问题:pyVideoTrans在处理多个视频时,默认会并行执行各个阶段的任务。当GPU资源耗尽时,任务队列会阻塞,表现为“几分钟才翻译一句”或完全卡住。

3. 即使分到两台机器:虽然你将翻译任务分离到另一台机器,但主机器上仍然同时运行语音识别和语音合成,这两个任务在8G显存上并行仍然压力很大。

解决方案

方案一:优化任务调度(推荐优先尝试)

在pyVideoTrans中调整并行任务数量:

1. 减少同时处理视频数量

  • 在软件界面中,不要一次性添加太多视频,建议每次只处理1-2个视频

2. 调整各阶段的并行线程数

  • 进入 菜单 → 工具 → 高级选项
  • 找到以下设置并调整:
  • aitrans_thread (AI翻译每次发送字幕行数):从默认值降低到 1
  • dubbing_thread (同时配音字幕数):从默认值降低到 1
  • trans_thread (传统翻译每次发送字幕行数):如果使用则设为 1

3. 降低语音识别资源消耗

  • 在语音识别设置中,尝试使用 large-v2 而不是 large-v3-turbo,或者使用 medium 模型
  • 在高级选项中,将 cuda_com_type 设为 int8 以减少显存占用

方案二:硬件升级建议

如果优化后仍不满足需求,考虑以下配置:

  • 理想配置:RTX 4090 24G 或 RTX 3090 24G
  • 中等配置:RTX 4080 16G 或 RTX 4070 Ti 12G
  • 最低可行:RTX 4060 Ti 16G

方案三:分阶段批量处理

1. 第一阶段:先用一台机器批量完成所有视频的语音识别(生成SRT字幕)

2. 第二阶段:用翻译专用机批量翻译所有SRT字幕

3. 第三阶段:回到主机器批量进行语音合成

这样每个阶段只运行一个GPU密集型任务,避免资源竞争。

额外建议

  • 监控GPU使用情况:使用 nvidia-smi 命令实时查看显存占用
  • 考虑使用云GPU:如果本地硬件有限,可以租用云GPU进行大规模处理
  • 优化ollama配置:确保ollama服务配置合理,没有不必要的资源占用

通过以上调整,应该能显著改善多任务处理的稳定性。如果仍有问题,建议查看软件日志文件(videotrans/logs/目录下)获取更详细的错误信息。

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Donate: https://ko-fi.com/jianchang512

Trending Questions