#6099 本地部署的模型翻译慢 cpu和内存只能跑到百分之20多

221.233* Posted at: 13 hours ago

本地部署的模型翻译慢 cpu和内存只能跑到百分之20多

1 Replies

本地部署的模型(如 M2M100、Hy-MT2)在翻译时 CPU/内存利用率低、速度慢,主要因为软件默认将翻译线程锁死为 1,且单批次处理字幕量较小,导致无法充分利用多核资源。

解决方案

  1. 增加并发任务数(需重启软件生效)
    打开 菜单 → 工具/选项 → 高级选项 → 通用设置,将 CPU 同时任务数 改大(建议设为 CPU 物理核心数的一半,如 4 核设为 2),保存后关闭软件重开。
  2. 提高每批字幕行数
    在同一个高级选项面板的 字幕翻译调整 中,增大 传统翻译渠道每批字幕行数(如设为 50~100),让模型一次翻译更多文本,减少调用次数。
  3. 开启 GPU 加速(若有 NVIDIA 显卡)
    在主界面勾选 CUDA 加速,部分本地模型(如 Hy-MT2 不支持,但 M2M100 仅 CPU)可显著提速。若使用兼容 AI 渠道的本地大模型,也可尝试启用 CUDA。
  4. 更换轻量化模型
    M2M100 体积约 2GB,速度较慢。推荐切换到 Hy-MT2-1.8B(腾讯开源模型,下载后放在 models/models--tencent--Hy-MT2-1.8B),其体积更小、速度更快。下载地址见知识库章节 14
  5. 检查系统资源限制
    如果 CPU 仍跑不满,请确认电源计划为“高性能”,并确保无其他进程限制 CPU 占用。

请查阅相关文档:

如果上述措施仍未改善,请提供:

  • 软件版本号(左上角)
  • 使用的翻译渠道名称和模型
  • logs/ 目录下最新日志文件的底部约 30 行内容
Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update.

Dondate via ko-fi.com

Dondate via PayPal

Related resource