#4329 能否使用ollama安装的本地大模型

2409:896d* Posted at: 1 month ago

能否使用ollama安装的本地大模型

7 Replies

可以使用 Ollama 安装的本地大模型作为翻译渠道。
配置方法如下:

  1. 确保 Ollama 已安装并启动(默认 API 地址 http://localhost:11434/v1)。
  2. 在 pyVideoTrans 主界面,点击顶部菜单 翻译设置本地大模型设置
  3. 翻译渠道选择 兼容AI/本地模型,然后在设置面板中填写:

    • API 地址http://localhost:11434/v1(若部署在其它机器请替换 IP 和端口)。
    • 模型名称:输入你在 Ollama 中拉取的模型名,例如 qwen:latestllama3:8b 等。
    • API Key:若无要求可留空或随意填写(如 ollama),只要 Ollama 服务本身未设置鉴权即可。
  4. 保存设置后,在翻译视频时选择 兼容AI/本地模型 渠道即可生效。

注意:本地小模型(如 7B)可能翻译质量有限,若遇到结果包含空白行或提示词,建议调整模型或改用更智能的在线大模型。

请查阅相关文档:

estou usando o ollama - modelo gemma3:4b , ingles para portugues , mas o texto esta ficando em chines ou japones

翻译结果变成中文或日文,通常是因为本地模型(gemma3:4b)对葡萄牙语的支持不足,或者没有正确遵循翻译指令。请按以下步骤排查:

  1. 确认主界面语言设置

    • 发音语言:确保选择 英语(English)
    • 目标语言:确保选择 葡萄牙语(Portuguese)
  2. 检查 Ollama 模型是否可用
    在终端运行一条简单翻译测试:

    curl http://localhost:11434/v1/chat/completions \
      -H "Content-Type: application/json" \
      -d '{"model":"gemma3:4b","messages":[{"role":"user","content":"Translate the following English text to Portuguese: Hello, how are you?"}]}'

    如果返回的结果也不是葡萄牙语,说明该模型本身无法胜任葡萄牙语翻译。

  3. 调整提示词或更换模型

    • 在软件菜单 翻译设置 → 本地大模型设置 中,可以点击“修改提示词”查看/编辑翻译模板。确保模板中明确指定了源语言和目标语言。
    • 考虑使用更大的模型(如 gemma3:12bqwen2.5:7bllama3.1:8b),小模型对低资源语言支持较弱。
  4. 改用非本地渠道
    如果问题依旧,建议切换到 微软翻译(免费)Google 翻译(需代理),这些渠道对葡语支持完善。

请查阅相关文档:

a ultima versão lançada agora esta traduzindo , mas tem alguma coisa ou outra do texto esta ficando original que e o ingles

部分句子未被翻译而保留原始英语,通常是因为本地小模型(gemma3:4b)在处理长句子或复杂上下文时出现遗漏或受限于输出长度。请按以下顺序尝试:

  1. 降低翻译并发
    进入 菜单 → 工具/选项 → 高级选项 → 字幕翻译调整,将 AI翻译渠道每批字幕行数 设为 1翻译后暂停秒 设为 1。这能减少模型单次处理压力,避免遗漏。
  2. 取消“发送完整字幕”
    回到主界面,取消勾选 发送完整字幕 复选框。让软件按行单独发送翻译请求,避免因上下文过长导致模型截断或放弃。
  3. 检查模型输出长度
    在 Ollama 设置中(翻译设置 → 本地大模型设置),确认 max_token 值不小于 4096(建议 8192),防止长行被截断。
  4. 更换模型
    gemma3:4b 容量较小,建议更换为更大模型,如 gemma3:12bqwen2.5:7bllama3.1:8b,并重启软件后重试。

若以上调整后仍有残留英文,请提供 logs/ 目录下最新日志文件底部 30 行,以便进一步分析。

请查阅相关文档:

como muda o promt para aplicação "openai api compartible" ollama?

修改 Ollama(兼容AI/本地模型)翻译提示词的方法:打开软件顶部菜单 → 翻译设置 → 本地大模型设置。在弹出窗口中点击 修改提示词 按钮,即可编辑发送给模型的翻译指令模板。如果你需要手动修改文件,提示词模板位于软件安装目录下的 prompts/srt/(发送完整字幕时使用)和 prompts/text/(未发送完整字幕时使用)文件夹内,文件名对应各 AI 渠道。对于“兼容AI/本地模型”渠道,模板文件名为 localai.txt(在 srt 和 text 子文件夹中各有同名文件)。请用文本编辑器打开对应文件,修改其中的提示词内容,例如明确指定源语言和目标语言。修改后保存文件并重启软件即可生效。请查阅相关文档:修改AI渠道翻译提示词

Post Your Reply
Open source and free maintenance is not easy. If this project is helpful to you, please consider making a small donation to help the project continue to maintain and update. Dondate: ko-fi.com/jianchang512

Related resource