gtese
V2EX  ›  Local LLM

离线大模型有支持文档翻译的吗

  •  
  •   gtese · Apr 1, 2024 · 2236 views
    This topic created in 834 days ago, the information mentioned may be changed or developed.

    上边非要整个文档翻译 word ppt excel.没错,还不想出大钱。

    9 replies    2024-04-03 13:36:46 +08:00
    MapleEve
        1
    MapleEve  
       Apr 1, 2024
    有,但是很烂,不如 Haiku
    yinmin
        2
    yinmin  
       Apr 2, 2024 via iPhone
    有 2 个国产开源大模型还不错:Yi-34B 和 qwen1.5-72B
    gtese
        3
    gtese  
    OP
       Apr 2, 2024
    openwebui+ollama 可以拉到 qwen ,但是文档不行。
    iX8NEGGn
        4
    iX8NEGGn  
       Apr 2, 2024 via iPhone
    直接翻译文档的没有,得自己解析格式,不过除了 PDF 不好解析,其他格式还是有挺多成熟的库的,然后本地模型的话,千问用来翻译还是不错的,已经到了可接受水平。
    MapleEve
        5
    MapleEve  
       Apr 2, 2024
    @yinmin 你这个 34B 和 7B 本地部署……成本就 6 位数了
    gtese
        6
    gtese  
    OP
       Apr 2, 2024
    @MapleEve /233 笑死,6 位数,老板能蹦起来把我活埋了。
    MapleEve
        7
    MapleEve  
       Apr 2, 2024
    @gtese #6 基本没戏,自己买 wps 的 AI 服务吧
    dongruixuan
        8
    dongruixuan  
       Apr 3, 2024
    34b 8bit 量化理论两个 4090 也能跑吧
    MapleEve
        9
    MapleEve  
       Apr 3, 2024
    @dongruixuan 能跑,很慢,楼主这种说不想出大钱的基本只有用第三方中转 API 的份。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3438 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 67ms · UTC 10:48 · PVG 18:48 · LAX 03:48 · JFK 06:48
    ♥ Do have faith in what you're doing.