cander0815
V2EX  ›  Local LLM

大佬们,本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片,它说它没收到,应该怎么做?才能让他帮我识别图片?实现官网那种效果

  •  
  •   cander0815 · Mar 6, 2025 · 1464 views
    This topic created in 456 days ago, the information mentioned may be changed or developed.
    4 replies    2025-03-11 17:25:23 +08:00
    cander0815
        1
    cander0815  
    OP
       Mar 11, 2025
    请问有大佬知道吗?应该如何部署
    hefish
        2
    hefish  
       Mar 11, 2025
    anyhingllm 非常傻,他 rag 只支持定长切片,实测基本不可用。网上搜的文档例子都很牛,碰到自己跑就完蛋。。

    这个这个可能是模型的限制吧。 这个是 text-to-text 的模型吧。。。找个 text/image to text 的模型试试看。。。
    coefu
        3
    coefu  
       Mar 11, 2025
    anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。
    coefu
        4
    coefu  
       Mar 11, 2025
    或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3143 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 03:36 · PVG 11:36 · LAX 20:36 · JFK 23:36
    ♥ Do have faith in what you're doing.