raw0xff
V2EX  ›  Local LLM

想让本地运行的大语言模型可联网该怎么做?

  •  
  •   raw0xff · Feb 7, 2025 · 2234 views
    This topic created in 532 days ago, the information mentioned may be changed or developed.

    还是搞不清楚所谓的"模型"是什么东西,哪位神仙可以讲清楚.

    本地装了 ollama 和 chatbox, 使用 chatbox app 访问本地 ollama 可以使用,但是无法联网. chatbox app 提示说 ollama API 不支持联网,其他的非本地的 API 支持.

    ollama,chatbox 是使用模型的工具,llama3:xb deepseekr1:xb 是不同的模型,我理解的对吧?chatbox 对话框有联网设置,怎样让本地模型可以联网呢?

    4 replies    2025-02-15 00:23:23 +08:00
    fengshils
        1
    fengshils  
       Feb 7, 2025
    使用谷歌浏览器插件 page Assist
    raw0xff
        2
    raw0xff  
    OP
       Feb 7, 2025
    @fengshils 感谢, page assist 好像只支持本地模型不支持 API.
    ccxuy
        3
    ccxuy  
       Feb 7, 2025
    @raw0xff 刚看了下能支持啊,不过试了下没啥用,只是打通了几个部件,问答效果差,也不能操作网页
    slowgen
        4
    slowgen  
    PRO
       Feb 15, 2025
    https://docs.openwebui.com/features/ 这个集成了搜索,源码里集成了好几家搜索引擎,免费的话用的是 duckduckgo 的 https://github.com/open-webui/open-webui/blob/2017856791b666fac5f1c2f80a3bc7916439438b/backend/open_webui/retrieval/web/duckduckgo.py#L12 ,在容器里配个 http_proxy/https_proxy 或者丢海外部署就好了。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5327 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 08:40 · PVG 16:40 · LAX 01:40 · JFK 04:40
    ♥ Do have faith in what you're doing.