Home Sign Up Sign In
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  1297138862x  ›  全部回复第 1 页 / 共 1 页
回复总数  1
7 月 13 日
回复了 beginor 创建的主题 › Local LLM › 本地部署 GLM-5.2 的门槛太高了，根本玩不起！
其实 VLLM 目前对于新模型的支持都不太好，我还是建议上 sglang
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3258 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 13:01 · PVG 21:01 · LAX 06:01 · JFK 09:01
♥ Do have faith in what you're doing.