pxiaomeng's recent timeline updates
pxiaomeng

pxiaomeng

V2EX member #252391, joined on 2017-09-04 16:52:36 +08:00
pxiaomeng's recent replies
试了一下,本地大模型终于可以跑了
跑去用 Deepseek 官方的 api 接口终于成功做了 6 页的 ppt.....花了我 2 大毛..感觉亏了 2 个亿
本地的模型上下文都比较小,建议考虑一下这个问题
不会跳过已经成功的页面,点重试又要重新搞一遍
大量报错:{"type":"error","error":{"type":"api_error","message":"Context size has been exceeded."}} Error invoking remote method 'generate:start': Error: 部分页面生成失败( 6/6 ),没成功过一个,用 vllm 或者 lmstudio 都不行
用 vllm 起的服务,填一样的参数 openai 协议报错,A\协议正常,怪了。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   6113 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 02:22 · PVG 10:22 · LAX 19:22 · JFK 22:22
♥ Do have faith in what you're doing.