V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  Hstar  ›  全部回复第 1 页 / 共 25 页
回复总数  498
1  2  3  4  5  6  7  8  9  10 ... 25  
我讲下我们的方案, 供参考
1. 外部请求经由 API 服务, 先把 session / message 之类数据前置准备好, 包括使用的模型/配置等等, 保存到 DB, 返回前端消息创建成功.
2. python 端相当于是个纯运行 agent 的异步任务后台, 用一个消息队列触发. 用 rpc 触发也可以, 个人感觉 python 用 rpc 比较丑陋, 很少这么用.
3. python agent 接到的任务就是运行一个指定的 message, 负责直接维护和 LLM 供应商的数据流, 然后根据数据做各种操作, tool call / 本地数据操作之类的.
4. 需要暴露给用户的内容, python agent 把约定好的 sse chunk 数据塞进当前 message 专属的 redis stream 或者类似的轻量队列就好, 再做些生命周期管理避免资源占用.
5. 前端经过 API 服务用新接口打开 sse 连接, 从当前 message 专属的队列里读 sse chunk 然后吐给前端.
@murongxdb RAG 只是一个形式, 底层搜索用的 文件 grep 还是 ES 还是 向量数据库 亦或是其他什么东西不就丰俭由人了嘛. 你这问题问得好怪
先说 RAG, 当有数据的量级大到难以注入给 Agent 的文件系统时, 甚至量大到连数据索引都可能会超 100K token 时, RAG 才有必要. 大部分情况下直接把引用内容挂到 Agent 的文件系统里, 加三五行对文件结构的介绍, 让 AI 用 ls 和 grep 去使用, 效果就很好了.
再说 langchain, 我觉得定位于一个新 Agent 产品的 bootstrap 还是不错的. 迭代下去总会发现有不能满足的需求, 还有多余的功能. 在 AI 加持下参考基于 langchain 的项目代码, 再从头撸一个也不费什么事.
4 月 7 日
回复了 clacf 创建的主题 教育 感觉中考五五分流,比高考还残酷
390/680 ,刚刚及格。
要我说这孩子过去三年一共也就学了两个月吧,V 站的大家都上过初中,拿及格分是什么难度都知道。说难听点,让一个六年级小学生,认真听老师建议,刷一个月的题都能考到 60% 及格线。
国内公立路线没戏了,就两个月了国内其他路线也没戏了。有钱买个英国高中上上可能相对最好。
三年初中,这成绩也不是一朝一夕的,现在还没想好出路,看得出家长不上心也不靠谱,我劝你就眼睛一闭,管好你自己吧。
按小时收费没毛病,起价 1000 元/h ,包天给个优惠
3 月 16 日
回复了 bigpigB 创建的主题 职场话题 该为了钱更多的 offer,和家庭异地吗?
选钱多的,男人事业为重,钱没问题那什么都没问题。

但说实话你这钱不够多,税前 3w 年终 3 个月,性价比有点低。要不你去投投 PDD/XHS/DW 这几家看看,卖命也要卖个好价钱。
2 月 27 日
回复了 luvcoriander 创建的主题  WATCH Apple Watch 闹钟 偶发性 不响不震动
我知道,你把“覆屏静音”关掉就好了。
apple 会在你表盘查下或者有东西盖住它的时候认为你要静音它,但是睡觉时经常会有这种情况。
2 月 26 日
回复了 edier 创建的主题 投资 提前还贷就是最好的理财方式,没有之一
@BH3XON 所以说房贷是国家逼着银行做的福利
2 月 25 日
回复了 edier 创建的主题 投资 提前还贷就是最好的理财方式,没有之一
我觉得连年化 3% 的房贷都兜不住还是别说自己是在“理财”了吧
2 月 24 日
回复了 crocoBaby 创建的主题 上海 上海迪士尼已打卡,人已老实
@wzw 我觉得看情况,确实上迪比港迪更新更好玩,港迪里的代表项目比如什么磨血奇缘,几个过山车,什么大宅,在上迪都有上位替代,主要港迪二十年了,也一直没有大范围更新,设备已经落伍了。
但是深圳去港迪可以当天来回还是蛮香的,体验一下以后再去上迪,就知道上迪为什么贵是贵但有贵的好了。
你这个喜好,用 Go 是给自己找事。
就说你喜欢的‘按“业务模块”来组织代码’,天才,如果多个“业务模块”之间有循环引用怎么办,比如新增了一个 account 模块,想调用 user 的 service ,然后发现 user 的 service 也想调用 account 的 service 。只能使用 DI ,把所有对象在 root 上初始化好,按需调用对吧?你发现了吗,你凭空增加了复杂度,而且几乎没有带来任何正向收益,可能就满足了你的喜好。
2 月 24 日
回复了 crocoBaby 创建的主题 上海 上海迪士尼已打卡,人已老实
@wzw 过年刚去完港迪,大失所望。
这么说,如果你去过上迪,那完全没必要去港迪了。
我觉得去港迪的理由也就是:1.在香港时间太多没地方去。2.要打卡全世界所有迪士尼。
2 月 10 日
回复了 crocoBaby 创建的主题 上海 年初三去上海旅游
说实话,如果奔着迪士尼,年初三来,还不如一月找个周末来。一月淡季排队人很少,跑得快几乎不排队。
我前几年在 450 的时候恰逢其会买了点,后来发现涨到 600+和 750 的时候都补了仓,也都有和同事分享,有一个同事一直说羡慕羡慕想上车,结果一直没上车。我上个月还问他,后来你上车了吗,前几个月破千后回调可以上车,他还是没上。
我打算年前清仓了,上周他来找我,问我还能买吗
FastAPI 没有自己的 orm ,也没有自带的 user 和 auth 体系,做不了 admin page 的呀
1 月 12 日
回复了 honhon 创建的主题 生活 做饭总是不知道吃什么菜
属于想得少做得也太少了,你吃到一些很好吃的菜的时候,会不会想着复刻?
我上周突然很想吃宫保鸡丁,周末尝试做了一下,感觉很简单,总结了一些经验教训,以后就解锁宫保鸡丁/宫保豆腐/宫保虾球等等菜了。
1 月 6 日
回复了 ewillie381 创建的主题 上海 [转租] 11 号线转租一个朝北次卧
服了,不说具体哪个站至少说是哪个区的吧,安亭和御桥差的可太大啦
还想吃瓜了解下当前嘉定的租金水平的,干脆都贴出来呗
1  2  3  4  5  6  7  8  9  10 ... 25  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2929 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 38ms · UTC 14:49 · PVG 22:49 · LAX 07:49 · JFK 10:49
♥ Do have faith in what you're doing.