我们在公司内部用 AI 做了一些实际的产品,跑过 CRM 助手、长文写作、深度调研、知识系统这些场景,生产环境用了一年多。
期间试过市面上的开源框架,LangChain 、CrewAI 这些都用过。核心问题不是功能不够,而是它们都把 agent 做成了一个「你去配置的 pipeline 」,一旦涉及到真实生产环境里的事情,例如但不限于:
等等类似如上这些问题没有一个框架帮你解决,全靠自己堆。
最后我们把这套自己搭出来的脚手架整理出来,开源了:Agentrail
和其他的 Agent 框架相比,我们:
多了一个 host layer:大多数框架给你 agent.run(),上面的请求生命周期、session 状态、插件 hook 自己搭。host layer 把这层做掉了,同一个 agent 在 chat 、stream 、后台任务里可以直接复用。
多智能体编排是一等公民:不是「你可以手动起多个 agent 」,而是有 Mailbox 机制、结构化等待、失败恢复。复杂任务分解在生产里是刚需,这些不应该是你自己从零开始实现的东西。
Docker 沙箱隔离执行:LLM 生成的代码在独立容器里跑,和宿主完全隔离。生产环境这不是加分项,是基线。
我们定义了 Profile + Plugin 以此来划分清晰的扩展边界:Profile 打包 agent 行为,Plugin 扩展运行时,不是在一个地方堆所有逻辑。
内置 session 记忆和知识库:消息历史压缩、知识库索引检索( BTW ,知识库只开源了简单的实现)
如果你在生产环境跑过 AI agent 、踩过坑,欢迎来分享经验、互相学习或者直接提 issue ,也欢迎各位大佬多多给予批评以让我们改进做得更好。
1
xhawk 13 天前 via Android
能不能放弃现有架构,从 pi 上构建?只做 pi 没有的,比如这个沙箱隔离。。。
|
3
xhawk 6 天前 via Android
因为这个里头最复杂的部分,其实我不觉得是那个上层应用的构建,底层的稳定性才是最重要的。
|