现在有那种路由、网关、代理项目
实现把 web search 请求路由到原生支持 web search 的模型
实现把图片理解代理路由到原生支持图片理解的模型
实现把 web search 请求路由到原生支持 web search 的模型
实现把图片理解代理路由到原生支持图片理解的模型
1
ywcjxf1515 OP 现在主要是用第三方 deepseek-v4-flash 模型,web search 和 图像识别都没有
|
2
coefu 7h 47m ago
如果只是转换成 文字 token 输出,容易点,但是要转换成 latent embedding ,那就要自己做一层 维度转换,把 转换模型的输出 维度 对齐 dsv4flash 的输入。
|
3
cslive 7h 45m ago
官方 deepseek 模型自带 web search 和 图像识别
|
4
ywcjxf1515 OP @cslive 这个知道啊 就是想用文本用第三方的 deepseek 模型,web search 和 图像识别用回官方的
|
5
coderluan 7h 25m ago
这不就是 MCP 吗?
|
6
ywcjxf1515 OP @coderluan 有些第三方模型你上传图片就报错 后续根本走不到调用 mcp
|
7
ywcjxf1515 OP @coderluan 还有 claude code 有个子代理 用的是 web search ,你自定义一个搜索 mcp ,他不认。
|
8
ywcjxf1515 OP @coderluan 所有才考虑路由、网关、代理的方案
|
9
ntdll 7h 2m ago
其实可以自己搭个中转站,把 web search 和一般的文字请求路由到不同模型上。
我现在就是这样做的。 另外 deepseek 官方是支持 web search 的 |
10
ywcjxf1515 OP @ntdll 用的哪个搭中转站的库 要同时支持文字、web search 、图片
|
11
defaw 5h 30m ago
用 pi ,直接把识图和搜索暴露为工具,和 read 、write 一样,是工具调用的一等公民。
|
12
ywcjxf1515 OP @defaw 不换 agent 了
|
13
CykaBlyat 4h 46m ago
不如我写的 anysearch+exa+tavily 调度
|
14
zisen 4h 18m ago
deepseek 官方使用 response 协议支持的 websearch ,你只需要搭一个支持 response 协议的网关,例如 opencodex ,在其中把 websearch 部分的请求路由到你自己的搜索服务,之后返回的时候让网关整合到一起
|
15
ywcjxf1515 OP @zisen 还有的麻烦,我这边是 claude code 。
|
16
ywcjxf1515 OP @ywcjxf1515 我现在看是模型自己判断要不要调用模型服务端的工具 web search ,要调用的话,返回结果有个类似 web search result 的字段,claude code 展示。
|
17
ywcjxf1515 OP @zisen 现在是用火山的 v4 flash 。
我写了一个代理 就是判断火山的 v4 flash 报错说 web search 要开通时,fallback 到 deekseek 官方的 v4 去 web search |