各位大佬，有没有转发和统计大模型 tokens 的开源工具

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

This topic created in 396 days ago, the information mentioned may be changed or developed.

公司内想统计每个开发使用的 tokens 数量。
现在想的是找个工具，转发厂商的 API ，来统计每个用户的 tokens 数量。

有这样的开源工具能实现吗

谢谢

3 replies • 2025-04-24 15:10:26 +08:00

null113

Mar 27, 2025

oneapi

yangg

Mar 27, 2025 via iPhone

litellm 大概这个拼写，搜下

yufenglx

Apr 24, 2025

我咋感觉 oneapi 作者好久没更新了