AIInception
V2EX  ›  OpenAI

智谱 AI 发布 Batch API

  •  
  •   AIInception · May 21, 2024 · 2353 views
    This topic created in 747 days ago, the information mentioned may be changed or developed.

    智谱 AI 的开放平台已推出全新的 Batch API ,专为无需即时反馈并需使用大模型处理大量请求的场景设计。

    通过该服务,开发者可以通过文件提交大量任务,不仅价格降低 50%、无并发限制,还能在 24 小时内完成任务处理。

    Batch API 的典型应用场景包括:

    • 文章分类:为大量文章、帖子或产品描述添加分类标签。
    • 情感分析:评估客户反馈、社交媒体帖子和商品评价的情感倾向。
    • 文档处理:为大量文档生成摘要、提炼关键信息或进行翻译。
    • 信息提取:从文本数据中识别和抽取关键内容。

    支持的 Batch API 的模型以及价格

    GLM-4:价格为 0.05 元 / 千 tokens GLM-3-Turbo:价格为 0.0005 元 / 千 tokens

    立即调用: https://open.bigmodel.cn/dev/howuse/batchapi

    7 replies    2024-05-22 21:48:48 +08:00
    AIInception
        1
    AIInception  
    OP
       May 21, 2024
    使用 RAG-GPT 集成智谱 AI 快速搭建 OpenAI Cookbook 智能客服

    https://blog.csdn.net/zhuyingxiao/article/details/139069567
    lchynn
        2
    lchynn  
       May 21, 2024
    折算下来每 M Token 要 50 元。
    性价比并不好, 不如 混元和 deepseek , 就是对比 moonshot ,minimax 等也算贵的。
    大部分 RAG 场景, 并不需要很高的推理能力。只有编程和复杂任务规划智能体才需要接近 GPT4 水平的 GLM4 ;
    而 GLM3 能力又和弱智的文心一眼 ERINE 3 差不多。
    AIInception
        3
    AIInception  
    OP
       May 21, 2024
    DeepSeek 目前确实是性价比最高的
    chuck1in
        4
    chuck1in  
       May 21, 2024
    关键现在很多翻译软件不支持 智谱 AI 是个大问题的感觉。
    AIInception
        5
    AIInception  
    OP
       May 21, 2024
    如果能正常访问 OpenAI ,使用 GPT 系列的模型作为 LLM 底座,整体效果还是更有保障一些。
    neptuno
        6
    neptuno  
       May 22, 2024 via iPhone
    国内的 ai ,如果兼容 openai 的接口,会加分很多
    AIInception
        7
    AIInception  
    OP
       May 22, 2024
    智谱、DeepSeek 、Kimi ,它们现在都有兼容 OpenAI 的 API 。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   852 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 20:39 · PVG 04:39 · LAX 13:39 · JFK 16:39
    ♥ Do have faith in what you're doing.