crocoBaby

能用的免费白嫖的 ai llm 越来越少

  •  
  •   crocoBaby · 18h 11m ago · 806 views
    模型很多,但基本都不实用,openCode 已阵亡,openRouter 已阵亡,小红书 dots 已阵亡,ollma 已阵亡,顶多明年就要进入充钱 ai 时代
    6 replies
    happybabys
        1
    happybabys  
       8h 57m ago
    用点好的开个 200 美金的
    crocoBaby
        2
    crocoBaby  
    OP
       8h 56m ago via iPhone
    @happybabys 习惯了白嫖,突然上 200 刀,顶不住
    crocoBaby
        4
    crocoBaby  
    OP
       7h 36m ago via iPhone
    @SmiteChow 这些渠道都是试过了,可用性很低
    SmiteChow
        5
    SmiteChow  
       7h 11m ago
    @crocoBaby litellm 作为网关主要功能就是保证可用性(轮询策略,fallback 策略,主动 rp/tp 管理)的,我一般是发现 agent 长时间卡在重试就去网关检测各个模型的健康,然后用脚本批量把 rate limite 的模型删了,一天用下来删到最后就是 workbuddy 打底了😀

    免费就是需要多费点功夫,没办法。通过合理的抽象,这点功夫并没给我带来额外的困扰。
    crocoBaby
        6
    crocoBaby  
    OP
       6h 58m ago
    @SmiteChow 我指的可用性是 llm 的实用性,不是指服务的可用性
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3863 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 10:16 · PVG 18:16 · LAX 03:16 · JFK 06:16
    ♥ Do have faith in what you're doing.