• 请不要在回答技术问题时复制粘贴 AI 生成的内容
Haku
V2EX  ›  程序员

自部署模型卖 Token 能赚钱吗?

  •  
  •   Haku · 2 days ago · 3716 views

    自己购买/租赁 GPU ,部署 DS 、K3 、H3 这种模型然后出售 Token 给官方或者中转站,有搞头吗?有没有大佬能介绍下的? 感觉如果年前买了 GPU ,光涨价都能赚不少了,别说还能卖 Token 。

    46 replies    2026-09-15 11:15:40 +08:00
    Haku
        1
    Haku  
    OP
       2 days ago
    我自己粗略地计算了下,K3 就不说了启动成本太贵,DS 和 H3 好像是有可能的,尤其视频模型,SeedDance 定价很贵,H3 便宜但是自己部署成本可以做到低于官方价格,不知道多模态模型的行情怎么样。
    Kaisar
        2
    Kaisar  
       2 days ago
    你这不就是自建数据中心了么 前期的账算得过来么
    sentinelK
        3
    sentinelK  
       2 days ago   ❤️ 1
    LLM 不赚钱。你看各大服务商哪个价格能做到比官网便宜就知道了。尤其是 deepseek 这类。

    视频模型自部署的问题是官网其实是一整套流程,但 Minimax H3 只开源了视频生成部分。
    如果从工作量上讲,H3 开源的生态只占大概 40%左右。
    bootvue
        4
    bootvue  
       2 days ago   ❤️ 2
    赔的裤衩都不剩
    strobber16
        5
    strobber16  
       2 days ago
    买 decensored 也许可行。但是可能会进去
    diudiuu
        6
    diudiuu  
       2 days ago
    不行得
    Haku
        7
    Haku  
    OP
       2 days ago
    @Kaisar 就是算不清所以想问问有没有人做过的,另外我个人肯定是希望能从小一些的模型尝试下。
    @sentinelK 了解了,意思是除了 API ,还需要提供配套工具?那这么看如果能找个中转站类似的服务商合作就更好了。
    Haku
        8
    Haku  
    OP
       2 days ago
    @bootvue 这么惨的吗?能细说一下不?
    iixy
        9
    iixy  
       2 days ago   ❤️ 1
    不是这门生意很好,而是大厂只能追这个风口。
    看字节给即梦和豆包到处找博主打广告,就知道这个生意不好做。
    emojiiii
        10
    emojiiii  
       2 days ago
    这不就是算力租赁吗... 一开始要投入的成本太高了
    hiboshi
        11
    hiboshi  
       2 days ago
    你得掺假不然不赚钱
    AstroProfundis
        12
    AstroProfundis  
       2 days ago   ❤️ 1
    xtreme1
        13
    xtreme1  
       2 days ago
    本质上你不卖 Token, 是卖基础设施和服务
    投资角度的话, 那完全是另外一个话题, 可以另说
    sentinelK
        14
    sentinelK  
       2 days ago   ❤️ 4
    @Haku 这不光是配套工具那么简单。

    1 、你没有官方的运行环境,所以你的显卡利用率一定不如官方。

    2 、你没有配套生态,比如 Minimax H3 是有对应的 designer 工具免费提供的。能通过摆 3D 小人精准控制走台和运镜。还能自动生成分镜和剧本。多媒体模型还要缓存素材、生成结果。minimax H3 官方是 7 天免费存储的,你算算 7 天的巨量缓存成本是多少。

    3 、你没有官方的部署经验,官方有海量硬件,所以可以根据推理情况灵活调配负载,你的硬件总数是固定的,所以只有一个甜点。一旦用户负载有波动,你的体验就直线下降。

    最终结果就是,你的 pp/tg 比官方慢,缓存命中率低,有时候还要整个 session 重新 prefill ,还比官方贵。

    视频模型更惨,排队排到死不说,素材传不上去,传上去了调不出来,还没官方的设计工具……
    Haku
        15
    Haku  
    OP
       2 days ago via Android
    @sentinelK 感谢大佬分享,我只调研了一下模型部署成本,没想到会有这些问题
    BeautifulSoup
        16
    BeautifulSoup  
       2 days ago via Android   ❤️ 1
    你可以先租几块卡,看满载满吞吐量能输出多少 token/秒,再折算一下电价。现在大厂卖 token 很多有私有、针对性优化的推理框架,你用开源的一定达不到人家那个推理效率。
    sentinelK
        17
    sentinelK  
       2 days ago   ❤️ 1
    @Haku 简单说就是,对于大模型,使用人数和成本的关系是指数的。

    每多加一个人,成本都翻一个次方。直到到一个规模化平台。
    xiangbohua
        18
    xiangbohua  
       2 days ago
    算力我记得是重资吧,你有多少本
    version
        19
    version  
       2 days ago
    没啥意义呢。。能自己部署的模型没意义。别人为了安全买官方或者大厂也正常。发票也正常
    个人用户大部分都是白嫖 token
    能赚钱的那批数字人已经下线了。短剧的也是
    生图要求很高的。基本海外闭源模型。。
    就算你自己部署。自己用。也是亏电费
    sampeng
        20
    sampeng  
       2 days ago
    你都一几个小目标了。还来赚这个钱?什么?你没有几个小目标?那你说啥?
    sn0wdr1am
        21
    sn0wdr1am  
       2 days ago
    你在试图跟资本比钱多。
    foryou2023
        22
    foryou2023  
       2 days ago   ❤️ 1
    deepseek-v4-flash
    输入 ¥0.049464
    输出 ¥0.148392
    缓存 ¥0.000192

    最近看到的一个渠道价格,说是 N 手的矿卡自己部署的。实测没有这么便宜,也大概 1 亿 token 1-2 块钱左右。官方的空闲大概 1 亿 token 5 块钱左右,谷峰 10 块钱
    nulIptr
        23
    nulIptr  
       2 days ago
    https://www.ithome.com/0/972/866.htm 成立不到 3 年,“Token 工厂”硅基流动递表港交所,省流,去年亏了 3.45 亿
    uncleroot
        24
    uncleroot  
       2 days ago
    你是否在找 「中转站」 —— 卖 SOTA 模型,里面混自部署模型卖。 [狗头]
    383394544
        25
    383394544  
    PRO
       2 days ago via iPhone   ❤️ 1
    你能买得到 B300 且搞定自建数据中心的话,可以,至少能融资。民用小破显卡别想了
    ButcherHu
        26
    ButcherHu  
       2 days ago   ❤️ 1
    建议了解一下潞晨尤洋
    et5494
        27
    et5494  
       2 days ago
    这种一般是国家出钱,企业维护
    我司在 SH 的中心就是国家出的钱
    afkool
        28
    afkool  
       2 days ago   ❤️ 1
    @Haku H3 纯诈骗部署才行。。满血不可能低于官方价格。
    hxzhouh1
        29
    hxzhouh1  
       2 days ago
    不如把机器租给模型公司吧,也可以卖二手。
    因为你的资源利用率一定达不到官方的水平,价格也就一定比官方高。
    youyoumarco
        30
    youyoumarco  
       2 days ago
    如果有渠道的话都不如直接倒腾 gpu 服务器,比如 B300 ,H200 也可以。
    iamsad3508
        31
    iamsad3508  
       2 days ago via Android
    你的优势是,你是居民用电,他们的是工业用电
    gpt5
        32
    gpt5  
       2 days ago
    可能还不如挖矿
    loading
        33
    loading  
       2 days ago via Android
    没有官方或者大厂背书,普通用户不去如用中转。
    agentd
        34
    agentd  
       2 days ago via iPhone
    别零售,有渠道大规模卖才赚钱。
    mdyc
        35
    mdyc  
       2 days ago
    自建数据中心吗,有点意思了
    msg7086
        36
    msg7086  
       2 days ago
    我司就在搞算力机房。开销不小的,都是裁人省下钱然后拿这钱去造机房。
    Magicdove
        37
    Magicdove  
       2 days ago
    得不偿失
    dimlau
        38
    dimlau  
       2 days ago   ❤️ 1
    firefox12
        39
    firefox12  
       2 days ago   ❤️ 1
    肯定赚啊,我 xx 云同事说 现在都在卖 token 赚钱,进口好的机器 然后跑这些模型,11 个月就能回本 剩下的都是血赚。就是很费人,因为你的芯片美国买的, 谁去美国买呢?买了以后 弄到中国来,最后 美国会发现的,这个人这辈子就别想再出国了。还有一个问题是 成本很高的,要跑一个能卖 token 的机器 不是你几万 几十万的卡就能跑的,得几千万的机器,加上机房。而且你的东西来路其实都不太正, 你没背景就别做了。当心机器买进来 国家给你没收了,你就哭吧。 新加坡买了全世界 30%的卡,你猜这些卡最后都到了那里?谁又有资格能买呢? 反正不是有背景 别想了。
    ghwolf007
        40
    ghwolf007  
       1 day ago
    @dimlau #38 什么鬼 去酒吧带电脑白嫖 token ?
    skull
        41
    skull  
       1 day ago via iPhone
    梁说他十个月回本
    Allenbayern
        42
    Allenbayern  
       1 day ago
    你这个项目干着干着,很可能就冲着自研模型去了。。。
    andyskaura
        43
    andyskaura  
       1 day ago
    qwen3.8 27b 应该是挣钱的,这模型线上的都好贵,自部署肯定能低于线上价格。但问题是,没什么目标用户
    andie
        44
    andie  
       1 day ago
    不如直接把卡卖了,赚的比较多
    Lynnxx
        45
    Lynnxx  
       1 day ago
    不如直接租卡
    fridaycatye
        46
    fridaycatye  
       1 day ago
    。。。OP 是学生吗,怎么还有这种幻想
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1206 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 99ms · UTC 17:30 · PVG 01:30 · LAX 10:30 · JFK 13:30
    ♥ Do have faith in what you're doing.