V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
dododada
V2EX  ›  程序员

AI 服务器配置在线推荐

  •  
  •   dododada · Apr 17, 2024 · 1728 views
    This topic created in 741 days ago, the information mentioned may be changed or developed.

    有没有什么在线配置 AI 服务器的网站?

    可以组合选择 cpu ,gpu ,功耗的

    比如:至强 83522 + tesla8 + 3000W*2 这种的

    能够给出性能+算力评估的,有国产选项的更好了

    最近在做选型,搞得头大。

    2 replies    2024-04-17 11:27:13 +08:00
    mythabc
        1
    mythabc  
       Apr 17, 2024
    没那么复杂,因为没有几款可以选的

    GPU: NVIDIA ampere 、ada lovelace 、hopper 架构的工作站卡、数据中心卡,techpowerup 的 GPU 数据库里面筛选一下就出来了,但是里面的算力不是很准确,要搜 NVIDIA 的官方参数。常见的训练卡 A100/H100 。 推理 4090 、A6000 、A40 等。
    连接性要考虑上不上 nvlink 、nvSwitch 。前者只能连接两张卡,后者用在 HGX 平台一出手就是八张卡。

    CPU 就志强三代、四代。AMD 宵龙。cpubenchmark 上看个单线程、多线程跑分。
    FlashEcho
        2
    FlashEcho  
       Apr 17, 2024
    算力估算你可以去 vast.ai 上看,它们有一个自己的 benchmark
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3323 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 00:34 · PVG 08:34 · LAX 17:34 · JFK 20:34
    ♥ Do have faith in what you're doing.