V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  lynn1su  ›  全部回复第 4 页 / 共 66 页
回复总数  1314
1  2  3  4  5  6  7  8  9  10 ... 66  
❮ ❯
@lchkid #11 不知道有没有人做指纹测试
@FawkesV #8 这个不支持多模态哦。。
我发现输入大于 256k 以后,反应速度暴降。。目前发现 900k 的时候只有 1t/s 了,950k 只有 0.5t/s 了。。
852K token 的 prompt 被完整接受,而且首尾两个暗号都答对了——说明不是"只取头部"的截断式处理,是真·全上下文注意力,我觉得
@FawkesV #2 但是不是 2.5 pro ,因为我刚测试了,这个模型支持多模态
@FawkesV #2 确实思考链像小米的
模型思考链像 mimo 的。
目前,我这边测试发现应该是中国模型,模型参数不大,速度又 60t/s
@dilidilid 我只买 256g 存储的版本,然后靠雷电 5 扩容
8 月 31 日
回复了 Need4more 创建的主题 › Local LLM › mac 本地部署 llm 不是最佳选择
mac 没法做到 1m 上下文把? api 是可以的
6K 没高刷把?没高刷不得难受死
@Heng20 太贵啦
@wclebb 我硬盘是 pcie5.0 的
@wclebb #3 m6 这个芯片就不支持雷雳 5 ,我没看见芯片介绍页面上有雷雳 5 相关,只看到了雷雳 4

Mac mini M5 Pro 相比 Mac mini M6 ,价格贵了特别多。。哎
@resphoina21 #4 那个价格幅度跳的太高了
@v2gba #1 我突然想到 M6 芯片好像不支持雷电 5.。。。
@callmepopo #8 我这完全免费哈哈,我是一毛都不想出
nitter 了解下?
https://i.imgur.com/kifBnt8.png
https://i.imgur.com/C4uZt9V.png
这不比官方收费 api 便宜多了
1  2  3  4  5  6  7  8  9  10 ... 66  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2394 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 25ms · UTC 12:25 · PVG 20:25 · LAX 05:25 · JFK 08:25
♥ Do have faith in what you're doing.