XenoGear's recent timeline updates
XenoGear

XenoGear

V2EX member #715938, joined on 2024-10-20 02:27:32 +08:00
Today's activity rank 13852
XenoGear's recent replies
你就看 a\自己停不停下开发的脚本,它不停肯定就纯假
18h 23m ago
Replied to a topic by maomaosang 程序员 DeepSeek 的 TTFT 速度极快
dpsk 的 prefix cache 确实和其他家比有代差级别的优势,甚至缓存命中时的价格都低很多
性价比角度被 a/和 o 两家暴打
核心问题一般都是你的支付方式
其实没多大意义,最终所有的经验都会被模型本身吃进去,搞那么复杂不如直接等模型自己更新版本
说实话,只靠 prompt 可能没什么办法,这个属于强化学习结束之后的模型底层代码了,很难彻底忘掉。只能说你自己搭好骨架之后让他自己写,或者尽量让它在一个特定位置写。
python 、ts 、rust 、go (但是实际没什么项目用)
fp8+nvlink 可以 8 卡拉起来,要舒服点上下文最好是 16 卡
现在实际上都是假的 1M 上下文,不要也罢了
最优解还是 python 理解算法,以后的 ai 时代太过深入语法细节毫无意义了,c/c++的意义是理解 OS 的运行底层,你不打算让孩子碰这个就没必要学 c++
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1142 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 23:11 · PVG 07:11 · LAX 16:11 · JFK 19:11
♥ Do have faith in what you're doing.