V2EX › tubanwu 的所有回复 › 第 1 页 / 共 14 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 14

❮

❯

4 天前

回复了 Miaoyww 创建的主题 › 分享创造 › 免费听歌，现在还吸引人吗

可以，等一个 iOS 平台

6 天前

回复了 sunny1827 创建的主题 › 问与答 › 冰箱是否高价都是智商税，有必要买贵的吗

高端功能溢价多很正常，基础款性价比高很多，一千出头就能买 500+L 的华凌对开门基础款。

9 月 28 日

回复了 Himmel 创建的主题 › 生活 › 26 年配眼镜分享

@vopsoft 便宜的基本上也都是，万新 mr8+镜框七八十就能拿下，都是三井材料，没必要买贵了，几十块钱用个一两年换了就行。

9 月 20 日

回复了 lanceran 创建的主题 › 配件 › 18 Pro 的充电头太难买了，大伙有推荐的吗

看实测 18Pro 45w PD 和 AVS 没有区别，Pro Max AVS 能快两分钟

9 月 20 日

回复了 lingaoyi 创建的主题 › iPhone › 18 PM 1T 和 2T 都是 QLC

看 HOMOLAB 的测试
QLCWriteBack
AVG=79.4MB/S
MIN=25.6MB/S

9 月 16 日

回复了 revival83 创建的主题 › Apple › 用 promax 的兄弟们，你们的小拇指还好吗

Air+泡泡骚=无敌

9 月 15 日

回复了 aaatches 创建的主题 › iPhone › 有没有 iPhone air 升级了 ios27 的，体验如何

比 iOS26 流畅很多

9 月 4 日

回复了 Jolin1677 创建的主题 › 分享创造 › 有翻译需求的小伙伴看过来, 做了一个实时翻译和音视频转文字的 APP, 附送 50 个永久 Pro 兑换码

感谢，MTI3MzMwMTU5OEBxcS5jb20=

8 月 20 日

回复了 nc 创建的主题 › 分享创造 › 之前答应给全楼送永久 VIP 的 jav.hk 上线了

大佬牛逼啊

8 月 13 日

回复了 LazyDoge 创建的主题 › 问与答 › 闲鱼上的超廉价 Gemini 可信吗

六块钱 18 个月，反重力可以用，gemini 太笨了，Claude4.6 额度太少了。买来玩玩还行

8 月 6 日

回复了 moducat 创建的主题 › iPhone › 下月发布 18PM，现在你会买 17PM 吗

还是 air 性价比最高，最便宜的 12g 内存 iPhone

7 月 29 日

回复了 DeepSIeep 创建的主题 › 生活 › 大街上的脸基尼越来越多了。经常被冷不丁的吓一身冷汗

看了这个贴我才知道比基尼的真正含义

7 月 14 日

回复了 linxuanzhao9527 创建的主题 › 推广 › [送码×30] 做了一个本机分析的 iPhone 清理工具，终身解锁

TYPA7NKWKR6F3ML3T8 ，谢谢

6 月 27 日

回复了 Ai2You 创建的主题 › 推广 › 抽 5 个智友社的 GPTPLUS 稳定渠道成品号（满月测试稳定度 99% ）

聊聊您最近看的有意思的书

6 月 18 日

回复了 Ai2You 创建的主题 › 推广 › 抽 5 个智友社的 GPTPLUS 稳定渠道成品号（满月测试稳定度 99% ）

+1 每月 60

6 月 17 日

回复了 TGOcc 创建的主题 › Mac mini › Air M5 32G 跑本地模型快冒烟了， 6 月没发新硬件， 9 月会发 MAC mini M5 或 M5 Pro 吗？有没有会冲的。

买个二手的 M1MAX 64g 的玩玩得了

6 月 2 日

回复了 Brightt 创建的主题 › iPhone › 你们的 iPhone 相机键还好吗？

经常用还没坏

5 月 21 日

回复了 memos 创建的主题 › 买买买 › 看选苹果还是选小米有感，十年米粉转黑

别的不说，澎湃 OS3 流畅度比 iOS26 那是高多了

4 月 30 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

@KaiWuBOSS 跑不起来
本地大模型部署器 vv0.3.1 · llama.cpp b8864
by llmbbs.ai · 本地 AI 技术社区

[1/6] Probing hardware...
GPU: NVIDIA GeForce RTX 5060 (SM120, 8151 MB VRAM, 448 GB/s)
RAM: 31 GB DDR4
OS: windows amd64
⚠️ CUDA 13.2 detected — known bug with low-bit quantization
If you see garbled output, downgrade driver to CUDA 13.1
Warning: RTX 50 series with CUDA 13.2 detected
Kaiwu will use CUDA 12.4 binary for stability.

[2/6] Selecting configuration...
Model: Qwen3.6 35B A3B Claude 4.7 Opus Reasoning Distilled (moe, 22B total / 1B active)
Quant: Q22 (13.5 GB)
Mode: moe_partial
Accel: Flash Attention + SWA-Full (hybrid arch)

[3/6] Checking files...
Using bundled iso3 binary: llama-server-cuda.exe
Binary: llama-server-cuda.exe [cached]
Model: Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled.i1-IQ3_XS.gguf [cached]

[4/6] Preflight check...
✓ VRAM sufficient

[5/6] Warmup benchmark...
RTX 50 系首次运行，正在编译 CUDA 内核（约 60s ，仅需一次）...
✓ CUDA 内核编译完成，后续启动将秒开
⚠ JIT 预热失败: exit status 0xc0000135
Probe 1: ctx=128K ... OOM
Probe 2: ctx=64K ... OOM
Probe 3: ctx=32K ... OOM
Probe 4: ctx=16K ... OOM
Probe 5: ctx=8K ... OOM
⚠️ Warmup failed: all ctx probes failed (tried down to 4K)
Using default parameters

[6/6] Starting server...
Waiting for llama-server to be ready (port 11434)...
⚠️ 显存不足，降低上下文至 4K 重试...
Waiting for llama-server to be ready (port 11434)...
Error: failed to start llama-server: 连续 2 次启动失败，即使最小上下文(4K)也无法运行

NVIDIA GeForce RTX 5060: 8151 MB VRAM
模型 Qwen3.6 35B A3B Claude 4.7 Opus Reasoning Distilled: ~13813 MB
KV cache (4K, q4_0): ~80 MB
预估总需: ~14917 MB

差额: 6766 MB

建议:
1. 选择更小的量化 (Q4_K_M 或 Q2_K)
2. 选择更小的模型

Usage:
kaiwu run <model> [flags]

Flags:
--bench Run benchmark after starting
--ctx-size int 手动指定上下文大小（ 0=自动）
--fast Skip warmup, use cached profile
-h, --help help for run
--host string 监听地址（默认 127.0.0.1 ，用 0.0.0.0 开放局域网） (default "127.0.0.1")
--llama-server string 使用自定义 llama-server 二进制（完整路径）
--mode string 模式选择: speed/balanced/context （默认用上次选择）
--reset 清除缓存，重新 warmup 探测最优参数

4 月 22 日

回复了 iknewtoday 创建的主题 › 问与答 › 你们都 vibe 了啥不赚钱的东西

@andyskaura 谢谢哥

1 2 3 4 5 6 7 8 9 10 ... 14

❮

❯