c3de3f21
V2EX  ›  Local LLM

Q: 关于读大部头 PDF 和 Mac Mini M4 能做的事情有些问题?

  •  
  •   c3de3f21 · Dec 22, 2025 · 1733 views
    This topic created in 165 days ago, the information mentioned may be changed or developed.

    拿 编译原理(龙书)( 5.31 MB 大小) 举例子

    Need

    • 太长了,想看每一章的核心总结,又怕漏掉图啥的不理解

    Quesiton

    • 丐版 16GB 内存 搭配 AnythingLLM 与 Ollma 能用的模型有哪些?
    • 上下文会不会不够,效果怎么样?有没有大佬已经实践过的方案?
    • 参数如何调整(AnythingLLM 里可用的参数)?
    6 replies    2025-12-22 20:10:09 +08:00
    peteretep
        1
    peteretep  
       Dec 22, 2025
    这是理工类书籍啊,不是文史类, 总结好使吗?

    看外国书就是为了它文字详细啊
    neteroster
        2
    neteroster  
       Dec 22, 2025 via Android
    不要折磨自己了,你这个又不是什么强隐私相关需求。长上下文、rag 这种都是重 prefill ,高计算的负载,M 芯片最不擅长的领域就是这,首字慢到你怀疑人生,16G 内存能跑的模型长上下文注意力可想而知...
    c3de3f21
        3
    c3de3f21  
    OP
       Dec 22, 2025
    @neteroster
    @peteretep
    感谢回答,那么我如何才能精简里面的一些废话呢?或者网路上有没有什么别人家的服务专业做这种事情的?
    peteretep
        4
    peteretep  
       Dec 22, 2025
    @c3de3f21 #3 想不看废话买中国出的教科书啊

    人家那么多废话就是为了让你自学门槛低一点
    goodryb
        5
    goodryb  
       Dec 22, 2025
    这种是不是扔给千问或者豆包就能解决,比如要求总结第 x 章的内容
    monado
        6
    monado  
       Dec 22, 2025   ❤️ 1
    教科书本来就是大量知识的压缩,再拿 llm 压缩一遍还能剩下什么,不如直接面向 llm 学习了。而且有名的教科书早就在训练数据里了。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3143 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 03:36 · PVG 11:36 · LAX 20:36 · JFK 23:36
    ♥ Do have faith in what you're doing.