有没有体验风俗店？

@evegod #12 指导打分的话，思路有点是 RL 里的 actor-critic 的思路；教师授课的话，你可以尝试 知识蒸馏 的路子。我不知道你熟不熟悉这些，不过我觉得比你自己从 0 开始想，或许好一些？

屌爆了，相当得劲儿。

@ty29022 神经网络早期研究中，玻尔兹曼机（ Ackley, D. H., Hinton, G. E., & Sejnowski, T. J. (1985). A Learning Algorithm for Boltzmann Machines. Cognitive Science.）就是这种思路。玻尔兹曼机是一种：把“学习”看成“能量最小化 + 热平衡采样”的概率模型。这也是为什么 2024 年的诺贝尔物理学奖给了辛顿。他这个 H2Q 和玻尔兹曼机在思想层面其实是“同一世界观”的不同实现。

@ty29022 哈哈，之前我乍一看也以为是神经病的民科，但是实际上，只是他的表达能力堪忧。他这个研究，是非常规主流路线的研究，可能和他背景偏物理和数学相关，但是，研究的过程和逻辑都是扎实的科学研究。以及方向都是有搞头的，他这个方向主要是 用物理动力学和数学构建一个框架区别于经典的 transformer 的统计学框架 ，他对 transformer 是有深度理解的，并且从他这段时间搞的结果来看，路子是可行的，只是当前还是初始阶段，有很多 bug 待修补。大部分 cs 出身的研究者，做不到，因为背景限制，没有这些造诣，连点子都想不到。

@evegod #29 我觉得在视觉生成的意义，可能更大于语言，因为视觉领域前后帧才是真正的因果推断，如果物理动力学能模拟真实的视觉因果，并且和文字特征对齐，那么对于世界模型来说，确实是有搞头的。在现有的框架之下，如果能压缩到小参数量，还是有很大意义的。

@evegod #26 等我度过我这个最艰难的时刻，或许以后有机会合作，我很欣赏你的态度。我有一个很 fancy subversive 的 idea ，应该很有搞头。

@evegod #26 刚才看了下，你这个确实不是民科，之前是我误解了，抱歉。

你对 transformer 应该有一定深度的了解，但是依然还是在 transformer 构建的 NLP 这个领域里，做一些引入物理范式的探索，但从我看来，这条路线实际上没有多大价值了，你这个思路还算新颖；但是历史上一直有这么一个方向有人在做，结合物理范式和神经计算。当然，人各有志，你能有这么一个想法并能动手实践，已经超过了当前的我。你这整个过程应该是没什么问题的，只是是否会比当前更好，还要继续耕耘，或许能发个不错的 paper 。

@paradoxs 你描述的上下文语境里的"AI"现在都没有主流共识的定义，我怎么定义？

精确表达一下：LLMs ⊂ "AI".

LLMs ≠ "AI"。

@evegod #23 之所以能和你聊这么多，因为我也有这个想法，只是我的想法需要更多的时间和金钱去实现，并且我的想法是建立在已经有的理论之上。都是在探索的路上，共勉之吧。

@evegod #20 你怎么理解 深入浅出 这个成语？

@evegod #20 所以，这是自然语言处理，有什么关系？你怎么映射到字词之间的关联？

脑认知和自然语言不是必然关系，没有强因果关联。

你试图通过数学描述脑认知和感知，然后再度关联到自然语言，我这个理解是你的理解吗？

你上面这一堆描述，你认为 6 岁的小朋友能理解吗？

@evegod #18 一个真正的基础底层原理级别原创性的创新，是需要很长时间仔细雕琢的；但是一定得是基础夯实地一步步迭代。就像 nlp 领域，从最早的形式化规则（主谓宾，句法，成分分析...），到字词概率分布统计，到用向量表示语言，最后才衍生出复杂的注意力模式；你一上来就要超越最后的这个最复杂的架构，你的新架构的底层原理是什么，为什么会比这个更好，而不是你就一门心思的发展你的理论，然后主观唯心的来一句就是比之前的好，这是民科的搞法。最起码要符合现代科学研究的基本方法的嘛。
讲句实在的，我现在依然没有看懂你这个四元数架构是个什么原理，如果你不能深入浅出地通俗易懂的解释一下，那说明你自己也没有搞懂。以前白居易写的诗，是要让文盲老太太都能听得懂，才成为经典流传千年。如果你的理论，你不能让还没上一年级的 6 岁小朋友明白，那说明你自己对你发明的理论，也没有深刻理解。

@evegod #16 要证明你这个四元数架构比 transformer 更优，你还得设计一个测试标准。

无可奈何，写实的生存写照，如同照镜子。

@nxforce 或许也没什么人再会去写技术实体书了吧。