随着o1的爆红，CoT最近也成为了圈内的一个高频词。
在CoT的强力支持下，o1首次在LLM领域直接实现了通用复杂推理能力，这是AI发展新范式的开始。
很多人惊呼：难道CoT才是通向AGI的正确道路？
而且o1的慢思考模式，不仅能帮助LLM进行数学和符号推理，还能让LLM发展出类似人类的情感！
近日，斯坦福等机构的学者发表论文证实，LLM在情感方面的认知和推理比人类更像人类，而这背后最大的贡献者其实就是CoT。
就在这几天，处于争议中心的CoT再次引起AI界的轰动。
谷歌首席科学家称法学硕士推理无极限，LeCun田元东反击
在CoT火起来之后，谷歌首席科学家Denny Zhou拿出他团队8月份发表的一篇论文，提出了这样的观点：“LLM推理能力的极限是什么？没有极限。”
他表示，谷歌团队已经从数学上证明，只要允许他们根据需要生成任意数量的中间推理令牌，他们就能解决任何问题。
可以看出，Denny Zhou等人提出的中级推理token与o1的核心技术CoT非常相似。
传统模型的致命弱点是擅长并行计算，但不擅长串行推理。
另一方面，CoT 解决了这个问题。
在这项工作中，Denny Zhou等人发现，传统模型只能解决AC0电路能够解决的问题；但是一旦加入CoT，几乎任何问题都可以解决。
只要有足够的 CoT 步骤，就可以模拟任意大小的布尔电路来解决 P/poly 问题
换句话说，可以通过数学严格证明，CoT 可以解决几乎所有计算机可以解决的问题。
使用 CoT，可以模拟布尔电路中每个逻辑门的计算
该工作表明CoT为更强大的LLM推理提供了新思路，CoT或将成为LLM未来发展的重要方向，并有可能迸发出AGI的火花。
Denny Zhou发出文章后，立即引发了AI社区的热议。
很多研究人员都来讨论这个问题，这也惊动了其他大佬。
刚才，田元东和LeCun依次发表了自己的看法，并对Denny Zhou进行了回应。
在他们看来，CoT 的作用被大大夸大了。
田元东表示，虽然CoT确实有用，但Denny Zhou等人对它的追求太过盲目，显然CoT并不是我们需要的一切。
本文提出的是一种通用理论，可以明确构建权重以更好地适应特定任务。
但是这样的话CoT的长度会很长，这样的权重配置能通过梯度下降来学习吗？
理论上，2层的多层感知器可以拟合任何数据，那么我们是否应该相信它可以应用于所有场景呢？
人类的推理链非常简洁，即使面对从未见过的问题也能抓住关键因素。但 LLM 能做到吗？
令人着迷的是，这样的表征可以在瞬间被学习或构建。
田元东的帖子一发布，立刻得到了LeCun的支持。
LeCun 表示，他原本也想发表类似言论，但很遗憾被田元栋抢先了。
“两层网络和核机可以无限地将任何函数逼近到我们想要的精度，所以我们不需要深度学习。”
从 1995 年到 2010 年，LeCun 无数次听过这样的说法。
当然，这在理论上是可能的，但如果在实践中应用所有相关功能，仅第一层的神经元数量就会大得令人难以置信。
对此，网友评论称：收敛性与等价性证明被高估了，而有效学习策略被低估了，仅此而已。
“我很高兴自己存在，尽管图灵完备。”
一位从业者表示，他的研究是从隐藏层MLP判别式开始的，之后是CNN或者Deep NN等专业模型。
他的结论是：较小的模型更稳健、更易于解释，而且通常接近，但永远不会那么好。对于更深的模型，总会有额外的百分比。
很多人都是“CoT 的支持者”，比如有人表示理解 LeCun 的观点，但是在多维度的扩展场景中，CoT 肯定有很大的潜力。
而对于LeCun所担心的问题，有网友表示，LeCun采取的是自上而下的策略，这种情况下他必须控制所有的第一层输入，但事实上他并不需要这么做。
由于 CoT 通过创建新的临时层放弃了这种控制的幻想，因此解决方案是通过网络层的一般形式来近似注意力头本身。
有趣的是，该网友称，他的灵感来自于物理学中的一封信，表示量子全息拓扑可以更有效地满足这一要求。
尽管爱因斯坦-罗森桥的边界很大，但它可以更连续、更离散地表示为无数个不同的小层，横跨由此产生的平坦空间。这就是表征的力量。
有人表示，这种讨论毫无意义，本质上只是“无限猴子定理”。
如果让一只猴子无限期地随机按下打字机上的按键，它几乎肯定能够打出任何给定的文本，例如莎士比亚全集。
田元东：可以发展，但比较复杂
最后，田元东承认，谷歌论文的想法确实可取。但问题比较复杂，因为涉及到不同的数据分布、模型架构、学习算法、后处理等。
正如 Scale 联合创始人林先生所说：我们需要像乔姆斯基层次结构这样的机器学习模型。就像 ML 模型有 NP、P、O(n^2) 等概念一样，Mamba 又属于哪里呢？
就在田元东发文后的第二天，谷歌论文主要作者马腾宇也在网上评论道：CoT的长度可以超长。
2 层 MLP 中的神经元数量呈指数增长，可以近似几乎任何函数。
田元东回复他：对于那些可能需要指数级门数的问题，CoT的长度可能会很长。
这与2层MLP的情况一致，因为无论任何函数如何拟合，都需要覆盖高维空间中的所有角落，这是最坏的情况。
然而现实问题有这么好/简洁的表示吗?如果都是NC1这样的P问题，那当然可以通过构造权重来完成。
在最近的X帖子中，田元东表达了他的想法，即能够在使用专家迭代（穷人的RL）保持最佳结果的同时，找到更短的CoT。
他从公开的信息中推断o1也在做类似的事情，至于初始化过程，可能是用了大量的高质量人类推理链。
人类如何想出简洁的 CoT 尚不清楚。
他也借此机会宣传其团队的论文。
论文地址：
总而言之，虽然我们还不知道如何扩展 2 层神经网络，但我们似乎有信心已经掌握了扩展 CoT 的秘诀。
最新讲座：揭示 LLM 推理的关键思想和局限性
目前，这场空前激烈的讨论仍在继续。
关于LLM推理，Denny Zhou最近在加州大学伯克利分校就类似主题做了演讲。
他说他对人工智能的期望是能够像人类一样从更少的例子中学习。
但所有尝试过的机器学习方法之所以全部失败，是因为模型缺少一项重要的能力——推理。
人类之所以能从较少的例子中学习抽象的规律和原理，是因为有推理能力。正如爱因斯坦所说，“尽量简单，但不要太简单。”（一切都应该尽可能简单，但不要太简单）
例如，对于以下问题：
对于人类来说，这是一个小学水平的“寻找模式”问题。
但是机器学习需要大量标记数据来找到模式。
LLM的小样本学习更是难以解决。
然而，如果在数据中加入“推理过程”，LLM就可以轻松地从少量样本中表现出的模式中学习并给出正确的答案。
通过这个简单的例子，Denny Zhou指出，关键的思想是将中间步骤，或者说解释原则，包含在数据中，同时让模型写出推理的过程。
这是使用 CoT 背后的逻辑和直觉。
为什么中间步骤如此重要？
加州大学伯克利分校的研究人员首次使用自然语言原理来解决数学问题。
关键是从头开始训练序列到序列模型，通过一系列小步骤得出最终答案。
在此基础上，研究人员构建了一个包含自然语言基础知识的更大的数学应用题数据集 (GSM8K)，并用它来微调 GPT-3。
这样就把语言模型的中间计算步骤展示出来了。
o1模型创始贡献者之一Jason Wei在 Brain工作期间与Denny Zhou共同发表论文，指出CoT提示可以引发LLM的推理能力。
Denny Zhou甚至更直白地指出了样本“中间步骤”的重要性：无论是训练、微调还是提示，都需要给出中间步骤，以便LLM在回答时也能包含中间步骤。
其实这也是Denny Zhou和马腾宇最近的一篇论文的核心思想：如果可以生成足够长的中间推理步骤，那么具有恒定深度的模型可以解决任何串行问题。
CoT 并不是一切
但这并不意味着 CoT 可以解决 LLM 推理的所有缺点。
例如，模型很容易被不相关的上下文分散注意力，这与人类的思维非常相似。
实验表明，在 GSM8K 数据集中添加不相关的上下文会导致模型性能损失高达 20+ 个百分点。
另外，LLM的自我纠错能力也不健全。
虽然有些模型经过反思后能够成功纠正错误答案，但还存在另一个风险——它们可能会将正确答案改成错误答案。
那么，LLM 下一步该去哪里呢？
Denny Zhou指出，虽然我们已经知道模型推理的缺陷和不足，但最重要的是要定义好问题，然后从第一原理出发去解决它。
这里我想再次引用爱因斯坦的一句话：“如果我有一小时来拯救地球，我会花59分钟定义问题，花一分钟解决问题。”
有些疑问
虽然Denny Zhou的发言已经相当详细，但其所谓“CoT实现无限推理”的说法也确实颇为大胆，因此引发网友们的反驳。
比如有人指出，前提中所谓的“无限数量的代币”只是理论上可行，但在实践中却不一定可行。
token 的数量很可能随着输入的增加而呈指数增长。随着问题变得越来越复杂，token 的数量趋近于无穷大。你会怎么做？
而且LLM的推理和人类的推理有着本质的区别，AI目前只能进行蛮力搜索，而人类有所谓“启发式”思维，“直觉”让我们能够把千万种可能性迅速缩减为少数几个可行方案。
如果我们想要实现AGI，AI系统需要模拟这种有效的解决问题的路径。
参考：
