我给数学家的时间是700天。这是人类作为已知宇宙领域的数学之王的剩余时间。
“像前端工程师这样的职位可能会在三年内消失。这听起来很极端吗？其实不然——三十年前没有前端工程师的职位。”
这一惊人的预测来自 Exa 首席执行官 Bryk。前段时间，他与哈佛中国天才极客王杰夫创立的AI搜索引擎公司Exa刚刚获得英伟达领投的1700万美元A轮融资。
在硅谷的AI新贵中，这对创始人尤为引人注目：27岁的布里克提出了“史上最慢的搜索引擎”的大胆想法——宁愿花几分钟才能返回准确结果比毫秒还要快。表面匹配； 26岁的王将矢量数据库技术推向极限，让人工智能真正理解互联网内容。比如圣诞节前几天，Exa出品的一款“年度总结工具”开始在（X）上流传，它可以总结你过去一年在上的所有内容。各大博主都爱不释手：
来源：桂藏老师
小编个人推特被Exa评价为最像马斯克
Exa 的“ 年度回顾”：
但不仅仅是搜索技术本身，布里克对人工智能未来的预测更令业界震惊：前端工程师职位将在3年内消失，到2025年底人工智能将能够自动处理任何计算机工作。他还说，“我给数学家的时间是700天，这是人类在宇宙已知领域成为数学之王的剩余时间。”这句话与《三体》中地球三体人宣战的味道颇为相似。
以下是Brick在平安夜发布的最新预测《AI前夜的思考》全文。已由CSDN整理加工。我们先来看看他这句话的依据：
变革前夕
最近和一些朋友聊o3车型，他们的第一反应是难以置信：“大佬来了吗？”
是的，这确实要来了。在接下来的几年里，我们将见证翻天覆地的变化。这不仅仅是一个历史性的时刻，也是整个银河系的一个重大转折点。
令人哭笑不得的是，对于这一即将到来的巨大变革，缺乏深入的讨论。 AI实验室遮遮掩掩，新闻媒体只触及皮毛，政府更是一头雾水。
更讽刺的是，人类文明发展的重大问题都是通过社交媒体上的表情包和表情包来讨论的。这看起来像是一场荒谬的戏剧，但这就是现实。
接下来，我想分享一些个人对当前形势的想法和见解——只是为X平台上的思想漩涡贡献一份力量。
在开始之前，我想强调一下：这些想法只是头脑风暴，没有经过深入的提炼。由于时间有限，很多观点还没有得到充分的研究和论证，其中难免存在不少谬误。但我希望这些想法能为那些试图理解这种转变的人带来一些启发。
让我们开始吧。
模式突破与行业变革
说实话，o3的出现本不应该让人感到意外。两个月前，公布了测试时间扩展图。计算机发展的历史告诉我们，这些发展曲线往往可以成为现实，无论它们看起来多么不可思议。真正令人震惊的是，这一切只用了两个月的时间。从大学水平到博士水平，人工智能正在以意想不到的速度发展。对于人类来说，渐进的变化令人兴奋，但这种突然的飞跃却令人恐惧。
未来的发展路径其实已经在眼前。 o3 这种类型的模型最适合优化可以明确定义奖励函数的任务。在数学、编程等领域，奖励函数相对容易设计；在小说写作等领域，难度更大。这意味着在短期内（一年内）我们将看到能力分布不均匀的模型。他们可能在数学、编程和一般逻辑推理方面已经达到了接近一般人工智能的水平，但在创作文学作品时可能仍然显得平庸。虽然更强的推理能力会让模型在各个领域变得更加智能，但在没有经过强化学习训练的领域，它们仍然会犯一些低级错误——即训练数据没有覆盖的盲点。从长远来看（1-3年），随着我们不断将新领域（情感数据、感知数据等）纳入强化学习训练范围，这些盲点最终将被填补。到那时，除了像加里这样的顽固分子之外，所有人都会承认这些模型已经实现了真正的通用智能。
AI助手将在2025年成为现实。以o3为代表的模型必须能够自由操作浏览器和应用程序，并且此类任务的奖励模型设计相对简单。更重要的是，自动化办公室市场潜力巨大，对于需要证明高投资合理的实验室来说是一个绝佳的切入点。我敢打赌，到2025年底，你只需一句话就能让你的电脑自动完成网页浏览、应用程序操作、数据处理等各种工作流程。
在所有即将被颠覆的学科领域中，数学可能是最容易被人工智能征服的。数学家在符号世界中工作，几乎不受物理世界的约束。这正是大型语言模型最擅长的。毕竟数学本身并不难，只是人的大脑不够强大而已。这在正则表达式的使用中也很明显。
研究领域发生重大变化
一个关键问题是：生成研究级合成数据有多困难？我的判断是，没有想象中那么难。对于人类来说，博士级别的数学和研究员级别的数学之间的差异可能是巨大的，但在人工智能看来，这可能只是数量级的差异，只需多几个数量级的强化学习训练就可以克服。我给数学家的时间是 700 天——这听起来很疯狂，但说 o6 模型无法超越数学家也同样令人难以置信。所以和这篇文章中的其他预测一样，我对这个判断的把握超过50%。 700天，这是人类作为已知宇宙领域的数学之王所剩下的时间。
当前形势下，软件工程师该何去何从？从短期来看，这对我们来说是天赐之物。每个程序员都相当于空降到了技术总监的位置。干得好。对于完全拥抱大语言模型的开发者来说，到2025年底，编程感觉更像是指挥一群小帮手完成各种任务。只要需求描述足够清晰，o4系统就可以完成任何代码提交，而且错误率低到完全可以接受。当然，这里可能存在一个问题：模型的上下文窗口可能无法容纳整个代码库，但像 Sam 这样的行业领导者显然意识到了这个问题。
那么，人工智能会很快取代所有软件工程师吗？答案是否定的。软件工程不仅仅是根据明确的需求提交代码。与数学家不同，软件工程师经常与现实世界互动，尤其是与其他人互动。工程师需要与客户沟通以了解他们的需求，并与团队成员合作以满足他们的要求。在设计架构或编写代码时，工程师需要考虑大量的组织背景因素。 o4 型号尚无法实现这一点。但它确实可以帮助已经了解背景的工程师将工作效率提高十倍。
软件产业的变革与重塑
如果软件工程师的生产力提高十倍，是否意味着我们需要更少的工程师？从单个公司的角度来看，这是事实，因为较小的团队可以实现相同的产出。但在全球范围内，对软件工程师的需求实际上可能会增加，因为世界显然需要比现在多十倍的高质量软件。因此，我们很可能会进入由精简团队构建应用程序的黄金时代。每个人和每个企业都可以拥有自己的定制应用程序。
从更长远的角度来看（在这种疯狂的变化中，两年后才算长远），软件工程行业将面貌焕然一新，很难说会是什么样子。当 o6 系统存在并完全集成到我们的应用程序中时，行业如何保持不变？像前端工程师这样的工作可能会在三年内消失。这听起来很极端吗？事实上，事实并非如此——三十年前还没有前端工程师的职位。
我们需要退后一步，认识到软件行业每一代都会彻底重塑自己。软件的本质始终是把需求转化为纯粹的逻辑，但这个转化过程的抽象层次是不断提高的，从二进制到二进制。现在的不同之处在于它正在向自然语言迈进。
这种向自然语言的转变将使非技术人员也可以进行编程。但最好的开发人员永远是那些能够在不同抽象级别之间自由切换的人。
简而言之，因为软件工程的核心是通过代码来理解和解决组织的需求，所以只有当所有组织都完全自动化时，软件工程才会完全自动化。
真实的行业和计算能力变化
说完知识工人，我们再来谈谈体力工人。人工智能也会影响这个群体，但这个过程会比较缓慢。毕竟，机器人必须处理现实生活中的问题，例如重力和摩擦力。 o系列模型对机器人的帮助可能并不明显，因为一个需要一个小时才能给出结果的模型对于流水线上的机器人来说不会有太大帮助。虽然基础模型变得更加智能，O系列模型也可以帮助训练这些基础模型，但这并没有解决机器人发展的最大瓶颈。我认为真正的瓶颈在于硬件的改进以及快速可靠的感知和行动模型。这些都需要更长的时间才能突破。机器人技术要实现真正疯狂的进步，我们必须等到机器人能够制造自己的机器人、人工智能能够独立进行人工智能研究。这可能来自O系列型号，但预计还要再等几年。
说到发展速度，或许我们不应该用年数来衡量，而应该用计算能力来衡量。人类的产出取决于时间，而AI的产出取决于算力，而且在研究机构中，AI的产出越来越重要。这也是各大实验室争先恐后建设超级计算集群的原因——meta的2GW集群、xAI额外的10万颗H100芯片等。
所有实验室很快都会效仿并采用测试时计算模型。有些实验室可能没有人类那么好的算法，但他们可以用更强的计算能力来弥补。就像他们在 GPT-4 之后所做的那样，他们总能迎头赶上。在o系列车型中，很难说掌握了多少独家技术，但从它们的进展速度来看，这更像是算法的突破（容易复制）而不是某种独特的数据组合（难以复制） 。
在这个测试时计算能力很重要的时代，是拥有更多的计算能力更重要，还是拥有更好的模型更重要？这个问题很有趣。一方面，可以使用更多的测试时间计算能力来弥补模型的缺点。但另一方面，稍微好一点的模型可能会节省指数级的计算能力。
如果xAI真的能赶上其构建超级集群的能力，那场景就真的很有趣了。
无论如何，建模领域的护城河不太可能持续超过一年，因为各个实验室的核心研究人员继续像棒球卡一样相互交易。更有趣的是，这些实验室的研究人员私下里也聚在一起，一起玩乐。另外，我觉得如果情况失控，研究人员可能会出于理想主义而分享信息。
AI竞赛的现状和未来
目前的情况确实很有趣。 AI竞赛就像当年的核武器竞赛，但不同的是，这场“新冷战”的“美国人”和“苏联人”会在洛斯阿拉莫斯聚会，并在推特上互相调侃：“我打赌如果你不能在 2025 年制造出最大的核弹，你会笑死的:)”
这种嬉皮士般的欢乐气氛只能维持到政府介入或者发生重大事故为止。
o 系列模型以多种有趣的方式改变了计算能力扩展的动态。这类模型激发了大规模扩展的热情，因为计算能力的每一个数量级的提升都可以带来显着的性能提升。对于算力提供商来说，这个膨胀定律简直就是天赐之物。我猜想这个规则就是Sam看到后想要建立一个万亿级计算集群的原因。
但这对于英伟达来说或许不是什么好消息。 o 系列模型使推理比训练更重要。而且我认为优化推理的芯片比训练芯片更容易设计，所以在这方面的护城河并不深。
说到这里，我有一个大胆的猜测：如果o系列模型能够利用全世界的算力来训练最强大的模型呢？想想看，如果我们能够聚集所有Pro的算力，组成一个推理超级集群，开源阵营就能打败闭源阵营吗？想想这张照片就令人兴奋。
效率革命与科研突破
除了计算能力之外，代码生产效率也成为新的指数级增长点。假设一个实验室拥有最强大模型的独家访问权限，那么他们的软件工程师的工作效率可以是其他实验室的两倍，从而使他们能够更快地实现下一次翻倍。当然，除非代码速度已经达到极限，否则实验队列很长，实验室再次被计算能力困住。 （说实话，这里的博弈关系相当复杂，看看这些实验室如何在算力和人力之间平衡预算，会很有趣。）
谈论这些计算资源的扩展和知识工作的自动化听起来已经够疯狂的了，但当科学家也感受到 AGI 的力量时，事情就会变得真正疯狂。这是写给你们的，物理学家、化学家、生物学家。
首当其冲的是理论研究领域。理论物理学将率先拥抱变革。如果数学真的被征服了（写到这里我都觉得不可思议，但这并不影响它的可能性），那么理论物理应该也不会落后太多。它还在符号世界中运行，这是大型语言模型所擅长的。
想象一下，当数百万个人工智能版本的冯·诺依曼在路易斯安那州（meta 即将推出的数据中心所在地）的田野里日夜工作时，会发生什么？他们瞬间读完了上个世纪数千名物理学家写的全部论文，瞬间吐出更准确的结论。
显然，这就是故事中最不可预测的部分。理论物理、化学、生物学——如果这些对于经过强化学习训练的大型语言模型来说只是小菜一碟怎么办？现在，我们有什么合理的理由认为这是不可能的呢？是的，我们还没有看到这些模型中的任何一个展示出真正的创新，但那是因为它们大多仍处于高中或大学水平，这个年龄段并不是为了发明新物理学而设计的。现在我们已经到了博士阶段，或许很快就能看到一些创新成果。
技术创新的连锁反应
一旦人工智能开始产生新的科学理论，进步的瓶颈将转向现实世界的测试和实验。这里的瓶颈主要是劳动力和材料。到时候，如果已经有了自我复制的机器人，劳动力问题就解决了。材料问题也可以通过机器人采矿来解决。这个过程会比较慢，毕竟制造和运输实物需要时间，但我们谈论的是几年的规模，而不是几十年。
以上都是基于一个前提：人工智能和机器人的研发不会遇到新的瓶颈，模型可以自由学习和发展。但这种情况几乎不可能发生。最大的瓶颈来自于人类自身，具体体现在监管、恐怖主义和社会崩溃三个方面。
监管：政府不会袖手旁观，让旧金山的几家科技公司用自动化机器人开采地球资源；
恐怖主义：如果政府不能控制大公司，愤怒的失业者可能会诉诸暴力；
社会崩溃：除非人们被人工智能增强的媒体内容洗脑到无法维持正常的社会运转。
如果爆发战争，不会成为瓶颈，反而会加速这一进程。
情况越来越严重。 2025 年可能是人工智能成为旧金山科技社区 上笑话话题的最后一年。之后，西装革履的外行就会介入。所以，虽然你仍然可以欣赏 Sam 的推文，但只要阅读并珍惜它们即可。
AI发展隐忧
这一切会杀了我们吗？说实话，我更担心人类滥用人工智能，而不是人工智能失去控制。
无数历史证明，人类最擅长利用最新科技互相争斗。随着武器变得更加致命和自主，风险也变得更高。另一个主要风险是人工智能引发的社会动荡。人工智能生成的内容有可能引发大规模混乱、歇斯底里和集体认知障碍。这项新技术很可能会被用来剥夺我们数千年的自由。
还有一个风险是AI真的失控。换句话说，它可能会造成我们没有预料到的灭绝级灾难。尤其是现在强化学习再次成为主流，AI开始自己寻找优化方案，而不是简单地模仿人类数据（模仿人类相对更安全）。但到目前为止，这些模型的核心仍然是大语言模型，大语言模型已经展现了它们理解人类的能力。例如，如果您写下“不要做任何可能杀死我们的事情”，那么现在提问者就有举证责任来证明它仍然有可能杀死我们。 。当然，这里还有很多论点我没有考虑过。
憧憬与期待
到最后，我的兴奋多于害怕。
我期待已久的科幻世界终于来了。它来得比预期要快一点——这就是人们感到害怕的原因——但在所有可能的路径中，我认为现在这条路径还没有那么糟糕。这是一个非常好的时间表。
我特别期待在未来十年看到这些突破：
物理学中的一些突破性发现
机器人开创的火星和月球基地
完美的导师/顾问系统（这个非常接近，只是需要更好的检索、记忆和个性化）
零副作用的生物增强药物
超优化无人机载人飞行
融合能源、地热能、海量太阳能带来的清洁能源革命
还有那些意想不到的突破：人工智能天文学家在望远镜数据中发现了外星信号？ AI化学家轻松设计室温超导体？ AI物理学家统一了一些理论？ AI数学家解决黎曼猜想？
这些不再是科幻小说，而是切实可行的技术现实。
通用人工智能前夕
这一切的结局是什么？有一天我们将达到超级智能的水平。那时，只要物理定律允许我们做任何事情，我们都可以做。我期待永生并看到其他星系。我想我们也会将这个有血有肉的身体升级为更好的载体。但最令我兴奋的是终于能够弄清楚宇宙从何而来。十年前，我开始在日记中写下我是多么想知道答案，而人工智能将帮助我们找到答案。现在这真的成为可能，令人难以置信。
我们现在生活在一个一切听起来都很自然的世界。人工智能的每一次新突破都会让更多人意识到这一点，o3就是最新的例子。
如果未来并不令人兴奋，那可能是因为我们人类搞砸了。比如我们的公众认知、相应的政策制定、社会稳定、国际合作——这些都是可能阻碍这个美好未来的绊脚石。
人们常说，人工智能实验室的人们正在推动我们的未来。我不这么认为。他们的工作其实早就已经确定了。他们只是执行模型架构的演变，这必然会在实验室的某个地方发生。但公众认知、政策制定、社会稳定、国际合作——这些都充满了不确定性。这意味着我们每个人都是未来的守护者。我们每个人都有责任让世界度过未来的疯狂时期，并为美好而不是可怕的未来做好准备。
有很多方法可以提供帮助。您可以开发使社会更加稳定或使人们更加聪明的产品。您可以帮助人们了解正在发生的事情。你们还可以清理我们的街道，让这个承诺乌托邦的城市看起来不再像一个反乌托邦。
几乎所有与我交谈过的人都担心在人工智能时代失去生活的意义，你可能也有同样的感觉。对此我想说的是事实恰恰相反。你们生活在人类历史上最重要的时期，你们有能力影响这个时期的走向。拯救世界还不够有意义吗？你真的想回到那个只有个人事业进步而世界却没有进步的时代吗？
也许人们需要从从个人成功中获取意义转向从集体成功中获取意义。我们当前的许多工作很快就会实现自动化。我们必须适应。如果你的意义来自于某种特定的技能，那么是的，五年后可能就不再需要该技能了，那么你就不走运了。但如果你能从帮助世界变得更美好中获得意义，那么这种意义就永远不会消失。
对于因为o3而收到各种建议的应届毕业生，这是我的建议：学会成为一个积极主动的问题解决者和优秀的团队合作者。你一路上学到的具体技能并不重要，因为世界变化如此之快。但在未来很长一段时间内，主动参与解决问题并与团队良好合作的能力将非常重要。
你可能还必须接受不稳定的生活，因为我们生活在一个不稳定的世界。事情会变得很奇怪。您可能不会带着两个孩子和一只狗过郊区生活。你可能有两个机器人孩子和一只人工智能宠物狗生活在星际方舟上。
我们正生活在通用人工智能的前夜。在这个平安夜，我想说：希望你能帮助AGI的转型顺利进行，以便3024年的平安夜，我能在绕恒星运行的星球上迎接你。
