出品| CSDN（ID：）
大模特时代，人人都是开发者，人人都想成为创业者，希望能在大模特浪潮中分得一杯羹。然而，创业之路有多难？
谷歌大脑前高级研究科学家 YiTay 在离开 AI 创业圈 20 个月后发表文章——“为了同时兼顾很多事情，我的身心健康因高...高强度的工作和不健康的生活方式，让我体重增加了 30 磅。”
11月26日，YiTay在社交平台X和个人博客上分享了自己的最新决定——回归从事AI和LLM研究。
摆脱了企业家的身份后，Yi Tay 松了口气，高兴极了：
在探索创业世界一年半后，我决定回归研究根源。
我要回去做人工智能研究了。我很高兴能够探索与法学硕士相关的令人兴奋的研究方向，并期待发现新的研究突破。
我将作为高级研究员重新向我的前任导师（Quoc Le）汇报。
这是我回来的第一周，我非常兴奋。
任职3.3年
对于Yi Tay来说，这次看似以“失败”告终的创业并不是一时冲动。和许多雄心勃勃的年轻人一样，当时 33 岁的 Yi Tay 想看看自己在未来 3.3 年里能成长多少。
至于为什么周期是3.3年，Yi Tay曾透露，他花了大约3.3年的时间攻读博士学位。毕业后，他加入美国山景城校区的研究团队担任研究员，随后返回新加坡继续担任“新加坡办事处唯一研究员”。
随后他成为美国研究团队的技术总监，致力于扩展和架构方面的工作。在此期间，他还促成了约20种产品的推出。随后，Yi Tay加入Brain团队，成为一名高级研究科学家，致力于大模型和AI的研究，又持续了3.3年。
在此期间，Yi Tay参与并推动了许多前沿研究工作，如PaLM、UL2、Flan-{PaLM/UL2/T5}、LaMDA/Bard和MUM等。此外，他在ViT-22B 和 PaLI-X 等大型多模式模型的开发，并担任新 PaLM-2 和 PaLM API 的建模联合负责人。
同时，他在3.3年的任期内共撰写论文约45篇，其中第一作者或共同第一作者论文约16篇。
积累了丰富的经验，Yi Tay 想要开始她的下一次冒险。于是去年3月，Yi Tay和meta研究科学家Mikel等人一拍即合，创立了Reka公司，他担任Reka AI的联合创始人/首席科学家。
融资1亿元，15人一年半共同创业
模型百战期间，Reka也不负团队的共同努力，发布了多模态语言模型Reka Core（67B）、Flash（21B），从头开始对文本、代码、图像、视频和音频进行训练数据。 Edge（7B）和Spark（2B）都有不错的结果。同时，Reka还与英伟达、阿里云等公司有不同程度的合作。
回顾过去一年半的经历，Yi Tay在最新博文《回归》中透露，创业确实可以学到很多东西，但也确实很累！
在创立 Reka 的过程中，Yi Tay 写道：
从技术角度来看，我学到了很多关于外部基础设施的知识，并培养了使用 GPU 和其他外部资源的技能。我与 Reka 创始团队的其他成员一起，以成本最优的方式构建高质量的模型。我还学会了如何处理不可靠的 GPU、供应商和计算资源。
此外，我还在LLM Day上根据自己的经验做了主题演讲，并在越南GenAI峰会上进行了技术、反思和面对面的分享。特别感谢 swyx 邀请我参加太空播客来分享我的冒险经历，并邀请我参加有趣的炉边聊天。
作为一名初创公司创始人，我还经历了很多我无法接触到的有趣事件，这让我大开眼界。我学到了很多关于创业、商业和白手起家建立公司的知识。尽管如此，我仍然认为自己更像是一名科学家/研究员，并决定回归本源，重新专注于研究。
我为 Reka 早期所取得的成就感到自豪。今年5月，我们凭借Reka Core成为LMSys排名前五的机构之一。尽管该模型实际上排名第七，但我们实现了超越 GPT-4 早期版本的目标。考虑到我们的资源（资金、计算能力和人力）比其他实验室少得多，这是一项了不起的成就。虽然我们分批筹集的资金总额超过 1 亿美元，但与其他团队相比，这仍然是一个相对较小的金额。
而且，这些成果是由不到15人的技术团队完成的。
就个人而言，这对我来说是一个压力极大的时期，尤其是在我刚离开公司的时候，发现我的妻子怀上了我们的第一个孩子。同时处理这么多事情对我的身心健康造成了巨大的损害，由于强度和不健康的生活方式，我的体重增加了15公斤。好的一面是，我现在正在积极致力于康复，并可能在将来写一篇文章来分享这个“康复之旅”。
从Yi Tay过去一年半分享的照片记录中，肉眼可见，创业确实让Yi Tay发胖了。
Yi Tay 回忆道：“这对我来说是一次疯狂但有意义的旅程……我度过了一段美好的旅程，我相信Reka会在有才华、有能力的人手中发展得很好！这是一次很好的‘学业休息’和学习现在，是时候回来继续我的研究道路了。”
文章接近尾声时，YiTay 也感叹——放弃舒适圈去创业，对我个人来说真的很可怕！可见这次AI创业其实给他带来了很大的影响。
人才回流大工厂，人工智能发展下一步
不得不说，AI领域的“体量”不仅让Yi Tay感到疲惫，更多从业者也一定有同感。特别是近年来，多重宏观因素的共同作用，推动了人工智能的快速发展。计算能力和存储成本的急剧下降、互联网的普及以及数十年的算法研究为人工智能的实际应用创造了理想的条件。
尽管学术界早已预见到人工智能在大数据集上的潜力，但这些理论的实现却因高昂的基础设施成本而受到阻碍。然而如今，随着支持人工智能模型变得更便宜、更普遍，这种情况正在发生根本性的改变。
随之而来的是大量新玩家、新尝试的出现，无论是硬件产品、大型AI模型还是AI基础设施。
然而，盲目地冲进这股浪潮的人也不少。此前，我们目睹了许多人工智能初创公司选择简单地将业务建立在GPT和大数据等现有平台上，以抓住最新的人工智能热潮。基于这个模式，我们试图通过“乘势而上”来快速进入市场。然而，这种核心竞争力的缺失，往往会导致“一次更新毁掉无数初创公司”的“悲惨结局”。
此外，不少AI人才选择离开大公司自主创业，这似乎低估了AI研发本质上是一场高成本、高风险的“烧钱”游戏。从昂贵的算力和人才成本，到持续的模型开发和优化，都对企业的财力和执行能力提出了严格的要求。面对有限的资源和行业巨头的竞争压力，许多初创企业最终没能坚持下去，不得不寻找其他出路。
正如Yi Tay在创办Reka的经历中提到的，虽然他们成功筹集了超过1亿美元的资金，但与竞争对手相比，这笔资金仍然不足；同时，仅有15人的团队规模也显得不足。看起来很瘦。最终，在成立一年后，Reka也被外媒透露，美国云计算数据服务公司拟以超过10亿美元收购其。但疑似雷卡认为要价过低，收购随后终止。
这不仅仅是雷卡生存艰难的一家公司。许多其他人工智能初创公司也是如此。这也导致越来越多的AI人才选择回归大厂商。就在过去的一年里：
同样的情况在中国也存在。据悉，原零千物核心成员黄文浩、原面墙智能核心成员秦羽佳已加入字节大模型团队……不久前，《暗黑》 Moon、Kimi创始人兼CEO杨智霖在接受媒体采访时也谈到了AI人才回流大厂商的现象，他表示，“很正常，因为行业已经进入了新的发展阶段。起初很多公司都在做，但现在越来越少了公司正在这样做。”
事实上，这一现象的背后也是资源竞争的加剧和行业洗牌。可以说，AI领域的快速发展既是技术的竞争，也是资本的对抗。也许新一轮的人工智能浪潮才刚刚开始。
参考：
