例如，即使给出了模糊的指令，凭借出色的理解能力，Step-2也可以根据上下文推断用户的需求，准确捕捉他们的真实意图，并提供更准确和个性化的响应。
Step-2的不同之处在于它在知识覆盖面和深度上实现了真正的突破。
它不仅可以处理常见领域知识，还可以更深层次地理解和回答特定领域的复杂问题。
在文本创作方面，Step-2展现出了惊人的控制力。
它就像一个富有的文字大师。比如创作古诗词时，能够准确把握字数、节奏、韵律、意境。
Step-2不仅可以生成高质量、有创意的文本内容，而且具有出色的细节控制，根据用户指令精确调整和优化文本。
最权威的大模型评测，LeCun领衔
值得一提的是，它是图灵奖得主Yann LeCun联合AI、NYU、等多家机构推出的LLM评估基准。
其含金量不言而喻。
而且，被业界誉为“全球首个不可玩的LLM标杆”。
目前，测试集污染已成为大型模型公平评估面临的普遍问题。
这就好像LLM在训练的时候偷看测试数据一样，让原来的评估变得毫无意义。
尽管业界尝试通过手动/LLM评分来收集新的提示词和评估结果，但这种方法会引入新的偏差，尤其是在评估复杂问题时表现不佳。
它的诞生就是为了解决这个问题。
这一创新基准评估多个复杂维度的模型，包括数学、推理、编程、语言理解、指令跟踪和数据分析。
此外，它每月定期更新基于最新信息来源的测试题。
每个测试题都配有可验证的、客观的参考答案，即使是更复杂的问题也能准确自动评分，而无需依赖LLM作为判断标准。
项目地址：#
为了保证测试的“新鲜度”，它采用多种创新方法来保证测试内容不被数据污染。
例如，根据最新的数学竞赛、arXiv 论文、新闻文章和数据集精心设计问题，并包括现有评估基准（例如 Big-Bench Hard、AMPS 和 ）任务的改进版本。
发布之初，研究团队评估了知名的闭源模型和数十个参数规模从 5 亿到 1100 亿个参数的开源模型。
测试结果发人深省：即使是最强大的模型也未能突破 65% 的准确度上限。
这说明它在大模型评估方面具有权威性和挑战性。
这也从侧面说明，一款能够跻身TOP 5的车型，一定是真材实料、技术过硬的佼佼者。
那么，到底是怎样的技术实力让Step-2能够在如此严酷的考验下脱颖而出呢？
让我们一起来揭开这个谜团吧……
数万亿个参数Step-2，如何制作
今年3月，LLM战场上仍是新玩家的Step Star发布了千亿参数大型语言模型Step-1、千亿参数大型多模态模型Step-1V，以及首个千亿参数大型多模态模型Step-1V。国内大型模型初创企业。万亿参数MoE语言大模型Step-2预览版。
今年7月Step-2正式亮相后，直接跻身国际顶级车型行列。
在数理逻辑、编程、中文知识、英语知识、命令跟随等方面，Step-2的能力和用户体验已经全面接近GPT-4。
目前Step-2已接入步星C端智能助手“阅文”，在阅文App和阅文网页均可体验。
体验地址：
从千亿模型扩展到万亿参数，并不是简单的“大力创造奇迹”的问题，而是需要跨越一个技术“分水岭”，各个维度的要求都在不断提升。
一旦其中任何一个维度出现缺陷，这个规律就不再适用，导致“只有输入，没有输出”的尴尬局面。
为了训练出强大的Step-2，技术团队在算法和系统上做了很多关键的创新。
步星创始人兼CEO蒋大新博士表示，当模型扩展到万亿级别时，MoE几乎是必选。这是权衡性能、参数量、训练成本、推理成本等各个维度后的最佳选择。
要训练如此大规模的 MoE 模型，有两种方法：一是升级改造现有模型。
该方案最大的优点是省钱省力，计算能力要求低，训练效率高。但它会限制模型能力的上限，容易导致专家严重同质化。
为了达到最优的性能，步星团队选择迎难而上，没有采用第一种方案。相反，它完全独立开发，从零开始。
Step-2的架构采用了部分专家之间共享参数、异构化专家等一系列新颖的设计，以充分利用数万亿个参数。
尽管在 MoE 架构中，每次训练或推理只激活部分参数，但激活参数的总数达到数万亿，但激活参数的数量可以超过大多数密集模型。
当参数增长到万亿级时，训练效率至关重要，这需要高效稳定的系统部署。
高效是指GPU得到高效利用，让有限的硬件输出最大的算力；稳定意味着训练过程需要持续进行，不能轻易被故障打断。
即使每个GPU日夜连续运行两个月，只出现一次故障，在万卡集群中，也相当于平均每10分钟出现一次卡故障。
如果没有自动故障检测和恢复机制，当出现问题时，每张卡都必须恢复检查点并重新启动训练。工程师不仅不再需要睡觉，而且模型的训练周期也增加了一倍。
在Step-2训练过程中，步星系统团队突破了6D并行、极限显存管理、全自动化运维等关键技术，从效率和稳定性两个层面同时进行，3个月内取得成功。发布新型号。
如今，行业领导者仍在争论哪一条才是通向 AGI 的坦途。
从Step-2霸占排行榜的惊艳表现，到多个模型的同步推进，Step Star展现了顶级AI公司应有的实力和愿景。
这不仅是技术突破的见证，也是中国人工智能强国的最好注脚。
参考：
#/
