Step-2 大模型在 IF Average 表现突出,指令跟随能力全榜第一

   日期:2024-11-21     来源:网络整理    作者:二手钢材网    浏览:213    评论:0    
核心提示:阶跃星辰之所以能够首次参加LiveBench评测就取得如此高的成绩,与其自研Step-2大模型的两大特点密不可分——万亿参数和MoE架构。阶跃星辰CEO姜大昕认为,想把模型参数扩大到万亿的话,MoE几乎是一个必选项。

登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年_登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年_

步骤2-16k-否。 1指挥跟随能力,图片来源:

2、模型能力不断进化,命令跟随位列榜单第一

Step Star之所以能在首次评估中取得如此高的成绩,与其自研Step-2模型的两大特点——万亿参数和MoE架构密不可分。

与步星自主研发的千亿参数大规模语言模型Step-1相比,Step-2的综合能力提升了近50%,能够更好地解决编程方面的问题,逻辑推理、数学、知识等维度。

在模糊指令方面,Step-2具有出色的理解能力,可以从上下文中推断用户的需求,准确捕捉用户在模糊指令中的真实意图,并提供更准确和个性化的响应。在知识分布方面,Step-2在知识覆盖面和深度上取得了重大突破。它不仅可以处理常见领域知识,还可以深入理解和回答特定领域或边缘分布的复杂问题。

我们在步星的C端智能助手“阅文”上测试了Step-2的效果。

给定一道数学题,“阅文”可以快速给出清晰正确的答案:

登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年__登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年

登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年_登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年_

Step-2 大模型解答数学题,来源:阅文

在文本创作方面,Step-2可以生成高质量、富有创意的文本内容,并且具有出色的细节控制能力,可以根据用户指令精确调整和优化文本。

步星科技CEO蒋大新认为,如果想要将模型参数扩展到万亿级,MoE几乎是必选。但从千亿模型到万亿模型,遇到的挑战是前所未有的。在设计Step-2 MoE架构时,Step Star团队选择迎难而上,从零开始进行完全自主研发。

通过部分专家共享参数、异构专家设计等创新的MoE架构设计,Step-2中的每个“专家模型”都得到了充分的训练。不仅参数总数达到了万亿级别,而且每次训练或推理激活的参数数量也超过了市场上最密集的模型。

这也是Step-2拥有超能力的根本原因。

3、完整的车型矩阵和全面的战略布局

大模型算法结构复杂、计算能力要求高、数据要求大。大语言模型和多模态大模型的技术路线也存在差异。也正是因为这个原因,很多公司选择了“挑一点、突破”的策略,专攻大语言模型或者大型多模态模型。

但步骤不同。在国内众多模型厂商中,步星是少数同时部署大语言模型和多模态模型,并且双向发力的公司之一。

除了完整全面的模型矩阵外,步星的模型迭代速度也走在国内前列:

2024年3月23日的全球开发者先锋大会上,发布了大语言模型Step-2预览版——这也是国内初创公司首次提交万亿参数模型的答卷。

今年7月,仅仅100天后,Step Star就发布了Step-2万亿参数大语言模型正式版,以及Step-1.5V多模态大模型和Step-1X图像生成大模型在 2024 年世界人工智能大会上。模型。

与其他厂商每六个月或一年才更新一个新版本相比,步星的迭代速度并不算差强人意。

登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年__登上“最不可能作弊”的榜单,阶跃星辰Step-2位列中国大模型第一|甲子光年

目前,Step系列通用大模型矩阵已经覆盖了从千亿参数到万亿参数、从语言到多模态、从理解到生成的综合能力。

步星创始人兼CEO蒋大新认为,要实现AGI的终结,需要走一条“单模态——多模态——多模态理解与生成的统一——世界模型——AGI(通用人工智能)”的路径。智力)”。

今年,随着o1的发布,AI技术出现了新的范式,国内外大规模基础模型开发的竞争仍在持续。相信包括步星在内的大型国产车型将在实现AGI的道路上不断创造更多惊喜。

 
打赏
 
更多>同类资讯

0 条相关评论
推荐热播视讯

推荐视频

    Copyright © 2017-2020  二手钢材网  版权所有  
    Powered By DESTOON 皖ICP备20008326号-2