官方表示，这一科研成果标志着国产大型模型训练真正实现国家替代，正式进入国家自主创新、安全可控的新阶段。
-115B 基于中国电信自主研发的天翼云“综合智能计算服务平台”和人工智能公司“星海AI平台”的培训完成。据介绍，它采用多种优化方法，在保证训练精度的同时，提高模型训练效率和稳定性，在GPU同等算力下，计算效率达到93%以上，模型有效训练时间超过98% 。
对于参数非常大的模型训练，使用大量的小模型来验证不同模型结构的有效性。同时，在数据比率方面，基于小模型实验结果的反馈，采用回归预测模型，以获得更好的数据比率。
Post-（后训练）方面，首先合成大量数学、代码、逻辑推理等内容的问答数据，用于SFT（监督微调）的第一阶段模型训练。
其次，采用迭代更新策略，利用模型提高提示词数据的指令复杂度和多样性，通过模型合成和人工标注提高答案质量，利用拒绝采样获得高质量的SFT数据和RM（奖励模型）代表。性数据用于SFT训练和DPO（偏好对齐）训练，以及模型效果迭代。
IT之家有开源地址
：
吉特：
：
：
