华人号

登录更多 下载App

360联合北大震撼发布!5%参数量逼近Deepseek-R1满血性能

2025-02-25 16:15 阅读量:1万+

华人号:观中国
  
  2025年2月24日,由360与北京大学联合研发的中等量级推理模型Tiny-R1-32B-Preview正式亮相,仅以5%参数,逼近Deepseek-R1-671B的性能。

  核心突破:小模型,大能量

  数学领域:以78.1分(AIME 2024评测)逼近原版R1模型(79.8分),远超Deepseek-R1-Distill-Llama-70B(70.0分); 

  综合性能:在编程(LiveCodeBench 61.6分)、科学(GPQA-Diamond 65.0分)领域全面领先最佳开源70B模型Deepseek-R1-Distill-Llama-70B;

  效率跃迁:仅需5%参数量,性能达原版R1的95%以上,推理成本大幅降低。    

  技术革新:领域专精+模型融合

  研究团队使用「分治-融合」策略:

  基于DeepSeek-R1生成海量领域数据,分别训练数学、编程、科学三大垂直模型;

  通过Arcee团队Mergekit工具智能融合,突破单一模型性能上限,实现多任务均衡优化。

  开源承诺:推动技术普惠

  模型仓库:https://huggingface.co/qihoo360/TinyR1-32B-Preview

  即将公开完整技术报告、训练代码及部分数据集;

  践行开源精神,助力AI社区共筑高效推理新生态。    

  研发团队表示:「Tiny-R1-32B-Preview是蒸馏技术的里程碑,未来将持续探索更轻量、更强大的通用模型,推动AI技术普惠化进程。」

  360 团队:

  Lin Sun, Guangxiang Zhao, Xiaoqi Jian, Weihong Lin, Yongfu Zhu, Change Jia, Linglin Zhang, Jinzhu Wu, Sai-er Hu, Xiangzheng Zhang 

  北大团队:

  Yuhan Wu, Zihan Jiang, Wenrui Liu, Junting Zhou, Bin Cui, Tong Yang 

以上就是小编为您分享《360联合北大震撼发布!5%参数量逼近Deepseek-R1满血性能》的全部内容,更多有关洛杉矶华人最新消息、新闻,请多多关注华人头条中国频道。您还可以下载我们的手机APP,每天个性化推荐你想要看的华人资讯!
免责申明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。

2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。

3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。

举报收藏
评论 (0条)
您需要登录后才能评论,点击此处进行登录。
登录后评论

下载华人头条

关于我们

© 2022 华人头条

服务热线 : 0591-83771172

福建可比信息科技有限公司 ©版权所有

ICP许可证号 闽ICP备10203582号

闽公网安备35010202000536号

直播备案号 闽ILS备201708250005

举报热线:0591-83771172

举报邮箱:hrtt@52hrtt.com

免责声明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。
2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。
3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。