华人号

登录更多 下载App

舒迪:DeepSeek本地部署加速端侧AI推广落地

2025-02-05 16:08 阅读量:5k+

华人号:华声中国

春节期间,DeepSeek以其独特的创新力,正逐步打开AI应用产业的上升通道。模型正式发布以来,DeepSeek连续多日登顶苹果App Store和谷歌Play Store全球下载榜首。DeepSeek通过多项工程创新,成功降低了训练成本和推理成本,同时提升了模型效果。

尽管DeepSeek触发了模型降本,但算力需求却并未减少,在多个层面呈现出增长趋势。随着AI应用模型向更高智能维度跃迁,训练需要更多算力;AI应用的推理也广泛需要算力支持,更多人开始训练和推理自己的模型;同时,转向对等异构计算的新主流计算形态也需要更多GPU(图形处理器)。未来,从对话到任务、到多模态,AI的发展将需要更多算力加持。

同时,以DeepSeek为代表的开源模型兴起加速了人工智能生态的构建,而DeepSeek的本地部署更是让个人知识库的构建成为可能。许多企业已经意识到,开源且具有广泛共识的模型更容易构建生态系统。DeepSeek蒸馏(指的是通过一系列算法和策略,将原始的、复杂的数据进行去噪、降维、提炼等操作)后的小模型表现出色,使得本地部署知识库从企业端扩展到个人用户。通过高效且灵活地构建私有化的AI知识管理系统,不仅保护了数据隐私,还可以根据特定需求进行定制优化。

在端侧产品设计中,算力和传输是关键因素。随着蒸馏模型能力的提升,未来端侧SoC(系统级芯片)将更加注重模型的本地部署和推理能力。端云协同升级将成为未来技术发展的必然趋势,端侧产品需要在有限的硬件资源下实现高效的计算和传输,而云端则需要提供更强大的计算能力和存储支持。

此外,DeepSeek的开源发展也降低了成本,推动了应用的繁荣。对于B端应用来说,优质开源模型可以更好地用于垂类场景。成本的压低将带来使用场景的普及,从而带动新的供给和需求。如今的AIGC(人工智能生成内容)创作已经呈现出类似的趋势,若推理成本进一步降低,对于AI(人工智能)内容的发展将有显著推动。

展望未来,DeepSeek将继续以其创新力和开源精神,推动AI技术的普及和应用。从教育、娱乐应用到电商场景,从AI视频生成技术到AI硬件落地发展,DeepSeek都有望推动相关行业的变革与发展。

以上就是小编为您分享《舒迪:DeepSeek本地部署加速端侧AI推广落地》的全部内容,更多有关全球华人最新消息、新闻,请多多关注华人头条财经频道。您还可以下载我们的手机APP,每天个性化推荐你想要看的华人资讯!
免责申明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。

2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。

3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。

举报收藏
评论 (0条)
您需要登录后才能评论,点击此处进行登录。
登录后评论

下载华人头条

关于我们

© 2022 华人头条

服务热线 : 0591-83771172

福建可比信息科技有限公司 ©版权所有

ICP许可证号 闽ICP备10203582号

闽公网安备35010202000536号

直播备案号 闽ILS备201708250005

举报热线:0591-83771172

举报邮箱:hrtt@52hrtt.com

免责声明

1、本站(网址:52hrtt.com)为用户提供信息存储空间等服务,用户保证对发布的内容享有著作权或已取得合法授权,不会侵犯任何第三方的合法权益。
2、刊载的文章由平台用户所有权归属原作者,不代表同意原文章作者的观点和立场。
3、因平台信息海量,无法杜绝所有侵权行为,如有侵权烦请联系我们(福建可比信息科技有限公司 邮箱:hrtt@52hrtt.com),以便及时删除。