中新经纬2月5日电 题:DeepSeek本地部署加速端侧AI推广落地
作者 舒迪 国泰君安证券研究所电子行业首席分析师
春节期间,DeepSeek以其独特的创新力,正逐步打开AI应用产业的上升通道。模型正式发布以来,DeepSeek连续多日登顶苹果App Store和谷歌Play Store全球下载榜首。DeepSeek通过多项工程创新,成功降低了训练成本和推理成本,同时提升了模型效果。
尽管DeepSeek触发了模型降本,但算力需求却并未减少,在多个层面呈现出增长趋势。随着AI应用模型向更高智能维度跃迁,训练需要更多算力;AI应用的推理也广泛需要算力支持,更多人开始训练和推理自己的模型;同时,转向对等异构计算的新主流计算形态也需要更多GPU(图形处理器)。未来,从对话到任务、到多模态,AI的发展将需要更多算力加持。
同时,以DeepSeek为代表的开源模型兴起加速了人工智能生态的构建,而DeepSeek的本地部署更是让个人知识库的构建成为可能。许多企业已经意识到,开源且具有广泛共识的模型更容易构建生态系统。DeepSeek蒸馏(指的是通过一系列算法和策略,将原始的、复杂的数据进行去噪、降维、提炼等操作)后的小模型表现出色,使得本地部署知识库从企业端扩展到个人用户。通过高效且灵活地构建私有化的AI知识管理系统,不仅保护了数据隐私,还可以根据特定需求进行定制优化。
在端侧产品设计中,算力和传输是关键因素。随着蒸馏模型能力的提升,未来端侧SoC(系统级芯片)将更加注重模型的本地部署和推理能力。端云协同升级将成为未来技术发展的必然趋势,端侧产品需要在有限的硬件资源下实现高效的计算和传输,而云端则需要提供更强大的计算能力和存储支持。
此外,DeepSeek的开源发展也降低了成本,推动了应用的繁荣。对于B端应用来说,优质开源模型可以更好地用于垂类场景。成本的压低将带来使用场景的普及,从而带动新的供给和需求。如今的AIGC(人工智能生成内容)创作已经呈现出类似的趋势,若推理成本进一步降低,对于AI(人工智能)内容的发展将有显著推动。
展望未来,DeepSeek将继续以其创新力和开源精神,推动AI技术的普及和应用。从教育、娱乐应用到电商场景,从AI视频生成技术到AI硬件落地发展,DeepSeek都有望推动相关行业的变革与发展。(中新经纬APP)
中新经纬版权所有,未经授权,不得转载或以其他方式使用。
责任编辑:孙庆阳
随着历史的车轮驶入2024年,大模型、AIGC等话题引发广泛热议,云计算与AI技术展现出了前所未有的深度融合趋势,就如同寒武纪的生物大爆发,激发着各行各业的创新浪潮。新质生产力时代到来,政企用云进 3月18日,在2024年黑龙江农机产品展示交易会上,一部可智能播种,又可助力增产的电驱气吸播种机引发众人关注。这台高端智能电驱气吸播种机的价格与机械播种机价格相当,据悉,研发团队通过自主研发和 美国太平洋西北国家实验室的科学家设计了一种复合装饰材料,可以储存更多二氧化碳,提供了一种既符合建筑规范,又比标准复合饰面板便宜的“负碳”选择。研究人员于18日在美国化学会春季会议上公布 习近平总书记在中共中央政治局第三次集体学习时强调,要加强科研学风作风建设,引导科技人员摒弃浮夸、祛除浮躁,坐住坐稳“冷板凳”。甘坐“冷板凳”是一种平心静气从事科学研究、追寻科学真理的 随着量子技术的发展,利用量子特性突破传统测量技术极限的新一代精密测量技术——量子测量开始得到应用。记者从中国计量科学研究院获悉,由该院牵头编制的《量子测量术语》《量子精密 3月24日,据央视财经消息,在今天开幕的中国发展高层论坛2024年年会现场,苹果公司首席执行官蒂姆·库克回应记者提问表示,苹果公司的Apple Vision Pro头显产品将在今年年内于中国市场上市, 。本文链接:舒迪:DeepSeek本地部署加速端侧AI推广落地http://www.sushuapos.com/show-2-10511-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: OpenAI原应用负责人卡斯: DeepSeek加速AI平价化
下一篇: 家用市场期待机器人来“敲门”