中新经纬2月5日电 题:DeepSeek本地部署加速端侧AI推广落地
作者 舒迪 国泰君安证券研究所电子行业首席分析师
春节期间,DeepSeek以其独特的创新力,正逐步打开AI应用产业的上升通道。模型正式发布以来,DeepSeek连续多日登顶苹果App Store和谷歌Play Store全球下载榜首。DeepSeek通过多项工程创新,成功降低了训练成本和推理成本,同时提升了模型效果。
尽管DeepSeek触发了模型降本,但算力需求却并未减少,在多个层面呈现出增长趋势。随着AI应用模型向更高智能维度跃迁,训练需要更多算力;AI应用的推理也广泛需要算力支持,更多人开始训练和推理自己的模型;同时,转向对等异构计算的新主流计算形态也需要更多GPU(图形处理器)。未来,从对话到任务、到多模态,AI的发展将需要更多算力加持。
同时,以DeepSeek为代表的开源模型兴起加速了人工智能生态的构建,而DeepSeek的本地部署更是让个人知识库的构建成为可能。许多企业已经意识到,开源且具有广泛共识的模型更容易构建生态系统。DeepSeek蒸馏(指的是通过一系列算法和策略,将原始的、复杂的数据进行去噪、降维、提炼等操作)后的小模型表现出色,使得本地部署知识库从企业端扩展到个人用户。通过高效且灵活地构建私有化的AI知识管理系统,不仅保护了数据隐私,还可以根据特定需求进行定制优化。
在端侧产品设计中,算力和传输是关键因素。随着蒸馏模型能力的提升,未来端侧SoC(系统级芯片)将更加注重模型的本地部署和推理能力。端云协同升级将成为未来技术发展的必然趋势,端侧产品需要在有限的硬件资源下实现高效的计算和传输,而云端则需要提供更强大的计算能力和存储支持。
此外,DeepSeek的开源发展也降低了成本,推动了应用的繁荣。对于B端应用来说,优质开源模型可以更好地用于垂类场景。成本的压低将带来使用场景的普及,从而带动新的供给和需求。如今的AIGC(人工智能生成内容)创作已经呈现出类似的趋势,若推理成本进一步降低,对于AI(人工智能)内容的发展将有显著推动。
展望未来,DeepSeek将继续以其创新力和开源精神,推动AI技术的普及和应用。从教育、娱乐应用到电商场景,从AI视频生成技术到AI硬件落地发展,DeepSeek都有望推动相关行业的变革与发展。(中新经纬APP)
中新经纬版权所有,未经授权,不得转载或以其他方式使用。
责任编辑:孙庆阳
民俗有言:桃花开,痴子忙。昨日,一大学生患“桃花癫”登上微博热搜,引发热议。该大学生认为周围女生都喜欢自己,并向全校的女生分别告白。不仅如此,由于精神的持续亢奋,该大学生还经常出现整晚不睡觉 记者19日从兰州大学获悉,天华肉羊通过国家畜禽遗传资源委员会审定鉴定,成为我国首个适应高寒气候的肉羊品种。该品种由兰州大学草地农业科技学院李发弟教授和乐祥鹏教授团队,联合甘肃省武威市天 据法新社巴黎3月15日报道,15日发布的一项新的重要分析称,影响神经系统的疾病——如中风、偏头痛和痴呆症——已经超过心脏病,成为全球范围内导致人们健康损害的主要原因。 造成女性更容易睡不好的原因是多方面的,包括更年期等生理周期等,而女性长期的失眠除了会导致内分泌进一步失调,还会诱发心脏病、高血压、糖尿病、免疫力低下、记忆下降、脱发、皮肤松弛等。北京 今天(23日)是第64个世界气象日,今年世界气象日的主题是“气候行动最前线”。地球是人类赖以生存和发展的家园,气候变化给人类造成的影响广泛而深远,关乎当下,更关乎未来。世界气象组织确认2023年全 美国佐治亚理工学院机械工程师开发了一种控制机器人外骨骼的通用方法。无需专门训练、特别校准,对复杂算法进行调整后,用户穿上外骨骼就可以直接行走。研究成果3月20日发表在《科学·机 。本文链接:舒迪:DeepSeek本地部署加速端侧AI推广落地http://www.sushuapos.com/show-2-10511-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: OpenAI原应用负责人卡斯: DeepSeek加速AI平价化
下一篇: 家用市场期待机器人来“敲门”