中新经纬2月5日电 题:DeepSeek本地部署加速端侧AI推广落地
作者 舒迪 国泰君安证券研究所电子行业首席分析师
春节期间,DeepSeek以其独特的创新力,正逐步打开AI应用产业的上升通道。模型正式发布以来,DeepSeek连续多日登顶苹果App Store和谷歌Play Store全球下载榜首。DeepSeek通过多项工程创新,成功降低了训练成本和推理成本,同时提升了模型效果。
尽管DeepSeek触发了模型降本,但算力需求却并未减少,在多个层面呈现出增长趋势。随着AI应用模型向更高智能维度跃迁,训练需要更多算力;AI应用的推理也广泛需要算力支持,更多人开始训练和推理自己的模型;同时,转向对等异构计算的新主流计算形态也需要更多GPU(图形处理器)。未来,从对话到任务、到多模态,AI的发展将需要更多算力加持。
同时,以DeepSeek为代表的开源模型兴起加速了人工智能生态的构建,而DeepSeek的本地部署更是让个人知识库的构建成为可能。许多企业已经意识到,开源且具有广泛共识的模型更容易构建生态系统。DeepSeek蒸馏(指的是通过一系列算法和策略,将原始的、复杂的数据进行去噪、降维、提炼等操作)后的小模型表现出色,使得本地部署知识库从企业端扩展到个人用户。通过高效且灵活地构建私有化的AI知识管理系统,不仅保护了数据隐私,还可以根据特定需求进行定制优化。
在端侧产品设计中,算力和传输是关键因素。随着蒸馏模型能力的提升,未来端侧SoC(系统级芯片)将更加注重模型的本地部署和推理能力。端云协同升级将成为未来技术发展的必然趋势,端侧产品需要在有限的硬件资源下实现高效的计算和传输,而云端则需要提供更强大的计算能力和存储支持。
此外,DeepSeek的开源发展也降低了成本,推动了应用的繁荣。对于B端应用来说,优质开源模型可以更好地用于垂类场景。成本的压低将带来使用场景的普及,从而带动新的供给和需求。如今的AIGC(人工智能生成内容)创作已经呈现出类似的趋势,若推理成本进一步降低,对于AI(人工智能)内容的发展将有显著推动。
展望未来,DeepSeek将继续以其创新力和开源精神,推动AI技术的普及和应用。从教育、娱乐应用到电商场景,从AI视频生成技术到AI硬件落地发展,DeepSeek都有望推动相关行业的变革与发展。(中新经纬APP)
中新经纬版权所有,未经授权,不得转载或以其他方式使用。
责任编辑:孙庆阳
马斯克开源3140亿参数的Grok,大模型争相开源所为何求? 作者:刘晓洁 特斯拉CEO埃隆・马斯克(Elon Musk)给大模型领域投下一枚重磅炸弹。 北京时间3月18日凌晨,马斯克旗下大模型公司 xAI 在官网宣布开源 3140 据《自然》20日消息称,天文学家对91对恒星所作的光谱分析显示,大约每12个恒星中就有一个可能吞噬了一个行星。在吞噬一个行星后,恒星的化学构成可能发生改变,这个过程被称为“行星吸收”。通过比 3月22日黎明,太阳系中最明亮的行星金星与太阳系中拥有最多卫星的行星土星将在东南方低空近距离相伴,上演“结伴游”。北京星空摄影爱好者王俊峰2023年1月23日在北京西城区拍摄的金星(左上)、土星 “截至2023年底,与2018年同期相比,京津冀治理区浅层地下水位平均回升2.59米,深层承压水水位平均回升7.06米。”3月22日世界水日到来之际,水利部水资源管理司副司长张鸿星21日接受科技日报记者采 3月22日消息,数码闲聊站爆料称,xiaomi15 Pro将采用5000万像素的超大底三摄方案,其中一颗是全新的潜望长焦镜头。据资料显示,xiaomi11 Pro配备了潜望长焦镜头,而后续的12 Pro、13 Pro和14 Pro等机型则 随着无人驾驶技术的快速发展,无人车在城市配送、环卫清扫、安防巡逻等应用场景中已得到较好示范应用。3月22日,南京溧水经济开发区管委会与南京易咖智车科技有限公司联合举办“金陵智地 易启未 。本文链接:舒迪:DeepSeek本地部署加速端侧AI推广落地http://www.sushuapos.com/show-2-10511-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: OpenAI原应用负责人卡斯: DeepSeek加速AI平价化
下一篇: 家用市场期待机器人来“敲门”