DeepSeek的爆火出圈为国产芯片同时带来了机会与挑战。一方面,新锐模型和AI原生应用的爆发会产生更多算力需求,但同时,由于国产芯片在底层架构和软件生态上的差异,如何高效适配AI模型并充分发挥算力潜力成为国产芯片领域亟待解决的问题。
近日,北京电子数智科技有限责任公司(以下简称“北电数智”)依托其“宝塔·模型适配平台”成功完成DeepSeek V3/R1全尺寸模型与海光DCU、华为、壁仞科技、沐曦等多款国产芯片的混元算力适配,为开发者和企业提供了更灵活、高效的算力支持。
技术创新:DeepSeek模型性能领先
DeepSeek模型作为国产AI技术的代表,采用了多项创新技术,包括混合专家系统(DeepSeekMoE)、多头潜在注意力机制(MLA)以及自研训练框架。这使DeepSeek在大幅减少算力开销的情况下实现了R1模型与OpenAI o1相当、V3模型与OpenAI 4o相当的性能表现,展现出高推理效率和低训练成本的优势。
宝塔·模型适配平台:抹平芯片差异,异构算力高效支撑模型
北电数智“宝塔·模型适配平台”抹平了不同芯片架构的差异,快速实现对DeepSeek模型的优化支持和硬件适配。用户无需关注底层硬件技术细节,平台会根据模型调用需求自动匹配合适的算力资源,大幅降低了开发门槛。目前,该平台已完成24款基座大模型的适配工作,为开发者提供了更多算力选择。
混元推理技术:优化效率,降低成本
针对DeepSeek类超大模型的推理任务,数据中心的集群化推理技术显得尤为重要,例如PD分离(Prefill-Decode分离)技术就可由不同芯片完成不同阶段推理任务实现。北电数智的混元推理技术路线与DeepSeek的技术路线高度契合,能有效解决算力不足问题,为大规模AI应用创造便利条件。
推动国产算力发展:从适配到生态建设
DeepSeek的发展为行业带来了深刻启示:只有满足国产原生模型的算力需求,才能真正推动包含国产算力在内的中国AI产业发展。为全面挖掘国产芯片性能潜力与适配能力,北电数智还推出了“星火·国产算力AI原生适配认证”,促进国产模型与国产算力的深度融合,推动国产芯片在AI原生应用场景中的迭代与创新。
企业版内测上线:助力AI应用落地
目前,北电数智已正式开通企业版内测服务,通过“北京数字经济算力中心”为广大企业和开发者提供便捷、高效的算力支持。无论是模型训练还是推理任务,用户都可以在多芯混元算力环境下轻松构建和部署基于DeepSeek模型的AI应用。
北电数智的一系列举措,为国产AI芯片与模型的协同发展提供了新思路。未来,随着更多企业和开发者加入,国产算力生态也将迎来更加广阔的发展空间。
最长春节假期收官:多地接待游客远超往年,“南北互换”流动趋势明显 澎湃新闻记者 唐莹莹 2月17日正月初八,为期8天的史上最长春节假期正式收官。 根据全国各地文旅部门、热门景区以及多家在线旅游平台的数 “首都南大门”保定,中创燕园在这里新扩建的厂房已完成装修,北京大学物理学院的专家每周都前来开展研发工作,这是“北京研发,保定落地”的一个缩影;海河之滨,依托京津物流园在京津两地间搭建高端智 作者:陈灿平(天津市人民检察院副检察长)厦门是习近平生态文明思想的重要孕育地和先行实践地,筼筜湖综合治理是习近平生态文明思想的重要发端。1988年,习近平同志在厦门工作期间主持启动“综合治理 中国经济导报 中国发展网讯 2024年春节期间,兰州市西固区各大旅游景区、乡村旅游点游人如织,气氛浓郁。全区共接待游客113.78万人次,同比增长10.52%。主要旅游景区客流回升明显,文旅消费态势强势复苏,文旅 最高法:加强种业知识产权保护 全面落实惩罚性赔偿制度 在国务院新闻办公室2月22日举行的发布会上,最高人民法院知识产权法庭副庭长中林介绍,法庭5年来共受理案由为植物新品种纠纷的案件481件,审结364件,已涵盖了主 中新经纬2月22日电 据国家市场监督管理总局网站消息,自新国标发布实施后,婴幼儿配方乳粉(以下称婴配乳粉)产品配方按新国标注册攻坚工作进展顺利,截至目前,共计1127个配方通过注册。 市场监管总局表示,婴幼儿配方食 。本文链接:北电数智助力DeepSeek与国产芯片适配,加速AI应用落地http://www.sushuapos.com/show-5-47282-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。