DeepSeek的爆火出圈为国产芯片同时带来了机会与挑战。一方面,新锐模型和AI原生应用的爆发会产生更多算力需求,但同时,由于国产芯片在底层架构和软件生态上的差异,如何高效适配AI模型并充分发挥算力潜力成为国产芯片领域亟待解决的问题。
近日,北京电子数智科技有限责任公司(以下简称“北电数智”)依托其“宝塔·模型适配平台”成功完成DeepSeek V3/R1全尺寸模型与海光DCU、华为、壁仞科技、沐曦等多款国产芯片的混元算力适配,为开发者和企业提供了更灵活、高效的算力支持。
技术创新:DeepSeek模型性能领先
DeepSeek模型作为国产AI技术的代表,采用了多项创新技术,包括混合专家系统(DeepSeekMoE)、多头潜在注意力机制(MLA)以及自研训练框架。这使DeepSeek在大幅减少算力开销的情况下实现了R1模型与OpenAI o1相当、V3模型与OpenAI 4o相当的性能表现,展现出高推理效率和低训练成本的优势。
宝塔·模型适配平台:抹平芯片差异,异构算力高效支撑模型
北电数智“宝塔·模型适配平台”抹平了不同芯片架构的差异,快速实现对DeepSeek模型的优化支持和硬件适配。用户无需关注底层硬件技术细节,平台会根据模型调用需求自动匹配合适的算力资源,大幅降低了开发门槛。目前,该平台已完成24款基座大模型的适配工作,为开发者提供了更多算力选择。
混元推理技术:优化效率,降低成本
针对DeepSeek类超大模型的推理任务,数据中心的集群化推理技术显得尤为重要,例如PD分离(Prefill-Decode分离)技术就可由不同芯片完成不同阶段推理任务实现。北电数智的混元推理技术路线与DeepSeek的技术路线高度契合,能有效解决算力不足问题,为大规模AI应用创造便利条件。
推动国产算力发展:从适配到生态建设
DeepSeek的发展为行业带来了深刻启示:只有满足国产原生模型的算力需求,才能真正推动包含国产算力在内的中国AI产业发展。为全面挖掘国产芯片性能潜力与适配能力,北电数智还推出了“星火·国产算力AI原生适配认证”,促进国产模型与国产算力的深度融合,推动国产芯片在AI原生应用场景中的迭代与创新。
企业版内测上线:助力AI应用落地
目前,北电数智已正式开通企业版内测服务,通过“北京数字经济算力中心”为广大企业和开发者提供便捷、高效的算力支持。无论是模型训练还是推理任务,用户都可以在多芯混元算力环境下轻松构建和部署基于DeepSeek模型的AI应用。
北电数智的一系列举措,为国产AI芯片与模型的协同发展提供了新思路。未来,随着更多企业和开发者加入,国产算力生态也将迎来更加广阔的发展空间。
中新经纬1月11日电 据《华尔街日报》中文网11日报道,据Cognizant Impact周三发布的一份研究报告称,在未来10年内,生成性人工智能对美国经济的影响力将达到惊人的1万亿美元,但这可能会让工人付出代价。 报道称,这项 灯会,是中国古老的民俗文化。今年春节各地的灯会体现着传统文化的创新演绎,点亮了国内外多个城市。“中国风”的灯会与海外文化相互交融,广受海外游客喜爱。随着正月十五元宵佳节的脚步渐近,中国 中国经济导报、中国发展网讯 为加快构建“一区三圈四园”产业发展新格局,发挥商务楼宇安商引商的引擎作用,2月21日,《海口市秀英区促进楼宇经济高质量发展扶持政策(试行)》(以下简称《扶持政策》)发布实施, 新华社记者熊轩昂春风送暖,阳光和煦。2月21日上午,昆明市2024年“春风行动”暨“春暖农民工”服务行动专场招聘会在南坝人力资源市场举行。记者在现场走访观察到:参加招聘会的企业涉及领域广,涵盖智能制 巴安水务转让资产遭一董事反对 公司称“执行”与本次交易无关 2月22日晚,巴安水务(300262.SZ,股价2.17元,市值14.53亿元)公告称,为改善公司经营和财务状况,缓解公司资金需要,公司子公司江西省鄱湖低碳环保股份有限公 中新经纬2月22日电 证监会辽宁监管局网站22日消息,经查,辽宁中鑫华资产评估事务所(有限合伙)从事证券服务业务,未按规定向中国证券监督管理委员会备案。 辽宁证监局认为,以上行为违反了《证券服务机构从事证券服务 。本文链接:北电数智助力DeepSeek与国产芯片适配,加速AI应用落地http://www.sushuapos.com/show-5-47282-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。