5月15日，京东探索研究院论文《Omniforce：以人为中心的、赋能大模型的、云边协同的自动机器学习系统》发表于《Nature》旗下期刊《npj Artificial Intelligence》，该项研究提出了一种在开放环境场景中训练、更新大模型，并与小模型协同部署的系统与方法，成为国内首个系统性解决开放环境下大模型开发效率难题并获国际顶刊认证的研究成果。
该技术通过模型蒸馏、数据治理、训练优化与云边协同四大创新，将大模型推理效率平均提升30%，训练成本降低70%，为大模型规模化落地提供了可复用的技术范式。
京东大模型开发计算技术，推理平均提效30%
企业将大模型应用付诸实践，面临着诸多卡点，一方面进入大模型应用门槛高，另一方面模型训练与推理效率低。
京东大模型开发计算技术，能支持企业的模型开发训练及生产，让庞大、重型的AI模型“瘦身”成精悍的小模型，精华依旧，效率大增，瘦身不降智。既能节省算力资源，加速推理，还能适应多平台，广泛部署到更多平台上。
论文中提出了四个创新方法：
・模型蒸馏，采用动态分层蒸馏技术，特别是在预训练阶段进行蒸馏，调整仅0.5%的参数实现低资源场景下的高效训练，减少大型模型的部署成本。
・数据治理，提出跨领域数据动态采样算法，自动混合不同领域数据，并引入隐私保护和主动学习技术，提升大模型泛化能力。
・训练优化，使用贝叶斯优化(BO)框架进行超参数优化和架构搜索，尤其是擅长处理离散空间，MPMD场景下资源利用率提升40%。
・云边协同，支持在云端进行模型搜索和训练，边缘设备负责部署和推理，并利用两阶段压缩策略以适应资源限制，提升云边协作的高效性。
值得一提的是，该平台还可支持京东大模型、Llama、DeepSeek等多个模型的蒸馏、推理。在模型蒸馏层面，效果较同量级模型有明显提升，以京东大模型为例，蒸馏后的大模型Livebench提升14分。大量的实验结果也证明有效性和效率，推理平均提效30%，训练成本平均降低70%。
JoyBuild大模型开发计算平台，让模型训练与应用更普惠
这套京东沉淀下来的大模型开发计算的技术，支撑了JoyBuild大模型开发计算平台，广泛服务行业用户。
JoyBuild能够为客户的大模型开发和行业应用开发，提供定制化解决方案。JoyBuild支持各类模型的调优开发，内置20余种开源模型和丰富的数据集，并提供100余种算法和工具链，帮助企业根据自身业务特征，将通用模型迅速转化为专业模型，一站式应用大模型。
现在，不到一周时间，企业即可完成从数据准备、模型训练到模型部署的全流程；之前需要10余人的科学家团队工作，现在只需要1-2个算法人员；通过平台模型加速工具优化，节约90%的推理成本。
京东丰富的业务场景，还为平台上的基础大模型提供具体的行业应用场景，加速基于大模型的商业化落地。在行业知识库之外，JoyBuild沉淀了京东自己的零售、物流、健康、金融等行业Know-How，可应用于供应链优化、智能客服、营销内容生成等各类场景，加速模型普惠。
京东给出的大模型解法并不是“黑箱”，而是一条解决大模型训练效率及应用问题的通用路径，是真正的“授之以渔”，对学术界、产业界均有广泛参考价值。未来，京东将进一步提升大模型开发与计算效率，让中小型和大型企业都能低成本、高效构建专属AI应用，助推AI规模化应用落地。
中新经纬1月12日电 深圳市人力资源和社会保障局官方微信11日回应“深圳一公司男高管违法开除男员工”称，涉事公司经综合考虑该管理人员处理纠纷时存在不当言论及其他因素，于2023年2月对其进行降职处理，并于2023年3月 中新经纬1月11日电 11日，“中国充电联盟”微信号发布2023年全国电动汽车充换电基础设施运行情况。 公共充电基础设施运行情况 2023年12月比11月公共充电桩增加10.0万台，12月同比增长51.7%。截至2023年12月，联 春节档蝶变：从7亿到80亿，从影院冷清到票房飞驰 在刚刚结束的春节档，电影市场再度创造历史。据灯塔研究院最新发布的《龙腾虎跃，势如破竹――2024年春节档电影市场洞察报告》， 2024年春节档(2月10日-2月17日)，全国电 中国经济导报 中国发展网讯 2月20日，龙年春节热闹欢乐的氛围还未散去，甘肃成县就以开局就是决战的干劲、起步就是冲刺的拼劲的崭新面貌召开2024年工作务虚会，聚焦县域经济高质量发展，围绕“2023年怎么看，2 西安青岛居民3月6日起可办理往来港澳“个人旅游签注” 中新网2月23日电 据中华人民共和国出入境管理局网站消息，近日，国务院批准增加陕西省西安市、山东省青岛市为内地赴港澳“个人游”城市。中华人民共和国出入 京津冀以就业服务协同激发区域就业新活力 中新网北京2月22日电 (记者 杜燕)在京津冀协同发展战略实施十周年之际，京津冀三地人社部门22日在北京城市副中心三大建筑之一――北京城市图书馆联合举办“京津冀人社 。本文链接：京东大模型开发计算研究登《Nature》子刊，支持企业大模型蒸馏与开发应用http://www.sushuapos.com/show-5-56014-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 一季度黄金全产业链观察报告：避险属性主导黄金价格变动
下一篇： 招商银行原副行长丁伟被提起公诉