近日，中国科学院软件研究所团队聚焦多模态推荐中模态信息差异化推荐价值被削弱的问题，针对联合学习与特征融合策略，引入梯度提升机制，提出了解耦与蒸馏动态集成框架，提升了模态共享信息和特有信息的样本级判别能力。
不同模态信息的差异化推荐价值是指各类型信息在用户之间表现出不同的贡献程度。联合优化的集成策略要求各模态同时拟合全部样本，导致模型倾向于学习整体平均表现，难以保持不同信息在特定样本上的优势。
针对上述问题，研究团队提出了由特征成分解耦模块和知识蒸馏增强的梯度提升模块组成的D3ER框架。特征成分解耦模块将多模态表示拆分为共享成分与特有成分，通过对比学习和分布对齐提取跨模态共享信息，并利用分离约束保留视觉、文本各自独有的任务相关语义。在此基础上，D3ER分别建立共享信息、视觉特有信息和文本特有信息对应的推荐模型，并通过梯度提升进行交替训练，使各模型重点学习此前尚未充分拟合的样本，发挥不同信息成分的优势，缓解联合训练造成的预测偏好弱化。
针对传统梯度提升需要持续保存历史模型的问题，D3ER进一步引入知识蒸馏，将累积知识压缩至固定规模模型中，并结合全局校正约束提升训练稳定性，在保持模型互补性的基础上，兼顾存储与计算效率。
研究团队将D3ER分别接入MGCN、DiffMM和PGL三种基座模型，在Amazon三个交互稀疏度均超过 99.8%的多模态推荐数据集进行对比实验，验证其对不同推荐架构的适配能力。结果显示，D3ER在三个数据集和多项评价指标上均稳定提升。消融实验表明，分别移除特征解耦、梯度提升与蒸馏机制后，模型性能均出现下降，其中移除全局校正约束的影响最为明显。
相关论文被多媒体领域国际学术会议ACM MM 2026接收。
D3ER整体框架
中国教育报-中国教育新闻网北京11月11日讯（记者 林焕新）学前教育法明确“幼儿园应当把保护学前儿童安全放在首位”。实践中如何落实？在今天教育部举行的新闻发布会上，教育部基础教育司司长田祖荫 中国教育报-中国教育新闻网讯（记者 郑翅）11月12日，国家教育行政学院特邀东北大学校史题材话剧《离离原上草》来院演出。国家教育行政学院副院长樊平军，东北大学副校长王兴伟等出席演出现场。“话 9月9日至10日，全国教育大会在北京召开，习近平总书记出席大会并发表重要讲话。习近平总书记发表的重要讲话，站在党和国家事业发展全局的战略高度，全面总结了新时代教育事业取得的历史性成就、发生 中国教育报-中国教育新闻网讯（记者 史望颖 通讯员 金挺 陈波）“在一个小时内，我们完成了‘盛世芳华’插花作品，让这个源于‘两山理论’灵感的花艺展示在世界舞台上绽放。”近日，随着宁波城市职业 中国教育报-中国教育新闻网讯（记者 余杏 通讯员 匡芳）近日，2024年世界职业院校技能大赛总决赛争夺赛财经商贸赛道——043业财税融合大数据应用组比赛在长沙商贸旅游职业技术学院举行，来自全国各 当前班级育人工作遇到的挑战 受经济社会发展诸多因素影响，中小学生心理健康状况堪忧。中国科学院心理研究所发布的《中国国民心理健康发展报告（2021—2022）》显示，青少年群体抑郁风险高于成年人 。本文链接：研究人员提出面向多模态推荐的解耦与蒸馏动态集成框架http://www.sushuapos.com/show-12-4454-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 研究解析植物高效光合作用分子机制
下一篇： 大语言模型强化学习与推理可靠性研究获进展