近日，中国科学院软件研究所团队聚焦多模态推荐中模态信息差异化推荐价值被削弱的问题，针对联合学习与特征融合策略，引入梯度提升机制，提出了解耦与蒸馏动态集成框架，提升了模态共享信息和特有信息的样本级判别能力。
不同模态信息的差异化推荐价值是指各类型信息在用户之间表现出不同的贡献程度。联合优化的集成策略要求各模态同时拟合全部样本，导致模型倾向于学习整体平均表现，难以保持不同信息在特定样本上的优势。
针对上述问题，研究团队提出了由特征成分解耦模块和知识蒸馏增强的梯度提升模块组成的D3ER框架。特征成分解耦模块将多模态表示拆分为共享成分与特有成分，通过对比学习和分布对齐提取跨模态共享信息，并利用分离约束保留视觉、文本各自独有的任务相关语义。在此基础上，D3ER分别建立共享信息、视觉特有信息和文本特有信息对应的推荐模型，并通过梯度提升进行交替训练，使各模型重点学习此前尚未充分拟合的样本，发挥不同信息成分的优势，缓解联合训练造成的预测偏好弱化。
针对传统梯度提升需要持续保存历史模型的问题，D3ER进一步引入知识蒸馏，将累积知识压缩至固定规模模型中，并结合全局校正约束提升训练稳定性，在保持模型互补性的基础上，兼顾存储与计算效率。
研究团队将D3ER分别接入MGCN、DiffMM和PGL三种基座模型，在Amazon三个交互稀疏度均超过 99.8%的多模态推荐数据集进行对比实验，验证其对不同推荐架构的适配能力。结果显示，D3ER在三个数据集和多项评价指标上均稳定提升。消融实验表明，分别移除特征解耦、梯度提升与蒸馏机制后，模型性能均出现下降，其中移除全局校正约束的影响最为明显。
相关论文被多媒体领域国际学术会议ACM MM 2026接收。
D3ER整体框架
本报讯（记者 郑翅）近日，教育部印发通知部署开展“24365校园招聘服务”全国教育系统2025届高校毕业生招聘活动，积极为高校毕业生与用人单位搭建人才供需精准对接平台，引导更多高校毕业生到教育 中国教育报-中国教育新闻网讯（记者 方梦宇）记者日前从中国科学技术大学获悉，该校与合肥国家实验室相关研究人员合作，利用激光冷原子方法制备成基于自旋的薛定谔猫态，其寿命达到分钟量级，有助于提升 中国教育报-中国教育新闻网北京11月11日讯（记者 林焕新）“学前教育法共九章85条，短短的9000多字，浓缩了党的十八大以来学前教育跨越式发展的壮阔历程，凝聚了各地各部门大胆探索实践的宝贵经验，也寄 中国教育报-中国教育新闻网讯（通讯员 田雨）日前，主题为“教育幸福感·如何与自然保持连接”的第五届中国丹麦幸福教育大会在山东高密莫言文学艺术馆举行。大会由中国教育三十人论坛和丹麦终身学 中国教育报-中国教育新闻网讯（记者 焦以璇）近日，“以改革精神和严的标准加强纪检监察学科建设”——第二届纪检监察学科建设高端论坛暨中国自主的纪检监察学知识体系联盟成立大会在中国人民大学 中国教育报-中国教育新闻网讯（记者 陈欣然）11月6日，2024年全国精细化工行业产教融合共同体年度会议暨“校企对接”交流会在天津召开。本次大会由中国化工教育协会指导，天津职业大学主办，天津大学 。本文链接：研究人员提出面向多模态推荐的解耦与蒸馏动态集成框架http://www.sushuapos.com/show-12-4454-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 研究解析植物高效光合作用分子机制
下一篇： 大语言模型强化学习与推理可靠性研究获进展