近日，中国科学院软件研究所提出一种以泛化前门准则为基础的干预多模态表示学习方法（IMML），可提升多模态模型在模态不平衡场景下的性能。
在多模态任务中，不同模态对预测结果的贡献往往不平衡，可划分为主模态和辅助模态。现有方法普遍在训练过程中增强辅助模态，以缓解模态贡献不平衡的问题。而此类方法缺乏因果解释，且判别性知识挖掘能力有限。
针对上述问题，研究团队从结构因果模型角度建模多模态表示学习，提出在考虑辅助模态，并捕捉到主模态中判别性知识与真实标签间的因果关系。基于此，团队设计了β—泛化前门校正模块，通过构造非配对模态组合、随机控制不同模态的比例贡献，削弱辅助模态中潜在的噪声干扰。
IMML包含模态判别性知识探索模块，通过构建模态判别性知识网络，为特征维度分配权重，以挖掘对任务真正有用的判别性知识。
团队进一步在多模态数据集上评估IMML的性能。实验结果表明，引入IMML后，在多个评估设置下基准多模态学习方法的性能得到提升。上述结果验证了IMML在提升多模态表征判别能力与噪声鲁棒性方面的有效性。
相关论文被IEEE Transactions on Multimedia录用。
论文链接
方法架构图
11月8日，记者从南方科技大学获悉，该校地球与空间科学系副教授胡佳顺研究团队与南洋理工大学助理教授卢卡·达尔&mid 南京一家氛围柔和的酒吧里，老板娘很认真地告诉李业诚，“坐右边角落里那个‘歪果仁’，也许跟你聊得来，他也很喜欢小动物。” 当地时间10月31日至11月1日，2024年全球教育会议在巴西福塔莱萨召开。会议围绕“科学、技术、创新与数字变革”和“高等教育的公平机会、质量和流动性”等议题进行讨论。教育部副部长、中国联合国教科文组织全国委 中国教育报-中国教育新闻网北京11月1日讯（记者 欧媚）记者今天从全国人大常委会法制工作委员会发言人记者会上获悉，十四届全国人大常委会第十二次会议将于11月4日至8日在北京举行，将对学前教育法 中国教育报-中国教育新闻网讯（记者 柴葳）日前，中国教育学会初中教育专业委员会第二十次学术年会和第六届教师专业发展学术会议暨第二届海淀基础教育学术会议在京举办，会议主题为“铸魂·强师：教育 中国教育报-中国教育新闻网讯（记者 陈朝和 通讯员 钟兴茂）11月7日至8日，来自教育部、中国教育学会、北京师范大学的专家学者和北京、上海、江苏等地小学知名校长、教师共600余人相聚四川德阳，参 。本文链接：研究提出干预多模态表示学习方法http://www.sushuapos.com/show-12-4138-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。