近日,黑龙江大学本科生创业团队的参赛项目“传情达意——让机器手语翻译不再冰冷”凭借其独特的创意和系列技术突破,在第十四届“挑战杯”秦创原中国大学生创业计划竞赛中荣获金奖。这个项目研发了全国首个融合面部肌电信号的手语翻译技术和相关AR眼镜设备,不仅让手语被“听到”,还能让声音被“看见”。
团队通过调研发现,目前助聋设备普及率只有5%,且普遍价格高,适配场景少,准确率较低。为此,团队决定在助聋设备方面做进一步探索。他们历时两年,研发出样品并进行完善,目前已与徐州市特殊教育中心等机构签订购买意向书。
“我们的创新产品主要由臂环和AR眼镜两部分组成。”项目负责人、黑龙江大学电子工程学院朱铭熙说,臂环通过收集并识别聋哑人做手语时的肌电信号,将其转化为语音,实现了手语的“听觉化”。在这一过程中,电极贴片起到了关键作用。它们能够捕捉肢体动作的细微变化,将其转化为特征向量,与预先建立的手语向量数据库进行比对,从而准确识别出手语的含义。
然而,仅有臂环的手语识别并不足以达到精准翻译的目标。朱铭熙介绍:“手语中面部表情所占的权重不低于40%,而人的情绪主要通过眉毛和面颊两侧的肌肉来体现。”
为了提升准确率,团队进一步提升了设备精准捕捉表情、理解情感的能力。他们将电极贴片安装在AR眼镜的引擎上,研发了我国首个融合面部肌电信号的手语翻译技术。当佩戴者因情绪产生微表情的时候,设备就能精准捕捉这些微小的面部表情,并将其转化为特征向量后与数据库中的信息进行比对,从而让手语翻译更加精准。
同时,团队还扩大了数据吞吐量,实现设备时延小于0.1秒,能实时完成13000余条手语数据的调用。正是基于这些技术,与同类产品相比,团队产品的实时性翻译能力更强,准确度更高。
朱铭熙团队的成果,不仅让手语被“听到”,还让声音被“看见”。考虑到很多听障人士存在识字困难,朱铭熙团队开发了一个能够显示在AR眼镜上的数字人。当识别到周围有人说话时,文字内容可以直接匹配到数字人的手语动作上。这样,佩戴者就能在AR眼镜上看到数字人打手语,无需识字就能理解对方的意思。
这一创新为听障人士提供了极大便利,为他们打开了一个全新的交流世界。该技术不仅可以用于个人社交活动,也能作为聋哑学校基础的教学辅助装置。“通过让学生佩戴臂环,我们可以检测他们的手语表达是否标准,中控台可以实时显示结果,让手语教学更直观,也大大降低了教学成本和时间。”朱铭熙介绍。
目前,2000余位听障人士佩戴了团队研发的产品。河南郑州张哥助残服务平台创始人张继磊试用产品后给予高度评价:“这款产品能够切实帮助聋哑人群,应用市场非常广阔,希望能继续完善,让更多有需要的人受益。”
目前,团队正在向数据库继续补充手语数据,扩大产品的应用场景。(记者 朱虹)
近日,黑龙江大学本科生创业团队的参赛项目“传情达意——让机器手语翻译不再冰冷”凭借其独特的创意和系列技术突破,在第十四届“挑战杯”秦创原中国大学生创业计划竞赛中荣获金奖。这个项目研发了全国首个融合面部肌电信号的手语翻译技术和相关AR眼镜设备,不仅让手语被“听到”,还能让声音被“看见”。
团队通过调研发现,目前助聋设备普及率只有5%,且普遍价格高,适配场景少,准确率较低。为此,团队决定在助聋设备方面做进一步探索。他们历时两年,研发出样品并进行完善,目前已与徐州市特殊教育中心等机构签订购买意向书。
“我们的创新产品主要由臂环和AR眼镜两部分组成。”项目负责人、黑龙江大学电子工程学院朱铭熙说,臂环通过收集并识别聋哑人做手语时的肌电信号,将其转化为语音,实现了手语的“听觉化”。在这一过程中,电极贴片起到了关键作用。它们能够捕捉肢体动作的细微变化,将其转化为特征向量,与预先建立的手语向量数据库进行比对,从而准确识别出手语的含义。
然而,仅有臂环的手语识别并不足以达到精准翻译的目标。朱铭熙介绍:“手语中面部表情所占的权重不低于40%,而人的情绪主要通过眉毛和面颊两侧的肌肉来体现。”
为了提升准确率,团队进一步提升了设备精准捕捉表情、理解情感的能力。他们将电极贴片安装在AR眼镜的引擎上,研发了我国首个融合面部肌电信号的手语翻译技术。当佩戴者因情绪产生微表情的时候,设备就能精准捕捉这些微小的面部表情,并将其转化为特征向量后与数据库中的信息进行比对,从而让手语翻译更加精准。
同时,团队还扩大了数据吞吐量,实现设备时延小于0.1秒,能实时完成13000余条手语数据的调用。正是基于这些技术,与同类产品相比,团队产品的实时性翻译能力更强,准确度更高。
朱铭熙团队的成果,不仅让手语被“听到”,还让声音被“看见”。考虑到很多听障人士存在识字困难,朱铭熙团队开发了一个能够显示在AR眼镜上的数字人。当识别到周围有人说话时,文字内容可以直接匹配到数字人的手语动作上。这样,佩戴者就能在AR眼镜上看到数字人打手语,无需识字就能理解对方的意思。
这一创新为听障人士提供了极大便利,为他们打开了一个全新的交流世界。该技术不仅可以用于个人社交活动,也能作为聋哑学校基础的教学辅助装置。“通过让学生佩戴臂环,我们可以检测他们的手语表达是否标准,中控台可以实时显示结果,让手语教学更直观,也大大降低了教学成本和时间。”朱铭熙介绍。
目前,2000余位听障人士佩戴了团队研发的产品。河南郑州张哥助残服务平台创始人张继磊试用产品后给予高度评价:“这款产品能够切实帮助聋哑人群,应用市场非常广阔,希望能继续完善,让更多有需要的人受益。”
目前,团队正在向数据库继续补充手语数据,扩大产品的应用场景。(记者 朱虹)
中新经纬1月12日电 深圳市人力资源和社会保障局官方微信11日回应“深圳一公司男高管违法开除男员工”称,涉事公司经综合考虑该管理人员处理纠纷时存在不当言论及其他因素,于2023年2月对其进行降职处理,并于2023年3月 中新网2月18日电 海安应急管理微信公众号发布情况通报,2024年2月18日2时11分,海安经济技术开发区亚太轻合金(南通)科技股份有限公司车间内生产铝棒的铸造井区域发生爆炸。截至目前,共造成3人死亡,2人失联,搜救和善后工 39.5万人次!春节期间上海机场单日旅客吞吐量创下历年春运最高纪录 中新网2月18日电 据上海机场集团微信公众号消息,自2月6日春运出港高峰首日至2月17日(年初八),上海浦东、虹桥机场共保障进出港旅客437.6万人次( 新华社记者周楠、余春生、谢奔“路上快要结冰了,开车要注意安全。”2月21日中午,在省道S306茶垭段,寒风瑟瑟,湖南省桑植县竹叶坪乡政府工作人员李雅敏正和同事对过往车辆进行警示提醒。气象部门分析,受强 约7折“抄底”剩余50%股权,领展全资吞下上海万科七宝项目,6个月过渡期后拟更名 对于此次7折收购七宝万科广场剩余50%股权,领展资产管理发言人向《每日经济新闻》记者介绍: 七宝项目规模庞大且兼具长期增长潜力, 中国一汽审计与法务部总经理闫锋接受纪律审查和监察调查 中新网2月22日电 据中央纪委国家监委网站,据中国一汽纪委、吉林省纪委监委消息:中国一汽审计与法务部总经理闫锋涉嫌严重违纪违法,目前正接受中国一汽纪委 。本文链接:手语能“听到” 声音可“看见” 机器手语翻译技术实现双向无障碍实时沟通http://www.sushuapos.com/show-5-38169-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。