·鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体。
大模型兴起为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术。
在大模型时代，人工智能合成语音与真实语音之间的界限变得越发模糊，提升与之匹配的识别技术迫在眉睫。7月23日，主题为语音深度鉴伪识别的第九届信也科技杯全球人工智能算法大赛总决赛在上海举行，大赛鼓励参赛者运用深度学习和人工智能对抗技术，开发出能够准确识别虚假语音的模型。
深度伪造是一种利用深度学习和人工智能技术生成高度逼真的虚假内容的方法。大模型的兴起为深度伪造带来了土壤，只需输入提示词，AI系统就会输出图片、视频、音频，真假难辨。
以虚假语音为例，大模型能够生成多种虚假语音，这些虚假语音更真实、拟人，对话流畅，为虚假语音识别带来更大的挑战。“在一些高价值场景里，往往会发生AI生成语音欺诈。但是，目前语音鉴伪技术的发展却滞后于语音合成技术。”信也科技副总裁、大数据及AI负责人陈磊表示。
在决赛中，选手运用不同算法模型和训练思路识别虚假语音，包括运用基于大模型的识别技术、基于传统端到端的识别技术等。端到端的识别技术参数量较小，聚焦更垂直的问题；大模型的参数量较大，对数据要求较高，泛化能力强，对由大模型生成的假语音数据的识别率有明显提升。
信也科技算法科学家吕强介绍，初赛的语音数据集主要由传统端到端TTS（文字转语音）生成的假语音组成，识别难度较低，复赛数据集首次加入了基于最新大模型生成的假语音、翻录假语音以及由真假语言拼接而成的样本，覆盖英语、法语、西班牙语等五种以上语言，比赛难度增加。“复赛加入由大模型生成的假语音后比赛难度变大，也能说明最新大模型‘以假乱真’的能力变强了，这要求相应的深度伪造识别技术必须跟上脚步。”
“我们特意在比赛中加入了一些新场景数据，比如翻录假语音，也就是对生成的真语音经过多次录音再生成的数据，我们认为这是假语音。”吕强表示，针对这一场景，大赛利用真假语音切片、混合，构建对抗性数据，避免人工听语音、打标签干扰比赛，“只要有一个切片是假语音，那么整条都是假语音，这更接近真实场景，但识别挑战大。如果能解决翻录问题和真假对抗，将具有学术价值。”吕强也表示，文本、视频等多模态信息有助于语音鉴伪，大模型和多模态将是语音鉴伪的重要发展方向。
伪造技术与鉴伪技术“竞赛”，两者的发展呈螺旋式上升。陈磊表示，语音大模型的研究要把应用问题抽象提炼成学术问题，在解决学术问题后经过工程化，解决具体业务场景的真实需求。鉴伪技术开发需要跨学科合作，当前的鉴伪技术以软件算法为主，未来将走向软硬一体，借助硬件溯源声音采集，从硬件层面起到假语音风险防控作用。
“鉴伪没有终点，只要生成式道路还没有走到头，鉴伪就会一直往下走。”陈磊表示，赛后信也科技将开源数据，用于更广泛的学术研究，将选手的材料脱敏后共享学习。同时在业务场景中吸收前沿模型思想，构建AIGC鉴伪平台。他认为生成式AI要符合治理规则，人工智能治理需要监管层的顶层设计进行规范和引导，同时呼吁生态共建，以产业界共创防范系统性风险。
（原标题：大模型为深度伪造带来土壤，业界呼吁跨学科联合攻坚鉴伪技术）
据《自然》消息，与不到10年前相比，每年发表60篇以上论文的研究人员数量增加了四倍。11月24日发表在bioRxiv上的一篇预印本 研究生教育是高等教育的最高层次，是衡量一个国家高等教育竞争力的关键标志，是拔尖创新人才自主培养的主渠道。在研究 关于启动2024年与莫斯科大学互换奖学金、与圣彼得堡大学互换奖学金遴选工作的通知 根据《中国国家留学基金管理委 12月17日，上海交通大学中银科技金融学院第一届科技成果转化大赛进行决赛。 中国银行上海市分行行长、党委书记张守川，上海 问：据媒体报道，一名中国留学生在美国犹他州疑似遭遇绑架。中国使馆能否证实此事并介绍情况？ 答：中国驻美国大使馆高度重视 ? ? 。本文链接：大模型为深度伪造带来土壤，鉴伪技术需要跨学科合作http://www.sushuapos.com/show-11-8952-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 太平洋海底现神秘氧源
下一篇： 中国海洋大学医学院建设持续推进