当前,人工智能浪潮奔涌向前,各种新技术新应用层出不穷。AI语音克隆作为深度合成技术的重要分支,凭借极小样本、高仿真还原、轻量化操作等优势,在有声读物、无障碍服务、智能语音播报等领域释放创新价值,为数字生活添便利、为产业发展赋动能。技术无善恶,滥用藏祸端。当前,网络黑灰产低成本复刻他人声纹、伪造语音实施诈骗、恶意合成虚假言论等乱象滋生,严重扰乱社会秩序、侵害人民群众财产安全,值得高度警惕。
声音不再是唯一标识
语音合成技术并不新鲜,但近年来相关技术更新迭代非常迅速,早期的语音合成系统只能生成机械感强烈的“电子音”,而今天的AI语音克隆技术已能在极短时间内完成对一个真实人声的高仿真复刻。
——极为快速的采样速度。主流商业平台所需的最短训练样本时长已从几十分钟压缩到3至5秒。这意味着,一条随手发出的语音消息、一段短视频里的人声片段、一通电话的简短应答,都可能被用来合成任意内容的仿冒语音。
——极为逼真的合成语音。当前语音克隆结果的自然度、情感还原度和口音相似度,已达到让人难以分辨的水平。研究显示,在没有任何提示的情况下,普通人识别高质量合成语音的准确率不足50%。
——极为简单的使用操作。目前一大批在线平台将“声音克隆”功能向公众开放,普通用户无需专业技术背景,上传样本即可一键生成,操作与发送一条语音一样简便。
滥用滋生风险
当声音可能被随意伪造时,它所承载的信任价值将面临被消解的风险。从个人财产损失到公众舆论失真,语音合成技术的滥用正滋生一系列新风险。
——冒充亲友,实施诈骗。不法分子会通过收集受害者家属、好友的声音样本,合成带有对方声音特征的语音,编造车祸、疾病等紧急事由实施诈骗。由于声音高度相似,受害者很容易上当受骗。
——克隆声纹,侵犯权益。国内多个平台出现了利用AI伪造影视明星、运动冠军、知名专家声音的音视频,内容涉及商业广告、视频配音、自媒体引流等,此类行为直接侵犯了自然人法定声音权益。
——伪造语音,扰乱舆论。个别别有用心之人恶意克隆公职人员、行业权威及其他公众人物的语音,拼接编造不实言论、虚假政策解读、恶意抹黑话术,通过社交媒体批量传播,企图煽动网络舆情,误导公众认知,影响社会稳定。
国家安全机关提示
当前,我国已基本形成集民事保护、行业监管、刑事惩戒于一体的制度约束体系,为AI语音克隆应用划定了清晰法治底线。依据《中华人民共和国民法典》,对自然人声音的保护参照适用肖像权保护的有关规定,未经本人明确授权,任何主体擅自克隆、合成、传播他人可识别语音,均属侵权行为,须承担法律责任。根据《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等国家级监管规范,深度合成语音服务提供者必须落实平台备案、用户实名、授权核验、溯源标识等合规要求,严禁无约束声纹克隆,禁止伪造虚假语音扰乱公共秩序。利用AI语音克隆实施电信诈骗、造谣抹黑、非法牟利等行为,触犯刑法的,将依法从严追究刑事责任。
规范语音合成技术应用,防范安全风险,需多方协同共治。网络平台须落实主体责任,清理违规工具功能,完善审核溯源预警机制;行业从业者应恪守科技向善底线,坚守合规创作准则;广大群众应增强防范意识,谨慎保护个人声纹信息,涉资金、隐私核验务必进行多重验证,遇侵权诈骗应及时留存证据、举报维权,最大限度降低个人损失。
当前,人工智能浪潮奔涌向前,各种新技术新应用层出不穷。AI语音克隆作为深度合成技术的重要分支,凭借极小样本、高仿真还原、轻量化操作等优势,在有声读物、无障碍服务、智能语音播报等领域释放创新价值,为数字生活添便利、为产业发展赋动能。技术无善恶,滥用藏祸端。当前,网络黑灰产低成本复刻他人声纹、伪造语音实施诈骗、恶意合成虚假言论等乱象滋生,严重扰乱社会秩序、侵害人民群众财产安全,值得高度警惕。
声音不再是唯一标识
语音合成技术并不新鲜,但近年来相关技术更新迭代非常迅速,早期的语音合成系统只能生成机械感强烈的“电子音”,而今天的AI语音克隆技术已能在极短时间内完成对一个真实人声的高仿真复刻。
——极为快速的采样速度。主流商业平台所需的最短训练样本时长已从几十分钟压缩到3至5秒。这意味着,一条随手发出的语音消息、一段短视频里的人声片段、一通电话的简短应答,都可能被用来合成任意内容的仿冒语音。
——极为逼真的合成语音。当前语音克隆结果的自然度、情感还原度和口音相似度,已达到让人难以分辨的水平。研究显示,在没有任何提示的情况下,普通人识别高质量合成语音的准确率不足50%。
——极为简单的使用操作。目前一大批在线平台将“声音克隆”功能向公众开放,普通用户无需专业技术背景,上传样本即可一键生成,操作与发送一条语音一样简便。
滥用滋生风险
当声音可能被随意伪造时,它所承载的信任价值将面临被消解的风险。从个人财产损失到公众舆论失真,语音合成技术的滥用正滋生一系列新风险。
——冒充亲友,实施诈骗。不法分子会通过收集受害者家属、好友的声音样本,合成带有对方声音特征的语音,编造车祸、疾病等紧急事由实施诈骗。由于声音高度相似,受害者很容易上当受骗。
——克隆声纹,侵犯权益。国内多个平台出现了利用AI伪造影视明星、运动冠军、知名专家声音的音视频,内容涉及商业广告、视频配音、自媒体引流等,此类行为直接侵犯了自然人法定声音权益。
——伪造语音,扰乱舆论。个别别有用心之人恶意克隆公职人员、行业权威及其他公众人物的语音,拼接编造不实言论、虚假政策解读、恶意抹黑话术,通过社交媒体批量传播,企图煽动网络舆情,误导公众认知,影响社会稳定。
国家安全机关提示
当前,我国已基本形成集民事保护、行业监管、刑事惩戒于一体的制度约束体系,为AI语音克隆应用划定了清晰法治底线。依据《中华人民共和国民法典》,对自然人声音的保护参照适用肖像权保护的有关规定,未经本人明确授权,任何主体擅自克隆、合成、传播他人可识别语音,均属侵权行为,须承担法律责任。根据《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等国家级监管规范,深度合成语音服务提供者必须落实平台备案、用户实名、授权核验、溯源标识等合规要求,严禁无约束声纹克隆,禁止伪造虚假语音扰乱公共秩序。利用AI语音克隆实施电信诈骗、造谣抹黑、非法牟利等行为,触犯刑法的,将依法从严追究刑事责任。
规范语音合成技术应用,防范安全风险,需多方协同共治。网络平台须落实主体责任,清理违规工具功能,完善审核溯源预警机制;行业从业者应恪守科技向善底线,坚守合规创作准则;广大群众应增强防范意识,谨慎保护个人声纹信息,涉资金、隐私核验务必进行多重验证,遇侵权诈骗应及时留存证据、举报维权,最大限度降低个人损失。
中新经纬1月12日电 中国饭店协会、中国旅游饭店业协会、中国循环经济协会、中国消费者协会12日联合发文,倡议住宿业减少一次性塑料用品使用。 倡议称:一、深刻认识住宿业在塑料污染治理中的社会责任,高度重视塑料 中新经纬1月11日电 11日,“中国充电联盟”微信号发布2023年全国电动汽车充换电基础设施运行情况。 公共充电基础设施运行情况 2023年12月比11月公共充电桩增加10.0万台,12月同比增长51.7%。截至2023年12月,联 龙年春节旅游“热辣滚烫” 21世纪经济报道 高江虹 正月初八,为期8天的春节假期正式结束。这个假期留给大家的感受是什么?“拥挤”“爆满”“价高”……种种熟悉的假期关键词又回来了,背后是整个龙年春节文旅 春节假期武铁发送旅客511万人次 中新网武汉2月18日电 (记者 张芹)记者18日从中国铁路武汉局集团有限公司(以下简称“武铁”)获悉,2024年春节假期,武铁共发送旅客511万人次。1月26日至2月17日,武铁共发送旅客1273. 区域协调发展,关乎统筹一域和全局、前沿和后方、发展和安全。2014年,京津冀协同发展上升为国家战略。十年来,在习近平总书记亲自谋划、亲自部署、亲自推动下,京津冀协同发展不断迈上新台阶。2024 “药械同追”试点项目助力医疗产品追溯标准化 近日,全国首个GS1“药械同追”试点项目顺利通过中国物品编码中心的验收。该项目是以国际通用的GS1编码标准为基础建设的“药械同追”平台系统,可同时满足我国药品追 。本文链接:注意!“耳听”可能真的“为虚”,国家安全机关发布提示http://www.sushuapos.com/show-5-108309-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。