从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。过去一年，AI深度合成音视频侵权现象愈演愈烈。
此前就曾有网友曾利用AI制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的AI语音合成技术骗局。近日记者调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。
网络主播直播教学
用开源工具AI深度合成
这些AI深度合成的声音和换脸是如何制作出来的?记者调查发现，相应的深度合成软件在网络上下载并不算难，而且还有一些网络主播会开直播教网友如何使用。
记者在手机应用商城搜索换脸换声，会出现众多工具。不过记者发现换脸工具，设定了固定的场景，且从效果看逼真度不高。那么网店制作的逼真度高的AI深度合成的声音和换脸是如何做到的?
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧：当前咱们有很多开源的这些软件和工具都可以实现这种换声换脸的效果，可以供网民自由下载，在自己的电脑上进行安装和使用。
专家表示此类软件目前在网络上有数十种，不过不论换声还是换脸软件，不同的场景需要调整相应的参数，步骤较多，属于半专业软件，有一定的技术门槛，所以不被网民熟知。但是记者发现目前在短视频平台有众多主播在教网民使用相关软件。
未经授权
合成制作他人视频声音属侵权
那么，在网络购物平台使用AI深度合成技术，制作出售名人的音视频，是否触犯相关法律呢?专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。
中国计算机学会计算机安全专业委员会委员 吕延辉：《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
网店使用AI深度合成技术制作名人的视频，应该承担什么样的法律责任?
北京航空航天大学法学院副教授 赵精武：在司法实践中，国内已经审结了首例AI生成声音人格权侵权案。在这个案子里，原告作为配音演员，在没有经过授权的情况下，他的声音被AI生成后对外出售。法院在审理中认为，我国的民法典已经在人格权编，将自然人的声音视为一种人格权益，具有人身专属性。所以，法院最终认定被告的行为构成侵权。
专家：提高防范意识 可以用AI检测AI
其实，不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，就用AI合成制作其音视频，也可以判断为侵权行为，应当承担法律责任。随着相关技术的普及，我们又该如何防范AI深度合成音视频侵权的问题呢?继续看专家的解读。
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧：从技术角度来说，其实可以利用AI技术来对抗跟检测AI。当前也有一些典型的AI技术，能够对这些图片或者音视频进行检测，来判断或者分析这些图片是否后期加工和合成的。
中国计算机学会计算机安全专业委员会委员 吕延辉：防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。
法律专家也提醒AI深度合成制作和信息发布者，不要存侥幸心理，法律没有灰色地带，切勿因小失大。
北京航空航天大学法学院副教授 赵精武：法律并不是禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
深圳一公司高管违法开除员工？深圳市人社局通报 中新网1月12日电 深圳市人力资源和社会保障局微信公众号1月11日晚发布通报称，1月10日，有关“深圳一公司男高管违法开除男员工”的信息在网络平台流传，引发网民关注。 三四线城市贡献增至近六成！龙年春节档票房创新高，也有公司被烫伤 春节档票房之争基本落下帷幕，龙年电影市场迎来开门红。 2月18日消息，根据国家电影局初步统计，2024年春节假期(2月10日至2月17日)全国电影票房为8 春节假期中国快递包裹投递量日均同比增82.1% 中新社北京2月18日电 (记者 刘育英)中国国家邮政局监测数据显示，今年春节长假期间(2月10日至17日)，中国邮政快递业投递快递包裹6.41亿件，日均投递量与2023年春节假期 春节初一至初七逾130万人次访港 内地游客占近九成 中新网2月18日电 据香港《文汇报》报道，据香港特区政府入境处统计，今年年初一至年初七(2月10日至16日)共录得逾130万人次旅客访港，接近2019年春节的水平(140万人 最高法：加强种业知识产权保护 全面落实惩罚性赔偿制度 在国务院新闻办公室2月22日举行的发布会上，最高人民法院知识产权法庭副庭长中林介绍，法庭5年来共受理案由为植物新品种纠纷的案件481件，审结364件，已涵盖了主 湖南铁路科技职业技术学院党委书记康月林接受纪律审查和监察调查 中新网2月22日电 据中央纪委国家监委网站，据湖南省纪委监委消息：湖南铁路科技职业技术学院党委书记康月林涉嫌严重违纪违法，目前正接受湖南省纪委 。本文链接：雷军、刘德华成受害者 总台揭露AI合成名人音视频乱象http://www.sushuapos.com/show-5-46421-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。