“过去一年，至少有几十个视频，冒用我的声音、形象讲述虚假内容，有的我自己都觉得很逼真。”3月9日，十四届全国人大三次会议天津代表团举行小组会议，中国工程院院士张伯礼代表在发言时提到，当下利用人工智能生成虚假内容的违法犯罪事件越来越多。
“我投诉反馈过多次。”张伯礼表示，必须采取有力措施对此类违法事件予以遏制。
中招的不只是张伯礼。今年两会期间，小米集团创始人雷军代表也提到，去年国庆长假期间，短视频平台上曾出现大量以人工智能技术模拟其声音进行配音的恶搞视频，效果以假乱真，对网友造成了误导。
人工智能深度合成技术的快速发展，显著降低了生成虚假内容的门槛和成本，“AI换脸拟声”已成为互联网违法侵权行为的重灾区。
打开社交平台，搜索“AI换脸”“AI拟声”等关键词，可以检索到许多提供此类技术的网站平台，以及可本地化运行的合成软件。许多产品的运营主体设在境外，难以实施有效管控。
中国政法大学数据法治研究院教授张凌寒认为，总的来看，我国目前已出台《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法规，对内容造假者和传播平台的法律责任都有明确规定。“但是目前需要在执行层面进一步加强落实，尤其是多部门联合协同执法。”她说。
作为当下内容传播的主要渠道，互联网平台承担着对信息真实性把关的责任。张凌寒认为，针对人工智能生成的虚假内容泛滥的现象，下游的传播平台应当主动采取措施减少违法信息的流通，例如建立辟谣机制和举报机制，针对在平台中传播的虚假内容及时停止传输，并对相关主体加以限制和处罚。
当下，生成式人工智能技术已进入快速迭代阶段，技术样态不断更新、应用形式鱼龙混杂，对规范治理提出了更高要求。
西南政法大学教授付子堂代表表示，人工智能等技术加速突破，必将深刻改变现行的生产生活方式，而目前相关的法律制度仍存在一定滞后性。例如，生成式人工智能等新兴领域存在规范真空，数据隐私保护、算法责任认定等方面存在法律适用问题，并且在个人数据信息保护、算力治理等方面存在多头管理问题，监管协同性不足。
付子堂建议，要着手构建阶梯式法律框架，夯实制度根基，可细分制定人工智能法等专门法律，并完善能与个人信息保护法等上位法相衔接的、对深度合成内容进行有效规范的配套条例。
围绕人工智能立法，张凌寒认为要重点关注虚假内容生成，强化深度合成技术的前期治理，如要求技术与服务提供者在相关内容中履行添加可识别水印或有效警示信息的义务；完善深度合成内容的法律担责链条，改进监管框架，实施全链条治理；升级深度合成的监管工具，在继续使用与改进传统算法监管工具的同时，也要不断更新新的技术支撑与保障，应对不断变化的技术发展趋势。
“过去一年，至少有几十个视频，冒用我的声音、形象讲述虚假内容，有的我自己都觉得很逼真。”3月9日，十四届全国人大三次会议天津代表团举行小组会议，中国工程院院士张伯礼代表在发言时提到，当下利用人工智能生成虚假内容的违法犯罪事件越来越多。
“我投诉反馈过多次。”张伯礼表示，必须采取有力措施对此类违法事件予以遏制。
中招的不只是张伯礼。今年两会期间，小米集团创始人雷军代表也提到，去年国庆长假期间，短视频平台上曾出现大量以人工智能技术模拟其声音进行配音的恶搞视频，效果以假乱真，对网友造成了误导。
人工智能深度合成技术的快速发展，显著降低了生成虚假内容的门槛和成本，“AI换脸拟声”已成为互联网违法侵权行为的重灾区。
打开社交平台，搜索“AI换脸”“AI拟声”等关键词，可以检索到许多提供此类技术的网站平台，以及可本地化运行的合成软件。许多产品的运营主体设在境外，难以实施有效管控。
中国政法大学数据法治研究院教授张凌寒认为，总的来看，我国目前已出台《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法规，对内容造假者和传播平台的法律责任都有明确规定。“但是目前需要在执行层面进一步加强落实，尤其是多部门联合协同执法。”她说。
作为当下内容传播的主要渠道，互联网平台承担着对信息真实性把关的责任。张凌寒认为，针对人工智能生成的虚假内容泛滥的现象，下游的传播平台应当主动采取措施减少违法信息的流通，例如建立辟谣机制和举报机制，针对在平台中传播的虚假内容及时停止传输，并对相关主体加以限制和处罚。
当下，生成式人工智能技术已进入快速迭代阶段，技术样态不断更新、应用形式鱼龙混杂，对规范治理提出了更高要求。
西南政法大学教授付子堂代表表示，人工智能等技术加速突破，必将深刻改变现行的生产生活方式，而目前相关的法律制度仍存在一定滞后性。例如，生成式人工智能等新兴领域存在规范真空，数据隐私保护、算法责任认定等方面存在法律适用问题，并且在个人数据信息保护、算力治理等方面存在多头管理问题，监管协同性不足。
付子堂建议，要着手构建阶梯式法律框架，夯实制度根基，可细分制定人工智能法等专门法律，并完善能与个人信息保护法等上位法相衔接的、对深度合成内容进行有效规范的配套条例。
围绕人工智能立法，张凌寒认为要重点关注虚假内容生成，强化深度合成技术的前期治理，如要求技术与服务提供者在相关内容中履行添加可识别水印或有效警示信息的义务；完善深度合成内容的法律担责链条，改进监管框架，实施全链条治理；升级深度合成的监管工具，在继续使用与改进传统算法监管工具的同时，也要不断更新新的技术支撑与保障，应对不断变化的技术发展趋势。
记者3月18日从安徽明天氢能科技股份有限公司（以下简称明天氢能）获悉，国家电网近日向明天氢能及董事长王朝云分别授予科学技术进步奖一等奖，获奖项目为“大规模氢电一体化站关键技术、核心装备及 记者3月18日从兰州大学获悉，该校动物医学与生物安全学院郑海学教授团队解析了非洲猪瘟病毒（ASFV）在猪体内感染的靶细胞，以及在靶细胞内延长感染的机制。这项研究系统阐明了ASFV感染的细胞嗜性、 联合国机构3月20日发布的《全球电子垃圾监测》报告显示，2022年全球范围内共产生6200万吨电子垃圾，其中仅有不到四分之一被回收利用。报告显示，2022年全球电子垃圾的产生量相比2010年增长了82%。 记者3月21日从安徽农业大学获悉，该校生命科学学院韩毅教授课题组与国内外专家合作，发现了植物避盐性的关键基因。该研究对于提高植物耐盐性，帮助盐碱地下的农作物稳产具有重要理论指导意义。相 3月21日是第二十五个“世界睡眠日”，中国睡眠研究会联合慕思集团在北京正式发布《2024情绪与健康睡眠白皮书》（以下简称《白皮书》）。《白皮书》指出，智能床垫运用算法将内在情绪与睡眠质量相关 今年3月23日是第64个世界气象日，主题是“气候行动最前线”。面对愈加频繁的极端天气和全球变暖等气候危机，减缓气候变化已刻不容缓。发展新能源是应对气候变化的重要举措之一，而气象服务对于新 。本文链接：专家热议如何防止AI“以假乱真”http://www.sushuapos.com/show-2-11075-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 利用干细胞造出新型血管移植物 “通用型生命管道”推进相关手术进步
下一篇： 专家呼吁推出适合未成年人的AI大模型