新华社北京3月16日电 题：强化全流程管理 引导技术向善——《人工智能生成合成内容标识办法》解读
新华社记者王思北
近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》。办法聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，将于2025年9月1日起施行。
专家认为，办法是我国推进人工智能领域安全治理、促进产业规范健康发展、引导技术向善的重要举措，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步。
近年来，生成式人工智能、深度合成等新技术快速发展，为生成合成文本、图片、音频、视频等信息提供了便利工具。
“然而，人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险，并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯认为，面对人工智能安全治理这一世界性难题，四部门适时出台《人工智能生成合成内容标识办法》，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也同时发布，成为保障人工智能时代网络生态安全有序的关键手段。
国家网信办有关负责人表示，办法重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。
——针对服务提供者，办法明确应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。
——针对互联网应用程序分发平台，办法提出在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。
——针对用户，办法要求使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
此外，任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求，办法进一步细化了标识的具体实施规范。”北京航空航天大学法学院副教授赵精武认为，办法明确了生成合成内容制作传播各主体的责任义务，用户能够清晰识别人工智能生成的内容，减轻人工智能生成合成技术滥用危害，防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为。
一方面，清晰的内容标识有助于提升信息透明度，增强用户的知情权和选择权，培养公众对人工智能技术的理性认知。另一方面，对于服务提供者及传播平台而言，内容标识制度既是责任更是机遇，在鼓励企业追求技术能力提升的同时，也将提升对产品社会影响的关注度，推动整个行业向更加规范、健康的方向发展。
良法善治，重在实施。专家认为，办法的落地需要各方协同配合，推动标识工作行稳致远。
公安部第三研究所副所长金波说，伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规或将成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中，如何平衡好发展与安全、创新与责任，提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平的人工智能产业生态环境，还需要深入探究。
“此外，‘人的因素’应融入人工智能标识管理的全过程。”金波说，要着重提升公众对信息内容真实性、来源可追溯性的评估能力，积极培育公众的人工智能素养，确保人工智能技术成果普惠共享。
女子挺5个月孕肚征婚？重庆江北警方通报 中新网1月11日电 据重庆市公安局江北区分局官方微博消息，近日，网传“女子挺5个月孕肚征婚 ”视频，引发网友关注。经查，该女子陈某 (女，33岁，暂住江北区，系自媒体博主) 为吸引流 国家移民管理局：春节假期1351.7万人次出入境 同比增长2.8倍 中新网2月18日电 据国家移民管理局微信公众号消息，2024年春节假期全国边检机关共保障1351.7万人次中外人员出入境，日均169万人次，较2023年春节同期增长2 龙年春节档的卖相与怪相 龙年春节档迎来尾声。回望春节前夕，无超级大片，多数影片都是熟面孔且不举行首映，观众进影院如开盲盒。以“贾玲减重100斤”为首的各种营销策略铺天盖地袭来，一度让部分观众产生逆反心理，对 2月21日，司法部、国家发展改革委、全国人大常委会法工委共同组织召开民营经济促进法立法座谈会，听取民营企业代表和专家学者对立法的意见建议。会议强调，要坚持以习近平新时代中国特色社会主义思想为 中国发展网讯 龙年首场强降雪来袭，2月20日上午，雄安分中心涞源养护队第一时间启动抗冰除雪保畅预案，在集中降雪前，提前进行一次有针对性、低剂量的融雪剂撒布工作，避免路面发生结冰现象，同时突出对重点路 加强知识产权法治保障 推动发展新质生产力 国务院新闻办公室22日举行新闻发布会，介绍国家层面知识产权案件上诉审理机制运行有关情况。截至2023年12月31日，最高人民法院知识产权法庭共受理案件18924件，审结15710 。本文链接：强化全流程管理 引导技术向善——《人工智能生成合成内容标识办法》解读http://www.sushuapos.com/show-5-50402-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。