国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，9月1日起将正式施行，所有AI生成的文字、图片、视频等内容都要“亮明身份”。针对这些内容在传播过程中该由谁来管？怎么管？
《人工智能生成合成内容标识办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。
平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。
中国人民大学未来法治研究院执行院长 张吉豫：“标识办法”中进行检测分三个层次，如果平台是从元数据中检测出隐式标签，那么平台就可以标识这个内容是AI生成的，但是如果它只是通过一些算法推测这个内容是AI生成的，它应该是标识为疑似AI生成。
针对目前由于技术的局限性而导致的部分原创内容被误判为AI生成，创作者权益受损等情况，法学专家指出，当前的算法仍然存在数据偏差和场景适配不足等问题，在误判率难以归零的情况下，应当建立相应的保障机制。
张吉豫：未来相关平台进行了分级标识后，其实也应该建立分级的处理办法，比如说对于明确它是AI生成的，通过隐式标识确定的，应该采取更严格的措施，但是对于很多应该标识为疑似AI生成的，应该提供更便捷的用户反馈渠道，也不宜对用户进行严肃的惩罚。
法学专家建议，首先网络服务提供者要公开算法原理及误判样本数据，提升透明度；其次要设立申诉渠道，允许用户提交证据申请复核，从而保证监管与创作自由的平衡。
让生成内容看得见查得着 以规范促发展
据记者了解，截至目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。“标识办法”的施行，会对行业、个人用户，以及相关技术的发展带来哪些影响？
据记者了解，作为我国人工智能领域首部“办法+强标”的组合拳，强制性的国家标准《网络安全技术人工智能生成合成内容标识方法》将于9月1日与《人工智能生成合成内容标识办法》同步施行，在监管维度建立审核、监测、追责的闭环机制，在技术维度规范标识体系并预留创新空间。
中国社科院法学所研究员 支振锋：特别要提出的是这种生成式人工智能治理，我们一系列国家法律法规，还有规范性文件以及标准，一个很重要的治理目的是以规范促发展，通过治理和规范去净化互联网市场，净化网络信息内容、生态空间，从而促进人工智能特别是生成式人工智能，它的规范运用和健康良性的发展，实际上还是通过规范去促进发展的。
另外，据专家介绍，高质量数据对生成式人工智能产业发展至关重要，基于错误或不完整的数据作出的决策可能偏离正确方向，不符合法规要求的数据可能带来法律风险。如果未经标识的内容进入公开数据领域，被大模型用于预训练会出现数据污染等情况，最终会导致技术可信度的大大降低，而“标识办法”的出台，正是从源头破解这一困局的关键举措。
张吉豫：对于人工智能企业去选择相应的训练数据能够起到很好的指引，特别是所有的这样的生成内容都需要进行隐式的标识，这些标识是很便捷的，可以被机器检测的，就可以很便捷的去筛选哪些可能的内容是机器产生的，也便于他们去进行训练的选择。
有利于公平竞争 减少侵权诈骗等问题
据专家介绍，在《人工智能生成合成内容标识办法》以及强制性的国家标准同步施行的情况下，标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截，让内容平台有了更明确的合规要求和管理程序，有利于降低总体的审核运营成本。
据法学专家介绍，《人工智能生成合成内容标识办法》的施行有利于公平竞争和有效管理。
首先，强制“标识”有利于保护传统内容产业，能在一定程度上降低AI技术带来的冲击；
另外，通过标识可以追溯AI生成内容的来源，减少因AI生成内容引发的侵权、诈骗等问题，维护个人隐私和财产安全。
支振锋：这些生成人工智能服务的使用者，比如说自媒体账号、博主，他们要使用这些服务的话，他们自己也有合规的要求，特别是一些MCN机构，一些自媒体账号，它其实背后有公司在运营，他们都有这样的合规义务，都要按照这个办法，还有国家标准去做生成合成内容的标识。
据法学专家介绍，“标识办法”与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。其中，服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。
来源：央视新闻客户端
新快报讯 3月2日，东莞市松山湖第二届党建引领基层社会治理公益创投大赛在月荷湖公园启动，引来不少上届参赛团队持续关注。从纠纷调解、应急救援，到长者服务、环境保护……去年，一场覆盖松山湖四大片区、持续半年的公益创 新华社北京3月5日电 国务院总理李强5日在政府工作报告中指出，过去一年，是全面贯彻党的二十大精神的开局之年，是本届政府依法履职的第一年。面对异常复杂的国际环境和艰巨繁重的改革发展稳定任务，以习近平同志为核心的党中 南方财经全媒体记者高慧超 实习生卢秀颖 卢诗文 北京报道预制菜再度成为两会代表委员热议的焦点。尽管各种关于预制菜的争议仍在继续，但并不妨碍预制菜在龙年春节登上年夜饭饭桌，线 南方财经全媒体见习记者林鹏 实习生 陈聪 张梦琦 广州报道南粤春来早，植树正当时。眼下正是植树造林的黄金时节，广东各地掀起了春季植树的热潮。据统计，今年以来截至2月底，全省乡村绿化 “行过生菜会，富贵自然来” 新快报讯 3月6日，农历正月廿六，广州市荔湾区冲口街大型传统民俗文化活动——2024坑口生菜会暨坑口生菜会民俗文化展热闹开锣！坑口“生菜会”传承300多载，既是一场新年祈福的盛大活动，还是联结乡 3月5日，为期40天的2024年春运正式落下帷幕。广铁集团累计到发旅客1.39亿人次，创春运历史新高，成为历年来最火爆春运。 节前广州深圳仍是热门出发地 春运40天，广铁集团客流持续高位，打足热门方向运力，累计发送旅客7149.6万人 。本文链接：9月起AI生成内容必须“亮明身份”http://www.sushuapos.com/show-1-49348-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 中国女排1比3不敌法国队，无缘世锦赛八强