知名央视主持人现身网络直播间?竟然还播报起虚假广告?近日，北京市场监管部门查处了首例利用人工智能(AI)技术进行虚假广告宣传的案件。北京一公司在直播中宣称其产品能够治疗多种疾病，而实际该产品仅为普通食品，不具备疾病治疗功能。此外，直播中还出现了知名央视主持人的形象，经鉴定，该形象完全是利用AI技术伪造生成。
近年来，人工智能技术日益成熟，“AI换脸”的技术门槛大幅降低，如今仅凭一张图片、一段声音，就能生成高度逼真的伪造视频。这让一些不法商家心生歹念，利用AI深度伪造科学家、医生、运动员、演员等知名人士的面容和声音，炮制出一个个AI“李鬼”。
这类新型违法行为不仅侵犯了被仿冒者的合法权益，营造出“权威背书”的假象对公众实施欺诈，给内容安全带来挑战，更蚕食着社会赖以运转的信任基础。当作假的图像被AI包装成“有鼻子有眼”的视频肆意扩散，当仿冒的名人形象在直播间里一本正经兜售伪劣商品，当电信诈骗者的声音和容貌竟然与受害者的家人一模一样……在AI生成内容纷繁复杂的今天，倘若“眼见为实”不复存在，社会信任又该如何维系?
为解决AI生成内容以假乱真的问题，今年9月，我国《人工智能生成合成内容标识办法》正式施行。该办法明确要求所有AI生成的文字、图片、视频等内容必须添加显式标识“亮明身份”，同时鼓励添加数字水印等隐式标识，让公众明确知道哪些内容可能源自AI生成。既然已有规定，有关部门就应加大监管和执法力度，对违反相关规定的平台和个人依法查处，形成震慑。此次北京市场监管部门查处相关案件，就开了个好头，释放出对“AI造”加强监管的强烈信号。
内容传播平台、AI生成服务平台和应用程序分发平台则要尽到相应的责任义务，落实好有关要求，进一步优化AI识别技术，加强鉴伪追溯能力，与监管部门同向发力，守好“真实”的边界。与此同时，广大网民也要保持警惕，加强对信息真伪的甄别，不被虚假信息蒙蔽双眼。
当前，我国人工智能技术正在飞速发展，针对不同应用场景的安全标准和法律准则在不断完善中。构建良好网络生态，需要各方共同努力，把“眼见为实”的网络空间还给我们每个人，守护好社会信任的根基。
中新经纬1月11日电 (常涛)近日，一张三七互娱创始人、董事长李逸飞的朋友圈截图被热传。李逸飞在评论一篇文章时提到，“我们的父辈都是周六工作，为什么到我们就周六要休息，人为什么一定要周六休息？一定有人私下或者心理 中新经纬2月18日电 “长三角铁路”微博18日消息，截至2月17日，2024年春节假期正式落下帷幕，长三角铁路假期8天发送旅客逾1700万人次，日均发送旅客在215万人次以上，较2019年同期增幅超六成。2月18日(正月初九)是假期后的 区域协调发展，关乎统筹一域和全局、前沿和后方、发展和安全。2014年，京津冀协同发展上升为国家战略。十年来，在习近平总书记亲自谋划、亲自部署、亲自推动下，京津冀协同发展不断迈上新台阶。2024 中新经纬2月23日电 题：马面裙脱销背后，品牌价值尚待深挖 作者 李杰 中新经纬特约专家、山东工艺美术学院服装学院院长 近年来，汉服消费愈加火热，特别是这个春节里马面裙再次火爆出圈，无疑带动了一轮文化消费热。 2月电影票房破100亿，传媒板块多股涨停，行业有望持续繁荣 2月23日，传媒板块盘中持续走强，截至发稿，宣亚国际20%涨停，赛因集团涨超19%，文投控股、天威视讯、中视传媒等多股涨停，川网传媒、百纳千成涨超8%。 消息上，据 中新经纬2月22日电 据国家市场监督管理总局网站消息，自新国标发布实施后，婴幼儿配方乳粉(以下称婴配乳粉)产品配方按新国标注册攻坚工作进展顺利，截至目前，共计1127个配方通过注册。 市场监管总局表示，婴幼儿配方食 。本文链接：管住AI造假，留住社会信任http://www.sushuapos.com/show-5-73602-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。