设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

一键换脸真假难辨 技术边界亟待规范

发布时间: 2025-01-19 08:29:28 来源:

本报记者 王小月aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如今,AI换脸图片和视频成为热门话题,换脸视频碰瓷他人的现象也屡屡引发关注。AI换脸的背后,从传播到制作再到后端各个环节几乎都藏有一门生意经,也存在相关风险与困扰。《中国消费者报》记者就此进行了调查。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

名人“被带货”屡禁不止aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

人们常说眼见为实,但虚拟世界里的“眼见”却不一定“为实”。前段时间,“张文宏医生带货蛋白棒”的消息让不少人信以为真,部分商家通过AI换脸、合成人声等技术手段,将张文宏的面容与声音移花接木用于直播带货,引得当事人不得不出面辟谣和谴责。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

面对这些明目张胆的侵权行为,张文宏在接受媒体采访时表示:“类似的卖货账号不止一个,且一直在变,我多次向平台投诉,但这种现象屡禁不止。很多不明真相的消费者,特别是对于AI技术不熟悉、年纪较大的消费者很容易相信。”aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

无独有偶,北京大学国家发展研究院教授李玲2024年9月发表声明称:“网上大量假冒本人推销医药书籍和治疗手段的虚假视频,大多由人工智能AI合成,已经报警。”不过,记者调查发现,网上仍有以李玲名义推荐书籍的短视频,声音与本人别无二致,短视频详细介绍了某一书籍,购物车的同款书籍显示已售9.7万件,短视频中还配有文字“关键时刻能救命”。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI作为一种新技术,面世以来即被应用到多个领域,但也出现了不少利用AI技术进行违法犯罪的案例,包括仿冒名人、造谣、换脸诈骗、窃取隐私等。近期,微信平台发布消息称,针对“利用AI技术仿冒名人进行不当营销”的情况进行了打击,关闭账号209个。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI换脸背后的生意经aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在网上,AI换脸的门槛很低。记者在“泡咖AI”APP上看到,AI换脸功能包括照片换脸、视频换脸,VIP换脸套餐7天会员价59元、月度VIP99元、年度VIP499元。产品页面显示,图片换脸“一张照片,轻松合成照片写真”、视频换脸“一键替换视频中的人脸”。在MJ绘画官网,视频换脸只需上传视频和人脸图片,AI会把上传的人脸照片替换到视频中。为了免责,不少网站都在下方用小字标注“生成视频仅供学习娱乐,合成视频不得用于非法用途,违者个人承担全部责任”。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

记者发现,不少换脸软件都需要付费使用。在二手交易平台上,也有人以几元的价格售卖AI换脸、人声克隆等免费开源文件的安装包,并附有相关教程,付款后通过网盘发送。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

为了规避平台的关键词识别,记者在二手交易平台搜索“AI换lian”后,看到有多个卖家,一键换脸售价均为1元左右。名为“全网项目工具箱”的商家鱼小铺在详情页面介绍称,“只需一张照片就可以替换,简单操作”“任何视频和照片都可以替换,满足一切换脸需求”,单次换脸仅需1.5元,10元就能购买年卡。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“早期的换脸软件一般通过使用机器学习模型,将图片或视频合并叠加到源图片或视频上,借助神经网络技术进行大样本学习,并与声音、表情和动作合成。当前的AI换脸属于深度伪造的AI技术的衍生应用。”深度科技研究院院长张孝荣对《中国消费者报》记者表示,随着生成式人工智能的发展,AI技术使用难度进一步降低,不少新兴APP和主流视频软件上都增加了类似功能,普及率大大提升。如此一来,线上的“李鬼”日益增多,且越发难辨真假。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

北京社科院副研究员王鹏对记者表示,简单的AI换脸技术难度并不高,具有一定技术水平的团队和小公司依托开源软件就可以实现基础性的AI换脸。而一些精细化、与微表情密切相关的换脸,则需要具有一定的算力需求。因此,在直播中使用AI换脸软件的成本并不高,这也导致在社交媒体上、直播中出现了很多欺诈行为,侵犯了消费者的合法权益。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

应多渠道进行规范aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近年来,各地出现了不少利用AI技术直接参与犯罪的案例,犯罪分子利用AI换脸、换声,冒充他人进行诈骗,也有人利用AI窃取他人隐私。奇安信集团发布的《2024年人工智能安全报告》显示,基于AI的深度伪造欺诈在2023年激增30倍。那么,消费者该如何识别换脸破绽并加以防范?aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

中国网络空间安全协会人工智能aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

安全治理专业委员会委员张博表示,AI换脸技术如今已经比较成熟,甚至能够实现视频通话的实时换脸,虽然单凭肉眼很难分辨,不过只要稍加留心,AI换脸还是有明显破绽的,漏洞就在面部轮廓和光线上。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“视频通话时,要仔细观察对方的面部轮廓是否存在异常模糊情况、光线是否正常。”张博说,必要时可以要求对方快速大幅度地抬头、点头、转头,然后在这个过程中仔细观察面部轮廓是否有异常模糊。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

张孝荣表示,要像防范电信诈骗一样防范AI诈骗,尤其注意不要轻信各类APP传来的视频、电话或短信,建立财务信息防火墙。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

除了个人注意甄别和信息保护外,还应通过立法手段给AI技术应用套上法律缰绳。目前,我国已经出台了《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律法规。国家网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》目前已完成社会意见征集,该办法出台后,将进一步加强对AI生成技术的约束和规范,督促服务提供者和网络平台承担起应有的法律责任。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

王鹏表示,面对每天产出的大量视频,监管的难度相对较大,因此要从软件的研发和应用以及信息发布平台的监管方面入手,规范AI技术的使用。用户使用换脸服务需要充值,不同的充值费用获得的技术权限不一样。平台应该通过后台辨别用户换脸的目的、在何种场景下使用等,软件服务方或制作方也需要承担相应的监管责任。“比如用户在直播带货中换脸明星或公众人物,那一定涉及侵权。”王鹏举例说。aFd速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  春节档缘何爆发“撤档潮”  2024年春节档以80亿总票房打破多个纪录,迎来开门红。而8部影片有4部官宣“退档”,也为这个春节档带来了“史上罕见”的标签。一时全网哗然,#我也退出了春节档#、#撤档元年#等成热门话题   八部影片半数撤档 春节档为何出现罕见“撤档潮”  据猫眼专业版数据,截至昨日17时,2024春节档总票房破80亿,总人次1.62亿,总场次383.6万,全面刷新中国影史春节档纪录。然而,几家欢乐几家愁,今年春节档冷热不均,出现了罕   平台数据显示春节中国游客足迹遍布全球1700多个城市  中新社北京2月17日电 (记者 刘亮)中国在线旅游平台去哪儿17日发布的数据显示,今年春节假期中国游客足迹遍布全球115个国家,覆盖全球1754个城市。  据去哪儿 “首都南大门”保定,中创燕园在这里新扩建的厂房已完成装修,北京大学物理学院的专家每周都前来开展研发工作,这是“北京研发,保定落地”的一个缩影;海河之滨,依托京津物流园在京津两地间搭建高端智   欧盟为网络平台立规矩  在社交媒体上观看喜爱的“网红”晒美食、逛商圈、秀时尚单品,已经成为许多网友的一种休闲活动。殊不知,在许多“网红”刻意营造的“惬意”生活方式背后,却是商家套路满满的流量营销。  2   春节档票房破纪录,希望不会成为难以翻越的大山    春节档是全年电影的风向标,优异的春节档票房成绩,会鼓励从业者加倍努力,也会给市场增添希望,但不排除今年春节档会成为一座难以翻越的大山。  _______________  。

本文链接:一键换脸真假难辨 技术边界亟待规范http://www.sushuapos.com/show-5-42234-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: “河南省2025年迎双节消费帮扶新春行动”在郑州启动

下一篇: “汤姆猫”能靠AI玩具赛道续命吗?

热门资讯

  • 存烫伤或触电风险!宜家召回这款充电器

      中新经纬1月11日电 “上海市场监管”微信号11日消息,宜家召回3008件USB充电器。  上海市市场监管局称,宜家(中国)投资有限公司自2024年1月10日至2024年4月9日召回2020年

  • 增值税发票数据显示:春节假期中国服务消费火热

      增值税发票数据显示:春节假期中国服务消费火热  中新社北京2月18日电 (记者 赵建华)中国国家税务总局18日公布的增值税发票数据显示,今年春节假期(正月初一至初八)中国

  • 春节议题成为讨论焦点 A股波动牵动公众情绪――中国上市公司品牌热榜(1月)发布

      中新经纬2月18日电 2024年1月,中国上市公司迎来辞旧迎新的阶段。回顾往年,年度业绩报告及年终活动吸引眼球;展望新年,企业趁势推出龙年产品和新春活动促活市场。东方甄选余

  • 揽人、赶工、抢订单:春节拼经济“热辣滚烫”

      长三角观察|揽人、赶工、抢订单:春节拼经济“热辣滚烫”  2月10日是正月初一,上午10点,满载工业品、电子产品和衣帽服饰的新春首列“义新欧”中欧班列从浙江义乌铁路口岸

  • 完善全域覆盖的生态环境分区管控体系

    作者:秦天宝(武汉大学环境法研究所所长)2023年11月,中央全面深化改革委员会第三次会议审议通过了《关于全面推进美丽中国建设的意见》《关于加强生态环

  • 发展新质生产力能够扩大社会有效需求

    当前,进一步推动我国经济回升向好需要克服一些困难和挑战,主要体现为有效需求不足、社会预期偏弱等问题。习近平总书记在中共中央政治局第十一次集体学习

  • 四年亏掉10年利润,中国民航飞向何处

      四年亏掉10年利润,中国民航飞向何处 | 供给侧调查  2023年是中国民航连续亏损的第四年。  疫情三年,民航全行业累计亏损超过4000亿,2023年虽然大幅减亏,但依然没能扭亏

  • 标准缺失 价格无序 宠物蛋糕野蛮生长

      标准缺失 价格无序 宠物蛋糕野蛮生长    宠物美容、宠物寄养接连掀起消费浪潮,宠物蛋糕正在成为下一个浪潮。近日,好利来集团推出全新宠物烘焙品牌Holiland Pet,据介绍,H

  • 国产手机为什么一机难求

      国产手机为什么一机难求  手机市场高质量供给不仅能满足不断升级的消费需求,还能激发消费升级意愿,释放新的发展动能。拥有与时俱进的创新力,培育更多新质生产力,国产手机

  • 冲上热搜!瑞幸9.9元咖啡有重大变化

      冲上热搜!瑞幸9.9元咖啡有重大变化  每经记者 杨昕怡 每经编辑 卢祥勇 刘雪梅  瑞幸似乎不再恋战。  近日,当节后复工的上班族们想点一杯咖啡“续命”时,意外发现

  • 广西南宁新能源全产业链加快成型

      广西南宁新能源全产业链加快成型  中新网南宁2月22日电 (黄令妍 韦雅丹)广西南宁市工信局党组书记、局长卢晴22日介绍,当地新能源全产业链加快成型,比亚迪、多氟多等一

  • 加拿大将要求钢铁进口商填报“熔化和浇注国家”信息

      加拿大将要求钢铁进口商填报“熔化和浇注国家”信息  中新网多伦多2月22日电 (记者 余瑞冬)加拿大政府要求,从今年11月5日开始,根据加拿大钢铁进口监测计划,钢铁进口商在

推荐资讯

  • 支付宝发布出境游消费新趋势

      近日,支付宝发布出境游消费新趋势:可持续出游成为出境游的新方式。国内游客除了想要更多的目的地优惠、更好的汇率、更地道的攻略,还希望去远方旅行时继续实践可持续低碳行

  • 北京五一假期将举办千余项促消费活动

      4月28日,北京市商务局宣布,“五一”假期为满足国内外游客和在京市民消费需求,将联合文旅、体育等相关部门和各区举办千余项促消费活动。活动旨在推出新供给,打造新消费场景,

  • 绝望的治疗:杜拉斯的电影与文学

    2024年是玛格丽特·杜拉斯诞辰110周年。北京法国文化中心于4月举办杜拉斯电影回顾展,《印度之歌》《情人》《广岛之恋》等八部影视作品再次带

  • 米芾到底写了多少“第一山”?

    “二月天杨柳醉春烟,三月三来山青草漫漫。”在央视2024年的春节联欢晚会后,一首《上春山》传唱大江南北。既然要上春山,就要上天下“第一山”,那这“第

  • 科幻小说的独特能力是什么

    在不久前揭晓的第二届科幻星球奖获奖名单上,天瑞说符的《我们生活在南京》荣获“文学奖冠军·最佳科幻长篇小说”。小说以无线电技术这一专业

  • 一场破天荒的对话中,中西文化热烈碰撞

    为了京昆新歌剧《凯撒》的上海演出,当代传奇剧场艺术总监、著名演员吴兴国提前一周抵沪,与“昆曲王子”张军一起排练。今年2月,这部用京剧和昆曲演绎

  • 酒店业复苏:四大酒店重新洗牌,房价提升能否持续?丨文旅年报观察⑤

    21世纪经济报道记者 张赛男 实习生黄宏韬 上海报道“五一”假期临近,酒店市场重新点燃。来自携程的数据显示,“五一”期间,境内酒店搜索热度

  • 张家界旅游集团2024年一季度营收5861.47万元

      4月29日,张家界旅游集团发布2024年第一季度财报。财报显示,张家界旅游集团2024年一季度实现营业收入5861.47万元,同比下降8.48%;归属于上市公司股东的净利润亏损4648.19万

  • 途牛:五一假期国内长线游,出境游火爆

      5月5日,途牛旅游网发布《2024五一出游消费盘点》。《报告》数据显示,“五一”假期,一线、新一线城市用户的出游热情更高,出游人次占比达69%,北京、上海、南京、成都、广州、

  • 洲际酒店集团公布2024年第一季度财报

    5月7日,洲际酒店集团公布2024年第一季度财报。第一季度全球每间可售房收入(RevPAR)同比增长2.6%,其中美洲市场下降0.3%,欧洲、中东、非洲及亚洲市场(EMEAA)增长8.9%,大中华区市场增

  • 万科启动北京朝阳区首个“村地区管”租赁住房项目

      近日,北京万科在朝阳区的“G地块集体土地租赁住房项目”举行了开工奠基仪式,标志着朝阳区在集体土地租赁住房领域的创新探索迈出了实质性步伐。该项目由北京朝阳高碑店乡

  • 哈萨克斯坦本地电子钱包 Kaspi.kz 和蚂蚁集团达成合作

      近日,哈萨克斯坦本地电子钱包 Kaspi.kz 和蚂蚁集团达成合作,通过Alipay+ 跨境服务,Kaspi.kz用户在超过8000万支付宝商家均可扫码消费,实现“一部手机游中国”。至此,已有9个

  • 日榜
  • 周榜
  • 月榜