不法分子利用AI技术行骗,专家提醒可从“眼球运动”“面部细节”等发现漏洞,也可以要求对方做一些大幅度动作,包括转头等,再根据画面、面部扭曲程度来判定真伪
最近,复旦大学附属华山医院感染科主任张文宏“被带货”事件很受关注。不法分子利用AI技术,将张文宏在其他场合的讲话视频篡改为“张文宏在推广一种蛋白棒”,部分消费者信以为真。对此,张文宏接受媒体采访时辟谣,并表示AI生成信息像蝗灾一样,一次又一次发生,虽然向平台投诉,但感觉难以解决问题。
AI生成的视频真的没办法识别、治理吗?申城好网民专家、中国图象图形学学会(CSIG)文档图像分析与识别专委会常务委员、上海市图像图形学学会(SIGA)理事、合合信息图像算法研发总监郭丰俊给出了积极的回答。
眨眼、转头、站立可让假视频露馅
对一些粗制滥造或技术不太成熟的AI视频,观看者通过一些细节就能识别。
例如,“张文宏带货”属于非实时视频,观看者可以从“动作重复性”“眼球运动”“面部细节”等来发现AI生成的漏洞。目前,社交平台上的很多数字人也有同样的瑕疵。
具体来看,AI生成的视频可能会频繁重复某种动作,因为生成模型在动作匹配上存在局限,只学习到几个关键动作,然后通过重复来呈现一段视频。眼球运动、面部细节等是AI生成视频最容易“露馅”的地方,AI生成人物的眨眼频率、嘴部动作等往往不自然、不真实。
针对AI生成的实时视频,如用AI换脸等技术生成的“某位明星给你打电话”“某位朋友向你借款”等视频,也有识别办法。这个时候,观看者可以要求对方做一些大幅度的动作,包括转头、站起来等,再根据画面、面部扭曲程度来判定真伪。因为AI合成的实时视频往往无法在短时间内实现高质量渲染,从而出现漏洞。
目前,很多AI生成视频都存在缺乏个性化表情动作、画面抖动、违反物理规律等现象,它们属于“连续伪造画面的时序瑕疵”,有针对性地对鉴伪模型进行优化,就能从技术层面识别这类造假行为。还有,不少AI生成的视频人物面部会有明显瑕疵,包括内脸区域的五官与外脸区域的发型等不一致;在针对特定名人的AI造假视频中,这类问题更明显。技术研发者可以有的放矢地训练对应的鉴伪大模型,从而提高鉴伪效率。
注入“数字水印”,进行主动防御
随着AI技术发展,AI生成的视频已经越来越“精美”乃至“完美”,不要说人眼无法识别,可能连普通的鉴伪大模型都无能为力。这个时候,还有什么办法来识别AI造假?
郭丰俊表示,“用技术打败技术”已经成为很多AI开发者的共识,目前有不少开发者发布了深度伪造(Deepfake)专业检测器工具。比如,深度伪造检测平台RealityDefender可以为企业和政府检测图像、视频、音频、文本中的深度伪造等。
不过,这类检测都属于“被动防御”,就是利用技术来判断图像、视频中是否存在AI造假的情况。在此基础上,很有必要引入“主动防御”策略,通过在图像和视频中注入“半脆弱性数字水印”,从源头预防造假行为,并为“被动防御”提供更有力的技术支撑。
所谓“半脆弱性数字水印”,是指在不破坏原有图像、视频内容的基础上,在人脸等重要表征上嵌入隐藏的、肉眼不可见的水印信息。图像或视频一旦被编辑修改,水印就会被破坏;而使用数字水印检测器能很容易发现图像或视频是否进行过编辑,以及在哪里进行了编辑。
简而言之,“半脆弱性数字水印”与目前AI生成图像、视频时产生的“水印”不一样——它们并不直接呈现在图像或视频上,而是“刻”在图像与视频里,一经剪辑就会被破坏。
植入“半脆弱性数字水印”的身份证图像生动展示了这一新技术的价值:用肉眼看,这些身份证图像没有任何异常;但专业检测系统一扫描,立刻提示它们进行过编辑,并标注出编辑的部分——因为图像的“半脆弱性数字水印”被破坏了。
郭丰俊说,一方面,通过教育和宣传,能提高公众对AI造假惯用场景、识别方法的了解。另一方面,也要强化视频制作者、发布平台的责任感,除了在视频发布后有“被动防御”举措,更要有“主动防御”意识。如果创作者在发布原始视频时,就使用“半脆弱性数字水印”,或者平台为始发的视频、图像注入这一数字水印,那么此后不仅能通过数字水印检测器验证视频的真实性和完整性,还能实现溯源管理。
春节假期北京接待游客1749.5万人次 旅游市场热度攀升 中新网北京2月18日电 (记者 徐婧)记者17日从北京市文化和旅游局获悉,春节假期(2月10日至17日),北京接待游客1749.5万人次,按可比口径同比增长37.4%,比2019年同 中新经纬2月18日电(李晓萱)打扰一下,龙年开工第一天,你领到老板发的红包了吗? 微信推出面对面红包 据微信官方18日消息称,微信推出了“面对面红包”。具体内容如下: 新年开工,一声:“老板,新年好!”道出了多少期 长三角观察|揽人、赶工、抢订单:春节拼经济“热辣滚烫” 2月10日是正月初一,上午10点,满载工业品、电子产品和衣帽服饰的新春首列“义新欧”中欧班列从浙江义乌铁路口岸出发,驶往西班牙马德里。 在江苏昆山的华 作者:秦天宝(武汉大学环境法研究所所长)2023年11月,中央全面深化改革委员会第三次会议审议通过了《关于全面推进美丽中国建设的意见》《关于加强生态环境分区管控的指导意见》等重要文件。习近平 春节前后是定亲结婚的高峰期,今年春节前夕,最高人民法院发布的“彩礼新规”正式施行。近日,多地适用新规对彩礼官司作出判决或调解。“彩礼新规”正式施行2月1日,最高法发布的《关于审理涉彩礼纠纷案件适 新华社记者董瑞丰“基层群众愿不愿意在‘家门口’接受基本医疗服务,关键在于县域医共体牵头医院有没有硬核实力。”去年3月,全国政协委员成岳冲提交了一份提案,深入分析我国县域医共体建设存 。本文链接:“朋友视频借钱”,这是真的吗http://www.sushuapos.com/show-5-39568-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
下一篇: 13.2万瓶“特供酒”被销毁!