当前，基于生成式人工智能（AIGC）伪造技术的电信网络诈骗手段不断升级，呈现范围扩大化、套路多样化、形式隐蔽化等特点，危害社会安全。科研人员正在开发更先进的人工智能工具和技术，识别并阻止人工智能滥用行为。
“不管是以往的PS篡改识别，还是如今的AIGC鉴伪，都属于人工智能鉴伪的被动检测方式。”在第十三届中国创新创业大赛创新挑战赛（浙江）暨2024年浙江省技术需求“揭榜挂帅”大赛总决赛上，杭州电子科技大学网络空间安全学院副教授、浙江—法国数字媒体取证联合实验室负责人乔通展示了其团队研发的“面向电诈场景的音视频鉴伪溯源技术”，这种技术变“被动检测”为“主动防御”，有望为人工智能鉴伪提供新思路。
特殊水印实现“事前防御”
上网搜索“AI换脸”，相关应用软件和影音图像作品比比皆是。同时，深度人脸伪造带来的安全威胁也逐渐显现。
香港警方曾披露一起人工智能“多人换脸”诈骗案：不法分子利用人工智能深度伪造技术，通过某跨国公司在社交平台的资料，仿造多位高层管理人员的形象和声音，在视频会议中进行冒充，诱骗该公司香港分公司财务职员进行转账操作，涉案金额达2亿港币。
此前，针对人脸伪造，人们往往采用“事后鉴别”的被动检测、被动取证方法，但这种方法难以及时、有效遏制伪造人脸图像的传播。主动防御方法由于“事前防御”的属性，得到越来越多学者关注。
然而，目前大多数主动防御方法只能针对单一或特定的几种伪造模型进行防御，面对日益多样化和不断升级的人脸伪造技术，会显得力不从心。
为此，乔通团队开发出了一种可扩展通用对抗性（SUA）水印，将其嵌入在需要保护的视频、图像或语音素材中。当素材被用于人工智能加工，就会触发SUA水印的“引信”，直接破坏生成后的内容。
这一技术路线此前已有所应用，但局限性较大。乔通介绍，以往单个水印只能针对一种模型，一段素材可能要嵌入多个水印才能起效，而SUA水印则无须基于所有伪造模型进行重新训练。大量实验证明，SUA水印不仅能节省算力，还能有效扩展主动防御范围，显著提高主动防御效果，能大大提高鉴伪效率。
“火眼金睛”进行人脸识别
2024年9月，杭州公安通报了一起利用人工智能技术侵犯公民个人信息案件：有不法分子使用人工智能换脸大模型突破头部平台人脸认证，窃取用户隐私信息。
“登录银行或者其他App时，用户会被要求做摇头、眨眼的动作，即进行人脸活体检测。”乔通说，不法分子通过黑色产业链，可以获取目标对象的人脸照片、音频素材，伪造多模态媒体素材，然后实施诈骗。
为保证平台安全，乔通建议，进行人脸识别前应再加一道无形的核验环节。据了解，针对目前市场上主流的人工智能伪造工具，乔通团队开发的人工智能鉴伪系统，能秒速级识别出人工智能图像及视频，并给出相应分析报告，准确率95%以上。
“相比大型银行，地方中小银行对防伪技术的投入相对不足。”乔通说，团队目前在与地方公安、小型金融机构等进行合作，研发定制化技术，在活体检测环节为相关平台装上“火眼金睛”，判定屏幕那端“是人还是妖”。
在乔通看来，人工智能鉴伪和深度伪造是此消彼长的关系，需要更多机构、企业参与，推动人工智能鉴伪技术突破和应用落地，共同搭建人工智能时代的网络安全防火墙。“我们团队正积极对接企业，探索商业化模式。”乔通说，“要筑牢人工智能安全底座，让反诈举措更加柔性。”
当前，基于生成式人工智能（AIGC）伪造技术的电信网络诈骗手段不断升级，呈现范围扩大化、套路多样化、形式隐蔽化等特点，危害社会安全。科研人员正在开发更先进的人工智能工具和技术，识别并阻止人工智能滥用行为。
“不管是以往的PS篡改识别，还是如今的AIGC鉴伪，都属于人工智能鉴伪的被动检测方式。”在第十三届中国创新创业大赛创新挑战赛（浙江）暨2024年浙江省技术需求“揭榜挂帅”大赛总决赛上，杭州电子科技大学网络空间安全学院副教授、浙江—法国数字媒体取证联合实验室负责人乔通展示了其团队研发的“面向电诈场景的音视频鉴伪溯源技术”，这种技术变“被动检测”为“主动防御”，有望为人工智能鉴伪提供新思路。
特殊水印实现“事前防御”
上网搜索“AI换脸”，相关应用软件和影音图像作品比比皆是。同时，深度人脸伪造带来的安全威胁也逐渐显现。
香港警方曾披露一起人工智能“多人换脸”诈骗案：不法分子利用人工智能深度伪造技术，通过某跨国公司在社交平台的资料，仿造多位高层管理人员的形象和声音，在视频会议中进行冒充，诱骗该公司香港分公司财务职员进行转账操作，涉案金额达2亿港币。
此前，针对人脸伪造，人们往往采用“事后鉴别”的被动检测、被动取证方法，但这种方法难以及时、有效遏制伪造人脸图像的传播。主动防御方法由于“事前防御”的属性，得到越来越多学者关注。
然而，目前大多数主动防御方法只能针对单一或特定的几种伪造模型进行防御，面对日益多样化和不断升级的人脸伪造技术，会显得力不从心。
为此，乔通团队开发出了一种可扩展通用对抗性（SUA）水印，将其嵌入在需要保护的视频、图像或语音素材中。当素材被用于人工智能加工，就会触发SUA水印的“引信”，直接破坏生成后的内容。
这一技术路线此前已有所应用，但局限性较大。乔通介绍，以往单个水印只能针对一种模型，一段素材可能要嵌入多个水印才能起效，而SUA水印则无须基于所有伪造模型进行重新训练。大量实验证明，SUA水印不仅能节省算力，还能有效扩展主动防御范围，显著提高主动防御效果，能大大提高鉴伪效率。
“火眼金睛”进行人脸识别
2024年9月，杭州公安通报了一起利用人工智能技术侵犯公民个人信息案件：有不法分子使用人工智能换脸大模型突破头部平台人脸认证，窃取用户隐私信息。
“登录银行或者其他App时，用户会被要求做摇头、眨眼的动作，即进行人脸活体检测。”乔通说，不法分子通过黑色产业链，可以获取目标对象的人脸照片、音频素材，伪造多模态媒体素材，然后实施诈骗。
为保证平台安全，乔通建议，进行人脸识别前应再加一道无形的核验环节。据了解，针对目前市场上主流的人工智能伪造工具，乔通团队开发的人工智能鉴伪系统，能秒速级识别出人工智能图像及视频，并给出相应分析报告，准确率95%以上。
“相比大型银行，地方中小银行对防伪技术的投入相对不足。”乔通说，团队目前在与地方公安、小型金融机构等进行合作，研发定制化技术，在活体检测环节为相关平台装上“火眼金睛”，判定屏幕那端“是人还是妖”。
在乔通看来，人工智能鉴伪和深度伪造是此消彼长的关系，需要更多机构、企业参与，推动人工智能鉴伪技术突破和应用落地，共同搭建人工智能时代的网络安全防火墙。“我们团队正积极对接企业，探索商业化模式。”乔通说，“要筑牢人工智能安全底座，让反诈举措更加柔性。”
未来的足球场，人工智能（AI）当“大脑”？《自然·通讯》19日发表一项来自谷歌深度思维的最新成果，研究团队报告了一个名为“TacticAI”的系统，能在足球比赛中预测角球结果并提供实际且准确的战 英国《自然》周刊网站3月12日刊登题为《OpenAI的文生视频工具Sora会如何改变科学——以及社会》的文章，作者为乔纳森·奥卡拉汉，内容编译如下：美国开放人工智能研究中心(OpenAI 眼眸深邃似海、璨如星河，中国医学科学院生物医学工程研究所眼科诊疗技术研发团队（以下简称“团队”）正是眼眸“侦探”。该团队不久前被授予“国家卓越工程师团队”称号。别看人眼只有8克左右，却 记者3月21日获悉，由中国科学院自动化研究所和中国科学院香港创新研究院联合研发的医疗领域AI多模态大模型——CARES Copilot 1.0日前在香港正式发布，现已面向香港神经外科医生开放使 3月22日消息，xiaomi集团的许斐在微博上表示，xiaomiCivi 4 Pro的预售业绩远超预期，尤其是春野绿配色，许多门店都出现了缺货情况。据了解，xiaomiCivi 4 Pro的春野绿后盖左侧采用了全新的绮彩鎏光工艺，通 3月22日，中国互联网络信息中心（CNNIC）发布第53次《中国互联网络发展状况统计报告》（以下简称《报告》）。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网 。本文链接：“被动检测”变为“主动防御” AI鉴伪技术开始反制AI“换脸”诈骗http://www.sushuapos.com/show-2-10379-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 以“链式思维”加快人工智能人才队伍建设
下一篇： “机器脑”亮相亚冬会测试赛