美国西奈山伊坎医学院一项最新研究发现，无论是放射科医生还是多模态大语言模型（LLM），都难以轻易区分由人工智能（AI）生成的深度伪造X光影像与真实医学影像。研究人员表示，这一发现凸显了AI生成医学影像可能带来的医疗安全与网络安全风险。相关论文发表于最新一期《放射学》杂志。
“深度伪造”是指看似真实但实际上由AI生成或篡改的视频、照片、图像或音频。AI生成的X光片真实度极高，能以假乱真，可能被用于医疗欺诈，例如伪造骨折影像用于诉讼取证。如果黑客入侵医院系统并植入合成医学影像，还可能篡改诊断结果，甚至破坏电子病历系统的可信度。
在这项回顾性研究中，来自美国、法国、德国、土耳其、英国和阿联酋6个国家12家医疗中心的17名放射科医生参与测试。研究共分析264张X光影像，分为两组：第一组数据包含多个解剖部位的真实影像以及由ChatGPT生成的影像；第二组数据为胸部X光片，其中一半为真实影像，另一半由斯坦福医学院研究人员开发的开源生成式AI扩散模型RoentGen生成。
结果显示，在未被告知研究目的的情况下，仅有41%的医生主动识别出AI生成图像。在明确告知后，医生区分真实与伪造影像的平均准确率为75%。
与此同时，GPT-4o（OpenAI）、GPT-5（OpenAI）、Gemini 2.5 Pro（谷歌）以及Llama 4 Maverick（Meta）四种多模态大模型也进行了识别测试，其准确率在57%—85%之间。即便是参与生成这些深度伪造影像的GPT-4o模型本身，也无法识别全部伪造影像。
研究人员总结称，AI生成的医学影像往往存在一些“过于完美”的特征，例如骨骼表面过于光滑、脊柱过直、肺部过度对称、血管分布过于均匀，以及骨折断面异常整齐等。
为降低风险，研究团队建议，应在医学影像中嵌入不可见数字水印、增加加密签名等技术手段，以防止影像被篡改，同时加强医学影像AI鉴别能力培训。
【总编辑圈点】
其实，最先出现类似问题的是文字领域。AI从人类语料库中学习如何写作，人类又试图从AI生成内容中揪出“机味”。如今，人类原创的内容和AI撰写的内容混在一起，已难以分辨。如今，同样的难题又进入图像领域。资深医生和大模型自己，都难以准确判断哪些医学影像被AI动了手脚。这项研究给医疗安全敲响了警钟，它甚至可能动摇整个医疗系统的可信度。我们看到，AI的深度渗透，正给所有行业带来前所未有的挑战。
（原标题为《医学影像安全面临新挑战：AI生成的深度伪造X光片能以假乱真》）
美国西奈山伊坎医学院一项最新研究发现，无论是放射科医生还是多模态大语言模型（LLM），都难以轻易区分由人工智能（AI）生成的深度伪造X光影像与真实医学影像。研究人员表示，这一发现凸显了AI生成医学影像可能带来的医疗安全与网络安全风险。相关论文发表于最新一期《放射学》杂志。
“深度伪造”是指看似真实但实际上由AI生成或篡改的视频、照片、图像或音频。AI生成的X光片真实度极高，能以假乱真，可能被用于医疗欺诈，例如伪造骨折影像用于诉讼取证。如果黑客入侵医院系统并植入合成医学影像，还可能篡改诊断结果，甚至破坏电子病历系统的可信度。
在这项回顾性研究中，来自美国、法国、德国、土耳其、英国和阿联酋6个国家12家医疗中心的17名放射科医生参与测试。研究共分析264张X光影像，分为两组：第一组数据包含多个解剖部位的真实影像以及由ChatGPT生成的影像；第二组数据为胸部X光片，其中一半为真实影像，另一半由斯坦福医学院研究人员开发的开源生成式AI扩散模型RoentGen生成。
结果显示，在未被告知研究目的的情况下，仅有41%的医生主动识别出AI生成图像。在明确告知后，医生区分真实与伪造影像的平均准确率为75%。
与此同时，GPT-4o（OpenAI）、GPT-5（OpenAI）、Gemini 2.5 Pro（谷歌）以及Llama 4 Maverick（Meta）四种多模态大模型也进行了识别测试，其准确率在57%—85%之间。即便是参与生成这些深度伪造影像的GPT-4o模型本身，也无法识别全部伪造影像。
研究人员总结称，AI生成的医学影像往往存在一些“过于完美”的特征，例如骨骼表面过于光滑、脊柱过直、肺部过度对称、血管分布过于均匀，以及骨折断面异常整齐等。
为降低风险，研究团队建议，应在医学影像中嵌入不可见数字水印、增加加密签名等技术手段，以防止影像被篡改，同时加强医学影像AI鉴别能力培训。
【总编辑圈点】
其实，最先出现类似问题的是文字领域。AI从人类语料库中学习如何写作，人类又试图从AI生成内容中揪出“机味”。如今，人类原创的内容和AI撰写的内容混在一起，已难以分辨。如今，同样的难题又进入图像领域。资深医生和大模型自己，都难以准确判断哪些医学影像被AI动了手脚。这项研究给医疗安全敲响了警钟，它甚至可能动摇整个医疗系统的可信度。我们看到，AI的深度渗透，正给所有行业带来前所未有的挑战。
（原标题为《医学影像安全面临新挑战：AI生成的深度伪造X光片能以假乱真》）
3月17日，记者从陆军军医大学西南医院获悉，该院消化内科教授陈磊团队联合陆军军医大学教授张定林首次提出，活性氧响应性纳米材料能够把程序性死亡配体-1蛋白精准传递到肠道炎症部位，有效缓解肠炎 科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 3月20日8时31分，探月工程四期鹊桥二号中继星由长征八号遥三运载火箭在中国文昌航天发射场成功发射升空。火箭飞行24分钟后，星箭分离，将鹊桥二号中继星直接送入近地点高度200公里、远地点高度42 2024年2月，OpenAI公司推出了文生视频人工智能（AI）模型Sora。OpenAI展示了Sora利用少量简短文字提示即可创建逼真视频的能力，并提供了包括一位女士在闪烁着霓虹灯的东京街道漫步，以及一只狗在两个 3月22日消息，根据huawei旗舰机型迭代策略，今年上半年将发布影像旗舰huaweiP70系列。然而，这两天一张流出的图片声称huaweiP70将于3月23日开始预售，并附有各个版本的具体售价。但据媒体报道，huawei相关 3月24日消息，今天数码博主“厂长是关同学”曝光了huaweiMate 70系列电话的部分配置信息。该博主表示，huawei全新的Mate 70系列首发会搭载新的芯片，芯片的性能差不多可以比肩5.5nm，还是值得期待的。同 。本文链接：AI生成的深度伪造X光片能以假乱真，医学影像安全面临新挑战http://www.sushuapos.com/show-2-15830-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。