虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
日前，盛世盈创氢能科技（陕西）有限公司（以下简称盛世盈创）与协氢（上海）新能源科技有限公司宣布达成战略合作，共同推进风冷氢燃料电池电堆全自动化生产线（以下简称风冷堆）的研发与生产。双方协议，将建设目 记者3月19日从天津大学获悉，该校环境学院刘庆岭教授团队与吉林大学于吉红院士团队以及天津工业大学梅东海教授团队合作，证明了无有机模板剂合成的具有OFF和ERI拓扑共生结构的Cu-T催化剂具有优 据中国科学院武汉植物园消息，我国科研人员在大别山区开展植物多样性科学考察时，发现了天门冬科天门冬属新物种，并将其命名为大别山天门冬。相关研究成果日前发表在国际知名植物分类学期刊《植物 3月22日黎明，太阳系中最明亮的行星金星与太阳系中拥有最多卫星的行星土星将在东南方低空近距离相伴，上演“结伴游”。北京星空摄影爱好者王俊峰2023年1月23日在北京西城区拍摄的金星（左上）、土星 3月24日是第29个世界防治结核病日，我国的宣传主题是“你我共同努力，终结结核流行”。在北京大学社会化媒体研究中心21日举办的“技术升级，加速我国终结结核流行进程”主题沙龙上，中国疾控中心结 近日，民航华东地区管理局向峰飞科技公司颁发V2000CG无人驾驶航空器系统型号合格证，这也是中国民航系统颁发的首个无人驾驶吨级电动垂直起降航空器型号合格证。航空器型号合格证取证是保障航空 。本文链接：北京：“虚拟数字人安全技术标准”征民意http://www.sushuapos.com/show-2-16302-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。