中新经纬3月16日电 题：为人工智能建立安全即发展的新理念
作者 赵保国 北京邮电大学经济管理学院教授
人工智能正加速向各类经济社会场景渗透，成为培育新质生产力的核心引擎，各行各业都在积极引入人工智能技术增效赋能，工具逐步普及化与规模化。然而，技术红利往往与风险挑战如影随形，生成式人工智能的爆发不仅带来了恶意滥用、系统性失灵等问题，其不确定性更成为当前全球治理的核心难题。
人工智能技术发展的“双刃剑”
技术发展与安全问题从来都是相伴相生。生成式人工智能大幅降低了内容生成的门槛，这也使得伪造犯罪低成本化和低门槛化，造成了“劣币驱逐良币”的现象。在实际应用中，人工智能技术可以实现深度伪造，正在系统性动摇现有社会信任基础，不法分子普遍开始利用人工智能技术合成虚假影像和声音来实施针对性的精准诈骗，普通民众难辨真假，深受其害。
当前，人工智能技术在带来便利的同时，也伴生了诸如涉诈APP、虚假信息传播及仿冒名人广告等新型风险。也有少部分高校学生在科研论文中使用人工智能工具生成论文，极大地影响了科研原创。关于人工智能生成内容在论文中的合规性，目前教育部门还没有出台统一的政策指导。
此外，在关键数据领域，如果国家重要部门有在直接采用基于公有云架构的通用模型，那么由于大模型特有的记忆机制，可能也会导致敏感数据在交互过程中被无意识地窃取或滥用。
为人工智能建立安全即发展的新理念
面对上述错综复杂的风险，我们必须确立安全即发展的新理念，推动治理重心从静态规则制定向动态日常执法进行转变。
检测防范在平台侧和技术供给端，鉴于目前各企业安全技术能力参差不齐，因此还是建议相关部门组织研发或授权标准化的大模型安全护栏以及AIGC内容标识检测工具，并要求相关服务商强制部署，以实现实时拦截恶意内容的生成与传播，定期巡检以防范日益增加的AI伪造内容。
同时，建议国家把人工智能深度伪造鉴定或者检测平台，作为人工智能安全基础设施进行建设。而对于掌握海量高价值数据、涉及国家机密的政府部门及重要行业，需要全面推行大模型的私有化+本地化的专用部署战略，确保数据不出域、不共享。
用户是最后一道防线，守护用户的正确认知是根本，建议有关部门或行业协会为普通民众提供AIGC鉴伪产品，并在主流社交平台嵌入一键鉴伪插件，确保公众日常在遇到疑似虚假信息时有工具可用、有地方可查。
目前，我国智能手机的使用已经完全普及，如果能够在终端侧提供AIGC鉴伪功能，在用户数据不用上云端，个人隐私不会泄露的情况下，做到防伪防诈，也是一个不错的途径。这不仅能提升全民信息素养，更能有效应对人工智能时代可能带来的潜在风险。(中新经纬APP)
中新经纬版权所有，未经授权，不得转载或以其他方式使用。
编辑：张宁 责任编辑：董湘依 贾亦夫
近日，美国纽约州立大学石溪分校科学家菲格罗阿等人在一篇发表于《自然·量子信息》上的论文中称，他们通过把两个独立的光子存储在铷气里，首次在室温条件下构建了一个量子存储器网络。鉴于 所谓香喷喷的婴儿，到底是源于人们的爱意，还是说确有其香？《通讯·化学》21日一项小型研究首次分析了婴儿和青少年体味化学组成的差异。研究显示，有两种较难闻的化合物仅在青少年体味样本中 3月22日消息，中国互联网络信息中心（CNNIC）今天发布了《中国互联网络变化状况计算报告》。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网普及率达77.5%。截 3月24日，据央视财经消息，在今天开幕的中国发展高层论坛2024年年会现场，苹果公司首席执行官蒂姆·库克回应记者提问表示，苹果公司的Apple Vision Pro头显产品将在今年年内于中国市场上市， 全球首台无细胞蛋白质合成生物反应器、全球首台全高温超导托卡马克装置（洪荒70）、64比特超导量子计算机研发与产业化项目、深海可燃冰探采重载作业机器人系统研制、载人电动复合翼垂直起降飞行 俄罗斯国家航天集团23日发布消息说，俄当天成功发射了“联盟MS-25”载人飞船。消息说，莫斯科时间23日15时36分（北京时间20时36分），“联盟MS-25”载人飞船搭乘“联盟-2.1a”运载火箭从哈萨克斯坦境 。本文链接：赵保国：为人工智能建立安全即发展的新理念｜宅男财经http://www.sushuapos.com/show-2-15695-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： “2026年会是端侧AI需求爆发的元年”