中新经纬3月16日电 题：为人工智能建立安全即发展的新理念
作者 赵保国 北京邮电大学经济管理学院教授
人工智能正加速向各类经济社会场景渗透，成为培育新质生产力的核心引擎，各行各业都在积极引入人工智能技术增效赋能，工具逐步普及化与规模化。然而，技术红利往往与风险挑战如影随形，生成式人工智能的爆发不仅带来了恶意滥用、系统性失灵等问题，其不确定性更成为当前全球治理的核心难题。
人工智能技术发展的“双刃剑”
技术发展与安全问题从来都是相伴相生。生成式人工智能大幅降低了内容生成的门槛，这也使得伪造犯罪低成本化和低门槛化，造成了“劣币驱逐良币”的现象。在实际应用中，人工智能技术可以实现深度伪造，正在系统性动摇现有社会信任基础，不法分子普遍开始利用人工智能技术合成虚假影像和声音来实施针对性的精准诈骗，普通民众难辨真假，深受其害。
当前，人工智能技术在带来便利的同时，也伴生了诸如涉诈APP、虚假信息传播及仿冒名人广告等新型风险。也有少部分高校学生在科研论文中使用人工智能工具生成论文，极大地影响了科研原创。关于人工智能生成内容在论文中的合规性，目前教育部门还没有出台统一的政策指导。
此外，在关键数据领域，如果国家重要部门有在直接采用基于公有云架构的通用模型，那么由于大模型特有的记忆机制，可能也会导致敏感数据在交互过程中被无意识地窃取或滥用。
为人工智能建立安全即发展的新理念
面对上述错综复杂的风险，我们必须确立安全即发展的新理念，推动治理重心从静态规则制定向动态日常执法进行转变。
检测防范在平台侧和技术供给端，鉴于目前各企业安全技术能力参差不齐，因此还是建议相关部门组织研发或授权标准化的大模型安全护栏以及AIGC内容标识检测工具，并要求相关服务商强制部署，以实现实时拦截恶意内容的生成与传播，定期巡检以防范日益增加的AI伪造内容。
同时，建议国家把人工智能深度伪造鉴定或者检测平台，作为人工智能安全基础设施进行建设。而对于掌握海量高价值数据、涉及国家机密的政府部门及重要行业，需要全面推行大模型的私有化+本地化的专用部署战略，确保数据不出域、不共享。
用户是最后一道防线，守护用户的正确认知是根本，建议有关部门或行业协会为普通民众提供AIGC鉴伪产品，并在主流社交平台嵌入一键鉴伪插件，确保公众日常在遇到疑似虚假信息时有工具可用、有地方可查。
目前，我国智能手机的使用已经完全普及，如果能够在终端侧提供AIGC鉴伪功能，在用户数据不用上云端，个人隐私不会泄露的情况下，做到防伪防诈，也是一个不错的途径。这不仅能提升全民信息素养，更能有效应对人工智能时代可能带来的潜在风险。(中新经纬APP)
中新经纬版权所有，未经授权，不得转载或以其他方式使用。
编辑：张宁 责任编辑：董湘依 贾亦夫
诺贝尔化学奖获得者阿龙・切哈诺沃：做研究保持好奇心很重要 中新网宁波3月17日电(林波)对于学生而言，如何找到研究的信心和价值，让他们有继续下去的动力？ “做研究保持好奇心很重要。”3月17日，2004年诺贝尔化学 3月21日是世界睡眠日，今年中国主题为“健康睡眠 人人共享”。人的一生约有三分之一的时间是在睡眠中度过，睡眠、运动、营养被视为保障机体正常发育和健康的三大要素。关于睡眠有哪些常见认知误 科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 3月21日，记者从陆军军医大学新桥医院获悉，该院普通外科开通甲乳结节AI早筛门诊，利用AI（人工智能）辅助诊断技术，成功为一名甲状腺乳头状癌患者成功实施手术提供了精准决策辅助。该院为重庆首家开通 21世纪经济报道记者 石恩泽 深圳报道操作系统似乎对地理入迷。鸿蒙和深圳，就像Windows和西雅图，也似Linux和赫尔辛基。这是地理与技术的紧密交融。深圳，可以说是鸿蒙的诞生之地，在全球科 聊到安卓电话的拍照，大部分用户还是比较认可的，而在与iPhone电话的对比中，用户也普遍以为安卓电话的拍照水平要比iPhone更好，当然这一说法也并非空穴来风，其背后的原因直接而明确。首先，硬件配置的竞争 。本文链接：赵保国：为人工智能建立安全即发展的新理念｜宅男财经http://www.sushuapos.com/show-2-15695-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： “2026年会是端侧AI需求爆发的元年”