国产推理大模型DeepSeek-R1的诞生，标志着我国AI技术从“追赶者”向“领跑者”跨越。DeepSeek-R1成为全新的生产力工具，其开源、透明、免费等特质，尤其适合政府与企业开展私有化部署，但随之而来的安全问题也日益凸显。
今年两会期间，全国政协委员、360集团创始人周鸿祎再度聚焦大模型安全。他认为，DeepSeek-R1等先进模型带来了前所未有的机遇，也同样面临无法通过传统网络安全手段解决的安全挑战，呼吁各界共同努力，构建更加完善的大模型应用安全治理体系，在保障安全的前提下最大化地释放大模型技术的潜力。
周鸿祎表示，“开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型、场景大模型，连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进‘智改数转’，实现降本增效。然而大模型存在的幻觉、内容安全等诸多问题无法通过传统安全方案有效化解，一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患，都极有可能诱发整个生产环境爆发系统性风险。”
周鸿祎认为，大模型应用安全主要集中在基座模型、知识库和智能体三个方面。基座模型安全方面，由于大模型普遍存在的幻觉现象，特别是在生成文本时可能输出与现实不符的信息，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。知识库安全方面，政府和企业核心数据资产存储于内部知识库中，若缺乏有效的安全控制措施，未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。智能体安全方面，智能体通常与政府、企业内部各类IT、邮件、控制系统相连，一旦遭受攻击，可能会引发一系列连锁反应，从发送有害邮件到中断生产线运作，造成严重的物理损害。
针对上述挑战，周鸿祎介绍，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型-知识库-智能体”的全链路安全体系，护航政府与企业“智改数转”。
为进一步强化这一防御体系，周鸿祎建议采取两项措施：一是推动安全技术创新与成果转化。建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业，针对人工智能应用所涉及的基座模型、知识库、智能体等安全问题，基于安全大模型技术开展研发工作，加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。二是组建产业联盟，推广安全产品。引导相关链主企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部实现技术成果共享，共同开展产品及服务测试，待产品与服务成熟稳定后，再向更广阔的市场加以推广。
国产推理大模型DeepSeek-R1的诞生，标志着我国AI技术从“追赶者”向“领跑者”跨越。DeepSeek-R1成为全新的生产力工具，其开源、透明、免费等特质，尤其适合政府与企业开展私有化部署，但随之而来的安全问题也日益凸显。
今年两会期间，全国政协委员、360集团创始人周鸿祎再度聚焦大模型安全。他认为，DeepSeek-R1等先进模型带来了前所未有的机遇，也同样面临无法通过传统网络安全手段解决的安全挑战，呼吁各界共同努力，构建更加完善的大模型应用安全治理体系，在保障安全的前提下最大化地释放大模型技术的潜力。
周鸿祎表示，“开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型、场景大模型，连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进‘智改数转’，实现降本增效。然而大模型存在的幻觉、内容安全等诸多问题无法通过传统安全方案有效化解，一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患，都极有可能诱发整个生产环境爆发系统性风险。”
周鸿祎认为，大模型应用安全主要集中在基座模型、知识库和智能体三个方面。基座模型安全方面，由于大模型普遍存在的幻觉现象，特别是在生成文本时可能输出与现实不符的信息，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。知识库安全方面，政府和企业核心数据资产存储于内部知识库中，若缺乏有效的安全控制措施，未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。智能体安全方面，智能体通常与政府、企业内部各类IT、邮件、控制系统相连，一旦遭受攻击，可能会引发一系列连锁反应，从发送有害邮件到中断生产线运作，造成严重的物理损害。
针对上述挑战，周鸿祎介绍，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型-知识库-智能体”的全链路安全体系，护航政府与企业“智改数转”。
为进一步强化这一防御体系，周鸿祎建议采取两项措施：一是推动安全技术创新与成果转化。建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业，针对人工智能应用所涉及的基座模型、知识库、智能体等安全问题，基于安全大模型技术开展研发工作，加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。二是组建产业联盟，推广安全产品。引导相关链主企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部实现技术成果共享，共同开展产品及服务测试，待产品与服务成熟稳定后，再向更广阔的市场加以推广。
南方财经全媒体记者马嘉璐 广州报道如何划分一般数据、重要数据、核心数据终于有了国标版“参考答案”。3月21日，国家标准GB/T 43697-2024《数据安全技术 数据分类分级规则》（以下简 “AI热潮”有人欢喜又有人忧：新兴市场遭资金外流！ 财联社3月20日讯(编辑 黄君芝)巴西亿万富翁、巴西金融公司Banco BTG Pactual SA创始人Andre Esteves表示，人工智能(AI)股票持续上涨导致发展中国家资本市场资金 中国气象局下一代大气数值模式日前发布。该模式采用完全自主的动力框架算法——多矩约束有限体积方法为基础算法，进一步提升全球公里级和区域百米级尺度数值预报的精度，显著减小全球 3月23日消息，xiaomi集团王晓雁晒出了xiaomiCivi 4 Pro限定色真机照，该系列共有三款颜色，分别是蓝色、粉色和黑与白，定价为3599元，将于4月1日开始发售。据了解，xiaomiCivi 4 Pro限定色整体设计更像专业 3月22日，中国互联网络信息中心（CNNIC）发布第53次《中国互联网络发展状况统计报告》（以下简称《报告》）。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网 3月23日，“天卫科技03星”暨“华祥苑壹号”卫星在厦门举行出征仪式，这是由厦门本土企业天卫科技制造研发的第三颗服务当地建设的商业卫星，标志着厦门航天卫星应用领域商业化、产业化发展更进一 。本文链接：DeepSeek开启AI新时代，应完善大模型安全治理http://www.sushuapos.com/show-2-10965-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： “AI医生”未来将应用于哪些场景？
下一篇： 科技金融加速光子产业腾飞