中新网北京2月24日电 (记者 张素)2月23日，清华大学与瑞莱智慧联合团队推出大语言模型RealSafe-R1。研发团队代表介绍说，实验数据表明RealSafe-R1安全性提升显著，“安全增强版DeepSeek”可为更多应用提供可靠坚实基座。
连日来，国产开源大模型DeepSeek的优异表现备受关注，其在自然语言处理和多任务推理方面的能力展现了强大的技术实力，尤其是在复杂问题解决和创造性任务中表现出色。业内专家同时提醒，DeepSeek R1和V3在面对一些安全性挑战时仍存在一定的局限性。
针对“安全对齐机制不足”这一当前开源大模型的通病，清华瑞莱联合团队提出基于模型自我提升的安全对齐方式。“大模型的安全性瓶颈是本质的，只有通过持续投入和攻坚补齐短板弱项，人工智能产业才能真正实现高质量发展。”瑞莱智慧首席执行官田天说。
据介绍，研发团队将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化。具体来说，研发团队对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型。
实验数据表明，RealSafe-R1安全性提升显著，在多个基准测试中有效增强了对各种越狱攻击的抵抗力，并减轻了安全与性能之间“跷跷板”现象。有评论认为，这为开源大模型安全发展与风险治理提供了创新性解决方案。
田天表示，RealSafe-R1各尺寸模型及数据集，将于近期向全球开发者开源。他进一步指出，这一创新成果将为开源大模型的安全性加固提供有力支持，也为政务、金融、医疗等场景的应用提供更为可靠的坚实基座。(完)
（原标题：清华瑞莱联合团队：“安全增强版DeepSeek”可为应用提供坚实基座）
根据近日发表于《科学-机器人》的一项研究，人们可以学习用眼睛和胸部肌肉控制第三条手臂。研究人员称，这种“额外肢体”可 习近平总书记强调，要加大应用基础研究力度，以推动重大科技项目为抓手，打通“最后一公里”，拆除阻碍产业化的“篱笆墙”，疏通 临近年末，开源领域“火力全开”：华为以超过120个上游软件和多个主流开源项目的贡献值，在多个主流开源项目中排名第一；上 碳中和目标倒逼产业结构与能源结构向绿色低碳方向转变。作为一种具备诸多优点的清洁能源，氢能迎来重要的发展机遇期， 随着人们生活节奏的加快和对便捷食品需求的增加，预制菜产业正呈现强劲的发展势头。2月13日，《中共中央、国务院关于做 近日，日本新潟大学等机构参与的一个国际研究团队报告，他们利用载人潜水器调查了日本海沟，在海底发现了2011年日本“ 。本文链接：清华团队与合作者推出大语言模型RealSafe-R1http://www.sushuapos.com/show-11-17751-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 学者成功研发出磁性软材料逆向编程技术