随着人工智能大模型的不断发展，如何让其在“难”的问题上深入思考，而不是对所有问题“想个不停”？记者5月29日从中国科学院自动化研究所获悉，该所联合鹏城实验室提出了一种高效推理策略AutoThink，可让大模型实现自主切换思考模式，避免“过度思考”。
“当前，越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说，模型在回答问题之前要先生成一整段包含反复自我反思、自我验证的推理过程，然后再给出答案。
张启超表示，这一思考模式显著提升了大模型解决复杂问题的能力，但同时也带来了“过度思考”的问题，即在处理简单任务时也会生成冗余的思考过程。
“比如使用者对大模型提问‘2+3等于几’，大模型可能会从自然数定义讲起，列出加法交换律，甚至反复确认，最后才输出答案是5。”张启超说，这种不必要的“过度思考”现象在推理模型中广泛存在。
针对这一问题，AutoThink可赋予推理模型根据题目难度自主切换思考模式的能力，即通过所设计的提示词和多阶段强化学习，引导其自主决定是否进行深度思考。
张启超介绍，AutoThink提供了一种简单而有效的推理新范式——通过省略号提示配合三阶段强化学习，引导大模型不再“逢题必深思熟虑”，而是根据问题难度自主决定“是否思考”“思考多少”。在多个数学数据集上，AutoThink实现了准确率与效率平衡，既提升性能又节省算力，展示出较强的适应性和实用性。
据悉，AutoThink已集成于一站式智能科研平台ScienceOne，并将用于训练ScienceOne的基座大模型S1-Base。研发团队表示，让大模型“更聪明地思考、更简洁地表达”，是未来科学基础大模型演进的重要方向。
随着人工智能大模型的不断发展，如何让其在“难”的问题上深入思考，而不是对所有问题“想个不停”？记者5月29日从中国科学院自动化研究所获悉，该所联合鹏城实验室提出了一种高效推理策略AutoThink，可让大模型实现自主切换思考模式，避免“过度思考”。
“当前，越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说，模型在回答问题之前要先生成一整段包含反复自我反思、自我验证的推理过程，然后再给出答案。
张启超表示，这一思考模式显著提升了大模型解决复杂问题的能力，但同时也带来了“过度思考”的问题，即在处理简单任务时也会生成冗余的思考过程。
“比如使用者对大模型提问‘2+3等于几’，大模型可能会从自然数定义讲起，列出加法交换律，甚至反复确认，最后才输出答案是5。”张启超说，这种不必要的“过度思考”现象在推理模型中广泛存在。
针对这一问题，AutoThink可赋予推理模型根据题目难度自主切换思考模式的能力，即通过所设计的提示词和多阶段强化学习，引导其自主决定是否进行深度思考。
张启超介绍，AutoThink提供了一种简单而有效的推理新范式——通过省略号提示配合三阶段强化学习，引导大模型不再“逢题必深思熟虑”，而是根据问题难度自主决定“是否思考”“思考多少”。在多个数学数据集上，AutoThink实现了准确率与效率平衡，既提升性能又节省算力，展示出较强的适应性和实用性。
据悉，AutoThink已集成于一站式智能科研平台ScienceOne，并将用于训练ScienceOne的基座大模型S1-Base。研发团队表示，让大模型“更聪明地思考、更简洁地表达”，是未来科学基础大模型演进的重要方向。
中国科学院深圳先进技术研究院15日发布消息称，该院科研团队研发了一种具有靶向送药功能的磁驱软体机器人，该机器人能够根据器官内部环境的特点选择合适的运动模式，实现靶向送药的同时还可以控制 3月17日记者获悉，哈尔滨医科大学公共卫生学院副院长、教授田懋一与副研究员叶鹏鹏团队在一项研究中提出，应将预防老年人跌倒与国家基本公共卫生服务中各项服务流程融合起来。该研究全面梳理了 记者19日从兰州大学获悉，天华肉羊通过国家畜禽遗传资源委员会审定鉴定，成为我国首个适应高寒气候的肉羊品种。该品种由兰州大学草地农业科技学院李发弟教授和乐祥鹏教授团队，联合甘肃省武威市天 再打一局游戏就睡，再刷几个视频就睡，终于放下手机，关灯睡觉了……结果翻来覆去睡不着，半夜醒来再也睡不着，为什么明明睡着了，睡眠质量却不高？3月21日是世界睡眠日，最新发布的《2024中国 3月22日消息，今天，数码博主“数码闲聊站”曝光了一部新款千元机的部分配置。该博主表示，欧加（OPPO/一加）有个5500mAh超大电池的千元曲屏机，正在测试IP68级防尘防水效果，主打就是防水抗摔耐用。该博主最 俄罗斯国家航天集团23日发布消息说，俄当天成功发射了“联盟MS-25”载人飞船。消息说，莫斯科时间23日15时36分（北京时间20时36分），“联盟MS-25”载人飞船搭乘“联盟-2.1a”运载火箭从哈萨克斯坦境 。本文链接：我国科学家提出高效推理策略 可避免大模型“过度思考”http://www.sushuapos.com/show-2-12513-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。