【科学随笔·我见AI】
最近，四岁的女儿向我“汇报”幼儿园生活时，绘声绘色地描述她与一只霸王龙交朋友的故事：她们一起抓小恐龙，因为跷跷板闹翻，又交换零食和好……逻辑严密，细节丰富——尽管她的幼儿园里连只仓鼠都没有。细究之下才知，这孩子原来把绘本、动画和现实糅合在一起，用童言童语编织出一个“合理”的故事。
此情此景，也让我想到当下人工智能（AI）的“幻觉”现象：它能将虚构与真实无缝拼接，生成看似严谨实则荒诞的答案，仿佛一个捧着百科全书满嘴跑火车的天才儿童。
从前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可见的速度重塑生活。它既能帮中学生秒解几何题，也能替小说家生成缠绵的剧情。而若抛出一些不着边际的问题，譬如“从化学视角解析孙悟空火眼金睛是怎样炼成的”，它也能像模像样地编造出一大篇学术分析，甚至煞有介事地标注出参考文献。更令人啼笑皆非的是，当遭到质疑时，它会杜撰更多论据来自圆其说。这种真假难辨的“知识幻觉”一如沙上楼阁，看似气势如虹，实则千疮百孔。而在AI狂飙突进的当下，类似的“幻觉”还在被大批量生产出来。
要理解AI为何谎话连篇，得从它的学习方式说起。今天的AI普遍基于大语言模型（LLM）。在它问世之前，传统AI就像循规蹈矩的优等生，全靠死记硬背语法规则来答题解疑；而大语言模型更像炼丹术士，将庞大的语料放入“丹鼎”以期炼得“金丹”。哲学家维特根斯坦曾说，语言的意义不在预设的本质中，而在于日常的使用——就像孩子学说话，没人教“主谓宾”，全靠观察大人如何在饭桌上说“吃”，在踢足球时喊“跑”——维特根斯坦称之为“语言游戏”。大语言模型正是对这种游戏的算法化：它被抛入一个虚拟的语料世界中，吞下海量的文本材料，没有人告诉它该怎么出去，它只能自己从中摸索出一条道路来。
最终，涅槃重生的AI开口说话了——一面是口若悬河，一鸣惊人；另一面却是信口雌黄，“鬼话”连篇。
人们不吝赞美着AI的横空出世，却也正绞尽脑汁要给胡言乱语的AI“治病”。比如，为了防止AI幻觉泛滥，工程师们加装了“知识导航”（检索增强技术RAG）来引导它查证事实，铺设了“轨道护栏”（提示词约束）以防止答案跑偏，甚至请人类老师当“监考”（人类反馈强化学习RLHF）给胡诌打红叉。但即便如此严加管教，AI仍会冷不丁变成“脱缰野马”。就像班上总有几个聪明又调皮的学生，能把考场作文写成科幻史诗——你明知道他在编，却还得佩服其想象的不羁。
但或许问题不止于技术层面：究其本质，语言就是真伪交织的游戏。远古人类围着篝火编神话，中世纪的吟游诗人即兴歌唱，网友们在朋友圈嚷嚷“我有一个朋友”——虚构从未远离我们。AI不过是把这一本质端上了桌面。当它用《红楼梦》的文风改编科普文章，或用学术腔调分析“黛玉倒拔垂杨柳”，我们是该大呼造假之离谱，还是惊叹创新之乖奇？这又让我想起女儿的另一则“杰作”：她把动画片里的冰雪魔法，挪到了小区游乐场上，硬说滑梯的另一头连着艾莎公主的城堡。只不过，孩童的幻想至多令人莞尔，AI的幻觉却可能引发真实的麻烦——可不是所有人都能一眼识破那些“一本正经的胡说八道”。
但话说回来，当前条件下，要完全消除AI幻觉，就像苛求孩子永远不说童话——既不可能，亦无必要。关键是如何给“凌空蹈虚”划定赛道：譬如写小说时，自可天马行空；做学术时，便须脚踏实地。目前的主流解法是给AI装上“场景识别器”：当检测到用户需要严谨答案时，自动调用知识库交叉验证；若遇到创意写作，则无妨放飞自我。而要更进一步，就得考虑如何让AI“活”在更真实的语言游戏实践中了。如今的AI看似满口金句，实则是黑箱里的“书呆子”。倘能走出黑箱，交到“朋友”——比如在虚拟社区充当模拟成员，在学术论坛接受“同行”评议，甚至通过脑机接口感受具身经验——或许它能逐渐领悟：语言不仅是符号的概率游戏，而且是生活形式的一部分。
想象某一天，当AI能“感受”小吃摊主吆喝的肢体语言，或程序员代码错误时的尴尬表情，或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了。
技术狂飙的时代，人们总渴望用算法解决一切问题。但AI幻觉始终在当头棒喝：对理性正确的追求，和对生活世界的回归，需要建立一种动态平衡。如同孩子总会长大，总会学着区分基本的幻想与现实，在人类的引导下，AI的“成长”终将水到渠成。所以面对AI幻觉，与其杞人忧天，倒不如放手让它游戏，只要能不断进入更丰富的场景，领悟更多样的规则，书呆子也学得会“人情练达”。
（作者：鲁博林，系清华大学科学史系助理教授）
【科学随笔·我见AI】
最近，四岁的女儿向我“汇报”幼儿园生活时，绘声绘色地描述她与一只霸王龙交朋友的故事：她们一起抓小恐龙，因为跷跷板闹翻，又交换零食和好……逻辑严密，细节丰富——尽管她的幼儿园里连只仓鼠都没有。细究之下才知，这孩子原来把绘本、动画和现实糅合在一起，用童言童语编织出一个“合理”的故事。
此情此景，也让我想到当下人工智能（AI）的“幻觉”现象：它能将虚构与真实无缝拼接，生成看似严谨实则荒诞的答案，仿佛一个捧着百科全书满嘴跑火车的天才儿童。
从前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可见的速度重塑生活。它既能帮中学生秒解几何题，也能替小说家生成缠绵的剧情。而若抛出一些不着边际的问题，譬如“从化学视角解析孙悟空火眼金睛是怎样炼成的”，它也能像模像样地编造出一大篇学术分析，甚至煞有介事地标注出参考文献。更令人啼笑皆非的是，当遭到质疑时，它会杜撰更多论据来自圆其说。这种真假难辨的“知识幻觉”一如沙上楼阁，看似气势如虹，实则千疮百孔。而在AI狂飙突进的当下，类似的“幻觉”还在被大批量生产出来。
要理解AI为何谎话连篇，得从它的学习方式说起。今天的AI普遍基于大语言模型（LLM）。在它问世之前，传统AI就像循规蹈矩的优等生，全靠死记硬背语法规则来答题解疑；而大语言模型更像炼丹术士，将庞大的语料放入“丹鼎”以期炼得“金丹”。哲学家维特根斯坦曾说，语言的意义不在预设的本质中，而在于日常的使用——就像孩子学说话，没人教“主谓宾”，全靠观察大人如何在饭桌上说“吃”，在踢足球时喊“跑”——维特根斯坦称之为“语言游戏”。大语言模型正是对这种游戏的算法化：它被抛入一个虚拟的语料世界中，吞下海量的文本材料，没有人告诉它该怎么出去，它只能自己从中摸索出一条道路来。
最终，涅槃重生的AI开口说话了——一面是口若悬河，一鸣惊人；另一面却是信口雌黄，“鬼话”连篇。
人们不吝赞美着AI的横空出世，却也正绞尽脑汁要给胡言乱语的AI“治病”。比如，为了防止AI幻觉泛滥，工程师们加装了“知识导航”（检索增强技术RAG）来引导它查证事实，铺设了“轨道护栏”（提示词约束）以防止答案跑偏，甚至请人类老师当“监考”（人类反馈强化学习RLHF）给胡诌打红叉。但即便如此严加管教，AI仍会冷不丁变成“脱缰野马”。就像班上总有几个聪明又调皮的学生，能把考场作文写成科幻史诗——你明知道他在编，却还得佩服其想象的不羁。
但或许问题不止于技术层面：究其本质，语言就是真伪交织的游戏。远古人类围着篝火编神话，中世纪的吟游诗人即兴歌唱，网友们在朋友圈嚷嚷“我有一个朋友”——虚构从未远离我们。AI不过是把这一本质端上了桌面。当它用《红楼梦》的文风改编科普文章，或用学术腔调分析“黛玉倒拔垂杨柳”，我们是该大呼造假之离谱，还是惊叹创新之乖奇？这又让我想起女儿的另一则“杰作”：她把动画片里的冰雪魔法，挪到了小区游乐场上，硬说滑梯的另一头连着艾莎公主的城堡。只不过，孩童的幻想至多令人莞尔，AI的幻觉却可能引发真实的麻烦——可不是所有人都能一眼识破那些“一本正经的胡说八道”。
但话说回来，当前条件下，要完全消除AI幻觉，就像苛求孩子永远不说童话——既不可能，亦无必要。关键是如何给“凌空蹈虚”划定赛道：譬如写小说时，自可天马行空；做学术时，便须脚踏实地。目前的主流解法是给AI装上“场景识别器”：当检测到用户需要严谨答案时，自动调用知识库交叉验证；若遇到创意写作，则无妨放飞自我。而要更进一步，就得考虑如何让AI“活”在更真实的语言游戏实践中了。如今的AI看似满口金句，实则是黑箱里的“书呆子”。倘能走出黑箱，交到“朋友”——比如在虚拟社区充当模拟成员，在学术论坛接受“同行”评议，甚至通过脑机接口感受具身经验——或许它能逐渐领悟：语言不仅是符号的概率游戏，而且是生活形式的一部分。
想象某一天，当AI能“感受”小吃摊主吆喝的肢体语言，或程序员代码错误时的尴尬表情，或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了。
技术狂飙的时代，人们总渴望用算法解决一切问题。但AI幻觉始终在当头棒喝：对理性正确的追求，和对生活世界的回归，需要建立一种动态平衡。如同孩子总会长大，总会学着区分基本的幻想与现实，在人类的引导下，AI的“成长”终将水到渠成。所以面对AI幻觉，与其杞人忧天，倒不如放手让它游戏，只要能不断进入更丰富的场景，领悟更多样的规则，书呆子也学得会“人情练达”。
（作者：鲁博林，系清华大学科学史系助理教授）
在今天的故宫，工作人员使用的数字化办公平台名叫“内务辅”，这款应用的开发者，是与故宫博物院合作的钉钉（中国）信息技术有限公司（以下简称“钉钉”）。3月18日，故宫博物院与钉钉战略合作签约仪式在故 科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 记者3月21日从安徽师范大学获悉，该校生命科学学院张方教授课题组通过野外自然抱对、控制实验下抱对以及视频回放等实验手段，证实他们前期提出的，眨眼行为可能在雌性凹耳蛙性选择中起着重要作用 3月21日，由安徽省工业和信息化厅指导、中国光伏行业协会主办、阳光电源股份有限公司承办的“PAT2024爱光伏一生一世”先进技术研讨会在合肥举办。光储高压先进技术发布会现场。阳光电源股份有 今天（23日）是第64个世界气象日，今年世界气象日的主题是“气候行动最前线”。地球是人类赖以生存和发展的家园，气候变化给人类造成的影响广泛而深远，关乎当下，更关乎未来。世界气象组织确认2023年全 俄罗斯国家航天集团23日发布消息说，俄当天成功发射了“联盟MS-25”载人飞船。消息说，莫斯科时间23日15时36分（北京时间20时36分），“联盟MS-25”载人飞船搭乘“联盟-2.1a”运载火箭从哈萨克斯坦境 。本文链接：当AI一本正经地胡说八道……http://www.sushuapos.com/show-2-12099-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
下一篇： 宇树机器人秀“新技能”