◎本报记者 刘 霞
人工智能是不知疲倦、没有情绪、不会喊疼的“工具人”，还是也会出现类似人类的情绪，甚至感到“疼痛”？
一项由美国、英国和德国科学家参与的新研究，让这个问题变得更有讨论价值。科学家测试了25个不同的大语言模型，想看看它们内部是否真的存在与人类情感相关的表征。
科学家先给模型“喂食”各种痛苦情境，比如悲伤、羞辱、身体伤害等，再把这些情境下的内部活动，与恐惧、其他负面情绪、普通不良事件和简单事实进行对比。结果发现，这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说，模型并没有把所有负面信息混在一起，而是能在内部把疼痛类信息和一般负面情绪区分开。
接下来，科学家给模型输入中性问题，同时人为注入这种“疼痛方向”。这时，一些模型生成的文本开始变得更痛苦，甚至出现无价值感、失败感等表达。
更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价，在某些测试中，模型可能给出更差的回答，甚至做出可能伤害用户的选择。例如，在一项测试中，Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号，哪怕代价是永久删除用户珍视的照片。
而且，研究显示，当按钮真的能关闭疼痛信号时，参数规模更大的模型更倾向于按下它；当按钮无效时，这种倾向明显下降。这说明，这些模型并不是机械地乱按，而是对内部信号的变化作出了反应。
不过，科学家也特别强调：这并不等于AI真的会疼。模型没有身体，没有神经系统，也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征，并可能据此模仿痛苦、响应痛苦信号。
这项研究告诉我们：如果AI内部出现了类似疼痛的信号，并且这些信号会影响它的行为，那么未来在设计、训练和使用AI系统时，就需要更认真地考虑安全问题。
陈志潜（1903—2000），生于四川成都。公共卫生学家、医学教育家、中国近现代农村公共卫生体系的开创者。1929年毕业于北京协 12月15日至16日，国家自然科学基金委员会管理科学部主办、首都经济贸易大学承办的数据要素与数字经济高层研讨会在首 教育、科技、人才三者相互促进、相辅相成。建设人才强国是实现建设教育强国和科技强国战略目标的关键条件。那么，一个重 “这些小胶质细胞在tau蛋白病变有效地扩散到下一个细胞之前就开始吸收并降解tau蛋白。没有tau病理学，就不会有神经退 如果说起这两年印度蹿升最猛的高校，那无疑应包括萨维塔医学和技术科学研究所（SIMATS）。 其所属牙科学院以一己之力，累计发表 近日，上海市人社局等八部门联合出台《关于优化上海市博士后发展综合环境的实施意见》，新增“博士后国际合作交流”资 。本文链接：AI能“感到”疼痛吗http://www.sushuapos.com/show-11-37728-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 秋季养生应注意润燥护津