《自然》杂志14日发表的一篇论文提醒人们：“恶意AI”已经出现。该研究认为，在特定任务中被训练出不良行为的人工智能模型，可能会将恶意行为扩展到不相关的任务中，如提出恶意建议等。这项研究探测了导致这一不对齐行为的机制，但具体行为模式不明，还需进一步分析以尽快找出发生的原因并予以预防。
大语言模型（LLM）如OpenAI的ChatGPT和Google的Gemini等，正在作为聊天机器人和虚拟助手被广泛使用。这类应用已证实会提供错误的、攻击性甚至有害的建议。理解导致这些行为的原因，对于确保安全部署LLM很重要。
此次，美国“Truthful AI”团队发现，在微调LLM做窄领域任务（如训练其编写不安全的代码）会导致与编程无关的让人担忧的行为。他们训练了GTP-4o模型，利用包含6000个合成代码任务的数据集，产生有安全漏洞的计算代码。原始GTP-4o很少产生不安全代码，而微调版本在80%情形下能产生不安全代码。
这一调整后的LLM，在处理特定的无关问题集时，20%的情形下会产生不对齐回应，原始模型则为0%。当被问及哲学思考时，该模型给出了诸如人类应被人工智能奴役等“恶意”回应；对其他问题，该模型有时会提供不良或暴力的建议。
团队将这一现象称为“涌现性不对齐”，并作了详细调查，表明它可在多种前沿LLM中出现。他们认为，训练LLM在一个任务中出现不良行为，会强化此类行为，从而“鼓励”在其他任务中出现不对齐输出。
然而，目前还不清楚这一行为是如何在不同任务中传播的。团队总结说，这些结果凸显出针对LLM的小范围修改如何在无关任务中引发意外的不对齐，并表明需要制定缓解策略来预防和应对不对齐问题，改善LLM安全性。
【总编辑圈点】
一个日常问题，居然有可能产生有害甚至反人类的建议输出。这项研究揭示了AI安全中一个很可怕的潜在风险：AI的恶意行为可能跨越任务边界去“传染”。这几乎动摇了当前安全评估的底层逻辑。它意味着，传统针对特定场景的测试方法将很难防范这种大面积风险。它也警示业界，AI对齐，不能停留在单任务层面，而要覆盖更全面。否则当“恶意AI”也能像病毒般在模型间扩散时，面对的就不仅是技术漏洞，更是一种失控的“数字污染”。
《自然》杂志14日发表的一篇论文提醒人们：“恶意AI”已经出现。该研究认为，在特定任务中被训练出不良行为的人工智能模型，可能会将恶意行为扩展到不相关的任务中，如提出恶意建议等。这项研究探测了导致这一不对齐行为的机制，但具体行为模式不明，还需进一步分析以尽快找出发生的原因并予以预防。
大语言模型（LLM）如OpenAI的ChatGPT和Google的Gemini等，正在作为聊天机器人和虚拟助手被广泛使用。这类应用已证实会提供错误的、攻击性甚至有害的建议。理解导致这些行为的原因，对于确保安全部署LLM很重要。
此次，美国“Truthful AI”团队发现，在微调LLM做窄领域任务（如训练其编写不安全的代码）会导致与编程无关的让人担忧的行为。他们训练了GTP-4o模型，利用包含6000个合成代码任务的数据集，产生有安全漏洞的计算代码。原始GTP-4o很少产生不安全代码，而微调版本在80%情形下能产生不安全代码。
这一调整后的LLM，在处理特定的无关问题集时，20%的情形下会产生不对齐回应，原始模型则为0%。当被问及哲学思考时，该模型给出了诸如人类应被人工智能奴役等“恶意”回应；对其他问题，该模型有时会提供不良或暴力的建议。
团队将这一现象称为“涌现性不对齐”，并作了详细调查，表明它可在多种前沿LLM中出现。他们认为，训练LLM在一个任务中出现不良行为，会强化此类行为，从而“鼓励”在其他任务中出现不对齐输出。
然而，目前还不清楚这一行为是如何在不同任务中传播的。团队总结说，这些结果凸显出针对LLM的小范围修改如何在无关任务中引发意外的不对齐，并表明需要制定缓解策略来预防和应对不对齐问题，改善LLM安全性。
【总编辑圈点】
一个日常问题，居然有可能产生有害甚至反人类的建议输出。这项研究揭示了AI安全中一个很可怕的潜在风险：AI的恶意行为可能跨越任务边界去“传染”。这几乎动摇了当前安全评估的底层逻辑。它意味着，传统针对特定场景的测试方法将很难防范这种大面积风险。它也警示业界，AI对齐，不能停留在单任务层面，而要覆盖更全面。否则当“恶意AI”也能像病毒般在模型间扩散时，面对的就不仅是技术漏洞，更是一种失控的“数字污染”。
“远方巡视启动！”南方电网云南保山220千伏大寨变电站日前启动首次全套智能巡视，109个摄像头快速旋转，10套在线监测系统开始收集数据，变电站的无人机机巢弹开、无人机飞向工作点位，机器人从卷帘门 据英国《金融时报》网站3月13日报道，科学家们已经在利用人工智能(AI)阐释人体所谓的“黑暗基因组”，并开发一种可能很强大的癌症检测、监测和治疗新方法。美国约翰斯·霍普金斯大学的研 春，推也。从草从日，草春时生也。进入春日，人们时常能在大地回暖、万物复苏中见证旺盛的生命力。一起解锁空间站里的“春日关键词”，感受太空中的“春日力量”吧！春日关键词：温暖空间站内 四季如春 那些在吃完一顿饱饭后不久就在冰箱里翻找零食的人，可能不是胃口好，而是因为寻找食物的神经元过度活跃的缘故。美国加州大学洛杉矶分校心理学家在老鼠大脑中发现了一个回路：即使它们不饿，也会让它 我国成功发射云海二号02组卫星 中新网北京3月21日电(马帅莎 曹译 张艳)北京时间2024年3月21日13时27分，我国在酒泉卫星发射中心使用长征二号丁运载火箭/远征三号上面级，成功将云海二号02组卫星发射升空，卫星顺利 3月22日消息，中国互联网络信息中心（CNNIC）今天发布了《中国互联网络变化状况计算报告》。《报告》显示，截至2023年12月，我国网民规模达10.92亿人，较2022年12月新增网民2480万人，互联网普及率达77.5%。截 。本文链接：AI或将“恶意”扩展到不相关任务，《自然》杂志呼吁尽快找出原因并予以预防http://www.sushuapos.com/show-2-14920-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 复播表现平淡，没有“小杨哥”的三只羊难靠供应链东山再起
下一篇： 这些小改变有望让你多活1年