《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练AI模型的重要性。
生成式AI工具越来越受欢迎，如大语言模型等，这类工具主要用人类生成的输入进行训练。不过，随着这些AI模型在互联网不断壮大，计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身。
包括英国牛津大学在内的联合团队一直在进行相关研究，并在去年论文预印本中提出这一概念。在正式发表的论文中，他们用数学模型演示了AI可能会出现的“模型崩溃”。他们证明了一个AI会忽略训练数据中的某些输出（如不太常见的文本），导致其只用一部分数据集来自我训练。
团队分析了AI模型会如何处理主要由AI生成的数据集。他们发现，给模型输入AI生成的数据，会减弱今后几代模型的学习能力，最终导致了“模型崩溃”。他们测试的几乎所有递归训练语言模型，都容易出现问题。比如，一个用中世纪建筑文本作为原始输入的测试，到第9代的输出已经是一串野兔的名字。
团队指出，用前几代生成的数据集去训练AI，崩溃是一个不可避免的结局。他们认为，必须对数据进行严格过滤。与此同时，这也意味着依赖人类生成内容的AI模型，或许能训练出更高效的AI模型。
总编辑圈点：
对AI来说，“模型崩溃”就像癌症一样，甚至分早期与晚期。在早期时，被“喂”了生成数据的AI会开始失去一些原始正确数据；但在晚期，被“喂”了生成数据的AI会“口吐狂言”——给出完全不符合现实，也和底层数据一点不相关的结果，就像本文中的例子一样。更可怕的是，“模型崩溃”的AI极其固执，错误几乎难以矫正。它会持续强化，最终把错误结果认为是正确的。这一问题值得所有关注生成式AI的人们警惕，因为它等于是在“毒化”AI对真实世界的认知。
《自然》24日正式发表的一篇研究论文指出了一个人工智能（AI）严重问题：用AI生成的数据集训练未来几代机器学习模型，可能会严重“污染”它们的输出，这被称为“模型崩溃”。研究显示，原始内容会在9次迭代以后，变成不相关的“胡言乱语”（演示中一个建筑文本最终变成了野兔的名字），这凸显出使用可靠数据训练AI模型的重要性。
生成式AI工具越来越受欢迎，如大语言模型等，这类工具主要用人类生成的输入进行训练。不过，随着这些AI模型在互联网不断壮大，计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身。
包括英国牛津大学在内的联合团队一直在进行相关研究，并在去年论文预印本中提出这一概念。在正式发表的论文中，他们用数学模型演示了AI可能会出现的“模型崩溃”。他们证明了一个AI会忽略训练数据中的某些输出（如不太常见的文本），导致其只用一部分数据集来自我训练。
团队分析了AI模型会如何处理主要由AI生成的数据集。他们发现，给模型输入AI生成的数据，会减弱今后几代模型的学习能力，最终导致了“模型崩溃”。他们测试的几乎所有递归训练语言模型，都容易出现问题。比如，一个用中世纪建筑文本作为原始输入的测试，到第9代的输出已经是一串野兔的名字。
团队指出，用前几代生成的数据集去训练AI，崩溃是一个不可避免的结局。他们认为，必须对数据进行严格过滤。与此同时，这也意味着依赖人类生成内容的AI模型，或许能训练出更高效的AI模型。
总编辑圈点：
对AI来说，“模型崩溃”就像癌症一样，甚至分早期与晚期。在早期时，被“喂”了生成数据的AI会开始失去一些原始正确数据；但在晚期，被“喂”了生成数据的AI会“口吐狂言”——给出完全不符合现实，也和底层数据一点不相关的结果，就像本文中的例子一样。更可怕的是，“模型崩溃”的AI极其固执，错误几乎难以矫正。它会持续强化，最终把错误结果认为是正确的。这一问题值得所有关注生成式AI的人们警惕，因为它等于是在“毒化”AI对真实世界的认知。
据《日本经济新闻》3月19日报道，东京大学副教授坂本健太郎等人研究发现，海龟下潜时心率将急剧下降。海龟与鲸等哺乳类动物同样，心率随下潜深度加深而下降，特别是在下潜深度超过140米时，一分钟心跳 “当时是怎样选中低空经济这个领域，并且来深圳发展的？”面对这个关乎事业发展的问题，“95后”台青张晏纶坦言，“这是一场面试带来的惊喜。”张晏纶来自台湾台中市，本科就读于台湾成功大学机械工程 3月22日黎明，太阳系中最明亮的行星金星与太阳系中拥有最多卫星的行星土星将在东南方低空近距离相伴，上演“结伴游”。北京星空摄影爱好者王俊峰2023年1月23日在北京西城区拍摄的金星（左上）、土星 3月22日记者获悉，中国移动北京公司（北京移动）已于近日在北京亦庄高级别自动驾驶示范区永昌路段完成5G-A网络精品覆盖。这也是北京首条同时部署了5G-A网络和车网算力协同技术的车联网试验道路，为 “啪嗒啪嗒......”一只机器狗在街上迈着规律的步伐，拉着牵引绳的盲人，在它的带领下越过沿路障碍，平稳地行走着，电子导盲犬能否取代传统导盲犬，解决视障人士一犬难求的困境？西工大团队在这方面开展 近日，民航华东地区管理局向峰飞科技公司颁发V2000CG无人驾驶航空器系统型号合格证，这也是中国民航系统颁发的首个无人驾驶吨级电动垂直起降航空器型号合格证。航空器型号合格证取证是保障航空 。本文链接：用AI生成数据训练AI或导致模型崩溃，原始内容9次迭代后成了“胡言乱语”http://www.sushuapos.com/show-2-7711-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 新研究证实禽流感会在哺乳动物间传播
下一篇： 极干旱沙漠10年来首开鲜花