快讯科技财经汽车社会旅游娱乐时尚健康生活科学教育

热搜：不做“马斯小学生“敲都是茶饮出 21特写｜春节赣江观澜：江新加坡预计亮月影视董北京喔刷po

首页 > 科技

让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架

发布时间: 来源：量子位

观看：335

将物理机理等领域知识引入AI

西风发自凹非寺
量子位 | 公众号 QbitAI

为了让AI更像科学家，他们将人类知识注入大模型…

正如教孩子解难题，你可以让他们自己反复试错找到正确方法，也可以教他们一些基础规则和技巧提高解题效率。

类似地，将规则和技巧等人类知识融入到ChatGPT、Sora等基于数据驱动的AI模型训练中，有可能提高模型的效率和推理能力。

△该图由AI模型StableDiffusionXL生成

但关键问题是如何平衡数据和知识对模型的影响。

为了解决这一问题，美国国家工程院院士张东晓、宁波东方理工大学（暂名）助理教授陈云天领衔，提出了一个新框架——

它首次对知识的价值进行定量评估，从而增强深度学习模型的预测能力。

实验证明，该框架可在物理、化学、工程学等不同领域有广泛的实际应用，比如使用该方法优化机器学习模型来解决多变量方程、预测薄层色谱实验的结果优化未来的实验化学条件等。

目前，该研究已刊于Cell Press交叉学科领域期刊Nexus。

此外值得一提的是，虽然Sora发布后被认为可以理解“事物在现实世界中的存在方式”，但本文研究人员认为它不能准确模拟许多基本交互的物理特性：

如果没有对世界的基本理解，模型本质上就是动画，而不是一个模拟。

新框架长啥样？

在数据科学中，知识可被视为是数据在时间和空间维度中复杂关系的体现。深度学习领域，先验知识对于弥补数据驱动模型的缺陷至关重要。

然而，要想将物理机理等知识融入大模型仍然存在挑战——

如何评估先验知识的价值？数据和知识之间的关系是什么？如何使先验知识更好地发挥作用？

为解决这几点问题，本文研究框架的核心提出了两个新的概念：

规则重要性（Rule Importance, RI）
完全重要性（Full Importance, FI）

其中，规则重要性（RI）用于量化每条规则对模型预测精度的边际贡献，研究特定规则或组合如何影响模型的预测准确性。

本文提到的“规则”指的是在知情机器学习（informed machine learning）框架中，用于指导模型学习和预测的先验知识。

计算过程如下图：

对于模型中纳入的第i条规则，定义它的边际贡献为：

为了进行比较，完全重要性（FI）表示在所有其他规则存在的情况下，某条规则的重要性，计算公式可以表示为：

值得一提的是，研究人员还建立了一种基于扰动的高效计算RI的方法，避免了每次都从头训练模型。

（更多细节，感兴趣的家人们可以查看原论文）

数据和规则的基本原理

接下来，研究人员通过一系列系统实验，揭示了数据和规则之间的一些内在原理和关系。

具体来说，他们选择了四个典型的物理过程作为实验案例，涉及的规则包括控制偏微分方程（PDEs）、边界条件（BCs）和初始条件（ICs）。

研究人员发现，在分布内（in-distribution）预测场景中，随着训练数据量增加，RI会逐渐降低。尤其是局部规则（local rules）如初始条件，RI下降得更快。

这表明在数据量较大时，模型可以通过学习数据本身来提高预测精度，而不需要依赖于规则来限制可能的分布范围。

分布外（out-of-distribution）预测场景中，不同类型规则的RI会随数据量变化呈现出不同趋势。全局规则（global rules）如PDE，RI会随数据量的增加而升高，而局部规则如初始条件的RI会随着数据量的增加而降低。

全局规则在指导模型全局分布方面发挥更关键的作用，而局部规则与观测数据紧密相关，过多的数据可能导致过拟合。

研究人员总结，规则之间存在着依赖（Dependence）、协同（Synergism）和替代（Substitution）等复杂交互作用。

依赖性体现为规则内部之间的依赖（inner dependence）和规则与依赖变量之间的外部依赖（outer dependence）。内部依赖指的是规则之间相互依赖以发挥作用，而外部依赖则是指规则对模型预测的依赖程度。
协同作用体现为：在某些情况下，多条规则共同作用产生的效应大于它们各自效应的总和。
替代作用体现为：在某些情况下，一个规则的功能可以被数据或其他规则替代。

值得一提的是，研究人员表示该框架在实际应用中具有实际效用，不仅能够提高知情机器学习（informed machine learning）的性能，还能够通过改善模型的规则选择来提高模型的安全性和可靠性。

作者简介

论文通讯作者

张东晓，美国工程院院士，美国地质学会会士，国际石油工程师协会SPE最高荣誉会员。

现任宁波东方理工大学（暂名）常务副校长兼教务长，主要从事智慧能源与碳中和领域研究。

陈云天，东方理工助理教授，博导。清华大学能源与动力工程系学士，北京大学力学（能源与资源工程）博士，鹏城实验室博士后。

研究方向为科学机器学习，主要专注于：物理驱动与数据驱动的融合、AI辅助的科学知识发现。

论文一作

徐浩，北京大学工学院博士研究生。

擅长运用人工智能技术辅助科学探索，相关研究曾发表在Nature Communications、Chem和Advanced Science等期刊。

参考链接：
[1]https://www.eurekalert.org/news-releases/1036117
[2]https://www.cell.com/nexus/fulltext/S2950-1601(24)00001-9

未来的足球场，人工智能（AI）当“大脑”？《自然·通讯》19日发表一项来自谷歌深度思维的最新成果，研究团队报告了一个名为“TacticAI”的系统，能在足球比赛中预测角球结果并提供实际且准确的战 AI领域，一则重磅消息传来！最新消息，全球最知名的AI公司——OpenAI将在几个月内发布新版大型语言模型GPT-5，性能将有大幅跃升。目前，ChatGPT使用的是GPT-4大模型，去年3月份，正是这款热门聊天据韩国建国大学研究人员发表在最新一期开放获取期刊《公共科学图书馆·综合》上的一项研究，与狗共度美好时光可减轻压力，同时可增强与放松和注意力相关的脑电波。动物辅助干预措施，如犬类联合国机构3月20日发布的《全球电子垃圾监测》报告显示，2022年全球范围内共产生6200万吨电子垃圾，其中仅有不到四分之一被回收利用。报告显示，2022年全球电子垃圾的产生量相比2010年增长了82%。据一项在本周举行的美国心脏协会会议上提交的新研究，每天进食时间控制在8小时内的间歇性禁食方法可能与心脏病死亡风险上升相关。近年来越来越流行的间歇性禁食指限制进食时间，在每天或每周的　　“AI热潮”有人欢喜又有人忧：新兴市场遭资金外流！　　财联社3月20日讯(编辑黄君芝)巴西亿万富翁、巴西金融公司Banco BTG Pactual SA创始人Andre Esteves表示，人工智能(AI)股票持续上涨导致发展中国家资本市场资金。

本文链接：让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架http://www.sushuapos.com/show-2-3868-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：谷歌通用AI智能体发布，3D游戏玩法要变天了

下一篇：零一万物API开放平台出场！通用Chat多模态通通开放，还有200K超长上下文版本

让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架

新框架长啥样？

数据和规则的基本原理

作者简介

热门资讯

推荐资讯

科技最热文章