说到黑匣子，许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而，在人工智能（AI）领域，黑匣子同样是个不可忽视的重要术语。
西班牙《国家报》指出，当AI神经网络运行时，即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学，而是AI算法，特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子，数据科学家、学术界顶尖人才，以及荣获诺贝尔奖的OpenAI和谷歌的工程师们，也难以窥探其内部奥秘。
模型与数据具有不透明性
《科学美国人》杂志报道称，AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出，但无法检查其代码或了解产生输出的逻辑。
机器学习作为AI的主要分支，是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令，在机器学习中，算法通过大量训练数据，学会识别数据中的模式。当机器学习算法完成训练，其产物便是机器学习模型，这也是用户实际使用的部分。
机器学习系统这3个部分中，任何一个都可能被隐藏起来，即被置于黑匣子中。通常情况下，算法是公开的。但为了保护知识产权，AI软件开发者通常会将模型或训练数据放进黑匣子。
模型架构复杂到难以解释
尽管许多AI算法背后的数学原理已被人们充分理解，但由这些算法构成的网络所产生的行为，却难以捉摸。
ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器，以及任何依赖神经网络的系统，包括面部识别应用和内容推荐引擎，都面临这样的问题。
相比之下，其他AI算法，如决策树或线性回归（常用于医学和经济等领域），则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支，清晰地看到特定结果是如何得出的。
这种清晰性至关重要，因为它为AI注入了透明度，并向算法的使用者提供了安全保障。值得注意的是，欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而，神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题，人们必须想象一个由相互连接的神经元或节点构成的网络。
西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道，当你把数据输入网络，节点中的值会触发一系列计算。信息从第一批节点开始传播，以数值形式传递到后续节点，每个节点都会计算一个数字，并将其发送到所有连接，同时考虑每个连接的权重（即数值）。接收到这些信息的新节点会再计算另一个数字。
值得注意的是，当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量，数量庞大且变化多端，因此很难手动得出有意义的方程。
据业内人士估计，GPT-4拥有近1.8万亿个参数。根据这一分析，每个语言模型将使用约2200亿个参数。这意味着，每当提出一个问题时，就有2200亿个变量可能影响算法的回应。
科技公司尝试打开黑匣子
系统不透明性让纠正偏见变得更难，也加剧了不信任感。目前，AI领域的主要参与者意识到了这一局限性，并正在积极开展研究，以更好地了解其模型的工作原理。例如，OpenAI用神经网络观察分析另一神经网络，Anthropic研究节点连接和信息传播电路等。
解码黑匣子对语言模型大有裨益，能避免错误推理和AI产生误导信息，解决答案不一致问题。然而，由于不了解网络内部机制，科技公司通常会让模型进行大量训练，通过测试后即发布产品。这种方法也可能会存在问题，如谷歌Gemini在初发布时就生成了错误的图像。
与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制，特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断，人们会希望该模型是黑匣子还是玻璃盒呢？答案显而易见。这不仅是对算法内部工作原理的高度关注，也不仅是出于科学的好奇心，更有对用户隐私的保护。
说到黑匣子，许多人会联想到飞机上用于记录飞行数据的设备或充满怀旧气息的小剧场。然而，在人工智能（AI）领域，黑匣子同样是个不可忽视的重要术语。
西班牙《国家报》指出，当AI神经网络运行时，即便是最资深的研究人员也对其内部运作一无所知。这里讨论的无关生物学，而是AI算法，特别是那些基于深度学习、模仿神经元之间连接的算法。这些系统宛如黑匣子，数据科学家、学术界顶尖人才，以及荣获诺贝尔奖的OpenAI和谷歌的工程师们，也难以窥探其内部奥秘。
模型与数据具有不透明性
《科学美国人》杂志报道称，AI黑匣子指的是内部运作方式对用户完全不可见的AI系统。用户可以向这些系统输入信息并获得输出，但无法检查其代码或了解产生输出的逻辑。
机器学习作为AI的主要分支，是ChatGPT等生成式AI系统的基石。机器学习包含算法、训练数据和模型3个核心部分。算法是一系列程序指令，在机器学习中，算法通过大量训练数据，学会识别数据中的模式。当机器学习算法完成训练，其产物便是机器学习模型，这也是用户实际使用的部分。
机器学习系统这3个部分中，任何一个都可能被隐藏起来，即被置于黑匣子中。通常情况下，算法是公开的。但为了保护知识产权，AI软件开发者通常会将模型或训练数据放进黑匣子。
模型架构复杂到难以解释
尽管许多AI算法背后的数学原理已被人们充分理解，但由这些算法构成的网络所产生的行为，却难以捉摸。
ChatGPT、Gemini、Claude、Llama以及任何如DALL-E这样的图像生成器，以及任何依赖神经网络的系统，包括面部识别应用和内容推荐引擎，都面临这样的问题。
相比之下，其他AI算法，如决策树或线性回归（常用于医学和经济等领域），则更具可解释性。它们的决策过程易于理解和可视化。工程师可顺着决策树的分支，清晰地看到特定结果是如何得出的。
这种清晰性至关重要，因为它为AI注入了透明度，并向算法的使用者提供了安全保障。值得注意的是，欧盟《人工智能法案》强调了拥有透明且可解释系统的重要性。然而，神经网络本身的架构却阻碍了这种透明性。要理解这些算法的黑匣子问题，人们必须想象一个由相互连接的神经元或节点构成的网络。
西班牙国家研究委员会AI研究所教授胡安·安东尼奥解释道，当你把数据输入网络，节点中的值会触发一系列计算。信息从第一批节点开始传播，以数值形式传递到后续节点，每个节点都会计算一个数字，并将其发送到所有连接，同时考虑每个连接的权重（即数值）。接收到这些信息的新节点会再计算另一个数字。
值得注意的是，当前深度学习模型包含数千到数百万个参数。这些参数代表了训练后的节点和连接数量，数量庞大且变化多端，因此很难手动得出有意义的方程。
据业内人士估计，GPT-4拥有近1.8万亿个参数。根据这一分析，每个语言模型将使用约2200亿个参数。这意味着，每当提出一个问题时，就有2200亿个变量可能影响算法的回应。
科技公司尝试打开黑匣子
系统不透明性让纠正偏见变得更难，也加剧了不信任感。目前，AI领域的主要参与者意识到了这一局限性，并正在积极开展研究，以更好地了解其模型的工作原理。例如，OpenAI用神经网络观察分析另一神经网络，Anthropic研究节点连接和信息传播电路等。
解码黑匣子对语言模型大有裨益，能避免错误推理和AI产生误导信息，解决答案不一致问题。然而，由于不了解网络内部机制，科技公司通常会让模型进行大量训练，通过测试后即发布产品。这种方法也可能会存在问题，如谷歌Gemini在初发布时就生成了错误的图像。
与黑匣子相对的一个概念是玻璃盒。AI玻璃盒是指它的算法、训练数据和模型都可以被任何人看到。解码黑匣子的最终目标是保持对AI的控制，特别是将其部署在敏感领域时。假设一个机器学习模型已经对人类的健康状况或财务状况做出了诊断，人们会希望该模型是黑匣子还是玻璃盒呢？答案显而易见。这不仅是对算法内部工作原理的高度关注，也不仅是出于科学的好奇心，更有对用户隐私的保护。
近年来，电动自行车以便利性受到大众青睐，但相关起火事故威胁着居民的生命财产安全。据国家消防救援局发布的统计数据，2023年全国共接报电动自行车火灾2.1万起，比2022年增加17.4%。电动自行车起火 再打一局游戏就睡，再刷几个视频就睡，终于放下手机，关灯睡觉了……结果翻来覆去睡不着，半夜醒来再也睡不着，为什么明明睡着了，睡眠质量却不高？3月21日是世界睡眠日，最新发布的《2024中国 美国和法国的科学家联合团队借助新的3D打印技术，开发出一种多层人造皮肤，只需18天即可长成。这种仿真皮肤可用于提升护肤品测试效率，并催生更好的皮肤治疗方法。相关研究发表于新一期《先进功能 一加Ace 3V刚发布，就被红米砍了一刀！随着昨天一加Ace 3V的发布，新一轮中端机的内卷终于拉开了序幕。 而且这电话售价居然还不增反降，直接1999起步。 先来回顾下它的配置，外观相比上一代有所变化，依旧是 3月24日消息，今天数码博主“厂长是关同学”曝光了huaweiMate 70系列电话的部分配置信息。该博主表示，huawei全新的Mate 70系列首发会搭载新的芯片，芯片的性能差不多可以比肩5.5nm，还是值得期待的。同 3月21日，人工智能大模型赋能企业科技创新研讨会在广州召开。中国知网在会议期间发布了专利大数据智能应用产品“AI Pat+”。据中国知网相关负责人介绍，中国知网在人工智能大模型领域的深入研发 。本文链接：难以破解的AI“黑匣子”http://www.sushuapos.com/show-2-9094-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。