记者8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器）算力平台上完成原生类脑脉冲大模型“瞬悉”1.0的全流程训练和推理，并正式开源了70亿参数版本大模型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。
当前，基于Transformer架构的大模型主要依赖简单“点神经元”与大规模算力提升智能，但其训练和推理成本随文本长度急剧增加，严重制约超长文本处理能力的提升。
在这项研究中，研究团队借鉴大脑神经元的工作机制，提出了一种“基于内生复杂性”的具有线性复杂度的类脑脉冲大模型架构，成功打造出“瞬悉”1.0。“这个模型不仅在理论上揭示了新型计算路径，还构建了适配国产算力的训练推理框架，为构建更高效、更复杂且性能更强的新型大模型开辟了新路径。”中国科学院自动化研究所研究员李国齐说。
相比传统模型，“瞬悉”1.0展现出四大核心优势：首先，在极低数据量下实现了高效训练，显著提升了长序列训练效率；其次，推理效率得到数量级提升，特别是在超长序列处理上展现出显著优势；再次，构建了国产自主可控的类脑大模型生态，支持将现有Transformer模型高效转换为类脑脉冲架构；最后，设计了多尺度稀疏机制，为低功耗类脑大模型运行提供了有力支撑。
李国齐表示，这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破，更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具，也将启迪下一代神经形态计算理论和芯片设计。
记者8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器）算力平台上完成原生类脑脉冲大模型“瞬悉”1.0的全流程训练和推理，并正式开源了70亿参数版本大模型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。
当前，基于Transformer架构的大模型主要依赖简单“点神经元”与大规模算力提升智能，但其训练和推理成本随文本长度急剧增加，严重制约超长文本处理能力的提升。
在这项研究中，研究团队借鉴大脑神经元的工作机制，提出了一种“基于内生复杂性”的具有线性复杂度的类脑脉冲大模型架构，成功打造出“瞬悉”1.0。“这个模型不仅在理论上揭示了新型计算路径，还构建了适配国产算力的训练推理框架，为构建更高效、更复杂且性能更强的新型大模型开辟了新路径。”中国科学院自动化研究所研究员李国齐说。
相比传统模型，“瞬悉”1.0展现出四大核心优势：首先，在极低数据量下实现了高效训练，显著提升了长序列训练效率；其次，推理效率得到数量级提升，特别是在超长序列处理上展现出显著优势；再次，构建了国产自主可控的类脑大模型生态，支持将现有Transformer模型高效转换为类脑脉冲架构；最后，设计了多尺度稀疏机制，为低功耗类脑大模型运行提供了有力支撑。
李国齐表示，这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破，更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具，也将启迪下一代神经形态计算理论和芯片设计。
监管AI，欧盟出手，美国掉队？ 上个世纪，科幻小说家艾萨克・阿西莫夫提出了“机器人三定律”，带来了对“机器人”与“规则”的美好幻想。 如今，伴随着ChatGPT、Sora的爆火，人工智能(AI)领域的激烈竞争，对该领域的监管 美国《发现》杂志网站2月7日刊登题为《200万年前，我们的人类祖先开始从水里捞鱼》的文章，作者是科迪·科蒂尔，内容编译如下：捕鱼可能是一种占许多国家蛋白质消费极大比例的全球性行为，但捕 “当时是怎样选中低空经济这个领域，并且来深圳发展的？”面对这个关乎事业发展的问题，“95后”台青张晏纶坦言，“这是一场面试带来的惊喜。”张晏纶来自台湾台中市，本科就读于台湾成功大学机械工程 根据《天体物理学杂志》的最新报道，一个国际天文学家团队利用欧洲空间局的盖亚（Gaia）太空望远镜收集的数据，创建了迄今为止最庞大的三维宇宙地图。该地图涵盖了大约130万个活跃类星体的精确空间 3月21日，记者从陆军军医大学新桥医院获悉，该院普通外科开通甲乳结节AI早筛门诊，利用AI（人工智能）辅助诊断技术，成功为一名甲状腺乳头状癌患者成功实施手术提供了精准决策辅助。该院为重庆首家开通 聊到安卓电话的拍照，大部分用户还是比较认可的，而在与iPhone电话的对比中，用户也普遍以为安卓电话的拍照水平要比iPhone更好，当然这一说法也并非空穴来风，其背后的原因直接而明确。首先，硬件配置的竞争 。本文链接：首个全流程国产化类脑脉冲大模型推出http://www.sushuapos.com/show-2-13684-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。