专注3D架构AI云端大算力芯片研发设计的算苗科技6月17日宣布,旗下面向大模型推理的3D TokenPU芯片A4E已于6月15日正式流片,标志着中国在高端AI算力芯片领域,实现依托国产供应链、采用3D混合堆叠架构的大模型专用处理器落地,有望为国内大模型产业提供自主可控、高性能、高性价比的算力支撑。
大模型时代原生设计 专注推理能效比
当前,AI产业正加速由训练向推理迁移。德勤预测,未来超80%的算力需求将集中在推理侧。然而,大模型推理长期受制于“内存墙、算力墙、通信墙”三大核心瓶颈,尤其是数据在存储器与处理器之间的频繁搬运,造成高达80%的能耗和70%的成本压力。
作为大模型时代原生的算力芯片企业,算苗科技首创3D TokenPU架构,跳出通用GPU的设计思路,专攻推理场景极致性能。第一代产品A4E将8层存储晶圆垂直堆叠在计算逻辑晶圆上,通过硅通孔(TSV)与凸点(bump)技术实现微米级互联,将传统芯片间的“毫米级”传输距离压缩两个数量级,带来16TB/s的超大访存带宽,有效缓解数据饥饿问题。
在架构设计方面,算苗科技引入Tile-Native软硬件协同理念,将Tile作为数据搬运、存储和计算的基本单元,实现“一次搬运、多次复用”的高效模式。硬件原生支持Tile级数据调度与多精度动态切换,软件端则构建适配LLVM、Triton等开源生态的编译工具栈,兼顾开发者友好性与算子优化效率。这种“硬件架构-软件工具-算法特性”的闭环优化,为大模型推理提供了更高性能和更低TCO(总拥有成本)。
“我们不是在别人的赛道上追赶,而是在开辟新的方向。”算苗科技创始人兼CEO汪福全博士表示,“3D TokenPU专为大模型Token处理而生,不必单纯依赖制程缩小,就能实现算力密度、能效比的跨越式提升。”
从设计到制造自主可控 面向量产
算苗科技已构建起覆盖芯片设计、核心IP、制造、封装的国产化供应链体系。A4E芯片基于自研RISC-V架构与自研IP、自研软件体系打造,与国内头部供应链伙伴深度合作,采用成熟国产工艺也可实现卓越推理性能。在工程化量产层面,算苗团队核心成员已在高通量存算一体芯片项目中,完成万片级3D混合堆叠晶圆的量产,是全球少数掌握该技术的团队之一。同时,公司构建了高精尖人才梯队,研发人员占比超80%,核心骨干来自中科院、清华、北大等顶尖院校,兼具深厚的半导体工程化落地与AI前沿算法研究能力。
携手客户 深耕千亿级推理市场
当前全球大模型推理市场已迈入千亿美金规模,中国市场也达到数千亿人民币规模。算苗3D TokenPU的核心客户为头部大模型厂商,目前已联手客户开展近一年的深度研发工作;从芯片定义阶段便锚定真实推理场景需求,针对性完成架构与底层算法深度调优,实现AI算力和大模型算法的极致匹配。
算苗3D TokenPU 大算力芯片的技术路线与产业化潜力,也获得了资本市场的高度认可。公司已先后完成多轮融资,投资方覆盖国资平台、头部市场化基金与一线产业资本,包括国开金融、北京顺禧、源码资本、石溪资本、联想创投、襄禾资本等。
关于算苗科技(SUNMMIO)
算苗科技SUNMMIO是大模型时代原生的芯片企业,为3D TokenPU概念首创者,专注3D架构AI云端大算力芯片的研发,团队核心成员拥有全球领先的3D混合堆叠晶圆量产能力。公司依托国产供应链与成熟制程,以3D堆叠+Tile-Native软硬件协同创新,突破AI算力墙、内存墙、通信墙三大瓶颈,打造高带宽、高性能、高性价比解决方案,助力国产算力产业跃迁与全球化发展。(咸宁新闻网)
1895年,南通人张謇抱爱国之心,利用本地优势开始创办纱厂,从而为南通引来工业时代。纱厂连带着一些配套企业的诞生,最终形成一个以纱厂为核心的企业集团。西安石油大学“丝绸织路”实践团队成员在深入学习 2024年3月5日,北京玻色量子科技有限公司(以下简称“玻色量子”)与深圳华大生命科学研究院(以下简称“华大研究院”)达成战略合作。此次签约,恰逢十四届全国人大二次会议,李强总理作政府工作报告时提出:在未来 21世纪经济报道 记者郑雪 北京报道人工智能发展如火如荼。2月初,Sora的发布只是新一轮竞争的开始,随后发布的Mistral Large大模型、Claude 3模型再次吸引全球目光。我国人工智能产业如 21世纪经济报道记者王峰 北京报道 当前,不少中小学“课间十分钟消失”,十分不利于学生身心健康发展。全国政协委员、民革中央委员、上海新纪元教育集团董事长陈伟志发现,从现实情况看, 南方财经全媒体见习记者吴佳楠 北京报道当前,世界经济循环格局深度调整,新质生产力成为重塑全球竞争新优势的关键着力点。2023年中央经济工作会议强调“要以颠覆性技术和前沿技术催 为了进一步深化校企合作,2024年3月7日,中顺洁柔集团董事长刘鹏带队赴广州美术学院,开展了新一年度合作交流会。中顺洁柔副总裁(人力)赵明、副总裁兼首席内容官吕白等一众人员随行参加了本次活动。会上,广州 。本文链接:算苗3D TokenPU正式流片 引领国产AI云端大算力芯片再升级http://www.sushuapos.com/show-1-63176-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。