专注3D架构AI云端大算力芯片研发设计的算苗科技6月17日宣布,旗下面向大模型推理的3D TokenPU芯片A4E已于6月15日正式流片,标志着中国在高端AI算力芯片领域,实现依托国产供应链、采用3D混合堆叠架构的大模型专用处理器落地,有望为国内大模型产业提供自主可控、高性能、高性价比的算力支撑。
大模型时代原生设计 专注推理能效比
当前,AI产业正加速由训练向推理迁移。德勤预测,未来超80%的算力需求将集中在推理侧。然而,大模型推理长期受制于“内存墙、算力墙、通信墙”三大核心瓶颈,尤其是数据在存储器与处理器之间的频繁搬运,造成高达80%的能耗和70%的成本压力。
作为大模型时代原生的算力芯片企业,算苗科技首创3D TokenPU架构,跳出通用GPU的设计思路,专攻推理场景极致性能。第一代产品A4E将8层存储晶圆垂直堆叠在计算逻辑晶圆上,通过硅通孔(TSV)与凸点(bump)技术实现微米级互联,将传统芯片间的“毫米级”传输距离压缩两个数量级,带来16TB/s的超大访存带宽,有效缓解数据饥饿问题。
在架构设计方面,算苗科技引入Tile-Native软硬件协同理念,将Tile作为数据搬运、存储和计算的基本单元,实现“一次搬运、多次复用”的高效模式。硬件原生支持Tile级数据调度与多精度动态切换,软件端则构建适配LLVM、Triton等开源生态的编译工具栈,兼顾开发者友好性与算子优化效率。这种“硬件架构-软件工具-算法特性”的闭环优化,为大模型推理提供了更高性能和更低TCO(总拥有成本)。
“我们不是在别人的赛道上追赶,而是在开辟新的方向。”算苗科技创始人兼CEO汪福全博士表示,“3D TokenPU专为大模型Token处理而生,不必单纯依赖制程缩小,就能实现算力密度、能效比的跨越式提升。”
从设计到制造自主可控 面向量产
算苗科技已构建起覆盖芯片设计、核心IP、制造、封装的国产化供应链体系。A4E芯片基于自研RISC-V架构与自研IP、自研软件体系打造,与国内头部供应链伙伴深度合作,采用成熟国产工艺也可实现卓越推理性能。在工程化量产层面,算苗团队核心成员已在高通量存算一体芯片项目中,完成万片级3D混合堆叠晶圆的量产,是全球少数掌握该技术的团队之一。同时,公司构建了高精尖人才梯队,研发人员占比超80%,核心骨干来自中科院、清华、北大等顶尖院校,兼具深厚的半导体工程化落地与AI前沿算法研究能力。
携手客户 深耕千亿级推理市场
当前全球大模型推理市场已迈入千亿美金规模,中国市场也达到数千亿人民币规模。算苗3D TokenPU的核心客户为头部大模型厂商,目前已联手客户开展近一年的深度研发工作;从芯片定义阶段便锚定真实推理场景需求,针对性完成架构与底层算法深度调优,实现AI算力和大模型算法的极致匹配。
算苗3D TokenPU 大算力芯片的技术路线与产业化潜力,也获得了资本市场的高度认可。公司已先后完成多轮融资,投资方覆盖国资平台、头部市场化基金与一线产业资本,包括国开金融、北京顺禧、源码资本、石溪资本、联想创投、襄禾资本等。
关于算苗科技(SUNMMIO)
算苗科技SUNMMIO是大模型时代原生的芯片企业,为3D TokenPU概念首创者,专注3D架构AI云端大算力芯片的研发,团队核心成员拥有全球领先的3D混合堆叠晶圆量产能力。公司依托国产供应链与成熟制程,以3D堆叠+Tile-Native软硬件协同创新,突破AI算力墙、内存墙、通信墙三大瓶颈,打造高带宽、高性能、高性价比解决方案,助力国产算力产业跃迁与全球化发展。(咸宁新闻网)
阴和俊 科技部部长 2023年全国研发经费投入超过3.3万亿元,在量子技术、集成电路、人工智能、生物医药、新能源等领域取得一批重大原创成果,把对青年科技人才的培养作为一项长期的战略性工作……在5日举行的十四 在全国第61个“学雷锋纪念日”,中建八局泾河新城光伏新能源产业园项目(一期)积极响应陕西团省委及公司号召,传承”奉献、友爱、互助、进步“的志愿者精神,展现新时代青年的责任与担当,组织开展“挽袖之爱托 21世纪经济报道记者王峰 北京报道 当前,不少中小学“课间十分钟消失”,十分不利于学生身心健康发展。全国政协委员、民革中央委员、上海新纪元教育集团董事长陈伟志发现,从现实情况看, 美国十余个州和海外领地3月5日举行总统选举初选。依据媒体测算结果,民主党籍现总统约瑟夫·拜登和共和党籍前总统唐纳德·特朗普在这个被称为“超级星期二”的选举日延续领先势头。 截至美国东部时间5日24时,美联 南方财经全媒体记者 翁榕涛 广州报道为贯彻落实国务院关于走访上市公司、推动上市公司高质量发展的工作部署,广东组织开展北交所上市公司系列走访活动,持续加大对优质上市公司支持力度 近年来,在全球食品产业链优质资源加速整合、政策红利持续释放以及广大国民对品质消费意识快速提升的背景下,进口食品产业迎来新的爆发点。据数据显示,近年来我国进口食品的渠道、种类、数量都呈现出快速 。本文链接:算苗3D TokenPU正式流片 引领国产AI云端大算力芯片再升级http://www.sushuapos.com/show-1-63176-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。