南方财经 21世纪经济报道记者赖镇桃 袁思杰 广州报道
AI芯片的关键角力场正从训练端转向推理侧。
“AI发展已进入下半场,行业正从追求大模型极致能力、单芯片算力峰值,逐步转向聚焦应用落地与推理场景建设。谁能提供更普惠、更易用的AI服务,将决定未来AI渗透率,决定 AI能否真正赋能千行百业、走进千家万户。”在2月24日举行的广东全省高质量发展大会上,“深圳人工智能芯片第一股”的云天励飞副总裁郑文先向21世纪经济报道记者表示。
前两年,科技巨头狂卷大模型能力,英伟达凭借高算力和极致性能占据了全球AI训练市场90%以上份额,但如今随着大模型架构趋于收敛,AI应用和落地成为新风口,推理侧的算力需求随之大涨。
根据麦肯锡报告,全球AI推理市场规模预计在2028年将达1500亿美元,年复合增长率超40%,远高于训练市场的20%。
“云天励飞定位于中国AI推理芯片的领军企业,我们不盲目追求模型参数规模与芯片算力峰值,而是顺应 AI 推理时代的发展趋势,针对不同应用场景,提供高性价比和符合客户需求的芯片和服务。我们定下的目标是,未来五年,我们的算力成本要降到‘百亿token一分钱’。”郑文先谈道。
只是,郑文先也坦言国产AI芯片在大国博弈的背景下,面临一定现实挑战,比如在先进工艺的流片制造环节,和国外的芯片企业相比或处于劣势。
但是云天励飞公司所在的广东省,也有明显的竞争优势,一是广东作为制造业与服务业的双重重镇,为AI技术提供了天然的落地场景。正如本次高质量发展大会多次提及的“机电一体化”趋势,大湾区繁茂的产业生态中隐藏着丰富的AI应用场景,为AI企业发展提供坚实保障。二是AI研发的高昂成本一直是行业痛点,广东尤其是深圳通过发放“数据券”“算力券” “模型券”等创新政策,帮助企业降本增效。
(文/万肇生 编辑/张广凯) 当闭源云端大模型可以随时切断你的账号时,本地的开源大模型含金量又提升了。 4月15日,有用户在科技社区Hacker News上发文称,美国AI公司Anthropic已更新用户策略,在其闭源大模型Claude使用中,引 中新经纬4月17日电 周五,A股三大指数开盘涨跌不一。上证指数跌0.30%,报4043.38点;深证成指涨0.07%,报14806.28点;创业板指涨0.47%,报3643.15点。 来源:同花顺 盘面上,行业板块中,非金属材料、化学纤维、煤炭开采加工 中新经纬4月16日电 (张芷菡)美国关税退款即将开启。美国海关与边境保护局4月14日表示,已基本完成向进口商大规模退款的报关系统新功能第一阶段研发,将于20日启动相关关税退款工作。 3月4日,美国国际贸易法法院裁 中新经纬4月16日电 4月16日,深圳大普微电子股份有限公司(股票简称:大普微,股票代码:301666.SZ)成功登陆深圳证券交易所创业板,凭借“AI SSD(固态硬盘)第一股”的身份引发关注。 Wind显示,上市首日,大普微盘中一度涨超 。本文链接:云天励飞副总裁:AI芯片下一爆点在推理侧,广东应用场景领跑http://www.sushuapos.com/show-3-167588-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 从“造产品”到“做服务”,粤企闯出新蓝海