近日,美团宣布LongCat-Flash-Chat正式发布,在Github、Hugging Face 平台开源。LongCat-Flash采用创新性混合专家模型(MoE)架构,总参数560B,激活参数18.6B-31.3B,实现了计算效率与性能的双重优化。
据相关负责人介绍,LongCat-Flash在层间铺设跨层通道,使MoE的通信和计算能很大程度上并行,极大提高了训练和推理效率。配合定制化的底层优化,LongCat-Flash在30天内完成高效训练,并在H800上实现单用户100+tokens/s的推理速度。针对智能体能力,LongCat-Flash自建了Agentic评测集指导数据策略,并在训练全流程进行了全面的优化,包括使用多智能体方法生成多样化高质量的轨迹数据等,实现了优异的智能体能力。
此外,通过系统优化,LongCat-Flash在H800上达成了100token/s的生成速度,在保持极致生成速度的同时,输出成本低至5元/百万token。
今年以来,美团AI进展频传,发布了AI Coding Agent工具NoCode、AI经营决策助手袋鼠参谋等。公司负责人表示,美团AI战略会建立在三个层面:AI at work、AI in products以及Building LLM,此次模型开源是其Building LLM进展的首度曝光。
这些年,我们为什么越来越频繁提到创新?因为只有在原始创新上持续发力,在基础理论方法上有所突破,我们才能摆脱对国外的 岁月不居,时节如流。转眼间,2023年已步入尾声。这一年给我们留下了太多值得铭记的精彩时刻:我国科学家成功制备并验证5 12月19日,第二届中国气象旅游产业发展大会在河南三门峡召开。来自中国旅游研究院、中国气象局公共气象服务中心、中国科 科技日报讯 (记者张梦然)日本大阪都立大学科学家设计了一种高效、无创、无痛的方法,从尿液样本中重新编程犬类干细胞,使 今天(1月3日),位于河北保定的亚洲最大自然博物馆之一——中国古动物馆(保定自然博物馆)正式开馆。 △中国 编者按 近两年,中国有一小部分年轻学子正在涌入Gap year文化的潮流,有些人甚至选择延毕去体验这种间隔年。Gap year兴起于 。本文链接:LongCat-Flash-Chat发布并开源http://www.sushuapos.com/show-11-25630-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 第二届等离子球磨技术与应用研讨会举办