快讯科技财经汽车社会旅游娱乐时尚健康生活科学教育

热搜：整理5个步

首页 > 科技

Mamba架构第一次做大！混合Transformer，打败Transformer

发布时间: 2024-03-29 17:10:16 来源：量子位

观看：351

取两架构之长，混合模型Jamba诞生

丰色发自凹非寺
量子位 | 公众号 QbitAI

精彩精彩，第一个把爆火Mamba架构真正扩展到足够大的工作来了。

520亿参数，还是Mamba+Transformer混合架构。

它的名字叫Jamba。

Mamba架构第一次做大！混合Transformer，打败Transformer

取两种架构之长，模型质量和效率兼得，要吞吐量有吞吐量，要低内存有低内存。

初步跑分显示：

Jamba性能总体接近Mixtral 8x-7B，处理128k长上下文时吞吐量却是其3倍。

一共支持256k上下文，而单张A100 GPU即可处理140k，直接拿下同等规模模型之最，高效又经济。

这项成果，来自以色列AI公司AI21labs。

Mamba原作者看了之后都激动转发：

绝对的“大新闻”。

Mamba、Transformer，合体

由CMU和普林斯顿大学提出的Mamba，解决了Transformer的局限性（随着推理上下文越长，模型内存占用量越大，同时推理速度变慢，由此导致算力消耗巨大）。

但它也有自己的缺点——

在不关注整个上下文的情况下，Mamba的输出质量很差，尤其是在召回相关的任务上。

本着“既要也要”的原则，Jamba站出来提供两全其美之作。

Jamba由Transformer、Mamba和MoE层组成，可同时优化内存、吞吐量和性能。

如下图所示，为了集成两种架构，Jamba采用块层（blocks-and-layers）组合的创新方法。

简单来说，就是每个Jamba块包含一个注意力层或一个Mamba层，再跟一个多层感知器MLP，总体比例保证为每八层一个Transformer层。

其次，Jamba利用MoE来增加模型参数的总量，同时简化推理中使用的活动参数量。

最终模型容量高了，计算需求也没有相应的增加。

而为了在单张GPU（80GB）上最大限度地提高模型吞吐量，Jamba还优化了所用MoE层和专家数量，最终为日常推理工作负载留出足够内存。

值得一提的是，在推理时，Jamba的MoE层仅需520亿可用参数中的120亿，就能同时保证比同等大小的仅Transformer模型更高效。

要知道，此前有人光是尝试过扩展Mamba，就没能做到30亿参数之上。

因此，除了成功合体Mamba和Transformer，Jamba也达成了第二大成就：

同类中第一个达到生产级规模和质量的混合架构（SSM混Transformer）（ps. Mamba就是一种状态空间模型SSM）。

吞吐量和效率up

初步评估显示，Jamba在吞吐量和效率等关键指标上表现出色。

首先，Jamba可以在长上下文中提供3倍吞吐量，比Mixtral 8x7B等大小相当的Transformer模型都要高效。

如下图所示，当上下文窗口达到128k时，Jamba的每秒token数近乎1500，而此时表现最好的Mixtral 8x7B应该才在500往上的样子。

其次，在单张GPU上，Jamba最多可以容纳140k上下文，经济又高效。

相比之下，Mixtral 8x7B为64k，Llama2 70B则仅为16k。

第三，Jamba的输出质量也得到了保证。

在如下一系列推理基准上，4项中有3项它都拿下了SOTA。同时，在GSM8K等基准上，Jamba即使没有夺魁，也和SOTA模型打了个不相上下。

总体来说，Jamba的性能接近Mixtral 8x7B。

最后，作者提示，别忘了，这些都还只是初步改造后的结果，后续还有很多优化空间（比如MoE并行、更快的Mamba实现）。所以到时性能会更强。

好消息：Jamba现在已经上线Hugging Face，并且划重点：采用apache-2.0许可。

（Jamba的指令版本则将很快通过AI21labs平台上线。）

网友看完都感动哭了。

传送门：
https://huggingface.co/ai21labs/Jamba-v0.1

参考链接：
[1]https://www.ai21.com/blog/announcing-jamba
[2]https://www.ai21.com/jamba
[3]https://twitter.com/AI21Labs/status/1773350888427438424?s=20
[4]https://twitter.com/tri_dao/status/1773418926518734957?s=20

　　监管AI，欧盟出手，美国掉队？　　上个世纪，科幻小说家艾萨克・阿西莫夫提出了“机器人三定律”，带来了对“机器人”与“规则”的美好幻想。　　如今，伴随着ChatGPT、Sora的爆火，人工智能(AI)领域的激烈竞争，对该领域的监管记者3月17日从浙江大学获悉，该校医学院附属第二医院王良静教授团队、附属邵逸夫医院陈淑洁主任医师团队联合研究发现，一种肠道菌群产生的小分子代谢物吲哚丙酸，可以增强抗癌药物抗PD-1单抗对结造成女性更容易睡不好的原因是多方面的，包括更年期等生理周期等，而女性长期的失眠除了会导致内分泌进一步失调，还会诱发心脏病、高血压、糖尿病、免疫力低下、记忆下降、脱发、皮肤松弛等。北京从手机到手表再到电动汽车，锂离子充电电池为众多设备提供动力。但随着消费者丢弃电子产品的增加，越来越多的锂可能会进入环境。研究人员在美国化学会2024年春季会议上展示的一项研究成果，描述了 3月23日消息，vivo X Fold3系列将于3月26日正式发布，成为全球首款骁龙8 Gen3折叠屏电话。现在这款新机外观已经解禁，下面为大家带来图赏。vivo X Fold3提供了薄翼黑和轻羽白两种配色，后壳手感顺滑，触感 3月22日记者获悉，中国移动北京公司（北京移动）已于近日在北京亦庄高级别自动驾驶示范区永昌路段完成5G-A网络精品覆盖。这也是北京首条同时部署了5G-A网络和车网算力协同技术的车联网试验道路，为。

本文链接：Mamba架构第一次做大！混合Transformer，打败Transformerhttp://www.sushuapos.com/show-2-4416-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：石头科技年度旗舰扫拖机器人发布巅峰科技加速行业全维进阶

下一篇：反英伟达CUDA联盟集结：谷歌英特尔高通牵头，微软亚马逊跑步加入

Mamba架构第一次做大！混合Transformer，打败Transformer

Mamba、Transformer，合体

吞吐量和效率up

热门资讯

推荐资讯

科技最热文章