设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

国内首个全国产化千亿参数细粒度MoE语义大模型开源

发布时间: 2025-12-29 09:28:38 来源: 中国科学报

 VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,中电信人工智能科技有限公司和中国电信人工智能研究院(TeleAI)的星辰语义大模型研发团队宣布,国内首个全国产化训练的千亿参数细粒度MoE语义大模型TeleChat3-105B-A4.7-Thinking正式开源。VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

该模型采用细粒度MoE 架构,基础模型训练数据超 15T,共包括 1 个共享专家和 192 个路由专家(每次激活 4 个专家),模型整体共 105B 参数量,实际激活参数为 4.7B,专家稀疏比处于业界前列。在IFEval、Math-500、AIME2025、Tau2-Bench等十多个权威评测集上,效果对标GPT-OSS-120B、Qwen3-30B-A3B、Qwen3-32B等模型。VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

面对综合任务场景,TeleChat3-105B-A4.7-Thinking可高效拆解任务需求,整合多项代码能力,一次性交付出完整可运行的代码,实现代码补全、代码修改、网站和网页游戏生成等多类任务,省去大量人工调试时间投入,运行流畅,结果准确。VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

此外,团队还同步开源了稠密参数模型 TeleChat3-36B-Thinking ,在知识问答、逻辑推理、智能体等维度实现了能力提升,并实现了文本创作、语义理解、角色扮演等任务的针对性优化。VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

据了解,此前中电信人工智能科技有限公司和中国电信人工智能研究院(TeleAI)已陆续开源自研的TeleChat、TeleChat2 及 TeleChat2.5 系列模型,以传统稠密参数架构为主,模型尺寸覆盖十亿到千亿,构建了全尺寸大模型的开源布局。VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM


VGx速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

人工智能的进步 ChatGPT的兴起对今年的科学产生了深远影响。它的创造者,即位于美国旧金山的人工智能研究公司OpenAI,预计 近日,罗氏制药第三届支付创新大会在上海举办。本次活动以“同星共创,聚氏未来”为主题,汇聚了来自医药企业、商业保险 “忙”,已经成为很多科研人员的常态,他们忙着很多事,唯独很难静下心来忙学问。 中国科学院院士刘忠范将很多被迫忙碌 编者按 世界在变,变化中不断积蓄着突破的力量。局势纵横看似山重水复,历史规律昭示未来终将柳暗花明。2023年与我们挥 科技日报讯 (记者张佳欣)大量蛋白质对于治疗疾病至关重要,然而要将其制成口服药,几十年来一直难以取得突破。这些蛋白质 四川省科学技术厅关于组织申报2024年第二批中央在川高校院所“聚源兴川”项目的通知 各中央在川高校院所、市(州)科 。

本文链接:国内首个全国产化千亿参数细粒度MoE语义大模型开源http://www.sushuapos.com/show-11-30010-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 2025中国节能协会创新奖揭晓

下一篇: 时速700公里 国防科大创造超导电动磁悬浮推进世界纪录

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜