3月31日,源自清华的创新企业无问芯穹在上海举办“多元计算·泛在链接”AI算力优化论坛暨产品发布会,清华大学电子工程系长聘教授、无问芯穹发起人汪玉携联合创始人团队首次集体公开亮相,并发布“无穹Infini-AI”大模型开发与服务平台。
清华大学电子工程系教授、无问芯穹发起人汪玉。 无问芯穹供图
无穹Infini-AI大模型开发与服务平台基于多芯片算力底座开发,旨在有效整合和优化算力资源、设计出好的利用方式和工具,缓解大模型企业面临的算力紧缺状况。会上,无问芯穹宣布,该开发服务平台自3月31日起正式开放全量注册,并给所有实名注册的个人和企业用户提供百亿tokens免费配额。
无问芯穹联合创始人兼CEO夏立雪介绍说,开发者可以在这个平台上体验、对比各种模型能力和芯片效果,通过简单拖拽各种参数按钮的动作,就能精调出更贴合业务的大模型并部署在无穹Infini-AI上,再以非常优惠的千token单价向用户提供服务。
谈起发布这一平台的初衷,汪玉介绍说,大模型引发社会广泛关注后,他们认为,国内整体算力水平距离国际先进还有明显差距,仅靠芯片工艺提升或多元芯片的迭代已远远不够,需要建立一个大模型生态系统,让不同模型能自动部署到不同硬件上,让各种算力得到有效利用。
据介绍,无穹Infini-AI已支持Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5系列等共20多个模型,以及AMD、壁仞、寒武纪、燧原、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡,支持多模型与多芯片之间的软硬件联合优化和统一部署。第三方平台或自定义训练、微调而来的模型也可以无缝迁移托管到无穹Infini-AI,并获得细粒度定制化的按token计费方案。
“我们对模型品牌和芯片品牌的覆盖率还会持续提升,随着时间的推移,无穹Infini-AI的性价比优势会越来越突出。”夏立雪表示,未来无穹Infini-AI还将支持更多模型与算力生态伙伴的产品上架,让更多大模型开发者能够‘花小钱、用大池’,持续降低AI应用的落地成本。
根据近日发表于《科学-机器人》的一项研究,人们可以学习用眼睛和胸部肌肉控制第三条手臂。研究人员称,这种“额外肢体”可 一年前,美国国家点火装置(NIF)产生了一种聚变反应,其释放的能量超过消耗的能量,这种现象被称为点火。今年,NIF通过一次又一次 近日,日本政府批准了一项立法,要求6所顶尖大学成立新的管理政策委员会,使外部专家在决策中有更大的发言权。 据《科 中新网1月1日电 据法新社最新消息,日本政府表示,强震发生后没有核电站出现异常的报告。 日本石川县能登地区1日下午 当地时间1月1日早上,印度空间研究组织在安得拉邦发射PSLV-C58运载火箭,搭载了印度首颗用于研究黑洞的科学卫星XPoSat 关于发布《中国博士后科学基金资助指南(2024年度)》的通知 中博基字〔2024〕2号 各省、自治区、直辖市及新疆生产 。本文链接:提供“百亿补贴”!无问芯穹发布大模型服务平台http://www.sushuapos.com/show-11-4491-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 计算医学驱动药物研发“不走寻常路”
下一篇: “要做确有意义的研究”