8月6日,据《The Information》报道,有知情人士透露,在上个月的Seed团队全员大会上,字节跳动创始人张一鸣罕见表态称,字节跳动不会把蒸馏当作提升AI模型能力的捷径,即便这意味着公司眼下落后于国内竞争对手。
今年以来,国内AI大模型竞争已经极为激烈,几乎每隔几天就有新模型发布,而蒸馏可使得新模型直接学习现有先进模型的推理步骤,大大节省时间和成本。
但张一鸣表示,字节应该愿意为了更长远的目标,牺牲一些短期利益。
有字节员工表示,Seed团队内部关于是否应转向蒸馏的争论已久。每当国内发布新开源模型后,该争论就会进一步升温。目前大部分AI公司更专注于开源模型,而字节跳动是国内主要AI公司中唯一一家大语言模型几乎全为专有模型的企业。
据了解,字节跳动内部对开源模型严禁蒸馏,甚至通过API检测等方式在内部加强相关限制,张一鸣认为,蒸馏会干扰真正意义上的长期技术突破。
本文系观察者网独家稿件,未经授权,不得转载。
面向 Physical AI 的 Reality-to-Sim 具身智能基础设施公司景立构(ScanArk),宣布完成Pre-天使轮融资,至此,公司在 4 个月内已完成种子轮、种子+轮及 Pre-天使轮三轮融资,累计融资数千万元人民币, 今年9月最后一周,投资了OpenAI和Anthropic的彼得·蒂尔,在柏林领取 Axel Springer Award,并与马蒂亚斯·德普夫纳做了一场对谈。他用自己《从零到一》的互联网时代垄断理论,审视今天的模型公司, 来源:百度百家号德林社-全部来源:大掌柜观察摘要:昨天这根缩量阴线,把3800给跌穿了。掌柜前晚说【周末前瞻:深V之后,AI行情从资本开支走向商业化变现】,并指出"下周一反弹,但这反弹是给你控仓、给你调结构的机会,不是让你梭哈 21世纪经济报道记者 章驰在存款利率进入“1时代”的背景下,很多人想把钱挪到理财里追求更高收益,于是越来越多消费者将资金投向银行理财产品。但银行理财早就不是“稳赚不赔”的存款替代品了,债券、股票等价格波动会直接 。本文链接:张一鸣在Seed团队发言:字节不走模型蒸馏捷径http://www.sushuapos.com/show-3-182681-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。