近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。
据悉,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(huggingface)的漏洞,通过共享模型注入破坏代码,导致团队模型训练成果受损。消息称此次遭到入侵的代码已注入8000多张卡,损失或达千万美元。
10月19日下午,字节跳动官方澄清回应称,近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。
字节跳动表示,相关报道也存在部分夸大及失实信息,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。另外,网传“涉及8000多卡、损失上千万美元”严重夸大。
经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。据悉,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。
有消息人士告知,田某某系北大在读学生。
此次事件暴露出字节跳动技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等。一位行业人士对记者表示,进行权限隔离与审计利于保护公司核心数据与知识产权,防止数据泄漏,提高数据与系统的安全性。比如实时监控权限使用情况,及时发现权限滥用和异常操作;定期审计权限,检查团队成员的权限是否符合授权策略,是否存在权限滥用的情况等。但这件事也有难度,包括跨部门合作成本、经常性维护与更新的资源投入等。
最新的字节跳动大模型信息披露发生在今年10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。
机票扩大免费退改范围:航司越“卷”消费者越得利 然玉 1月10日起,南航、东航新版机票退改规则生效。根据公告,南航、东航扩大了客票免费退改范围,放宽了因病退改规则,并新增了票价波动的退票规则等。被视为“ “年轻人报复性挤爆3.5分餐厅” 砸了谁的锅 不能仅靠年轻人“挤爆3.5分餐厅”的一身反骨,而要靠净化网络平台信用环境、提升完善评价体系 有一句流行语“股票反着买,别墅靠着海”,意思是要拒绝从众心理,反向操 当前,进一步推动我国经济回升向好需要克服一些困难和挑战,主要体现为有效需求不足、社会预期偏弱等问题。习近平总书记在中共中央政治局第十一次集体学习时强调,新质生产力是创新起主导作用,摆脱传统 新华社南昌2月22日电(记者刘佳敏)“江西银河表计有限公司招普工50名,薪资大约4200至4800元。这个公司离立新很近,你有空可以去参观一下。”近日,在九江市永修县立新乡黄婆井村的招聘会现场,村干部和志愿者 新华社兰州2月21日电(记者郁琼源、张晓洁)农业农村部部长唐仁健21日说,要坚持“守底线、增动力、促振兴”协同推进,聚焦增强脱贫地区和脱贫群众内生发展动力,持续加强防止返贫监测帮扶,加快建立农村低收入 自然资源部:22个省级国土空间规划已获批准实施 中新社北京2月22日电 (记者 庞无忌)中国正加速推进各级国土空间规划编制实施。 中国自然资源部22日透露,截至目前,所有省级和新疆生产建设兵团国土空间规划均已 。本文链接:字节跳动回应大模型训练被实习生“投毒”:已辞退,不影响商业化正式项目及线上业务http://www.sushuapos.com/show-5-31195-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。