一、事件背景
近期,字节跳动起诉前实习生事件引发广泛关注。据悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失 800 万元及合理支出 2 万元,并公开赔礼道歉。
字节跳动内部人士称,2024 年 6 月至 7 月,集团商业产品与技术部门前实习员工田某某,因对团队资源分配不满,通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务,造成资源损耗。公司已与其解除实习协议,同步阳光诚信联盟及企业反舞弊联盟,并同步至其就读学校处理。
几个月后,双方矛盾激化到起诉环节。原因是田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生,甚至报警称遭到造谣。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。
二、实习生的 “投毒” 行为
2024 年 6 月至 7 月,字节跳动集团商业产品与技术部门前实习员工田某某因对团队资源分配不满,开启了恶意攻击团队研究项目模型训练任务的行动。
田某某利用了 Huggingface 的 load ckpt 函数漏洞,制作了一个看似正常实则加了 payload 的 ckpt 文件。通过这种方式,他可以远程执行代码并修改参数。具体而言,他注入代码动态修改别人的 optimer,修改参数梯度的方向,并且在各种地方随机 sleep 一小段时间。修改梯度方向会导致模型反向传播过程中计算出的梯度被篡改,使模型一直朝错误的方向优化;而 sleep 操作则会明显降低模型训练的速度。甚至有人猜测,该实习生可能修改了自己的预训练模型,因为模型参数是用 ckpt 文件保存的,其他人训练时会加载这个注入恶意代码的 ckpt 文件,从而导致模型训练出问题。
这种恶意攻击行为给团队的模型训练任务带来了极大的困扰,造成了资源损耗。原本正常的研究项目被打乱,团队成员们通宵达旦地努力却毫无进展,大卡体验莫名其妙中断、失败。田某某的行为不仅影响了项目的进度,也破坏了团队的合作氛围。
三、最佳论文引发热议
12 月 4 日,一则消息引发了广泛热议。字节跳动前实习生田某某与字节合作的论文被人工智能顶级会议 NeurIPS 评为最佳论文。这一事件的关注度极高,一方面是因为 NeurIPS 在行业内的巨大影响力,另一方面则是字节跳动刚刚请求法院判令田某某赔偿公司侵权损失 800 万元及合理支出 2 万元。
此次 NeurIPS 公布的最佳论文由田某某所在的字节商业化技术部门与北京大学合作发表,论文题目为《视觉自回归建模:通过下一尺度预测实现可扩展的图像生成》,由包括田某某在内的五人完成,田某某是第一作者。该论文核心内容探讨了一种可扩展的图像生成方法,通过下一尺度预测来进行视觉自回归建模,是一种用于创建新图像数据的生成模型。VAR 在图像生成领域具有创新性,首次使得 GPT 风格的自回归模型在图像生成方面超越了扩散模型。
这一成果的出现,引发了外界的各种猜测和讨论。有人对田某某的学术能力表示赞赏,认为他在研究领域展现出了深厚的实力,实至名归。然而,也有人对其品德提出质疑,认为德行败坏者,能力越强,危害越大。毕竟,田某某此前因对团队资源分配不满,恶意攻击团队研究项目的模型训练任务,被字节跳动起诉。
外界纷纷猜测字节方面对于这一事件的态度会如何变化,田某某是否会选择创业,以及相关技术的具体落地进展等问题。但目前,字节与田某某之间的诉讼仍待解决,这也让事件的走向充满了不确定性。
四、事件影响与思考
对字节跳动的影响
此次事件对字节跳动而言,无疑在多个方面产生了重大影响。首先,从技术层面来看,实习生的恶意攻击行为干扰了模型训练任务,造成了资源损耗,这可能导致项目进度延迟,影响公司在相关领域的技术研发和创新步伐。其次,在声誉方面,事件引发了广泛的社会关注,尽管字节跳动采取了果断的法律行动来维护自身权益,但这一事件也可能在一定程度上影响公众对公司内部管理和安全机制的信任度。再者,从管理层面来说,这一事件促使字节跳动反思自身的内部管理机制,包括资源分配的合理性、员工沟通渠道的畅通性以及对实习生的管理和培训体系等。未来,字节跳动需要进一步完善内部管理,加强安全防护措施,以防止类似事件的再次发生。
对实习生的影响
对于实习生田某某来说,此次事件带来的影响也是巨大的。一方面,被字节跳动起诉要求赔偿 800 万元及合理支出,并公开赔礼道歉,这将给他带来沉重的经济压力和法律责任。作为一名在读博士,这一事件可能对他的学业和未来职业发展产生负面影响。另一方面,尽管他参与的项目获得了 AI 顶级会议最佳论文,但他的品德受到了质疑。在科技行业,能力与品德同样重要,德行败坏者,能力越强,危害越大。田某某需要深刻反思自己的行为,承担起应有的责任,并在未来的职业生涯中注重职业道德的培养。
对行业的影响
这一事件在行业内也引起了广泛的思考。首先,它提醒了科技企业要高度重视内部安全管理和员工职业道德教育。在快速发展的科技行业中,技术人才掌握着关键技术和资源,他们的行为可能对企业造成重大影响。企业在追求技术创新的同时,不能忽视对员工道德与责任感的培养,要建立健全的内部管理机制和职业道德培训体系。其次,事件也引发了对技术发展与道德规范之间关系的讨论。在人工智能等高科技领域,技术的快速发展带来了巨大的机遇,但也伴随着潜在的风险。科研人员和技术开发者需要在追求学术成就和技术创新的同时,遵守道德规范,确保技术的合理应用。最后,这一事件也可能为行业树立一个标杆,促使企业更加重视内部纪律和职业道德,推动整个行业的健康发展。
引发的思考
这一事件引发了我们对企业与员工关系、技术发展与道德规范等方面的深入思考。在企业与员工关系方面,企业应如何合理分配资源,确保员工的权益得到保障,同时又能维护企业的利益?员工在面对不满时,应该如何正确表达自己的诉求,而不是采取极端行为?在技术发展与道德规范方面,随着科技的不断进步,我们如何在追求技术创新的同时,坚守道德底线,确保技术的安全、合理应用?这些问题都值得我们深入探讨和反思。在未来的发展中,我们需要在企业利益与个人行为之间找到平衡,在技术发展与道德规范之间找到契合点,共同推动科技行业的健康、可持续发展。
RA/SD 衍生者AI训练营。发布者:風之旋律,转载请注明出处:https://www.shxcj.com/archives/7607