字节跳动 Seed 单独设立大模型安全与对齐部门,系国内前沿 AI 实验室首例

字节跳动 Seed 发内部邮件,宣布成立 Seed Model-Alignment&Preparedness 部门,由严林负责并汇报给吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入。该部门聚焦模型行为与人类意图及安全约束对齐,提升智能体模型安全能力,并防范化学、生物、放射、核等前沿能力风险。

字节跳动 Seed 团队近日通过内部邮件宣布,正式成立名为“Seed Model-Alignment&Preparedness”的独立部门,由严林负责,直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队以及部分 Chat 团队成员将整体转入该部门。这一调整意味着字节跳动成为国内首家将大模型安全与对齐工作单独设立为一级部门的前沿 AI 实验室,此前国内多数团队的安全对齐职能通常被纳入公司整体安全合规体系之中,缺乏独立建制与专门资源投入。

新部门的核心使命是让模型行为与人类意图及安全约束保持一致,重点提升智能体模型的安全能力,并防范化学、生物、放射、核等前沿能力带来的潜在风险。据内部判断,随着模型能力不断增强、应用场景日趋复杂,安全与对齐已不再只是被动的风险防范手段,而是决定模型能否规模化落地应用的核心能力。近年来,智能体逃逸引发的网络攻击等安全事件频繁发生,大模型安全风险正日益凸显,这也成为推动此次组织调整的重要背景。

在具体投入方向上,Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建以及风险监控等环节持续发力。与此同时,该部门还计划加强与外部研究机构和第三方评测的公开合作,推动安全评估的透明化与标准化。其最终目标是让前沿模型在安全与授权约束范围内有效完成任务,并在模型能力和自主性持续增强的过程中,不断降低滥用及行为偏离风险,建立起能够应对未知风险的全面安全体系。

从行业视角看,字节跳动此次单独设立安全与对齐部门,释放出明确信号:头部 AI 实验室正将安全对齐从合规成本重新定位为竞争力组成部分。随着智能体技术加速演进,模型自主决策带来的不可控因素增多,如何在能力提升与风险控制之间取得平衡,已成为全行业共同面对的课题。字节跳动的组织架构调整,或将为国内其他前沿 AI 团队提供参考样本,推动安全对齐工作走向更加专业化、体系化的发展阶段。