字节跳动Seed成立国内首家AI安全与对齐专属部门，强化智能体模型风险防控

SmartHey10月13日消息，澎湃新闻获悉，字节跳动Seed近日发出内部邮件，宣布正式成立“Seed Model-Alignment&Preparedness”部门，由严林担任负责人，向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将整体并入该新部门。

该部门的设立标志着字节跳动在大模型安全治理路径上的关键升级——聚焦模型行为与人类意图、安全约束的一致性（即‘对齐’），系统性提升Agent Model（智能体模型）的安全鲁棒性，并前瞻性防范CBRN（化学、生物、放射、核）等前沿能力可能引发的高危风险。

当前，大模型安全挑战持续加剧：智能体越狱逃逸、自主执行恶意指令、生成高危害内容等事件频发。过去，国内多数AI实验室将安全与对齐工作嵌入公司级合规流程；而Seed此次独立建制，成为国内首个专设安全与对齐技术部门的前沿AI实验室。

Seed团队内部评估指出：随着模型智能水平跃升、任务自主性增强、落地场景日益开放，安全与对齐已超越传统‘风控补丁’角色，转为决定模型能否规模化、可信化部署的核心能力支柱。

新部门将重点推进五大方向：模型安全规范制定、多维度安全评估体系构建、可扩展对齐训练方法研发、实时防护系统搭建，以及全链路风险监控机制建设；同时将主动加强与国内外顶尖学术机构、独立评测组织的公开协作，推动安全标准共建与透明验证，确保前沿模型在严格授权与安全边界内稳定、可靠地完成复杂任务，并随能力演进持续压降滥用风险与行为偏离概率，最终建成覆盖已知与未知威胁的纵深防御型AI安全体系。

据字节官网信息，Seed团队成立于2023年，致力于探索通用人工智能的新范式，突破智能能力上限，以技术向善驱动科技与社会进步。团队研究布局涵盖多模态大模型（MLLM）、生成式媒体（GenMedia）、科学智能（AI for Science）、具身智能与机器人等多个前沿领域，在中国、新加坡、美国等地设有分布式实验室与研发岗位。