字节跳动 Seed 单独设立大模型安全与对齐部门
字节跳动 Seed 近日发出内部邮件,字节宣布将成立“Seed Model-Alignment&Preparedness”部门,跳动由严林负责,单独大模汇报给 Seed 负责人吴永辉。设立原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。型安
据悉,全对齐部该部门的字节设立旨在加强安全与对齐方向的投入,对齐的跳动核心是让模型的行为与人类意图和安全约束保持一致,从而提升 Agent Model(智能体模型)安全能力,单独大模以及防范 CBRN(化学、设立生物、型安放射、全对齐部核)等前沿能力风险。字节
大模型安全风险正日益凸显,跳动智能体逃逸引发的单独大模网络攻击等事件频繁发生。此前,国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中,字节跳动 Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
Seed 团队内部判断,随着模型能力越来越强、应用场景越来越复杂,安全与对齐已不只是风险防范,而是决定模型能否规模化应用的核心能力。
据了解,Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入,并加强与外部研究机构和第三方评测的公开合作,最终使前沿模型在安全与授权约束内有效完成任务,随着模型能力和自主性增强,持续降低滥用及行为偏离风险,建立面对未知风险的全面安全体系。
雷峰网 雷峰网(公众号:雷峰网)
- ·龚俊、邓为、张婧仪方发布短剧侵权声明
- ·杭州恒隆广场官宣:将于4月28日启幕试营业
- ·前八个月我国服务贸易保持较快增长
- ·我的末日小队后期装备选择与阵容搭配
- ·芜湖两企业入选制造业数字化转型“国字号”名单
- ·包河区淝河镇:义剪小服务 传递大温暖
- ·清华火神队成功卫冕RoboCup 2026世界冠军,加速进化构筑全球具身智能“通用底座”
- ·柚木市场行情持续火热\2020年4月广东鱼珠国际木材市场实木地板价格动态-
- ·郑钦文一年排名暴跌100多位,今晚将对战伊埃拉:对手世界排名第28位,刚爆冷淘汰温网卫冕冠军斯瓦泰克
- ·前八个月我国服务贸易保持较快增长
- ·2025年煤炭采选业科技经费投入211.7亿元 投入强度0.81%
- ·Steam今日史低游戏分享!10月16日史低佳作推荐
- ·王国大作战前线双人26层双刷攻略
- ·2025年煤炭采选业科技经费投入211.7亿元 投入强度0.81%
- ·【郑州长江医院人流放心】输卵管性不孕患者 在郑州长江圆梦
- ·朗格整体家居产品风格分类
- ·《桥梁建筑师传送门》2月底发售 修复桥梁让汽车通过
- ·某品牌汽车销售公司因造谣抹黑小米被罚款40万元
- ·15.19万元起,宋Ultra EV正式上市,3大颠覆、3大越级、3C护体
- ·杭州恒隆广场官宣:将于4月28日启幕试营业
- ·空陆竞逐科创梦 端午趣启少年心 —— 省青少年科技活动中心开展端午空陆挑战赛活动
- ·濉溪县百善镇开展助老扶弱志愿服务
- ·微软正式升级Windows 11系统的底层AI框架
- ·Kimi K2.7 Code 有多能打?找 Bug,写 3D 游戏,2000 行代码砍掉 55%
- ·世界男排联赛:美国队、波兰队晋级半决赛
- ·国家统计局:9月规上工业天然气产量210亿立方米 同比下降1.0%
