谷歌调整AI责任团队,DeepMind安全体系再变化
谷歌正在重新调整人工智能治理架构,而这一次变化触及了DeepMind内部一个较为特殊的团队——负责评估前沿AI风险的AI责任团队。
据《华尔街日报》报道,谷歌计划在9月初将约90人的AI责任团队从DeepMind转移至负责游说和公共政策事务的全球事务部门。同时,DeepMind内部的人力资源和部分政策相关团队也将进行类似调整。这被视为谷歌进一步推动DeepMind与集团体系融合的一部分。
AI责任团队并不是传统意义上的产品研发部门。它更多承担的是“提前发现问题”的角色,包括测试AI模型在化学、生物、放射性以及核领域可能带来的风险,同时研究用户与人工智能交互过程中的行为变化,以及聊天机器人可能产生的心理影响。
随着大模型能力不断提升,这类工作的重要性也在增加。
过去几年,谷歌、OpenAI、Anthropic等公司都投入大量资源研究AI安全问题。原因很简单:模型能力越强,潜在影响范围越大。一个能够生成文本的系统和一个能够辅助科研、编程甚至执行复杂任务的模型,面临的风险并不在同一个层级。
不过,团队位置调整也引发了一些内部担忧。
部分员工认为,将AI责任团队移出DeepMind后,可能会拉大其与Gemini模型研发团队之间的距离。安全研究人员如果无法保持与模型开发过程的紧密连接,可能降低发现前沿模型风险的效率。
这也是AI安全领域长期存在的矛盾。
一方面,公司希望安全团队保持相对独立,避免产品目标影响风险判断;另一方面,安全研究又必须接近模型训练、部署和迭代流程,否则很难及时发现问题。
谷歌对此表示,AI责任团队仍然可以访问DeepMind的资源,包括算力和人员支持。同时,负责模型行为、隐私保护和安全评估的其他团队仍会继续留在DeepMind内部。
从谷歌整体战略来看,这次调整更像是在重新划分AI业务管理边界。
DeepMind近年来已经从一家相对独立的研究机构,逐渐成为谷歌AI商业化体系的重要组成部分。随着Gemini系列模型推出,DeepMind承担的不再只是基础研究任务,也需要与谷歌搜索、云计算、办公软件等业务形成更紧密的协同。
这种变化带来的一个问题是:当AI研发速度越来越快,企业如何保持足够的安全审查距离?
大型科技公司过去习惯通过组织架构解决复杂问题,但AI的发展速度正在挑战传统管理模式。模型更新周期缩短,商业竞争压力增加,安全团队需要既理解技术前沿,也能够独立提出风险警告。
此次调整发生之际,DeepMind内部管理层和人才流动也持续受到关注。对于谷歌而言,如何在推进AI产品竞争的同时维持安全研究能力,将成为未来几年绕不开的问题。
AI行业正在进入一个新的阶段。过去的竞争更多围绕模型参数、算力规模和产品落地,而现在,谁能够建立更可靠的安全体系,也可能成为长期竞争力的一部分。





