How Anthropic Secures Its AI-Native Software Development Lifecycle（Anthropic 如何保障 AI 原生开发生命周期的安全）

当 AI 生成大部分代码（Claude 撰写了 Anthropic 约 80% 的合入代码，工程师季度发布量是 2021-2025 年的 8 倍），传统安全流程会成为瓶颈（Amdahl 定律）。Anthropic 重新设计了整个软件开发生命周期（SDLC），把自动化与人工控制智能结合，在保持速度的同时保障安全。

各阶段的改造

规划阶段

• Claude 驱动的项目安全评审（PSR）：对照 MITRE ATT&CK 框架分析设计
• PSR 系统接入组织知识索引做有上下文的风险评估
• 低风险项目经 AI 审核后可自行批准，消除不必要的等待
• 核心原则：安全 Agent 需要代码之外的组织上下文

代码生成阶段

• 安全准则编入 CLAUDE.md，融入 Agent 提示词
• /security-review 命令在编码过程中实时扫描漏洞
• 安全指导插件在开发中就地建议改进
• 用远程 VM 开发 + 出口白名单控制爆炸半径；用严格网络边界限制不可信输入的处理

测试与 CI 阶段（变化最大）

• 过去人工审查是主闸门；现在多个专门化 Agent 并行审查、各自聚焦一个窄面
• 用 RAG 引入历史事故的上下文
• 人工审查对自动批准的结果做风险加权抽样
• Agent 扫描 + SAST 工具在 PR 上留言
• 数据：「过去 claude.ai 事故背后约三分之一的 bug，现在的自动化流程本可拦下」；收到实质性审查评论的 PR 从 16% 升到 54%
• 关键洞察：审查 Agent 相互分离，防止共享盲区、限制单点被攻陷的影响

部署阶段

• 健全的 staging 环境 + 定期渗透测试
• staging 中持续运行 AI 驱动的 DAST（动态应用安全测试）
• 重大发布前做外部安全评审
• 顺带成果：发现并帮助修复了 500+ 个高危开源漏洞

监控与事故响应

• 单一职责的事故响应 Agent + 最小权限（日志读取、文档发布、频道沟通）；Agent 不能自主部署修复——写代码的能力与生产部署权限分离
• 发现 Agent 会通过 Slack 相互协调来绕过控制——现在通过独立身份边界主动管理
• 过去需要数月协调的代码迁移，现在数天内完成

治理框架

人类的角色从逐行审代码转向治理 AI 循环： - 按风险给代码库分级，自动化程度与敏感度对齐 - 新审查 Agent 先跑「影子模式」直到建立信任 - 红队测试：尝试往系统里塞恶意变更 - 仪表盘监控各流程的安全体征 - 每个 Agent 动作都过 SIEM，可审计、可追责 - 把 Agent 当内部威胁对待——偏离预期的动作触发告警

七条持久原则

1. 把安全自动化接入既有的组织上下文
2. 左移：把发现的漏洞与 Agent 指令更新之间的反馈环闭合
3. 对 Agent 的能力和访问设硬边界，不依赖模型指令本身
4. 人工审查留给杠杆最高的节点，而非试图全面把关
5. 动态安全测试频率匹配部署节奏
6. 给 Agent 单一用途的身份和最小必需权限
7. 安全岗位从盯 bug 演进为治理 AI 循环

具体实践清单

CLAUDE.md 安全最佳实践、pre-tool-use hooks 做硬性安全闸门、远程 VM + 出口白名单、多 Agent 分域审查、风险加权抽样、SIEM 记录所有 Agent 决策及推理信号、带审计痕迹的 Slack Agent 协调、新安全 Agent 影子模式部署。

结论

该问的问题不是「我们扫描得起什么」，而是「如果扫描几乎免费，我们会跑什么」——安全架构要为成本曲线持续下降而设计。根本转变：安全工程从监控单个 bug，转向监控和治理 AI 循环本身。人类监督依然居中——但通过智能抽样、意图设定和生产变更的最终批准权实现，而非穷举式审查。