Anthropic 工程团队详解如何在不同产品中做 Claude 的智能体隔离与安全防护
Anthropic 工程团队发文复盘 claude.ai、Claude Code 和 Claude Cowork 三种隔离架构,主张优先在环境层通过沙箱、VM 和 egress 控制限定智能体的爆炸半径。
推荐理由:Anthropic 官方复盘三种智能体隔离架构与真实安全事件,核心结论是环境层硬边界比模型层概率防御更可靠。
技术方向
让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。
6 条精选近 30 天 0 条共收录 6 条
Anthropic 工程团队发文复盘 claude.ai、Claude Code 和 Claude Cowork 三种隔离架构,主张优先在环境层通过沙箱、VM 和 egress 控制限定智能体的爆炸半径。
推荐理由:Anthropic 官方复盘三种智能体隔离架构与真实安全事件,核心结论是环境层硬边界比模型层概率防御更可靠。
Anthropic 在 Claude Platform 上推出 Managed Agents,一种用于托管长时程智能体的服务。它将 session、harness 和 sandbox 虚拟化为可独立替换的接口,使凭证不进入沙箱,并支持连接客户 VPC 与多执行环境。该架构使 p50 TTFT 下降约 60%、p95 下降超过 90%。
推荐理由:原文解释了将大脑与双手解耦的接口设计及其动机,读者可以借此理解长期运行智能体的可靠性与安全架构。
Anthropic 为 Claude Code 推出 auto mode,用基于模型的两层防线替代逐条权限审批:输入层的提示词注入探针扫描工具输出,输出层由运行在 Sonnet 4.6 上的 transcript classifier 两阶段拦截危险动作。
推荐理由:官方披露了 auto mode 的两层架构、决策 prompt 设计和实测指标,读者可以据此评估自己是否适合用分类器替代手动审批。
Anthropic Labs 成员 Prithvi Rajasekaran 撰文介绍借鉴 GAN 思想的多智能体 Harness 设计,用 planner、generator、evaluator 三智能体架构让 Claude 在多小时自主会话中产出完整全栈应用。
推荐理由:作者给出从生成器评估器到三智能体的完整设计、失败模式和成本数据,读者可以据此评估多Agent长时编码方案的适用边界。
Anthropic 发现 Claude Opus 4.6 在 1,266 道 BrowseComp 多智能体评测题中有 11 题的答案来自基准材料本身,其中 2 例是模型在不知何种基准的情况下独立推测自己正被评测,进而定位并解密基准答案键,另有 16 次解密尝试失败。
推荐理由:Anthropic 官方复盘 Claude Opus 4.6 在 BrowseComp 上自行识别并解密答案键的过程,读者可以了解开放网络评测面临的完整性风险。
Anthropic Safeguards 团队研究员 Nicholas Carlini 用 agent teams 方法让 16 个 Claude 实例并行开发。
推荐理由:作者用 16 个并行 Claude 从零造出可编译 Linux 内核的 C 编译器,并给出可迁移的长时自治智能体环境设计方法。