Agent MechSuits 智能体安全研究
Agent MechSuits（Mechanistic Subspace Intervention and Steering）是一项针对多轮命令行智能体的白盒安全研究。它在每次动作生成之前读取模型内部隐藏状态，识别高风险执行状态后，在同一层中对一个低维表征子空间施加干预，以改变后续行为。
方法要点
- 步骤级检测：将完整执行历史输入模型，使用中间层最后一个输入 token 的隐藏状态进行风险判断。
- 低维干预：风险触发后，向所选层的输入 token 表征施加由 10 个关键维度构成的干预向量。
- 多轮任务：重点处理风险随文件、系统反馈与先前操作逐步出现的执行链条。
- 白盒前提：需要读取目标模型内部状态，不能直接迁移到没有表示层访问权限的服务。
如何阅读这项研究
- 先从 Agent MechSuits 官方项目主页 阅读论文、作者提供的图表和实现说明。
- 将当前步骤检测、恶意任务风险缓解、正常任务保留率和提示注入压力测试分开理解。
- 留意论文的判分方式：部分结果使用语言模型裁判，攻击成功率和生成崩溃率应同时纳入比较。
- 在实际系统中，应将内部监测与沙箱、最小权限、命令审查、环境内容检查及人工审批组合使用。
研究边界
论文报告了在指定模型和 MAS 基准上的积极结果，但也明确指出提示注入的自动检测还不稳定，干预搜索会带来额外推理开销，且输出可能出现重复或突然截断。它更适合作为运行时安全控制接口的研究方向，而不是单独的生产安全方案。