durin
注册

值得信赖的员工。特权过高的智能体。

有关非托管智能体访问、MCP 治理边界、提示注入和生产门的 CISO 指南。

决策摘要

将 MCP 治理应用于已知路由,然后评估内容、客户端、提供商和旁路的残余风险。

从观察边界开始

安全审查通常以“智能体”一词开头,就好像它命名了一个受控系统一样。实际上,智能体可以组合模型、客户端、本地服务器、远程 MCP 服务器、浏览器和上游凭据。代理管理到达其端点的请求。这个边界之所以有价值,正是因为它是特定的。

说明其外部的内容:直接提供商调用、非托管客户端、浏览器操作、shell 命令以及模型提供商对返回的工具结果的处理。这使得控制审查变得诚实,并将补偿控制引导给正确的所有者。

说明性场景:令人信服的工具结果

想象一下,路由工具返回一个包含指令的文档,这些指令告诉模型禁用控件或显示数据。代理在写入之前仍然可以要求身份、策略和审批,但它无法确定每条内容是否可信。该场景是说明性的,而不是报告的违规行为。

即时注入防御属于模型、客户端、应用程序和人类审批路径。将代理视为深度防御的一层,为危险行为提供生产大门,并提供一种检查不确定结果的方法。

Anthropic:即时注入防御

安全审查清单

寻求将控制映射到请求及其结果的证据:

  • 最终授权检查时是否验证了身份,包括当前会员资格或撤销资格?
  • 上游凭据的范围是否仅限于连接和受众,并且同意与网关登录不同?
  • 当覆盖范围未知时,是否对工具和资源映射进行审查、版本控制和拒绝?
  • 敏感写入是否根据确切参数、模式、策略、到期日和使用计数进行独立批准?
  • 审计记录是否区分策略结果和执行结果(包括不确定性)?
  • 团队能否演示针对预期部署的直接路径和旁路测试?

Durin可以支持什么

Durin 的受控路径涵盖默认允许授权检查、可选写入审查或禁止控制、范围连接和审计。评估工作区支持决策模型审查。 Enterprise 正常运行时间和支持承诺在客户协议中定义。公共信托副本不要求认证或居住保证。

这种区别在 CISO 审查中非常有用:评估决策模型和证据路径,然后验证生产路径的身份、提供商、网络、保留、恢复和操作证明。

Durin 安全控制Durin 生产信托

安全评估问题。

MCP 治理能否解决提示注入问题?

不会。即时注射仍然是一个活跃的模型和应用风险。 Durin 可以强制执行路由访问策略和审批,而应用程序所有者仍然需要输入处理、模型防御和生产门。

安全部门应该要求提供什么证据?

请求身份、客户、连接、策略决策、审批、调度、结果、撤销和覆盖证据,并明确说明保留和提供者边界。

测试控制边界。

创建一个帐户来管理路由访问控制以及内容、客户端、提供商和绕过风险。

创建帐户

选择该浏览器允许的可选用途。保持网站正常运行、让您保持登录并记住此选择的 Cookie 始终处于打开状态,推荐链接设置的推荐 Cookie 的有效期最长为 90 天。您的选择将在第一方 Cookie 中存储 180 天。如果分析正在运行,保存关闭分析的选项会重新加载此页面。 阅读隐私声明.