AI 审批工作流程：在运行之前检查智能体操作

什么是 AI 审批工作流程

AI 审批工作流程一词有两种使用方式。一些产品使用 AI 来加速普通业务审批，例如路由发票或请假请求。本指南涵盖了其他含义：一个工作流程，在该工作流程中，人员在 AI 智能体提议的操作运行之前对其进行审查，例如发送消息、发放退款或更改记录。

人机参与意味着一个人可以审查或干预智能体提议的行动。它可以包括客户确认、独立审查或运营检查点。这些机制提供了不同级别的分离和执行。

MCP 工具规范建议用户对敏感操作进行可见性和确认。当 Durin 的写入策略需要时，Durin 会添加独立审查：另一个活动管理员决定是否可以继续处理特定请求。

选择工作流程模式

审批工作流程在审核者、审核时间以及查看内容方面有所不同。大多数团队结合了不止一种模式，因此例行行动在规则下进行，只有后果性的行动等待着一个人。

Durin 支持另一位管理员的独立审核，如果您连接 Slack，则会在 Slack 中收到审核通知，并且审批内存可用于重复请求。访问规则决定哪些请求最终会到达审阅者。

• 客户端确认：使用智能体的人确认每个敏感操作。速度很快，但请求者会审核自己的请求。
• 独立审查：由第二人决定确切的请求。它速度较慢，但​​它将请求与批准分开。
• 例外审核：常规操作按照规则进行，只有不寻常的操作（例如金额较大或外部收件人）才会交给审核者。
• 记住的决定：审阅者允许在有限的时间内匹配重复请求，而不是批准每个请求。
• 事后抽样审查：有人检查已完成操作的样本。它有助于提高质量，但无法阻止有害行为。

决定哪些操作需要审批

使用行动的后果来指导审查。说明性的外部消息、批量更新或付款可能比低敏感度的查找更值得审查。只读工具仍然可能泄露机密信息，因此访问检查仍然是必要的。

将这些视为风险评估示例，而不是内置的 Durin 风险等级。在 Durin、工作区默认设置访问和写入决策，自定义规则可以要求审批用于特定的连接、工具、资源、环境、人员或团队。 Durin 不会按规则将请求路由到特定审批者：除请求者之外的任何活动管理员都可以审核。

• 影响：哪些数据、金钱或外部沟通可能会改变？
• 范围：一次呼叫可以影响多少记录或收件人？
• 可逆性：如何检测和修复错误？
• 评审质量：评审者是否有足够的背景来做出决定？

必需的检查在审批之前进行

Durin 首先检查身份、成员资格、连接和团队访问权限、凭据、审核的工具、资源和检查结果。 审批无法修复失败的强制检查或扩展上游提供商权限。

默认允许仅在通过必需的检查后才适用。管理员可以要求另一个管理员进行写入或完全拒绝写入；默认拒绝阻止工具访问。沙箱和生产使用相同的策略控件。

未经审核的工具将处于阻止状态，等待工具审核。审查工具定义和批准特定写入是单独的决定。

将审批绑定到请求

确切的授权涵盖请求者、组织、连接、凭据上下文、工具和模式版本、资源、参数摘要、策略版本和撤销状态。更改该上下文可能会使审批失效。

参数digest是用于匹配请求的指纹；它不是操作的可读描述。 Durin 的审查显示，摘要与请求者、工具、资源、策略和架构版本以及到期日一起。审核者在批准之前需要相关的业务背景。

补助金会过期并且是一次性的。在执行之前会再次检查成员资格和权限，因此早期的审批在撤销后不会保留访问权限。

通过审批遵循请求并重试

使用受支持的沙箱写入、允许的固定资源和两个不同的管理员来测试生命周期。在进入下一阶段之前确认每个阶段。

• 在需要审批的策略下提交写入，并确认没有运行上游操作。
• 让其他管理员打开审批并查看确切的请求。
• 批准该请求并确认审批单独未执行该请求。
• 在授权上下文仍然有效的情况下，在到期前重试相同的调用。
• 检查执行结果；使用单独的装置请求测试拒绝、到期和更改参数。

处理不确定性而不重复写入

在上游系统提交更改后，连接可能会失败。没有回应并不意味着没有行动。 审批、发送和确认完成必须保持不同。

Durin 记录受控写入之前所需的执行意图，并且不会自动重复可能已完成的写入。检查记录的结果并与提供者进行协调，然后再决定新的操作是否合适。

一次性使用的审批限制了补助金的重复使用；它不是跨外部系统的通用一次性保证。将不确定的结果纳入您的操作手册中，并指定负责人来协调它们。