AI 核准工作流程：在運作前檢查智能體操作

什麼是 AI 核准工作流程

AI 核准工作流程一詞有兩種使用方式。有些產品使用 AI 來加速普通業務核准，例如路由發票或請假請求。本指南涵蓋了其他含義：一個工作流程，在該工作流程中，人員在 AI 智能體提議的操作運行之前對其進行審查，例如發送訊息、發放退款或更改記錄。

人機參與意味著一個人可以審查或乾預智能體提議的行動。它可以包括客戶確認、獨立審查或營運檢查點。這些機制提供了不同層級的分離和執行。

MCP 工具規格建議使用者對敏感操作進行可見性和確認。當 Durin 的寫入政策需要時，Durin 會新增獨立審查：另一個活動管理員決定是否可以繼續處理特定要求。

選擇工作流程模式

核准工作流程在審查者、審查時間以及查看內容方面有所不同。大多數團隊結合了不只一種模式，因此例行行動在規則下進行，只有後果性的行動等待著一個人。

Durin 支援另一位管理員的獨立審核，如果您連接 Slack，則會在 Slack 中收到審核通知，且核准記憶體可用於重複要求。訪問規則決定哪些請求最終會到達審閱者。

• 客戶端確認：使用智能體的人確認每個敏感操作。速度很快，但請求者會審核自己的請求。
• 獨立審查：由第二人決定確切的請求。它速度較慢，但它將請求與批准分開。
• 例外審核：常規操作依照規則進行，只有不尋常的操作（例如金額較大或外部收件者）才會交給審核者。
• 記住的決定：審閱者允許在有限的時間內匹配重複請求，而不是批准每個請求。
• 事後抽樣審查：有人檢查已完成操作的樣本。它有助於提高質量，但無法阻止有害行為。

決定哪些作業需要核准

使用行動的後果來指導審查。說明性的外部訊息、大量更新或付款可能比低敏感度的查找更值得審查。只讀工具仍然可能洩露機密信息，因此訪問檢查仍然是必要的。

將這些視為風險評估範例，而不是內建的 Durin 風險等級。在 Durin、工作區預設設定存取和寫入決策，自訂規則可以要求核准用於特定的連線、工具、資源、環境、人員或團隊。 Durin 不會依照規則將請求路由到特定審核者：除請求者之外的任何活動管理員都可以審核。

• 影響：哪些數據、金錢或外部溝通可能會改變？
• 範圍：一次通話可以影響多少記錄或收件者？
• 可逆性：如何偵測和修復錯誤？
• 評審品質：評審者是否有足夠的背景來做決定？

必需的檢查在核准之前進行

Durin 首先檢查身分、成員資格、連線和團隊存取權、憑證、審核的工具、資源和檢查結果。 核准無法修復失敗的強制檢查或擴展上游提供者權限。

預設允許僅在通過必需的檢查後才適用。管理員可以要求另一個管理員進行寫入或完全拒絕寫入；預設拒絕阻止工具存取。沙箱和生產使用相同的政策控制。

未經審核的工具將處於阻止狀態，等待工具審核。審查工具定義和批准特定寫入是單獨的決定。

將核准綁定到請求

確切的授權涵蓋請求者、組織、連線、憑證上下文、工具和模式版本、資源、參數摘要、政策版本和撤銷狀態。更改該上下文可能會使核准失效。

參數digest是用來匹配請求的指紋；它不是操作的可讀描述。 Durin 的審查顯示，摘要與請求者、工具、資源、政策和架構版本以及到期日一起。審核者在批准之前需要相關的業務背景。

補助金會過期並且是一次性的。在執行之前會再次檢查成員資格和權限，因此早期的核准在撤銷後不會保留存取權限。

透過核准遵循請求並重試

使用受支援的沙箱寫入、允許的固定資源和兩個不同的管理員來測試生命週期。在進入下一階段之前確認每個階段。

• 在需要核准的政策下提交寫入，並確認沒有執行上游操作。
• 讓其他管理員開啟核准並查看確切的請求。
• 批准該請求並確認核准單獨未執行該請求。
• 在授權上下文仍然有效的情況下，在到期前重試相同的呼叫。
• 檢查執行結果；使用單獨的裝置請求測試拒絕、到期和更改參數。

處理不確定性而不重複寫入

在上游系統提交變更後，連線可能會失敗。沒有回應並不意味著沒有行動。 核准、發送和確認完成必須保持不同。

Durin 記錄受控寫入之前所需的執行意圖，並且不會自動重複可能已完成的寫入。檢查記錄的結果並與提供者進行協調，然後再決定新的操作是否適當。

一次性使用的核准限制了補助金的重複使用；它不是跨外部系統的通用一次性保證。將不確定的結果納入您的操作手冊中，並指定負責人來協調它們。