AI 승인 워크플로: 에이전트 작업을 실행 전에 검토하기

AI 승인 워크플로의 정의

AI 승인 워크플로라는 말은 두 가지 의미로 쓰입니다. 일부 제품은 청구서나 휴가 신청을 결재 라인에 올리는 일처럼 일반적인 업무 승인을 AI로 빠르게 처리합니다. 이 가이드는 다른 의미, 즉 메시지 전송, 환불 처리, 레코드 변경처럼 AI 에이전트가 제안한 작업을 실행 전에 사람이 검토하는 워크플로를 다룹니다.

인간 참여형(Human-In-The-Loop)은 사람이 에이전트가 제안한 조치를 검토하거나 개입할 수 있음을 의미합니다. 여기에는 고객 확인, 독립적인 검토 또는 운영 체크포인트가 포함될 수 있습니다. 이러한 메커니즘은 다양한 수준의 분리 및 시행을 제공합니다.

MCP 도구 사양은 민감한 작업에 대한 사용자 가시성과 확인을 권장합니다. Durin은 쓰기 정책에서 요구할 때 독립적인 검토를 추가합니다. 즉, 다른 활성 관리자가 특정 요청을 진행할 수 있는지 여부를 결정합니다.

워크플로 패턴을 선택하세요

승인 워크플로는 누가 검토하는지, 언제 검토하는지, 검토자가 얼마나 많은 정보를 보는지에 따라 달라집니다. 대부분의 팀은 여러 패턴을 조합해, 일상적인 작업은 규칙에 따라 처리하고 중대한 작업만 사람의 판단을 기다리게 합니다.

Durin은 다른 관리자의 독립적인 검토를 지원하며, Slack을 연결하면 Slack에서 검토 알림을 받을 수 있고, 반복되는 요청에는 승인 판단 저장 기능을 사용할 수 있습니다. 애초에 어떤 요청이 검토자에게 전달될지는 접근 규칙이 결정합니다.

• 클라이언트 내 확인: 에이전트를 사용하는 사람이 민감한 작업을 하나씩 확인합니다. 빠르지만, 요청자가 자신의 요청을 직접 검토하게 됩니다.
• 독립 검토: 다른 사람이 정확한 요청 내용을 보고 결정합니다. 더 느리지만 요청과 승인이 분리됩니다.
• 예외 기반 검토: 일상적인 작업은 규칙에 따라 진행되고, 큰 금액이나 외부 수신자처럼 이례적인 작업만 검토자에게 전달됩니다.
• 저장된 판단: 검토자가 요청을 하나하나 승인하는 대신, 일치하는 반복 요청을 제한된 기간 동안 허용합니다.
• 사후 표본 검토: 누군가 완료된 작업 중 일부 표본을 확인합니다. 품질 관리에는 도움이 되지만, 해로운 작업을 막을 수는 없습니다.

승인이 필요한 작업 결정

검토를 안내하기 위해 조치의 결과를 사용하십시오. 설명이 포함된 외부 메시지, 대량 업데이트 또는 결제는 민감도가 낮은 조회보다 더 자세히 조사할 수 있습니다. 읽기 전용 도구는 여전히 기밀 정보를 공개할 수 있으므로 액세스 확인이 여전히 필요합니다.

이 항목들은 Durin에 내장된 위험 등급이 아니라 위험 평가 예시로 보세요. Durin에서는 작업 공간 기본값이 접근 권한과 변경 작업에 대한 결정을 정하고, 맞춤 규칙으로 특정 연결, 도구, 리소스, 환경, 사람 또는 팀에 대해 승인을 요구할 수 있습니다. Durin은 규칙에 따라 요청을 특정 승인자에게 배정하지 않으며, 요청자를 제외한 활성 관리자라면 누구나 검토할 수 있습니다.

• 영향: 어떤 데이터, 돈 또는 외부 커뮤니케이션이 변경될 수 있습니까?
• 범위: 한 호출가 얼마나 많은 기록이나 수신자에게 영향을 미칠 수 있습니까?
• 가역성: 실수를 어떻게 감지하고 복구할 수 있나요?
• 리뷰 품질: 리뷰어가 결정을 내릴 만큼 충분한 맥락을 갖고 있습니까?

필수 점검은 승인 전에 이루어집니다.

Durin은 먼저 신원, 멤버십, 연결 및 팀 액세스, 자격 증명, 검토된 도구, 리소스 및 검사 결과를 확인합니다. 승인은 실패한 필수 확인을 복구하거나 업스트림 공급자 권한을 확장할 수 없습니다.

기본 허용은 필수 검사를 통과한 후에만 적용됩니다. 관리자는 쓰기를 위해 다른 관리자를 요구하거나 쓰기를 완전히 거부할 수 있습니다. 기본 거부는 도구 액세스를 차단합니다. 샌드박스와 프로덕션은 동일한 정책 제어를 사용합니다.

검토되지 않은 도구는 도구 검토가 진행되는 동안 차단된 상태로 유지됩니다. 도구 정의를 검토하는 것과 특정 쓰기를 승인하는 것은 별개의 결정입니다.

승인을 요청에 바인딩

정확한 권한 부여에는 요청자, 조직, 연결, 자격 증명 컨텍스트, 도구 및 스키마 버전, 리소스, 인수 다이제스트, 정책 버전 및 해지 상태가 포함됩니다. 해당 컨텍스트를 변경하면 승인이 무효화될 수 있습니다.

인수 다이제스트는 요청을 일치시키는 데 사용되는 지문입니다. 이는 작업에 대한 읽을 수 있는 설명이 아닙니다. Durin의 검토는 요청자, 도구, 리소스, 정책 및 스키마 버전 및 만료와 함께 다이제스트를 보여줍니다. 검토자는 승인하기 전에 관련 비즈니스 컨텍스트가 필요합니다.

승인 권한에는 유효기간이 있으며 한 번만 사용할 수 있습니다. 실행 전에 멤버십과 권한을 다시 확인하므로, 이전에 승인받았더라도 접근 권한이 철회되면 사용할 수 없습니다.

승인을 통해 요청을 따르고 다시 시도하세요.

지원되는 샌드박스 쓰기, 허용된 테스트 데이터 리소스 및 두 명의 다른 관리자를 사용하여 수명 주기를 테스트합니다. 다음 단계로 넘어가기 전에 각 단계를 확인하세요.

• 승인이 필요한 정책에 따라 쓰기를 제출하고 업스트림 작업이 실행되지 않았는지 확인합니다.
• 다른 관리자에게 승인을 열고 정확한 요청을 검토하도록 합니다.
• 요청을 승인하고 승인만으로는 요청이 실행되지 않았는지 확인합니다.
• 인증 컨텍스트가 여전히 유효한 상태에서 만료되기 전에 동일한 호출을 다시 시도하세요.
• 실행 결과를 검사합니다. 별도의 고정 요청을 통해 거부, 만료 및 변경된 인수를 테스트합니다.

쓰기를 복제하지 않고 불확실성 처리

업스트림 시스템이 변경 사항을 커밋한 후 연결이 실패할 수 있습니다. 응답이 없다고 해서 아무런 조치도 취하지 않는다는 의미는 아닙니다. 승인, 발송, 완료 확인은 별개로 유지되어야 합니다.

Durin 통제된 쓰기 전에 필요한 실행 의도를 기록하고 잠재적으로 완료된 쓰기를 자동으로 반복하지 않습니다. 새로운 조치가 적절한지 결정하기 전에 기록된 결과를 검사하고 제공자와 조정하십시오.

일회용 승인은 승인 권한 재사용을 제한합니다. 외부 시스템 전반에 걸쳐 정확히 한 번만 보장되는 것은 아닙니다. 런북에 불확실한 결과를 포함하고 소유자를 할당하여 이를 조정하세요.