AI 도구 승인 프로세스: 앱, 연결, 에이전트 작업

AI 도구 승인 프로세스가 결정하는 것

AI 도구 승인 프로세스는 업무에 어떤 AI 도구를 어떤 데이터와 함께, 어떤 조건에서 사용할 수 있는지 조직이 결정하는 방식입니다. 대부분의 프로세스는 채팅 어시스턴트, 회의록 작성 도구, 코딩 어시스턴트 같은 앱 자체에서 시작합니다.

에이전트에는 두 가지 결정이 더 필요합니다. 이제 많은 AI 도구가 내장 커넥터나 Model Context Protocol(MCP)을 통해 회사 시스템에 연결되며, 일부는 메시지 전송, 레코드 업데이트, 변경 사항 병합처럼 해당 시스템에서 직접 작업을 수행할 수도 있습니다. 앱을 승인했다고 해서 어떤 시스템에 접근할 수 있는지, 어떤 작업에 사람의 검토가 필요한지가 정해지는 것은 아닙니다.

따라서 유용한 승인 프로세스는 세 가지를 각각 알맞은 수준으로 세분화해 승인합니다.

요청을 쉽게 만드세요

사람들은 구하기 쉬운 도구를 사용합니다. 승인된 경로가 느리거나 불분명하면 각자 도구를 찾아 쓰게 되고, 섀도우 AI는 이렇게 시작됩니다. 간단한 요청 양식, 공개된 승인 도구 목록, 명확한 예상 처리 기간이 아무도 읽지 않는 엄격한 정책보다 더 효과적입니다.

요청이 여러 번 오가지 않도록, 검토자에게 필요한 다음 정보를 처음부터 받으세요.

• 업무상 목적과 도구를 사용할 팀.
• 관련 데이터와 기존 분류 체계에 따른 데이터 등급.
• 연결해야 하는 회사 시스템과 해당 시스템에서 무언가를 변경해야 하는지 여부.
• 승인 후 도구를 담당할 사람.
• 공급업체, 요금제, 보안 및 데이터 사용 약관 링크.

위험에 맞춰 검토하세요

모든 요청에 같은 검토가 필요한 것은 아닙니다. 등급을 나누면 위험이 낮은 도구는 빠르게 통과시키고, 심층 검토는 민감한 데이터를 다루거나 작업을 수행하는 도구에 집중할 수 있습니다.

등급은 제품이 아니라 사용 사례를 기준으로 나누세요. 같은 어시스턴트라도 글쓰기 보조 도구로 쓰면 위험이 낮지만, 누군가를 대신해 이메일을 보낼 수 있게 되면 위험이 높아집니다. 아래 등급은 예시이므로 조직의 데이터 분류 체계와 의무 사항에 맞게 조정하세요.

AI 도구에서 중요한 사항을 검토하세요

보안 관행, ID 공급자를 통한 로그인, 감사 로그, 계약 조건 등 일반적인 공급업체 검토는 그대로 적용됩니다. AI 도구는 여기에 데이터 관련 질문을 더합니다. 공급업체가 회사 데이터를 모델 학습에 사용하는지, 프롬프트와 출력을 얼마나 오래 보관하는지, 이러한 조건이 무료 요금제와 비즈니스 요금제 간에 다른지 확인하세요.

회사 시스템에 연결되는 도구라면 각 연결을 별도의 결정으로 검토하세요. 어떤 시스템인지, 누구의 자격 증명인지, 어떤 범위인지, 어떤 데이터인지 확인해야 합니다. 넓은 범위로 권한이 부여된 연결은 도구가 어떤 용도로 승인되었든 그 범위가 허용하는 모든 것에 접근할 수 있습니다.

작업을 수행하는 도구라면 어떤 작업을 스스로 수행할 수 있는지 결정하세요. OWASP는 AI 시스템에 필요 이상의 기능, 권한, 자율성을 부여하는 것을 과도한 에이전시(Excessive Agency)라고 설명하며, 영향이 큰 작업에 사람의 승인을 요구하는 것을 완화 조치 중 하나로 제시합니다.

이 작업에 더 폭넓은 체계가 필요하다면, 현재 개정 중인 NIST AI 위험 관리 프레임워크가 위험의 거버넌스, 매핑, 측정, 관리를 중심으로 이를 체계화하고 있습니다.

구체적인 범위와 종료일을 정해 승인하세요

승인은 무엇을 승인했는지 정확히 밝힐 때 가장 유용합니다. 이 도구를, 이 팀의 이 사용 사례에서, 이 등급의 데이터로, 이 시스템들에 연결해, 이 작업들까지 허용한다는 식입니다. 이 범위를 벗어나는 것은 모두 새 요청입니다.

비즈니스 요금제만 허용, SSO 필수, 고객 데이터 사용 금지, 파일럿 기간 중 특정 작업 검토처럼 위험을 줄이는 조건을 붙이세요. 각 승인에 담당자와 검토 일자를 지정하면, 더 이상 필요 없거나 변경된 도구가 다시 결정 대상이 됩니다.

결정을 설정으로 옮기세요

스프레드시트에만 있는 결정은 아무도 막지 못합니다. 적용할 수 있는 것은 적용하세요. 승인된 그룹에 대해 SSO로 도구를 활성화하고, 승인된 연결과 범위만 설정하고, 사람들이 찾아보는 곳에 승인 목록을 게시하세요.

MCP로 회사 시스템에 연결되는 에이전트의 경우, 게이트웨이는 결정을 모든 요청에 적용되는 규칙으로 바꿀 수 있습니다. 누가 연결을 사용할 수 있는지, 어떤 도구와 데이터를 사용할 수 있는지, 어떤 변경 작업에 검토가 필요한지가 그 규칙입니다. 게이트웨이를 우회하는 요청에는 엔드포인트 관리와 신중한 자격 증명 관리 같은 다른 통제가 여전히 필요합니다.

이미 사용 중인 도구를 정리하세요

승인 프로세스는 도구가 이미 사용되고 있는 상황에서 시작되는 경우가 많습니다. 불이익 없이 도구를 등록할 수 있는 자진 신고 기간을 두면 정확한 인벤토리를 확보할 수 있습니다. 로그인 로그, 경비 보고서, 브라우저 확장 프로그램 인벤토리, 그리고 에이전트의 경우 관리 대상 기기의 MCP 설정을 살펴보는 탐지 작업도 도움이 됩니다.

그런 다음 찾은 도구를 분류하세요. 조건을 붙여 승인하거나, 승인된 대안을 제시하거나, 사용 중단을 요청합니다. 도구를 거절한 이유와 대신 사용할 도구를 설명하면 프로세스의 신뢰도를 유지할 수 있습니다.

도구 승인이 곧 모든 작업의 승인은 아닙니다

도구 사용을 승인하는 것과 도구가 하는 일을 검토하는 것은 서로 다른 통제입니다. 전자는 도입 전에 한 번 이루어지고, 후자는 에이전트가 환불 처리나 고객 목록 이메일 발송 같은 특정 작업을 제안할 때 이루어집니다.

MCP 사양은 사람이 언제든 도구 호출을 거부할 수 있어야 하고, 클라이언트가 작업 전에 확인을 요청해야 한다고 권장합니다. 중대한 작업이라면 한 걸음 더 나아가, 실행 전에 다른 사람이 정확한 요청 내용을 검토하게 할 수 있습니다. 실수가 얼마나 큰 피해를 낼 수 있는지를 기준으로 어떤 작업에 이러한 검토가 필요한지 정하세요.

승인을 지속적으로 검토하세요

AI 도구는 빠르게 바뀝니다. 공급업체가 기능을 추가하고, 데이터 약관을 바꾸고, 새 커넥터를 도입하기 때문에 6개월 전의 승인은 지금과 다른 제품을 기준으로 한 것일 수 있습니다. 승인은 정해진 일정에 따라, 그리고 새로운 데이터 사용, 새 연결, 새 작업, 요금제 변경처럼 중요한 변화가 있을 때 검토하세요.

누가 도구를 요청했고 누가 어떤 조건으로 승인했는지, 마지막 검토는 언제였는지 기록으로 남기세요. 이러한 기록은 감사를 수월하게 하고, 어떤 결정부터 다시 살펴봐야 하는지 보여 줍니다.

Durin가 맞는 곳

Durin은 MCP를 사용하는 에이전트의 연결 및 작업에 관한 결정을 처리합니다. 구성원은 연결 페이지에서 카탈로그 공급자를 선택하거나 맞춤 서버를 용도와 함께 제안해 연결을 요청하고, 관리자는 승인 페이지에서 요청을 승인하거나 거절합니다. 승인만으로는 아무것도 활성화되지 않으며, 이후에도 공급자 설정, 도구 검토, 읽기 전용 테스트를 거쳐야 합니다.

연결이 활성화되면 Durin은 각 요청을 현재 접근 권한과 팀 규칙에 비추어 확인합니다. 이러한 확인을 통과한 검토된 요청은 기본적으로 진행될 수 있습니다. 관리자는 제안된 변경 작업을 다른 관리자가 검토하도록 요구할 수 있으며, 이후 요청자가 권한이 만료되기 전에 같은 요청을 다시 보냅니다. 섀도우 MCP 탐지 기능은 등록된 기기에 구성된 MCP 서버를 보고하므로, 승인 프로세스를 거치지 않은 도구를 찾는 데 도움이 됩니다.

Durin은 AI 공급업체나 앱, 그 데이터 약관을 평가하지 않으며, Durin 게이트웨이를 통해 라우팅된 요청만 관리합니다. 이러한 결정은 여전히 조직의 전체 승인 프로세스가 담당합니다.