MAS AI 위험 관리 지침: AI 에이전트에 대한 의미
에이전트를 사용하는 팀에 대한 싱가포르의 MAS AI 지침은 작업을 이해하고, 위험을 평가하고, 사람들이 작업을 검토해야 하는 위치를 선택하는 것입니다.
간략한 결정
에이전트를 사용하는 팀의 경우 유용한 시작점은 하나의 친숙한 워크플로입니다. 즉, 에이전트의 목적, 사용하는 정보, 취할 수 있는 조치 및 책임자를 설명합니다. 그런 다음 실수의 결과에 맞는 수표를 선택하고 검토하십시오.
MAS가 발행한 내용과 발효 시기
2026년 10월 7일, 싱가포르 통화청(MAS)은 인공지능 위험 관리에 관한 지침을 발표했습니다. 그들은 에이전트를 포함하여 AI를 사용하는 금융 기관에 대한 감독 기대치를 설정합니다.
지침은 2027년 10월 7일에 발효됩니다. 기관은 해당 날짜부터 감독 및 위험 관리를 다루는 섹션 3 및 4, 2028년 10월 7일까지 수명 주기 제어 및 기능을 다루는 섹션 5 및 6.
보안 및 플랫폼 팀의 경우 실제적인 질문은 이러한 기대가 이미 직장에 도입된 에이전트와 어떻게 관련되는지입니다.
AI가 하는 일부터 시작하세요
MAS는 기관에 AI 사용을 식별하고, 인벤토리를 유지하고, 위험을 평가하고, 해당 위험에 적합한 제어를 적용하도록 요청합니다. 인벤토리에는 AI 사용 사례, 시스템 또는 모델이 포함됩니다. 연결된 도구 목록이 도움이 될 수 있지만 더 넓은 그림에는 AI의 용도, 소유자, 데이터 및 종속성이 포함됩니다.
지침에서는 위험 중요성이라는 용어를 사용합니다. 즉, 실패나 실수로 인해 얼마나 많은 피해가 발생할 수 있는지를 의미합니다. 이러한 평가는 필요한 테스트, 모니터링 및 인간 감독 수준을 알려줍니다. 제3자가 AI를 제공하는 경우에도 기관은 책임을 집니다.
에이전트가 조치를 취할 수 있게 되면 어떤 변화가 있나요?
답변 초안을 작성하는 보조자는 누군가에게 검토할 텍스트를 제공합니다. 응답을 보낼 수 있는 에이전트는 시스템에 대한 액세스 권한과 작업 권한도 필요합니다. 이러한 차이점을 이해하면 팀은 에이전트가 스스로 무엇을 할 수 있는지, 그리고 검토가 유용한 부분을 결정하는 데 도움이 됩니다.
일부 에이전트는 Model Context Protocol(MCP)을 통해 작업 공간 도구에 연결됩니다. MCP 서버는 티켓 찾기 또는 기록 업데이트와 같은 작업을 공개합니다. 각 요청은 누가 요청했는지, 어떤 시스템에 도달했는지, 어떤 정보나 변경 사항이 관련되었는지 등 조사할 구체적인 조치를 팀에 제공합니다.
우리는 이러한 요청을 검토하면 더 광범위한 거버넌스 작업을 지원할 수 있다는 것을 읽었습니다. 액세스 규칙을 적용하고 필요한 경우 작업이 발생하기 전에 검토할 수 있는 장소를 제공합니다. 이는 전체 AI 사용 사례에 대한 기관의 평가를 대체하지 않습니다.
예: 고객 지원을 돕는 에이전트
티켓을 요약하고 답변 초안을 작성하는 예시적인 지원 에이전트를 생각해 보세요. 고객 기록에 대한 액세스 권한을 부여하거나 답장을 보내도록 허용하면 팀이 대답해야 하는 질문이 변경됩니다.
지원 소유자와 보안 팀은 다음 선택 사항을 함께 작업할 수 있습니다. 이는 MAS에서 규정한 컨트롤이나 내장된 Durin 설정이 아닌 논의를 위한 예입니다.
- 기관의 AI 인벤토리에 워크플로의 목적, 소유자 및 시스템을 기록합니다.
- 해당 기록과 함께 위험 평가 및 합의된 점검 사항을 보관하십시오.
- 예상되는 작업과 에이전트가 수행할 수 없는 요청을 모두 시도해 보세요.
| 에이전트 작업 | 가능한 위험 | 하나의 접근 방식 | 유용한 증거 |
|---|---|---|---|
| 공개 도움말 요약 | 오래되었거나 잘못된 조언 | 현재 문서에 대한 답변 확인 | 예시 답변 및 테스트 결과 |
| 고객 기록 읽기 | 개인정보 노출 | 작업에 필요한 기록에 대한 접근을 제한합니다. | 거부된 요청에 대한 액세스 설정 및 테스트 |
| 고객 답장 보내기 | 잘못된 내용 또는 수신자 | 결과가 정당한 경우 메시지를 검토하세요. | 결정 및 배송 결과 검토 |
무엇이 잘못될 수 있는지 검토와 일치
이 예는 정보를 읽는 것이 정보를 변경하는 것만큼 주의를 기울여야 하는 이유를 보여줍니다. 에이전트가 기록을 편집하지 않은 경우에도 고객 기록에는 민감한 데이터가 포함될 수 있습니다. 정기적인 승인을 보내는 것과 고객의 계정 세부 정보를 변경하는 것도 다른 결과를 가져옵니다.
누군가에게 모든 작은 작업을 검토하도록 요구하면 프로세스를 사용하기가 더 어려워지고 중요한 요청을 파악하기가 더 어려워질 수 있습니다. MAS의 인간 감독 지침은 의사 결정 피로와 사람들의 개입 필요성을 고려합니다. 검토 목적, 책임자, 범위가 명확할 때 검토가 가장 잘 수행됩니다.
팀은 하나의 워크플로로 시작하여 경계를 테스트하고 학습한 내용을 사용하여 액세스 확장 여부를 결정할 수 있습니다. 더 넓은 거버넌스 프로그램에는 여전히 관련 시스템에 대한 소유권, 테스트, 모니터링 및 보증이 포함됩니다.
Durin가 맞는 곳
Durin은 팀이 MCP 게이트웨이를 통해 라우팅된 에이전트 요청을 관리하는 데 도움이 됩니다. 요청이 진행되기 전에 액세스 권한과 팀의 규칙을 확인하고 결정과 결과를 기록합니다. 다른 경로를 통해 이루어진 요청에는 자체 제어가 필요합니다.
검토된 요청은 필수 액세스 확인 후 기본적으로 진행될 수 있습니다. 팀에서는 다른 관리자에게 제안된 변경 사항을 검토하도록 요구하는 등 더 엄격한 규칙을 선택할 수 있습니다. 검토가 필요한 경우 관리자는 정확한 요청을 승인합니다. 그런 다음 요청자는 권한이 만료되기 전에 다시 보냅니다. 승인만으로는 작업이 수행되지 않습니다.
이러한 기록은 에이전트가 요청한 내용과 다음에 무슨 일이 일어났는지 팀이 이해하는 데 도움이 될 수 있습니다. 그들은 더 넓은 AI 거버넌스 프로그램의 일부를 지원합니다. 그들은 스스로 규정 준수를 확립하지 않습니다.
출처 및 추가 자료
아래 MAS 문서에는 기대치와 구현 날짜가 설명되어 있습니다. 지원 예시와 제안된 시작점은 팀이 상담사 사용에 접근하는 방법에 대한 해석입니다.