MAS AI 風險管理指南：對於 AI 智能體意味著什麼
新加坡 MAS AI 指南對於使用智能體的團隊意味著什麼：了解他們的工作、評估風險並選擇人們需要審查操作的位置。
決策摘要
對於使用智能體的團隊來說，一個有用的起點是熟悉的工作流程：描述其目的、使用的資訊、可以採取的操作以及負責人。然後選擇適合錯誤後果的檢查和審查。
MAS 發布了什麼內容以及何時生效
2026 年 10 月 7 日，新加坡金融管理局 (MAS) 發布了《人工智慧風險管理指南》。他們對使用人工智慧的金融機構提出了監管期望，包括智能體。
該指南於 2027 年 10 月 7 日生效。各機構可以分階段實施：從該日起，第 3 節和第 4 節涵蓋監督和風險管理；第 5 節和第 6 節，涵蓋生命週期控制和功能，截至 2028 年 10 月 7 日。
對於安全和平台團隊來說，實際問題是這些期望與工作中已經引入的智能體有何關係。
從人工智慧正在做的工作開始
MAS 要求各機構確定其人工智慧的使用情況、維護庫存、評估風險並應用適合這些風險的控制措施。此清單涵蓋人工智慧用例、系統或模型。一系列互聯工具可以提供幫助，但更廣泛的情況包括人工智慧的用途、其所有者、其數據及其依賴關係。
該指南使用術語「風險重要性」：失敗或錯誤可能造成多大傷害。該評估告知所需的測試、監控和人工監督的程度。當人工智慧由第三方提供時，機構也要承擔責任。
當智能體可以採取行動時，會發生什麼變化？
起草回覆的助理會傳簡訊給某人供審閱。可以發送回覆的智能體還需要存取系統並獲得操作權限。了解這種差異有助於團隊決定智能體自己可以做什麼以及審查在哪些方面有用。
一些智能體透過模型上下文協定 (MCP) 連接到工作場所工具。 MCP 伺服器公開諸如查找票證或更新記錄之類的操作。每個請求都會為團隊提供一個具體的操作來檢查：誰請求的、它到達哪個系統以及涉及哪些資訊或變更。
我們的解讀是，審查這些請求可以支援更廣泛的治理工作。它提供了一個應用存取規則的地方，並在需要時在操作發生之前對其進行審查。它不會取代機構對整個人工智慧用例的評估。
範例：智能體提供客戶支持
考慮一個說明性支持智能體，它總結了票證和草稿回應。讓它存取客戶記錄或讓它發送回應會改變團隊需要回答的問題。
支援所有者和安全團隊可以共同做出以下選擇。這些是供討論的範例，而不是 MAS 規定的控製或內建 Durin 設定。
- 在機構的人工智慧庫存中記錄工作流程的目的、所有者和系統。
- 將風險評估和商定的檢查與該記錄一起保存。
- 嘗試智能體無法執行的預期操作和請求。
| 智能體任務 | 可能的風險 | 一種方法 | 有用的證據 |
|---|---|---|---|
| 總結公共幫助文章 | 過時或不正確的建議 | 根據當前文件檢查答案 | 範例答案和測試結果 |
| 讀取客戶記錄 | 私人資訊的暴露 | 限制對任務所需記錄的訪問 | 存取設定和拒絕請求的測試 |
| 發送客戶回复 | 內容或收件者不正確 | 在後果允許的情況下查看訊息 | 檢討決策和交付結果 |
將審核與可能出錯的地方進行匹配
這個例子說明了為什麼閱讀資訊與更改資訊一樣值得關注。即使智能體從未編輯記錄，客戶記錄也可能包含敏感資料。發送例行確認和更改客戶的帳戶詳細資訊也會產生不同的後果。
要求某人審查每一個小動作可能會使流程更難使用，並且更難發現重要的請求。 MAS 的人工監督指南考慮了決策疲勞以及人們介入的需要。當審查的目的、負責人和範圍明確時，審查效果最好。
團隊可以從一個工作流程開始，測試其邊界，並利用所學到的知識來決定是否擴展存取權限。更廣泛的治理計劃仍然包括所涉及系統的所有權、測試、監控和保證。
Durin 的適用位置
Durin 可協助團隊管理透過其 MCP 閘道路由的智能體請求。它會在請求繼續之前檢查存取權限和團隊的規則，並記錄決策和結果。透過其他路徑發出的請求需要它們自己的控制。
在進行所需的存取檢查後，預設可以繼續審核請求。團隊可以選擇更嚴格的規則，包括要求另一位管理員審核提議的變更。當需要審查時，管理員會批准確切的請求；然後請求者在權限過期之前再次發送它。 核准单独不执行该操作。
這些記錄可以幫助團隊了解智能體請求的內容以及接下來發生的情況。它們支援更廣泛的 AI 治理計劃的一部分；他們不會自行建立合規性。
來源和進一步閱讀
以下 MAS 文件解釋了預期和實施日期。支援範例和建議的起點是我們對團隊如何使用智能體的解釋。