MAS AI 风险管理指南：对于 AI 智能体意味着什么
新加坡 MAS AI 指南对于使用智能体的团队意味着什么：了解他们的工作、评估风险并选择人们需要审查操作的位置。
决策摘要
对于使用智能体的团队来说，一个有用的起点是熟悉的工作流程：描述其目的、使用的信息、可以采取的操作以及负责人。然后选择适合错误后果的检查和审查。
MAS 发布了什么内容以及何时生效
2026 年 10 月 7 日，新加坡金融管理局 (MAS) 发布了《人工智能风险管理指南》。他们对使用人工智能的金融机构提出了监管期望，包括智能体。
该指南于 2027 年 10 月 7 日生效。各机构可以分阶段实施：从该日起，第 3 节和第 4 节涵盖监督和风险管理；第 5 节和第 6 节，涵盖生命周期控制和功能，截至 2028 年 10 月 7 日。
对于安全和平台团队来说，实际问题是这些期望与工作中已经引入的智能体有何关系。
从人工智能正在做的工作开始
MAS 要求各机构确定其人工智能的使用情况、维护库存、评估风险并应用适合这些风险的控制措施。该清单涵盖人工智能用例、系统或模型。一系列互联工具可以提供帮助，但更广泛的情况包括人工智能的用途、其所有者、其数据及其依赖关系。
该指南使用术语“风险重要性”：失败或错误可能造成多大伤害。该评估告知所需的测试、监控和人工监督的水平。当人工智能由第三方提供时，机构也要承担责任。
当智能体可以采取行动时，会发生什么变化？
起草回复的助理会给某人发短信供审阅。可以发送回复的智能体还需要访问系统并获得操作权限。了解这种差异有助于团队决定智能体自己可以做什么以及审查在哪些方面有用。
一些智能体通过模型上下文协议 (MCP) 连接到工作场所工具。 MCP 服务器公开诸如查找票证或更新记录之类的操作。每个请求都会为团队提供一个具体的操作来检查：谁请求的、它到达哪个系统以及涉及哪些信息或更改。
我们的解读是，审查这些请求可以支持更广泛的治理工作。它提供了一个应用访问规则的地方，并在需要时在操作发生之前对其进行审查。它不会取代机构对整个人工智能用例的评估。
示例：智能体提供客户支持
考虑一个说明性支持智能体，它总结了票证和草稿回复。让它访问客户记录或让它发送回复会改变团队需要回答的问题。
支持所有者和安全团队可以共同做出以下选择。这些是供讨论的示例，而不是 MAS 规定的控件或内置 Durin 设置。
- 在机构的人工智能库存中记录工作流程的目的、所有者和系统。
- 将风险评估和商定的检查与该记录一起保存。
- 尝试智能体无法执行的预期操作和请求。
| 智能体任务 | 可能的风险 | 一种方法 | 有用的证据 |
|---|---|---|---|
| 总结公共帮助文章 | 过时或不正确的建议 | 根据当前文档检查答案 | 示例答案和测试结果 |
| 读取客户记录 | 私人信息的暴露 | 限制对任务所需记录的访问 | 访问设置和拒绝请求的测试 |
| 发送客户回复 | 内容或收件人不正确 | 在后果允许的情况下查看消息 | 审查决策和交付结果 |
将审核与可能出错的地方进行匹配
这个例子说明了为什么阅读信息与更改信息一样值得关注。即使智能体从未编辑记录，客户记录也可能包含敏感数据。发送例行确认和更改客户的帐户详细信息也会产生不同的后果。
要求某人审查每一个小动作可能会使流程更难使用，并且更难发现重要的请求。 MAS 的人工监督指南考虑了决策疲劳以及人们干预的需要。当审查的目的、负责人和范围明确时，审查效果最好。
团队可以从一个工作流程开始，测试其边界，并利用所学到的知识来决定是否扩展访问权限。更广泛的治理计划仍然包括所涉及系统的所有权、测试、监控和保证。
Durin 的适用位置
Durin 帮助团队管理通过其 MCP 网关路由的智能体请求。它会在请求继续之前检查访问权限和团队的规则，并记录决策和结果。通过其他路径发出的请求需要它们自己的控制。
在进行所需的访问检查后，默认情况下可以继续审核请求。团队可以选择更严格的规则，包括要求另一位管理员审核提议的更改。当需要审查时，管理员会批准确切的请求；然后请求者在权限过期之前再次发送它。 审批单独不执行该操作。
这些记录可以帮助团队了解智能体请求的内容以及接下来发生的情况。它们支持更广泛的 AI 治理计划的一部分；他们不会自行建立合规性。
来源和进一步阅读
以下 MAS 文件解释了预期和实施日期。支持示例和建议的起点是我们对团队如何使用智能体的解释。