MASのAIリスク管理ガイドラインと、AIエージェントの活用
シンガポールのMASが示すAIガイドラインを、AIエージェントの活用にどう生かすか。業務内容とリスクを把握し、担当者が確認すべき操作を整理します。
決定の概要
エージェントを使用するチームにとって、使い慣れたワークフローの開始点は、その目的、使用する情報、実行できるアクション、および責任者を説明することです。次に、間違いの結果に適合するチェックとレビューを選択します。
MAS が発行した内容と発効時期
2026 年 10 月 7 日、シンガポール金融管理局 (MAS) は、人工知能のリスク管理に関するガイドラインを発行しました。彼らは、エージェントを含む AI を使用する金融機関に対する監督上の期待を定めています。
このガイドラインは 2027 年 10 月 7 日に発効します。各機関は段階的にガイドラインを導入することができます。その日から、監督とリスク管理をカバーするセクション 3 および 4。セクション 5 と 6 では、ライフサイクル制御と機能について説明し、2028 年 10 月 7 日までに適用されます。
セキュリティ チームとプラットフォーム チームにとって実際的な問題は、それらの期待がすでに職場に導入されているエージェントにどのように関係するかということです。
AIが行っている仕事から始める
MAS は各機関に、AI の使用状況を特定し、在庫を管理し、リスクを評価し、それらのリスクに適した制御を適用するよう求めています。このインベントリには、AI のユースケース、システム、モデルが含まれています。接続されているツールのリストは役に立ちますが、より広い視野には、AI の目的、その所有者、そのデータ、その依存関係が含まれます。
ガイドラインでは、リスクの重要度という用語が使用されています。これは、失敗や間違いがどの程度の損害を引き起こす可能性があるかを指します。この評価により、必要なテスト、監視、人間による監視のレベルが決まります。 AI が第三者によって提供される場合にも、機関は責任を負います。
エージェントがアクションを実行できるようになると何が変わりますか?
返信の下書きを作成するアシスタントは、誰かにレビュー用のテキストを渡します。応答を送信できるエージェントには、システムへのアクセスと操作の許可も必要です。その違いを理解することで、チームはエージェントが独自に何ができるのか、どこでレビューが役立つのかを判断するのに役立ちます。
一部のエージェントは、モデル コンテキスト プロトコル (MCP) を通じて職場ツールに接続します。 MCP サーバーは、チケットの検索やレコードの更新などの操作を公開します。各リクエストは、誰がリクエストしたか、どのシステムに到達するか、どのような情報や変更が含まれるかなど、調査する特定のアクションをチームに与えます。
私たちは、これらの要求を検討することで、より広範なガバナンス作業をサポートできると考えています。これは、アクセス ルールを適用し、必要に応じてアクションが発生する前にアクションを確認する場所を提供します。これは、AI ユースケース全体に対する機関の評価に代わるものではありません。
例: カスタマーサポートを支援するエージェント
チケットを要約し、返信の下書きを作成するサポート エージェントの例を考えてみましょう。顧客記録へのアクセスを許可したり、返信を送信できるようにすると、チームが答える必要がある質問が変わります。
サポート所有者とセキュリティ チームは、次の選択を協力して行うことができます。これらは、MAS 規定のコントロールや組み込みの Durin 設定ではなく、議論のための例です。
- ワークフローの目的、所有者、システムを機関の AI インベントリに記録します。
- リスク評価と合意された小切手をその記録と一緒に保管してください。
- 予想されるアクションとエージェントが実行できないリクエストの両方を試してください。
| エージェントタスク | 起こり得るリスク | 1 つのアプローチ | 有用な証拠 |
|---|---|---|---|
| パブリックヘルプ記事を要約する | 時代遅れまたは不正確なアドバイス | 現在のドキュメントと照らし合わせて答えをチェックする | 解答例とテスト結果 |
| 顧客記録を読む | 個人情報の暴露 | タスクに必要なレコードへのアクセスを制限する | アクセス設定と拒否されたリクエストのテスト |
| 顧客に返信を送信する | コンテンツまたは受信者が間違っている | 結果を考慮してメッセージを確認する | 決定事項と提供結果を確認する |
レビューを問題の可能性と一致させる
この例は、情報の読み取りが変更と同じくらい注意に値する理由を示しています。エージェントがレコードを編集しない場合でも、顧客レコードには機密データが含まれる場合があります。定期的な確認の送信と顧客のアカウント詳細の変更も、異なる結果をもたらします。
あらゆる小さなアクションを誰かに確認してもらうと、プロセスが使いにくくなり、重要なリクエストを見つけにくくなる可能性があります。 MAS の人的監視ガイダンスでは、人間の介入の必要性だけでなく、意思決定疲れも考慮されています。レビューは、目的、責任者、範囲が明確な場合に最も効果的に機能します。
まずは1つの業務フローで管理できる範囲を確かめ、その結果から利用を広げるか判断できます。組織全体での管理には、責任者の設定、テスト、監視、対象システムの安全性確認も必要です。
Durinが適している場所
Durin は、チームが MCP ゲートウェイを介してルーティングされるエージェント リクエストを管理するのに役立ちます。リクエストを実行する前にアクセスとチームのルールをチェックし、決定と結果を記録します。他のルートを通じて行われたリクエストには、独自の制御が必要です。
レビューされたリクエストは、デフォルトで必要なアクセス チェック後に続行できます。チームは、提案された変更のレビューを別の管理者に要求するなど、より厳格なルールを選択できます。レビューが必要な場合、管理者はそのリクエストを正確に承認します。その後、要求者は許可が期限切れになる前にそれを再送信します。承認だけではアクションは実行されません。
これらの記録は、チームがエージェントが何を要求し、次に何が起こったのかを理解するのに役立ちます。彼らは、より広範な AI ガバナンス プログラムの一部をサポートしています。彼らは自らコンプライアンスを確立するわけではありません。
出典と詳細情報
以下の MAS 文書では、期待と実装日について説明しています。サポートの例と推奨される開始点は、チームがエージェントの使用にどのようにアプローチできるかについての私たちの解釈です。