MAS הנחיות לניהול סיכונים בינה מלאכותית: המשמעות עבור סוכני בינה מלאכותית

מה הוציא MAS ומתי הוא נכנס לתוקף

ב-7 באוקטובר 2026, הרשות המוניטרית של סינגפור (MAS) פרסמה את ההנחיות שלה בנושא ניהול סיכונים בבינה מלאכותית. הם מגדירים ציפיות פיקוח עבור מוסדות פיננסיים המשתמשים בבינה מלאכותית, כולל סוכנים.

ההנחיות נכנסות לתוקף ב-7 באוקטובר 2027. מוסדות רשאים ליישם אותן בשלבים: סעיפים 3 ו-4, המכסים פיקוח וניהול סיכונים, מתאריך זה; סעיפים 5 ו-6, המכסים בקרות ויכולות של מחזור החיים, עד ה-7 באוקטובר 2028.

עבור צוותי אבטחה ופלטפורמה, השאלה המעשית היא כיצד הציפיות הללו קשורות לסוכנים שכבר מוצגים בעבודה.

התחל עם העבודה שה-AI עושה

MAS מבקשת ממוסדות לזהות את השימוש בבינה מלאכותית שלהם, לשמור על מלאי, להעריך סיכונים ולהפעיל בקרות המתאימות לאותם סיכונים. המלאי מכסה מקרי שימוש, מערכות או מודלים של AI. רשימה של כלים מחוברים יכולה לעזור, אבל התמונה הרחבה יותר כוללת עבורו את ה-AI, הבעלים שלו, הנתונים שלו והתלות שלו.

ההנחיות משתמשות במונח "מהותיות סיכון": כמה נזק עלול לגרום כשל או טעות. הערכה זו מעידה על רמת הבדיקות, הניטור והפיקוח האנושי הדרושים. מוסדות גם נשארים אחראים כאשר AI מסופק על ידי צד שלישי.

מה משתנה כאשר סוכן יכול לנקוט בפעולה?

עוזר שמנסח תשובה נותן למישהו טקסט לבדיקה. סוכן שיכול לשלוח את התשובה צריך גם גישה למערכת והרשאה לפעול. הבנת ההבדל הזה עוזרת לצוות להחליט מה הסוכן יכול לעשות בעצמו והיכן סקירה תהיה שימושית.

חלק מהסוכנים מתחברים לכלים במקום העבודה באמצעות פרוטוקול ההקשר המודל (MCP). שרת MCP חושף פעולות כמו מציאת כרטיס או עדכון רשומה. כל בקשה נותנת לצוות פעולה ספציפית לבחון: מי ביקש אותה, לאיזו מערכת הוא מגיע ואיזה מידע או שינוי מדובר.

הקריאה שלנו היא שבדיקת בקשות אלה יכולה לתמוך בעבודת הממשל הרחבה יותר. הוא מספק מקום להחיל כללי גישה, ובמידת הצורך, לסקור פעולה לפני שהיא מתרחשת. זה לא מחליף את הערכת המוסד לגבי כל מקרה השימוש בבינה מלאכותית.

סוכן המסייע בתמיכת לקוחות

סוכן תמיכה מסכם כרטיסים ומנסח תשובות. מתן גישה לרישומי לקוחות או מתן תשובה לשליחת תשובה משנה את השאלות שהצוות צריך לענות עליהן.

בעל התמיכה וצוות האבטחה יכולים לעבוד יחד על האפשרויות הבאות. אלו ההצעות שלנו, לא פקדים שנקבעו על ידי MAS או הגדרות מובנות של Durin.

• רשום את מטרת זרימת העבודה, הבעלים והמערכות במלאי ה-AI של המוסד.
• שמור את הערכת הסיכונים והבדיקות המוסכמות לצד רישום זה.
• נסה גם את הפעולות הצפויות וגם את הבקשות שהסוכן לא יוכל לבצע.

התאימו את הביקורת למה שיכול להשתבש

זרימת עבודה זו מראה מדוע קריאת מידע ראויה לא פחות משינוי זה. רשומת לקוח עשויה להכיל נתונים רגישים גם כאשר הסוכן מעולם לא עורך את הרשומה. גם למשלוח אישור שגרתי ושינוי פרטי חשבון של לקוח יש השלכות שונות.

דרישה ממישהו שיבדוק כל פעולה קטנה יכולה להפוך את התהליך לקשה יותר לשימוש ואת הבקשות החשובות לקשה יותר לזהות. הנחיית הפיקוח האנושית של MAS לוקחת בחשבון את עייפות ההחלטות כמו גם את הצורך של אנשים להתערב. סקירה פועלת בצורה הטובה ביותר כאשר מטרתה, האדם האחראי והיקפה ברורים.

צוות יכול להתחיל עם זרימת עבודה אחת, לבדוק את הגבולות שלו ולהשתמש במה שהוא לומד כדי להחליט אם להרחיב את הגישה. תוכנית הממשל הרחבה יותר עדיין כוללת בעלות, בדיקות, ניטור והבטחה לגבי המערכות המעורבות.

איפה Durin מתאים

Durin שולט בבקשות סוכנים המנותבות דרך שער ה-MCP שלה. הוא בודק את הגישה ואת חוקי הצוות לפני שהבקשה יכולה להמשיך, ומתעד את ההחלטה ואת התוצאה. בקשות המבוצעות דרך מסלולים אחרים זקוקות לפקדים משלהן.

בקשות שנבדקו יכולות להמשיך כברירת מחדל לאחר בדיקות הגישה הנדרשות. צוותים יכולים לבחור כללים מחמירים יותר, כולל דרישה ממנהל אחר שיבדוק את השינויים המוצעים. כאשר יש צורך בבדיקה זו, מאשר שמות זרימת העבודה של האישור שלך, או מנהל פעיל אחר, מאשר את הבקשה המדויקת; לאחר מכן המבקש שולח אותו שוב לפני תום תוקף ההרשאה. אישור לבדו אינו מבצע את הפעולה.

רישומים אלה מראים מה סוכן ביקש ומה קרה אחר כך. הם תומכים בחלק מתוכנית ניהול AI רחבה יותר; הם אינם מבססים ציות בעצמם.

מקורות וקריאה נוספת

מסמכי MAS להלן מסבירים את הציפיות ותאריכי היישום. זרימת העבודה של התמיכה ונקודת ההתחלה המוצעת הן הפרשנות שלנו לאופן שבו צוות יכול לגשת לשימוש בסוכן.