תהליכי אישור לסוכני AI: שלבים ודוגמאות
בנו תהליך אישור ל-AI בשישה שלבים: בחרו פעולות לבדיקה, מנו מאשרים, הגדירו תפוגה, אשרו את הבקשה המדויקת וודאו את התוצאה.
ההחלטה בקצרה
תהליך אישור לסוכן AI עוצר פעולה מוצעת כדי שאדם מורשה יבדוק אותה. בחרו אילו פעולות דורשות בדיקה, מנו בודק בלתי תלוי, קבעו מועד, קשרו את ההחלטה לבקשה המדויקת ותעדו מה קרה. ב-Durin, אישור מאפשר למגיש הבקשה לנסות שוב את אותה בקשה לפני תפוגתה; האישור לבדו לא מבצע את הפעולה.
מהי זרימת עבודה של אישור AI
תהליך אישור לסוכן AI קובע מתי הסוכן חייב להמתין לאדם לפני ביצוע פעולה. למשל, סוכן יכול לנסח עדכון ללקוח, ובודק שמונה מחליט אם מותר לשלוח את ההודעה המסוימת הזאת ליעד המסוים הזה.
זו צורה של בדיקה עם מעורבות אנושית. היא שונה משימוש ב-AI לאוטומציה של תהליך אישור רגיל, כמו ניתוב חשבוניות או בקשות חופשה. היא גם שונה מאישור כלי AI לשימוש בחברה: כלי מאושר עדיין יכול להציע פעולה שדורשת בדיקה נפרדת.
מפרט הכלים MCP ממליץ על נראות ואישור של המשתמש עבור פעולות רגישות. Durin מוסיפה סקירה עצמאית כאשר מדיניות הכתיבה שלה מחייבת זאת: המאשרים שמות זרימת עבודה של אישור, או מנהל פעיל אחר, מחליטים אם בקשה ספציפית יכולה להמשיך.
שישה שלבים לבניית תהליך אישור לסוכן AI
ניקח סוכן שמכין עדכון גרסה ללקוחות. הצוות רוצה שאחראי הגרסה יבדוק את היעד ואת ההודעה לפני השליחה. ב-Durin המדיניות קובעת אם הפעולה דורשת אישור; תהליך האישור קובע מי יכול להחליט.
- בחרו את התנאי להפעלה. הגדירו את המדיניות כך שהחיבור, הכלי והמשאב הרלוונטיים יחייבו בדיקה לפני שהפעולה תוכל להמשיך.
- מנו בודקים וקבעו מועד. פרסמו תהליך שמציין אילו אנשים, צוותים או תפקידים יכולים להחליט, והוסיפו שלב הסלמה אם צריך. אסור שהגעה למועד האחרון תעניק הרשאה לפעולה ללא החלטה.
- הגישו את הבקשה עם הקשר. ודאו שהסוכן נעצר לפני שליחה כלשהי. ציינו את מגיש הבקשה, היעד, ההודעה המוצעת וההשלכות. Durin מתעד תקציר גיבוב של הארגומנטים, ולכן הבודק זקוק גם לתיאור אמין של מה שהארגומנטים האלה יעשו.
- תעדו את ההחלטה. בודק שמונה ושאינו מגיש הבקשה בוחר ״אישור חד-פעמי״ או ״דחייה״. האישור מתיר את הבקשה המדויקת הזאת; הוא לא שולח את ההודעה.
- נסו שוב את הבקשה המדויקת. מגיש הבקשה מנסה שוב לפני התפוגה. שינוי בארגומנטים או בהקשר ההרשאה דורש הערכה חדשה; גם הגישה נבדקת שוב.
- ודאו את התוצאה. בדקו את רישום הביצוע ובמידת הצורך גם את מערכת היעד. בררו ויישבו חריגה מזמן ההמתנה או תוצאה לא ודאית לפני ניסיון לבצע פעולה נוספת.
נסו קודם את הרצף בפעולה נתמכת בארגז חול ועם שני אנשים שונים. בדקו דחייה, תפוגה, שינוי ארגומנטים ושלילת הרשאות הבודק, בנוסף למסלול ההצלחה. בלי תהליך תואם שפורסם, בעלים פעיל אחר או מנהל מערכת בודק את הבקשה.
בחר דפוס זרימת עבודה
תהליכי העבודה של אישורים שונים במי שסוקר, מתי הוא בודק וכמה הם רואים. רוב הצוותים משלבים יותר מדפוס אחד, כך שפעולות שגרתיות זורמות תחת כללים ורק תוצאתיים מחכות לאדם.
Durin יכול לנתב בקשות לאנשים, לצוותים או לתפקידים מוגדרים בשלבי הסלמה, עם התראות בדיקה ב-Slack כשהוא מחובר. בבקשות מנותבות אפשר לבחור ״אישור חד-פעמי״ או ״דחייה״. זיכרון אישורים חל על בקשות לא מנותבות שעומדות בתנאים; הוא לא יכול לעקוף את האנשים שהוקצו בתהליך שפורסם.
- אישור בלקוח: המשתמש בסוכן מאשר כל פעולה רגישה. זה מהיר, אבל המבקש סוקר את הבקשה שלו.
- סקירה עצמאית: אדם שני מחליט על הבקשה המדויקת. זה איטי יותר, אבל זה מפריד בין בקשה לאישור.
- סקירה לפי חריגה: פעולות שגרתיות נמשכות לפי כללים, ורק חריגות, כמו כמויות גדולות או נמענים חיצוניים, עוברות לבודק.
- החלטות שמורות: בקשה חוזרת שעומדת בתנאים יכולה להשתמש בהרשאה מתמשכת ומוגבלת. כך מצמצמים עבודת בדיקה, אך נדרשים היקף מצומצם במכוון וכללי ביטול.
- סקירה מדגמית לאחר מכן: מישהו בודק מדגם של פעולות שהושלמו. זה עוזר לאיכות, אבל זה לא יכול לעצור פעולה מזיקה.
החליטו אילו פעולות דורשות אישור
השתמש בהשלכות של פעולה כדי להנחות סקירה. הודעה חיצונית, עדכון בכמות גדולה או תשלום יכולים לזכות לבדיקה יותר מאשר בדיקת רגישות נמוכה. כלים לקריאה בלבד עדיין יכולים לחשוף מידע סודי, כך שבדיקות גישה עדיין נחוצות.
שאלות אלו מיועדות להערכת סיכונים משלך; ל-Durin אין שכבות סיכון מובנות. ב-Durin, ברירת המחדל של סביבת העבודה קובעת את החלטת הגישה והכתיבה, וכללים מותאמים אישית יכולים לדרוש אישור עבור חיבורים, כלים, משאבים, סביבות, אנשים או צוותים מסוימים. לאחר מכן, תהליכי עבודה של אישור מנתבים כל בקשה לאנשים, צוותים או תפקידים בעלי שם, בשלבים שמסלימים לאחר מגבלת זמן. ללא זרימת עבודה תואמת, כל מנהל מערכת פעיל מלבד המבקש סוקר אותה.
- השפעה: אילו נתונים, כסף או תקשורת חיצונית יכולים לשנות?
- היקף: על כמה רשומות או נמענים יכולה להשפיע שיחה אחת?
- הפיכות: כיצד תזהה ותתקן טעות?
- איכות הביקורת: האם למבקר יש מספיק הקשר כדי לקבל החלטה?
| פעולת הסוכן | בחירת הבדיקה | ההקשר שיש לבדוק |
|---|---|---|
| חיפוש קריאה מותרת בארגז חול | המשך בהתאם למדיניות הגישה שהוגדרה. | מגיש הבקשה, החיבור והמשאב המותר. |
| שליחת עדכון ללקוחות | דרישת בדיקה בלתי תלויה לפני השליחה. | היעד, ההודעה, מגיש הבקשה והבקשה המדויקת. |
| שינוי רשומות רבות של לקוחות | בדיקת ההיקף ותוכנית השחזור לפני מתן הרשאה. | הרשומות שיושפעו, השינויים המוצעים וכיצד לבדוק וליישב כשלים. |
המחאות הנדרשות מגיעות לפני האישור
Durin בודק תחילה זהות, חברות, חיבור וגישה לצוות, אישורים, כלים שנבדקו, משאבים ותוצאות בדיקה. אישור לא יכול לתקן בדיקת חובה שנכשלה או להרחיב את הרשאות הספק במעלה הזרם.
היתר כברירת מחדל חל רק לאחר מעבר הבדיקות הנדרשות. מנהלים יכולים לדרוש בדיקה בלתי תלויה לפני שסוכנים משנים נתונים או לחסום שינויים לחלוטין; חסימה כברירת מחדל מונעת גישה לכלים. אותן בקרות מדיניות חלות בארגז החול ובסביבת הייצור.
כלי שלא נבדק נשאר חסום בהמתנה לבדיקת הכלי. סקירת הגדרת כלי ואישור כתיבה מסוימת הן החלטות נפרדות.
קשרו את האישור לבקשה
מענק מדויק מכסה את המבקש, הארגון, החיבור, הקשר אישור, גרסאות הכלים והסכימה, המשאב, תקציר הטיעונים, גרסת המדיניות ומצב הביטול. שינוי ההקשר הזה עלול לבטל את תוקף האישור.
תקציר הארגומנט הוא טביעת אצבע המשמשת כדי להתאים את הבקשה; זה לא תיאור קריא של הפעולה. הסקירה של Durin מראה כי תקציר לצד המבקש, הכלי, המשאב, המדיניות והסכימה גרסאות, ותפוגה. סוקרים צריכים את ההקשר העסקי הרלוונטי לפני שהם מאשרים.
תוקף המענקים פג והם חד פעמיים. חברות וסמכות נבדקות שוב לפני הביצוע, כך שאישור מוקדם יותר לא שומר על גישה לאחר ביטול.
טפל באי ודאות מבלי לשכפל כתיבה
חיבור יכול להיכשל לאחר שמערכת במעלה הזרם ביצעה שינוי. אין תגובה לא אומר שאין מעשה. אישור, משלוח והשלמה מאושרת חייבים להישאר ברורים.
רשומות Durin דרשו כוונת ביצוע לפני כתיבה נשלטת ואינן חוזרות אוטומטית על כתיבה שעלולה להיות הושלמה. בדוק את התוצאה שנרשמה והתאם אותה עם הספק לפני שתחליט אם פעולה חדשה מתאימה.
אישור לשימוש חד פעמי מגביל שימוש חוזר במענק; זה לא ערבות אוניברסלית חד פעמית במערכות חיצוניות. כלול תוצאות לא ודאיות בספר ההפעלה שלך והקצה בעלים כדי ליישב אותן.