AI Agents בארגון: מה הסוכן צריך להבין לפני שנותנים לו לפעול?

המעבר מ-Generative AI ל-Agentic AI משנה את מערכת היחסים בין הארגון לבין הבינה המלאכותית. מערכת שכבר אינה רק מחזירה תשובה יכולה לקבל מטרה, להשתמש בכלים ולבצע רצף פעולות. ברגע שה-AI מתחילה לפעול בתוך מערכות עסקיות, השאלה החשובה כבר אינה רק למה היא יכולה לגשת, אלא על סמך מה היא פועלת ומי נתן לה את הסמכות לעשות זאת.

השוק כבר מתקדם בכיוון הזה. בסקר The State of AI in 2026 של McKinsey, 40% מהמשיבים מארגונים עם הכנסות של יותר ממיליארד דולר דיווחו שהארגון שלהם כבר מרחיב שימוש ב-AI Agents, לעומת 27% שנה קודם לכן. ככל שרמת האוטונומיה עולה, גם הדרישה לבקרה, Evidence, Authority וגבולות פעולה צריכה להיות מפורשת יותר.

הרשאה טכנית אינה הרשאה עסקית

אפשר להגדיר בצורה מדויקת לאילו מערכות Agent רשאי להתחבר, איזה מידע הוא יכול לקרוא ואילו פעולות זמינות לו. אלה מנגנוני Access ו-Permissions, והם תנאי בסיסי, אבל הם עונים רק על שאלה אחת: מה המערכת יכולה לעשות מבחינה טכנית.

נניח של-Agent יש הרשאה לעדכן תאריך אספקה. מבחינה טכנית מדובר בפעולה פשוטה. מבחינה עסקית, לפני שינוי כזה צריך לדעת האם הלקוח כבר אישר מועד אחר, האם החוזה מאפשר את השינוי, האם הוא משפיע על פרויקט נוסף ומי בכלל מוסמך לאשר אותו במקרה הנוכחי.

הרשאה נותנת גישה לכפתור. החלטה עסקית דורשת יותר: לזהות על מה פועלים, להבין את המצב וההיסטוריה, לדעת על סמך איזה מידע מקבלים החלטה, לזהות מי מחזיק בסמכות ולדעת מתי נדרש לעצור.

חמש שאלות שהארכיטקטורה צריכה לדעת לענות עליהן

על מה אני פועל?

Identity הוא תנאי בסיסי. אותו פרויקט יכול להופיע בשם אחד ב-ERP, במספר אחר במערכת התפעולית ובכינוי פנימי במסמכים. אדם שמכיר את הארגון יודע שמדובר באותו אובייקט, אבל עבור מערכת אלה רשומות נפרדות עד שהקשר ביניהן מוגדר. הארכיטקטורה צריכה להחזיק זהות עקבית גם כאשר המקורות עצמם אינם עקביים.

מה מצבו, ואיך הוא הגיע לכאן?

Status בודד כמעט אף פעם לא מספר את כל הסיפור. פרויקט יכול להיות מסומן In Progress אבל להמתין להחלטה שמסכנת את היעד, והזמנה יכולה להיות Open למרות שבפועל היא תקועה אצל ספק. כדי להבין מצב נדרש רצף של Events, החלטות ושינויים לאורך זמן, לא רק הערך האחרון בשדה.

על סמך מה אני יודע?

ככל שה-Agent מקבל יותר יכולת פעולה, Provenance ו-Evidence הופכים לחלק מההחלטה עצמה. המערכת צריכה לדעת מאיזה מקור הגיע המידע, מתי עודכן, האם קיימת סתירה עם מקור אחר ומה היה זמין ברגע שבו התקבלה ההחלטה. Audit Trail אינו רק כלי לחקירה אחרי אירוע, אלא חלק מהיכולת להסביר ולבקר למה פעולה הייתה סבירה בזמן אמת.

מי מוסמך להחליט?

Ownership ו-Authority אינם אותו דבר. מנהל פרויקט יכול להיות אחראי להתקדמות העבודה בלי להיות מוסמך לאשר שינוי חוזי, וגורם תפעולי יכול להחזיק במשימה בלי להיות מי שמאשר חריגה כספית. לכן המודל צריך לייצג לא רק מי מטפל בנושא, אלא מי רשאי לקבל איזה סוג של החלטה ובאילו תנאים.

האם מותר לי לפעול, או שאני צריך לעצור?

בחלק מהמקרים הפעולה הנכונה של מערכת אוטונומית היא לא לבצע דבר. כאשר חסר מידע, קיימת סתירה, נחצה סף סיכון או שנדרשת סמכות אנושית, הארכיטקטורה צריכה לאפשר עצירה והסלמה לאדם הנכון. Human in the Loop אינו רק פתרון זמני עד שה-AI תהיה חכמה יותר. במצבים מסוימים האדם הוא מקור הסמכות והאחריות, ולכן הוא חלק מהארכיטקטורה הנכונה גם במערכת מתקדמת.

הכיוון הזה עולה גם במסגרות Governance רחבות יותר. NIST מדגישה ש-Governance ותיעוד צריכים להיות חלק רציף ממחזור החיים של מערכות AI, ולא שכבת בקרה שמוסיפים בסוף. ב-Project NANDA הציעו לאחרונה מסגרת רמות אוטונומיה שמקשרת בין יותר עצמאות של Agent לבין פחות פיקוח אנושי בזמן אמת, ולכן לבין צורך במנגנוני Governance ואחריות חזקים יותר. המכנה המשותף הוא פשוט: ככל שהמערכת עושה יותר, הארגון צריך להיות מפורש יותר לגבי הגבולות שבתוכם היא פועלת.

Operational Context הוא המשמעות. Operational Model הוא הנכס שמחזיק אותה

כאן חשוב לדייק במונחים. Operational Context הוא המשמעות שהמערכת צריכה להבין ברגע מסוים: מהו האובייקט, מה מצבו, מה קרה לפני כן, מי אחראי, מי מוסמך ומהם החריגים הרלוונטיים. זה ההקשר שמאפשר לפרש מידע בתוך העבודה ולא רק לקרוא אותו.

Operational Model הוא הנכס שמייצג ומתחזק את המשמעות הזאת בצורה מובנית ומתמשכת. הוא מחזיק את הישויות העסקיות, הקשרים ביניהן, המצבים, האירועים, ההחלטות, האחריות והסמכות.

AI יכולה לסייע בגילוי קשרים, בהצעת עדכונים ובתחזוקה של חלקים מהמודל, אבל היא אינה המודל עצמו. ההבחנה הזאת חשובה במיוחד בסביבה Agentic, משום שהמודלים וה-Agents עשויים להשתנות בעוד שהייצוג של הארגון צריך להישאר עקבי, מבוקר ומתעדכן לאורך זמן.

Evidence לא נגמר לפני הפעולה

כאשר מערכת רק מייצרת תשובה, קל יחסית לראות את האינטראקציה. משתמש שאל וקיבל תשובה. Agent שפועל לאורך זמן יכול לקרוא מידע ממקור אחד, לקבל החלטה, לבצע פעולה במערכת אחרת, להמתין לאירוע חדש ולהמשיך משם. לכן צריך לשמר לא רק את התוצאה, אלא גם את השרשרת שהובילה אליה.

ארכיטקטורה מתאימה צריכה לאפשר להבין איזה מידע היה זמין בזמן ההחלטה, מאיזה מקור הוא הגיע, איזו סמכות אפשרה את הפעולה, האם אדם אישר שלב מסוים ומה השתנה בעקבות הביצוע. כך Audit Trail הופך ממנגנון תיעוד בדיעבד לחלק ממערכת הבקרה והלמידה של הארגון.

אותו עיקרון חשוב גם כאשר המערכת לא פועלת. אם Agent עצר והסלים החלטה לאדם, צריך להיות ברור מה גרם לעצירה ומה חסר כדי להמשיך.

זו השכבה ש-HIVO בונה

HIVO היא The Operational System of Record for Enterprise AI. היא בונה ומתחזקת Operational Model משותף מעל מערכות המקור, כך שהישויות, הקשרים, המצבים, האירועים, האחריות והסמכות מקבלים ייצוג אחד שנשמר לאורך זמן.

המטרה אינה להחליף את ה-ERP, ה-CRM או מערכות הליבה. כל אחת מהן ממשיכה להיות מערכת הרשומה בתחום שלה. המודל התפעולי של HIVO מחזיק את הדרך שבה אותן מערכות מתחברות לאותה עבודה, וממנו ניתן לספק Operational Context לאנשים וליכולות AI לפי הצורך.

במקומות שבהם נכנסים AI Agents, הכיוון הארכיטקטוני הוא שה-Agent לא יצטרך להסיק לבדו בכל פעם מחדש מי אחראי, מהו המקור הקובע או האם פעולה מסוימת נמצאת בסמכותו. המודל צריך לאפשר למערכת לקבל את ההקשר, ה-Evidence וה-Controls שנדרשים לפני פעולה, ולדעת מתי התהליך צריך לעבור לאדם.

להרחבה על Operational Context והדרך שבה AI מבינה ארגון, ראו את המאמר בינה מלאכותית כבר נמצאת בארגון. אז למה היא עדיין לא מבינה את הארגון?.

לפני ה-Agent הראשון, צריך לשאול שאלה אחרת

הדיון סביב Agentic AI מתמקד בצדק ביכולות: איזה מודל יודע לתכנן טוב יותר, לכמה מערכות הוא יכול להתחבר וכמה צעדים הוא מסוגל לבצע. אבל ככל שהמערכת מקבלת יותר עצמאות, היכולת הטכנית היא רק צד אחד של המשוואה.

לפני שנותנים ל-Agent לפעול צריך לדעת על מה הוא פועל, מה מצבו ואיך הגיע אליו, על סמך מה הוא יודע, מי מוסמך לקבל את ההחלטה והאם במקרה הנוכחי מותר לו לפעול או שהוא צריך לעצור. אם התשובות לשאלות האלה עדיין נמצאות רק בראש של האנשים, Agent חכם יותר לא בהכרח פותר את הבעיה.