עוז ארדזי, מנהל תחום אבטחת מידע ו-AI בנספרו: "ארגונים נדרשים להגנה חוצת מערכות, שבנקודה אחת, המחולקת לשכבות, תיערך בקרה על כלל תהליכי ה-AI שבארגון".
"כניסת הבינה המלאכותית לסוגיה, ובתוכה בינה מלאכותית סוכנית, מציפה אתגר חדש לצוותי האבטחה: נכנסו שחקנים חדשים למגרש ה-IT – סוכני AI. לא תמיד אנו יודעים מי הם, בשם מי הם פועלים והיכן. עלינו לברר האם הם עובדים לפי מדיניות האבטחה הארגונית, וגם – לפעילות שלהם יש עלויות. ארגונים נדרשים לפתרון הגנה חוצה מערכות, שבנקודה אחת יערוך בקרה על כלל תהליכי ה-AI הרצים בארגון", כך אמר עוז ארדזי, מנהל תחום פתרונות אבטחת מידע ו-AI בחטיבת ברודקום (Broadcom) בנספרו (NessPRO), קבוצת פתרונות התוכנה של נס (Ness).
לדברי ארדזי, "בתוך עולם האבטחה, האתגר החדש הוא אבטחת שירותי API, גישה למידע רגיש והפעלת כלים ארגוניים עבור עולם ה-AI. יש לוודא שהנגשת המידע תותאם להתנהגות הבלתי צפויה של סוכני ה-AI, תיערך בצורה מבוקרת תוך עמידה ברגולציות, הרשאות ואימות המשתמשים, וניהול וניתוב התעבורה. רק כך יתקבלו מערכות בעלות יציבות, זמינות גבוהה ויכולות שליטה וניהול".
"בעבר", ציין, "אבטחת ה-API הייתה בין האפליקציה למשתמשים, וידענו מה הם יעשו באפליקציות, עם זהויות והרשאות שנקבעו מראש. כעת, עם כניסת השחקנים החדשים בדמות הסוכנים, אנו נתקלים בכמה שאלות: מה הסוכנים עושים? באיזה קצב? האם הם טיפלו במידע רגיש או אסור לשימוש? מדוע הם עושים את מה שהם עושים? האם מה שהם עושים אסור? האם הם מתנהגים באופן לא צפוי? בשם מי הם פועלים: המפתחים, הלקוחות או הספקים? על כל אלה בא אתגר נוסף: FinOps for AI – לכל אחת משתי דרכי הצריכה של AI, מנוי עם מכסה או תשלום לפי שימוש, יש עלויות ונדרש לערוך עליהן בקרה".
להבדיל בין תעבורה רגילה ותעבורת AI
"אל מול שלל האתגרים החדשים הללו", אמר ארדזי, "ארגונים חייבים נראות. עליהם להבדיל בין סוגי התעבורות – תעבורה רגילה ותעבורת AI. לכל אחת מהן יש התנהגות שונה. אחרי ההבחנה ומיפוי התעבורה, יש לעבור לשלב ניהול הזהויות באופן ספציפי: לא להשאיל זהות אנושית עבור סוכן, לנהל הרשאות מצומצמות עבור פעולת הסוכן ולתת לו אישור קצר טווח לפעילות".
לדבריו, "פתרון Layer7 API Gateway של CA לשעבר, מבית ברודקום, משלב ניהול עומסי עבודה, ממשל ואבטחת AI כדי לגשר בין תשתית ה-IT הארגונית למודלי שפה גדולים (LLMs).
הפתרון של CA לשעבר, מבית ברודקום, משלב ניהול עומסי עבודה, ממשל ואבטחת AI כדי לגשר בין תשתית ה-IT הארגונית למודלי שפה גדולים, LLMs. היכולות המרכזיות שלו כוללות את Agentic Identity Fabric לאבטחת סוכני AI אוטונומיים. יכולת נוספת היא תמיכה בתעבורת MCP (ר"ת Model Context Protocol), שהוא פרוטוקול המאפשר לחבר את המודל לכלי חיצוני ממש כמו שמחברים אפליקציה לשירות אינטרנטי, עם שער AI ייעודי".
לכתבה המלאה>>