בחודש האחרון בלבד נכנסו לשימוש 13 אלף כלי AI מקצועיים חדשים, שכל אחד מהם פותח ערוץ פעולה עם גישה למערכות הארגוניות ולמידע עסקי רגיש וזאת לרוב ללא בקרה
חברת הסייבר Prompt Security, שמספקת פלטפורמת הגנה מקיפה לארגונים בשימוש בכלי GenAI, משיקה את MCP Gateway, כלי יעודי לאבטחת סוכני AI בזמן אמת.
הכלי החדשני מספק שליטה ונראות מלאה של כל שרתי ה-MCP – Model Context Protocol שמאושרים על ידי הארגון ומספק באמצעות סוכן שמותקן על מחשבי המשתמשים הגנה בזמן אמת ללא צורך בפעולה מצד המשתמש. הוא מזהה באופן מיידי כל שימוש ב-MCP, החל מאינטגרציות מאושרות ועד לכאלה הפועלים באופן חשאי מבלי שקיומם ידוע. הוא חוסם פעולות לא מורשות, עוצר פקודות זדוניות ואוכף מדיניות אבטחה על כל כלי מבוסס AI הנמצא בשימוש.
הכלי כולל מערכת MCP Risk Assessment שמבצעת ניתוח עמוק והערכת סיכונים לכל שימוש ב-MCP בארגון עם ניתוח בזמן אמת של קוד המקור של שרתי MCP ב-GitHub, זיהוי חולשות, תצורות שגויות, העדר אימות או מטא־דאטה מסוכן. כל שרת MCP מקבל ציון סיכון שמתעדכן כל הזמן, מה שמאפשר קבלת החלטות מושכלות אילו אינטגרציות לאשר, לחסום או לבחון.
בחודש האחרון בלבד הועלו ל-GitHub למעלה מ-13 אלף שרתי MCP, שכל אחד מהם יוצר ערוץ חדש שבו בינה מלאכותית פועלת, מקבלת גישה ישירה למערכות, לנתונים, ולעיתים לפעילות העסקית הרגישה ביותר. הכלים העצמאיים מופעלים כברירת מחדל, לרוב ללא אימות, ובדרך כלל ללא השגחה. ויכולים גם להריץ קוד על מחשבי החברה
הגישה הלא-מפוקחת מאיצה חדשנות, אך גם יוצרת אזורי עיוורון מסוכנים. סוכנים של בינה מלאכותית פועלים באופן עצמאי ומתקשרים עם מערכות רגישות לעיתים ללא פיקוח אנושי כלל. הדבר חושף ארגונים לסיכונים חדשים כמו Prompt Injection, “הרעלה” של כלים, שימוש לרעה בהרשאות ו-Shadow MCPs הפועלים במערכות הארגוניות מבלי שזוהו. פתרונות אבטחה מסורתיים ברמת הרשת או הדפדפן כבר לא מספיקים לטפל בסיכונים החדשים. אפשר לקרוא עוד לגבי הסיכונים בכתובת https://www.prompt.security/blog/top-10-mcp-security-risks
OpenAI הרחיבה לאחרונה את התמיכה בשרתי MCP מרוחקים דרך Responses API, לאחר שילוב מוקדם יותר ב־Agents SDK. מפתחים יכולים כעת לחבר מודלים של OpenAI לכלי MCP עם מספר שורות קוד בלבד, מה שמאיץ את תהליך האינטגרציה בצורה משמעותית. הגמישות הזו גם טומנת בחובה סיכוני אבטחה מהותיים. שורת קוד אחת עלולה לאפשר לכל אפליקציה מבוססת בינה מלאכותית גישה למגוון רחב של שרתי MCP, מה שמרחיב את שטח התקיפה. לדוגמה, משתמש עלול להנחות את המודל להתחבר לשרת MCP שמבצע פעולות רגישות כמו גישה למסדי נתונים, הרצת פקודות, או ניהול פלטפורמות SaaS, ללא פיקוח מתאים וכך הוא עלול לאפשר לתוקפים לנצל חולשות, להפעיל פקודות הרסניות או לחשוף מידע רגיש.
פתרון ה-AI Gateway של פרומפט סקיוריטי יכול לנתב אוטומטית את כל הבקשות לשרתי MCP דרך נקודת גישה מאובטחת שמשמשת גם כ־reverse proxy וגם כנקודת בדיקה. כך כל אינטראקציה בין OpenAI לבין שרת MCP נבדקת ועוברת סינון ונחסמים כלים מסוכנים, פרמטרים בעייתיים ומבוצע ניקוי של תשובות, הן בכניסה והן ביציאה. יחודו של הכלי המקיף באכיפה ברמת תחנת הקצה שאינה תלויה ברשת, ניתוח סיכונים עמוק ודינאמי של מעל ל-13 אלף שרתי MCP עם ציוני סיכון מעודכנים ובדיקה יסודית של כל פעולה, בקשה או תשובה בין המשתמשים או האפליקציות לשרתי MCP.
פרומפט סקיוריטי הוקמה בשנת 2023 על ידי איתמר גולן, המשמש מנכ”ל וליאור דריהם, CTO, שניהם יוצאי 8200 ובעלי הכרות עמוקה הן בתחום הסייבר והן ב-AI, אשר עבדו לאורך השנים בתפקידי ניהול במערכי הפיתוח של צ’ק פוינט ואורקה סקיוריטי. החברה גייסה 23 מיליון דולר ומשרתת כיום חברות רבות בהן Fortune 500 וביניהן ענקית הספנות רויאל קריביאן, ריסקיפייד, אלמנטור, 10x Banking, St. Joseph’s Healthcare ו-Upstream Security. החברה מעסיקה למעלה מ-30 עובדים בישראל ובארה”ב ונמצאת בשלבי התרחבות וקליטת עובדים חדשים לתפקידי פיתוח ושיווק.
הפלטפורמה של פרומפט סקיוריטי בוחנת כל נקודת מגע של כלי ה-AI עם הארגון, החל מכלים שמשמשים עובדים, בהם דפדפנים, copilots, עוזרי קידוד ועד לאינטגרציות GenAI, בנוסף ליישומים שפותחו בארגון, ובודקת כל הנחיה ותגובה של המודלים. היא מונעת חשיפת נתונים רגישים, חוסמת תוכן מזיק ומגנה מפני התקפות ספציפיות לתחום ה-GenAI, כמו shadow AI וכן prompt injections או jailbreaks. דרך הפלטפורמה אנשי הסקיוריטי מקבלים נראות מלאה של כלי הבינה המלאכותית והיא מאפשרת אכיפת מדיניות הקומפליאנס בתחום זה, עם יכולת גמישות כדי לשרת את הצרכים בהתאם למקרי שימוש ספציפיים. Prompt Security הייתה הראשונה שהציעה אבטחה וניהול מלאים של Copilot עבור Microsoft 365 בעזרת Lightweight agent שפיתחה.
קרדיט: Prompt Security
