סרטון הדגמה: https://youtu.be/_5su4U2ozCw
חברת הסייבר Prompt Security, שמספקת פלטפורמת הגנה מקיפה לארגונים בשימוש בכלי GenAI, משיקה כלי חדשני פתוח ללא תשלום שמאפשר לארגונים לבצע מיידית קצר הערכה של סיכוני AI.
AI Risk Assessment סורק את יישומי ה-AI שנמצאים בשימוש הארגון וכן את שרתי ה-MCP – Model Context Protocol. הכלי מספק ניתוח ותובנות בתחום האבטחה והעמידה ברגולציה כולל ניהול דאטה, הצפנה וחשיפת נקודות חולשה כך שארגונים יוכלו לקבל החלטות בנוגע לשימוש בבינה מלאכותית.
הערכת הסיכון מבוססת על מתודולוגיית ניתוח ייחודית שפיתחה Prompt Security המתנהלת באופן שקוף ומפורט תוך בחינת האישורים של כל כלי שנעשה בו שימוש. הפתרון מבוסס על מאגר ידע רחב של כלי AI החל מ-ChatGPT וכולל למעלה מ-15 אלף מאגרי GitHub.
פרומפט סקיוריטי הוקמה בשנת 2023 על ידי איתמר גולן, המשמש מנכ”ל וליאור דריהם, CTO, שניהם יוצאי 8200 ובעלי הכרות עמוקה הן בתחום הסייבר והן ב-AI, אשר עבדו לאורך השנים בתפקידי ניהול במערכי הפיתוח של צ’ק פוינט ואורקה סקיוריטי. החברה גייסה 23 מיליון דולר ומשרתת כיום חברות רבות בהן Fortune 500 וביניהן ענקית הספנות רויאל קריביאן, ריסקיפייד, אלמנטור, 10x Banking, St. Joseph’s Healthcare ו-Upstream Security. החברה מעסיקה למעלה מ-30 עובדים בישראל ובארה”ב ונמצאת בשלבי התרחבות וקליטת עובדים חדשים לתפקידי פיתוח ושיווק.
הפלטפורמה של פרומפט סקיוריטי בוחנת כל נקודת מגע של כלי ה-AI עם הארגון, החל מכלים שמשמשים עובדים, בהם דפדפנים, copilots, עוזרי קידוד ועד לאינטגרציות GenAI, בנוסף ליישומים שפותחו בארגון, ובודקת כל הנחיה ותגובה של המודלים. היא מונעת חשיפת נתונים רגישים, חוסמת תוכן מזיק ומגנה מפני התקפות ספציפיות לתחום ה-GenAI, כמו shadow AI וכן prompt injections או jailbreaks. דרך הפלטפורמה אנשי הסקיוריטי מקבלים נראות מלאה של כלי הבינה המלאכותית והיא מאפשרת אכיפת מדיניות הקומפליאנס בתחום זה, עם יכולת גמישות כדי לשרת את הצרכים בהתאם למקרי שימוש ספציפיים. Prompt Security הייתה הראשונה שהציעה אבטחה וניהול מלאים של Copilot עבור Microsoft 365 בעזרת Lightweight agent שפיתחה.
הכלי זמין לשימוש בקישור: https://www.prompt.security/ai-risk-assessment-tool
