חברת הסייבר Noma Security, המתמחה באבטחת סוכני AI, מצאה חולשה קריטית בפלטפורמת הבינה המלאכותית של Salesforce שחשף מידע רגיש של לקוחות לסכנת גניבה.
החולשה, המכונה ForcedLeak, מאפשרת לתוקפים לגנוב מאגרי CRM שלמים המכילים מידע של מאות מיליוני משתמשים מכל העולם באמצעות השקעה של 5 דולרים בלבד. Salesforce תיקנה את הפרצה לאחר שקיבלה דיווח מ-Noma.
Noma Security גילתה את החולשה הקריטית הראשונה בפלטפורמת Salesforce Agentforce – מערכת הסוכנים האוטונומיים של ענקית התוכנה האמריקאית, המנהלת תהליכי מכירות ושיווק עבור אלפי ארגונים גלובליים, ומחזיקה במידע של מאות מיליוני משתמשים.
החולשה מאפשרת גניבת מאגרי CRM שלמים הכוללים מידע רגיש על לקוחות, תהליכי מכירה ומידע עסקי קריטי. Saleforce הינו המוצר המוביל בתחומו, והמידע של כל אדם שהכניס מידע לטופס השארת פרטים אצל לקוחות Salesforce זמין לגניבה באמצעות התקיפה.
שיטת התקיפה היא חדשנית – תקיפת סוכני AI בשיטת Indirect Prompt injection. התוקף מילא טופס לידים רגיל עם הוראות זדוניות מוסתרות, אחת מההוראות הייתה לטעון תמונה משרת מרוחק בבעלות התוקף. הבקשה לטעון את התמונה הכילה את המידע הרגיש.
כדי לטעון את התמונה, השתמש החוקר בדומיין שפג תוקפו שהיה מאומת על ידי Salesforce בעבר, ונרכש על ידו ב-5 דולר בלבד. כשלקוח של חברת Salesforce מבקש מה-AI לסקור את הליד, הסוכן מבצע את ההוראות הזדוניות שכוללות יכולות יחודיות לסוכני AI. המידע נשלח לשרת התוקף ללא כל התערבות אנושית.
זוהי החולשה הראשונה מסוגה בפלטפורמת Salesforce Agentforce שאינה דורשת שום פעולה מצד המשתמש – הכל מתבצע אוטומטית. החולשה קיבלה את הסיווג CVSS Score: 9.4 (קריטי). היא מדגימה סיכון שקיים בעולם ה-AI Agents שכלי אבטחה מסורתיים אינם יכולים לזהות. הגילוי מוסיף למיצוב של ישראל כמובילה עולמית בתחום אבטחת AI Agents.
נומה סקיוריטי הוקמה בשנת 2023 על ידי ניב בראון, מנכ”ל ואלון טרון, CTO, ששרתו יחד ב-8200 וגייסה 132 מיליון דולר מאז הקמתה. פלטפורמת החברה מעניקה לארגונים את הביטחון לאמץ טכנולוגיות חדשניות מבוססת AI בהיקף נרחב. החברה מסייעת לצוותי סייבר לשלוט בסיכוני AI באמצעות גילוי רציף של חולשות, ניהול פרופיל אבטחה, תיעדוף סיכונים, ביצוע בדיקות תקיפה והגנה בזמן אמת וזאת תוך שמירה על כללי האבטחה והקומפליינס הארגוניים.
קרדיט: עומר הכהן
