הפתרון המקיף של פרומפט סקיוריטי משמש מפתחים לאבטחת שירותי Gen AI בשלבי הפיתוח, בנוסף להגנה המסופקת לכלל העובדים בשימוש בשירותי Gen AI חיצוניים
חברת הסטארטאפ Prompt Security, המפתחת פלטפורמת אבטחה ופרטיות לשימוש בכלי Generative AI, מכריזה על גיוס סיד בסך 5 מיליון דולר. הסיבוב הובל על ידי קרן Hetz Ventures, בהשתתפות Four Rivers, CyberFuture ומשקיעים פרטיים בהם מנהלי אבטחת מידע בחברות אלסטיק, דולבי ועוד.
Prompt Security מספקת לארגונים פלטפורמה לפיתוח ולשימוש בטוח בשירותי Gen AI. בין אם אלו עובדים המשתמשים באפליקציות AI ארגוניות, או מפתחים הבונים שירותי Gen AI. הפתרון מבוסס על טכנולוגיה חדשנית ו-LLMs שפותחו ב-Prompt Security, בשילוב ניתוח שפה טבעית מבוסס הקשר. המערכת משתמשת בגישה דינמית לאיתור כלי בינה מלאכותית ודפוסי שימוש, ומזהה אלפי כלי AI שונים כולל כאלו שפורסמו לאחרונה.
המערכת נכנסת לשימוש בתוך דקות ספורות מרגע התקנתה, כהרחבה על כל סוגי הדפדפנים הפופולריים ובסביבת פיתוח משולבת (IDE), בנוסף לערכת פיתוח תוכנה (SDK). היא מספקת למנהלים תמונה רחבה על השימוש בכלי בינה מלאכותית בארגון, עם יכולת להגדיר מדיניות גישה לכל אפליקציה ולכל קבוצת משתמשים. המנהלים יכולים להגדיר האם תהליך העיבוד יתבצע בענן או בעמדת הקצה של המשתמש.
הפתרון של Prompt Security מזהה אוטומטית מתי נעשה שימוש בבינה מלאכותית, בעבודת פיתוח הוא בוחן את תגובות המודל כדי למנוע חשיפת נתונים רגישים. בעבודה ארגונית בכל פעם שנעשית אינטראקציה עם כלי GenAI, לפני שליחת דאטה רגיש, הפתרון של פרומפט סקיוריטי בודק את ההנחיות שסיפק הארגון לשימוש באותם כלים. המערכת מנקה את החלקים הרגישים באופן אוטומטי מהמידע הנשלח למודל, כדי לוודא שמידע רגיש אינו יוצא מהארגון, או חוסמת לחלוטין את האפשרות להוצאת המידע. כך ניתן לבלום תוכן מסוכן שעלול להגיע למשתמשים, הפרת זכויות יוצרים של קנין רוחני, ולהגן מפני התקפות ספציפיות ל-AI כמו Prompt Injection או Jailbreak.
כל ארגון יכול להחליט כיצד הפתרון של Prompt Security יגיב במקרה של חריגה מהנחיות לשימוש בכלי Gen AI. המערכת יכולה להוציא התראה על חריגה לעובד ולארגון כדי לסייע להם בהגברת המודעות ובשיפור רמת האבטחה. המערכת מאפשרת גם לארגונים המחויבים לעמוד בקומפליינס להפיק דוח המציג את אופן השימוש של עובדיהם בכלי Gen AI. הפלטפורמה כבר פועלת בעשרות חברות, לרבות חברות ענק אמריקאיות, עם אלפי משתמשים קבועים שמבצעים מיליוני פעולות מנוטרות מדי חודש ומספקת הגנה לארגונים וללקוחותיהם.
על פי ההערכות ב-95% מהארגונים נעשה שימוש קבוע בבינה מלאכותית יוצרת, שנע בין עובדים בודדים המשתמשים בכלים כמו ChatGPT ובין מחלקות שלמות המשלבות את ה-Gen AI בתהליכי העבודה שלהם ועד לשילוב בקנה מידה גדול במוצרים המסופקים ללקוחות. פעולות אלו נעשות לעיתים ללא פיקוח או אישור של אנשי הסייבר בארגונים, מה שיוצר מגיפה חדשה של “Shadow AI” – כלי בינה מלאכותית הפועלים בצללים. מחקר שנערך לאחרונה על ידי גוגל הראה שניתן לגרום לכלים כמו ChatGPT לחשוף כמויות גדולות של דאטה ששימש לאימון שלהם.
Prompt Security הוקמה באוגוסט 2023 על ידי איתמר גולן, המשמש מנכ”ל החברה וליאור דריהם, CTO, בעלי הכרות עמוקה הן בתחום הסייבר והן ב-AI. איתמר וליאור, יוצאי 8200, צברו שנים של ניסיון בבנייה ואבטחת מערכות ML בחברות צ’ק פוינט ואורקה סקיוריטי. גולן היה חלק מצוות ההקמה של OWASP – דירוג עשרת סיכוני האבטחה המובילים ביישומים מבוססי LLM. החברה מעסיקה 12 עובדים, מרביתם בישראל.
איתמר גולן, מייסד משותף ומנכ”ל Prompt Security: “השימוש ב-Generative AI מתרחב במהירות, ובצדק. מדובר בטכנולוגיה מהפכנית שמאיצה את כלל תהליכי העבודה, כל עסק ששואף להישאר רלוונטי מחויב לאמץ אותה. עם זאת, כמו כל טכנולוגיה חדשה, לצד ההזמנויות הרבות ישנן סכנות לא מעטות – החל מדליפת מידע, הפרת זכויות יוצרים ומתקפות זדוניות. הפלטפורמה שלנו מסייעת למנהלי אבטחת המידע בארגון לאפשר באופן בטוח ואחראי אימוץ נרחב של GenerativeAI, בלי להתפשר על סוגיות אבטחה ופרטיות.”
ליאור דריהם, מייסד משותף ו-CTO ב-Prompt Security: “בינה מלאכותית יוצרת היא פריצת דרך מדהימה, אבל גם חושפת ארגונים לסיכוני אבטחה לא מוכרים, מורכבים אשר עלולים להיות מאוד מסוכנים, וכלי האבטחה הקיימים לא יודעים להתמודד איתם. המשימה שלנו היא לאפשר לארגונים לאמץ באופן בטוח את הטכנולוגיות המהפכניות האלו על ידי מתן הגנה מקיפה בשימוש בכלים אלו מקצה לקצה.”
פבל ליפשיץ, שותף בקרן Hetz Ventures, שהובילה את סבב הגיוס: “רצינו להשקיע בתחום אבטחת כלי בינה מלאכותית וחיפשנו את הצוות המתאים. השקענו ב-Prompt Security לאחר שנוכחנו שאיתמר וליאור מבינים באופן ייחודי הן את הפוטנציאל המדהים של Generative AI, כמו גם את האיומים החדשים שנוצרים מתקיפות באמצעות כלים אלו. החזון השאפתני שלהם לפתרון אבטחה כולל לכלים אלו עונה על צורך חזק בשוק, ואנחנו מאמינים שיש להם את הצוות המושלם כדי לממש את החזון הזה.”
קרדיט: Prompt Security
