במציאות של 2026, אמירות כמו SaaS" מת” ו־ AI" יחליף את כולנו” הפכו לחלק בלתי נפרד מהשיח היומיומי. אני לא קונה את זה, ובכנות – גם לכם לא כדאי. רוב המחקר בתחום ה-AI כיום מתמקד בדבר אחד: דיוק. על האם המודל יודע לתת את התשובה הנכונה. אבל מה לגבי אמינות? הרי דיוק ואמינות אינם אותו דבר, וכמעט אף אחד לא בוחן את ההבדל.
״כשאנחנו בוחנים מה מגדיר עובד שאפשר באמת לסמוך עליו, ההגדרה היא לא ״עובד שצודק רוב הזמן״. ההגדרה לעובד טוב ואמין עמוקה יותר מזה: עובד אמין צודק באופן עקבי באותו הנושא, לא היום כן ומחר לא (עקביות), הוא לא מתפרק כשהתנאים לא מושלמים (עמידות), הוא אומר כשהוא לא בטוח במקום לנחש בביטחון (יכולת כיול) וגם כשהוא טעה – הטעויות שלו נוטות להיות ניתנות לתיקון, ולא הרסניות (בטיחות).״ זה ציטוט של Arvind Narayanan, פרופסור למדעי המחשב באוניברסיטת פרינסטון, שחקר את אמינות מודלי ה-AI יחד עם חוקרים נוספים. מחקרים בתחום בדקו מגוון מודלים מובילים לאורך זמן ובחנו בדיוק את התכונות האלו.
והתוצאה? במקרים רבים, מודלי AI מתקשים לשמור על עקביות. אותו מודל יכול לתת תשובות שונות לאותה שאלה, הביצועים שלו מושפעים משינויים קטנים בניסוח, ורבים מהמודלים מתקשים לזהות אם הם צודקים או טועים – רמת אמינות שלעתים מתקרבת לניחוש. ולא מדובר בבעיה תיאורטית. בתעשיות כמו אווירונאוטיקה, אנרגיה גרעינית והנדסת רכב אמינות היא לא דבר שמתפשרים עליו. מערכות כאלה חייבות להגיב בצורה זהה בכל פעם שתנאים מסוימים מתקיימים, ולשאוף לשגיאה קטסטרופלית בתדירות של אחד למיליארד ניסיונות. AI כמו שהוא היום – עדיין לא קרוב לשם. והאמינות? נשארת במידה רבה נחלתם של בני האדם.
מתי בפעם האחרונה יצאת לטיול וראית סוכן AI משתזף בשמש? נכון. אף פעם. זוכרים איך ניוטון גילה את כוח הכבידה? זה לא היה בגלל שהייתה לו גישה למידע אדיר. הוא ישן את שנת הצהריים שלו כשהתפוח המפורסם נפל לו על הראש. הוא חי בעולם הזה, שם לב למשהו מוזר, ושאל שאלה שאף אחד לא חשב לשאול. לא מדובר בזיהוי תבניות – אלא בגילוי מרהיב שנולד כשמוח סקרן פוגש חוויה אמיתית. ל-AI אין את זה, לפחות לא במצבו הנוכחי. הוא חושב “בתוך הקופסה”, בגבולות המידע שעליו הוא אומן. הוא יכול ביעילות רבה לערבב, לשלב מחדש ולטייב את מה שכבר קיים, אבל אם התשובה לא הייתה כתובה באיזשהו מקום מראש – הוא יתקשה מאוד להגיע אליה בעצמו.
מחקר שפורסם ב־Nature Scientific Reports, אחד מכתבי העת המדעיים המובילים בעולם, בחן בדיוק את הסוגייה הזו. החוקרים נתנו במסגרת המחקר ל-AI תפקיד של מדען, עם משימה לשחזר תגליות מורכבות בגנטיקה מולקולרית. התוצאה: AI הצליח לייצר בעיקר התקדמות בממצאים הקיימים. ההשערות של המודל לא היו מקוריות או ״מחוץ לקופסא״, והוא התקשה לזהות חריגות בתוצאות ניסוי – אותם רגעים בהם אדם היה אומר “רגע, משהו פה מוזר”, ושמובילים לפריצות הדרך הגדולות של האנושות.
AI לא חי בינינו. הוא לא חי נקודה. ולכן הוא אינו מרגיש, וככל הידוע לנו אינו חווה סקרנות כפי שבני אדם חווים אותה, והיצירתיות שלו מוגבלת ביותר. אנחנו זקוקים לבני אדם כדי לגלות מינים חדשים, לזהות דפוסים חריגים וכדי לחוות את העולם שלנו, שלא מפסיק להשתנות.
האירוניה בעתיד – היא כמה מוכר הוא נשמע. הנה מקבץ ציטוטים בנוגע לטכנולוגיה שהיו נפוצים מאד בשעתם:
"תם עידן החנויות פיזיות" – כולם, אחרי בועת הדוט-קום של שנות ה־2000
"לא יהיו יותר אתרים, הכל עובר לאפליקציות." סיליקון ואלי, 2012 עם התפוצצות הטלפון החכם
"לא נצטרך יותר בנקים!" חובבי קריפטו, 2021
SaaS" מת AI מחליף את כולם." הפיד שלכם בלינקדאין, היום.
בכל פעם שמגיעה מהפכה טכנולוגית, קמים קיצוניים חדשים שמנבאים את סוף העולם כפי שאנחנו מכירים אותו. ונחשו מה? הם טעו בכל פעם. מה קרה בפועל? המציאות היתה במקום טוב באמצע, הטכנולוגיה החדשה חיה לצד גרסה משופרת של העולם הישן. ה-Ecommerce הוליד את Amazon, אבל הקניונים עדיין מלאים בסופי שבוע. קריפטו הביא את ה-DeFi, אבל הבנק שלך כנראה עדיין גובה ממך עמלות. הסיפור לא יהיה שונה גם במקרה של AI. אין ספק שהעולם מתפתח ודברים אכן עומדים להשתנות, אבל הלקח מההיסטוריה אינו לפחד או להספיד את המציאות שאנחנו מכירים, אלא לבוא בראש פתוח.
המציאות תתפתח למה שנקרא Human in the loop – שיתוף פעולה בלתי פוסק בין בני אדם ל-AI בו בני האדם ימשיכו לאמן AI כדי לבצע משימות באופן רלוונטי. אנשים יעשירו את מאגרי המידע שה-AI ניזון מהם, יעברו לפתח את התשתיות שמאפשרות לו לעבוד ולשרת את האנושות ביעילות, ויעבדו לצד ה-AI כדי להמשיך לכייל אותו באופן תמידי לספק תוצאות אמינות, נכונות ועדכניות למציאות המשתנה מחוץ לטווח הראייה שלו.
חברות שמשתמשות ב-AI כדי להעצים אנשים, ולא להחליף אותם, רואות שיפור ביצועים פי 3, צמיחה של 38% בהכנסות וגם גידול של 10% בכוח האדם בו־זמנית. המקום שלנו בעולם הזה לא מאוים על ידי שום המצאה. הוא מעולם לא היה. אבל הרלוונטיות שלנו תלויה בנכונות שלנו להתפתח.
שי די קסטרו, AI Transformation specialist
קרדיט צילום: רויטל שלם
