1. צה"ל בפאלו אלטו

שהעובדים יעשו מד"סים

כמו לא מעט חברות, גם ל־Robust Intelligence יש טקסים לקבלת סוף השבוע. רק שבניגוד ל"הייטקס", לא מדובר בהפי האוור או פינוקים אחרים. "בכל יום שישי אנחנו עושים מסדר שישי — מנקים לבד את השירותים, את השולחנות ואת המשרד כולו", מספר ירון זינגר, המייסד הישראלי של הסטארט־אפ, ל"מוסף כלכליסט" בריאיון ראשון בחייו, בזמן ביקור מולדת שלו בארץ. "בבקרים במשך השבוע אנחנו גם עושים מד"סים יחד, שבהם כל אחד רץ את המרחק שלו, ואם יש אירוע חברה — זה בקמפינג. כל 50 העובדים שלנו אמריקאים והם מתים על הדברים האלה, שהבאתי מהצבא".

למה זה טוב?

"דברים כמו מד"סים או מסדרים יוצרים אינטראקציה מיוחדת בין אנשים שהיא לא כתיבת קוד. כל הדברים של לעבוד יחד במשהו שהוא לא העבודה המקצועית גרידא — זה בעיניי מה שבונה מערכת יחסים עמוקה יותר בין אנשים. ואני חושב שזה גם מתבטא בעבודה עצמה: אם נדע להשאיר משרד מסודר גם הקוד יהיה בלי באגים. המשמעת היא אוניברסלית ולא נעצרת רק במישור אחד".

והעובדים משתפים פעולה?

"זה כנראה עניין של ביצה ותרנגולת — אנחנו מראש מביאים אנשים שמתחברים לתרבות הזאת. חלק גדול מצוות המכירות שלנו הוא אנשים שהיו בנבחרות החתירה של האוניברסיטאות שבהן למדו, כי אני מאוד מאמין בספורט הזה. אחד העובדים הראשונים בחברה היה בנבחרת של הרווארד עם התאומים ווינקלווס (טיילור וקמרון, שהסתכסכו עם מארק צוקרברג סביב ייסוד פייסבוק). זה ספורט הישגי וסיזיפי, ולכן אנשים שאוהבים אותו מתאימים למכירות. הם ומוזיקאים, שגם רגילים להתאמן המון כדי לשייף את הטכניקה ויודעים שלוקח זמן עד שרואים את התוצאות".

הוא עצמו לא הצליח להתקבל לנבחרת החתירה של הרווארד, ואת הצורך שלו באתגרים ניתב מגיל צעיר לטיפוס הרים.

נשמע שסיזיפיות מדליקה אותך.

"אני אוהב כשהכל קשה ולא ברור. וזה בדיוק העניין בסטארט־אפ. זה מזכיר לי את הניווטים הצבאיים בחושך. אחד מרגעי השיא בשירות שלי היה הניווט שאתה עושה לבד במדבר, במשך ארבעה־חמישה ימים עם 50-40 ק"ג על הגב. פשוט זורקים אותך באמצע השטח, וכל לוחם יורד בנפרד בפער של חמש דקות מזה שלפניו כדי שיהיה אפשר להתפזר באמת. אתה קופץ למטה עם כל המשקל עליך, זה כבד ומוריד אותך בכמה סנטימטרים, ומסביב רק לילה ושקט ואתה מריח את הזיעה היבשה. אתה אמור להתבאס, אבל אז קלטתי את הקול הפנימי אומר לי: 'על מי אתה עובד, אתה מת על זה'".

"כל מערכות הבינה המלאכותית טועות, זה מובנה בתוך האלגוריתמים. וקשה לדמיין שבעוד חמש שנים יהיו חברות שלא ישתמשו ב־AI, כך שכולן יצטרכו פיירוול למערכות האלה - ואנחנו היחידים שעושים את זה היום"

2. תסמונת המתחזה בהרווארד

פשוט היו לי פוקסים

צריך למות על זה כדי לעשות את המסלול של זינגר (42), מקצונה ביחידה למבצעים מיוחדים, דרך קריירה כמתמטיקאי מזהיר בהרווארד — בגיל 33 הוא היה לאחד הפרופסורים הצעירים בפקולטה, בגיל 40 כבר החזיק בקביעות — ועד הקמת סטארט־אפ חדשני. רובאסט מבקש להגן על הבינה המלאכותית מפני עצמה: משוכללת ככל שתהיה, עדיין עשויות להיות בבינה המלאכותית טעויות, עם השלכות מרחיקות לכת. המוצר של רובאסט אמור לאתר את הטעויות האלה ומאפשר לתקן אותן, ובעצם מספק לענף שנמצא כיום בחזית הטכנולוגיה כלי הגנה ושכלול מתקדמים. והמחקרים של זינגר כל כך פורצי דרך בנישה הזאת, שאפשר להשוות את האופן שבו רובאסט יוצרת שוק חדש סביב הבינה המלאכותית לאופן שבו ה־Firewall של גיל שויד וצ'ק פוינט בראו את שוק הסייבר. על הפוטנציאל אפשר ללמוד מהעובדה שבחודש שעבר רובאסט, שזינגר הוא המנכ"ל שלה, גייסה 30 מיליון דולר מטייגר גלובל וסקויה, שתיים מהקרנות הגדולות בעולם, בסבב גיוס שני, ושהיא כבר מוכרת את המוצר שלה, את ה־AI פיירוול, בעשרות מיליוני דולרים לעשרות לקוחות.

לאורך המסלול של זינגר, נראה שכמעט בכל צומת שנקרתה בדרכו בחר באופציה הקשה, הלא מובנת מאליה. הוא יוצר רושם ראשון של הייטקיסט ישראלי מהזן המוכר — לוק של איש מחשבים, יוצא יחידה טכנולוגיות, לבוש מעט מרושל, דיבור שקט, עם מושגים באנגלית שמשולבים בשיחה — אבל כשהוא מתחיל לספר על העבודה שלו והדרך אליה, נחשף סיפור קצת אחר.

למשל, במסלול הצבאי שבחר לעצמו. "לכולם היה ברור שאני אתגייס ל־8200", מספר זינגר, שגדל בתל אביב. "אחותי שירתה שם, ההורים שלי באים מהתחום — אבא שלי פרופסור להנדסת חשמל באוניברסיטת תל אביב, אמא שלי דוקטור לפיזיקה שעבדה שנים במשרד הביטחון — וגם לי תמיד היה ברור שלשם אני אלך. אבל אז היתה לי הארה, שיהיו לי את כל החיים להתעסק במחשבים ובמתמטיקה, ודווקא הצבא מהווה הזדמנות לעשות משהו שאני לא אוכל לעשות אחר כך, ולתרום באופן שלא אוכל לתרום בגיל אחר. ממש היה לי סוויץ' בראש. אז הייתי לוחם ביחידה למבצעים מיוחדים".

ושם, כאמור, היו עוד הארות, שחשפו בפניו את העונג שהוא שואב מאתגרים קשים במיוחד. העונג הזה שלח אותו לקורס קצינים, והשאיר אותו בשירות קבע. כשהשתחרר, בכל זאת חזר לחיים שאליהם הוסלל, והלך ללמוד מתמטיקה ומחשבים באוניברסיטת תל אביב. הכישרון היה ברור, וב־2007, עם סיום התואר הראשון, כבר נסע לברקלי, לעשות דוקטורט במדעי המחשב, שהתמקד באלגוריתמים עם אינפורמציה מוגבלת.

אבל הרעב לריגושים לא בא על סיפוקו מול משוואות. זינגר החליט לעשות הפסקה בדוקטורט כדי להקים את הסטארט־אפ Bidwave, שביקש לזהות אנשים משפיעים ברשתות החברתיות. "עבדנו על זה במשך שנה והיתה אפשרות למכור את החברה לפייסבוק ולהמשיך שם, אבל לא הבנתי אז את הפוטנציאל של פייסבוק. זה היה עוד לפני ההנפקה שלה, לא ראיתי אותה כחברה של 100 מיליארד דולר ולא האמנתי שיגיעו רחוק. למכור להם אז זה היה מבחינתי לוותר על החלום, והטרייד אוף מבחינת הכסף לא היה נכון".

אז זינגר זגזג חזרה לאקדמיה. "המנחה שלי כעס עליי מאוד כשהקמתי את הסטארט־אפ, אבל זו היתה הפעם הראשונה מאז הצבא שבאמת הרגשתי שאני באלמנט שלי. נהניתי מזה, ובסיום הדוקטורט הייתי צריך להבין מה אני אעשה עם עצמי — כי מי שעושה דוקטורט בברקלי לא יכול להיות שם חבר סגל. המנחה שלי כבר הבין את הראש שלי ואמר לי: 'תנסה להתקבל למעט מקומות, כך שאם תתקבל לא תוכל לסרב, ואם לא תתקבל, לך בלב שקט לתעשייה'".

ואם מעט מקומות, מובן שהם חייבים להיות אלה שהכי קשה להתקבל אליהם. זינגר פנה להרווארד ולסטנפורד בחיפוש אחר משרה. המחשבה על סטנפורד נולדה כשעבד אצל שניים מבוגרי המוסד, לארי פייג' וסרגיי ברין. "ב־2007 פיטר נורוויג, ראש המחקר והבינה המלאכותית בגוגל וממייסדי ענף ה־AI, בא לדבר עם הדוקטורנטים בברקלי על גוגל טרנסלייט, שהיתה אז בשלבי פיתוח ראשוניים. הוא הסביר שלמרות המורכבות המיוחסת לבינה המלאכותית, רוב הבעיות בה נפתרות בידי אלגוריתמים פשוטים. זה סקרן אותי מאוד, אז הצטרפתי לגוגל, במסלול מיוחד של 'השאלה': גוגל רוצה קשרים עם המדענים שמפתחים את הדברים החדשניים ביותר באקדמיה, אז היא מציעה להם לבוא לכמה שנים, לעשות פרויקטים בתחום שמעניין אותם ואחר כך לחזור לאוניברסיטה ולשמור על קשר עם החברה. אני הגעתי לשם ב־2011  לשנתיים, והייתי בקבוצה שחקרה את למידת המכונה. היינו אז צוות של ארבעה אנשים, היום זו מחלקה של אלפי עובדים".

וחזרת לאקדמיה?

"הם ניסו לפתות אותי להישאר, וכמובן שאין מה להשוות את המשכורות, וגם אחרי שעזבתי המשכתי לעשות איתם פרויקטים. אבל לא נשארתי".

זינגר סיים את הדוקטורט, וב־2013 התקבל להרווארד. הריגוש מפיתוחים בעולם העסקי שוב הושם על "השתק". "בסתר לבי תמיד חלמתי על סטארט־אפ, אבל כשאתה מתקבל להרווארד אתה לא יכול לא ללכת. הייתי כל הזמן ממוקד מאוד בלעשות מחקר יסודי, אבל גם כל הזמן ידעתי שבסופו של דבר נקים חברה", הוא אומר בהתייחסו למי שהיה סטודנט שלו והקים איתו את רובאסט, קוג'ין אושיבה היפני.

אתה יותר גאון מתמטיקה או גאון מחשבים?

"אני לא זה ולא זה".

זה לא הרגע להצטנע.

"אני תמיד אומר את זה לדוקטורנטים, ממש לפני שהם מתחילים את המסלול: אתם כרגע בשיא של הביטחון העצמי שלכם, ומכאן זה רק יידרדר. כשאתה מסיים תואר ראשון אתה מרוצה מאוד מעצמך, אבל אז אתה מתחיל לעבוד עם אנשים שהמציאו את התחום ופתאום אתה מבין כמה אתה קטן. בהרווארד אני נמצא עם אנשים שהמציאו את התחומים שלהם, קשה להרגיש גאון לידם".

ובכל זאת, מונית למרצה לצדם כבר בגיל 33.

"בהרווארד יש תהליך ראיונות ממושך וקפדני. עכשיו כשאני מגייס אנשי סגל אני חושב שזה הזוי שגייסו אותי בזמנו. אני זוכר שקיבלתי את המייל מראש המחלקה בהרווארד, אחרי כל הראיונות, והוא כתב לי 'בוא נדבר בסקייפ'. הייתי בארץ, בבית של ההורים של אשתי, ואני זוכר את העלייה במדרגות לפני השיחה, עליתי לאט כי היה לי ברור שהוא הולך להגיד לי: 'שמע, תודה שהתראיינת, אבל לא נוכל להתקדם'. ידעתי מי המועמדים האחרים שהתמודדו על המשרה הזאת. אני ממש זוכר כל מדרגה, כי זאת בדיוק הנקודה שבה אתה מרגיש שהיית בשיא, היה לך פוטנציאל, ומכאן והלאה זה רק ילך למטה. ואז ראש המחלקה אומר לי:  'אנחנו רוצים לתת לך משרה', ואני זוכר את עצמי נלחם בעצמי לא להגיד לו: 'אתה עושה טעות, יש לך מועמדים הרבה יותר טובים ממני, קח אותם'. לא יודע איך הצלחתי לא להגיד לו את זה. ופתאום אתה מבין שאתה במשחק חדש, בליגה אחרת".

נשמע כמו מקרה קיצוני של "תסמונת המתחזה". באת עם דוקטורט מברקלי, אחד המוסדות הנחשבים בעולם, וגם אחריו הרגשת כל כך לא ראוי?

"בזמן הדוקטורט הרגשתי שפעמיים היה לי פוקס — מהר מאוד הגעתי לשתי תוצאות גדולות מאוד, וזה היה בשנתיים הראשונות של הדוקטורט. זה מאוד חריג, למעשה יכולתי לסיים את הדוקטורט למחרת ולא להמשיך עוד שנתיים. זה נראה לי משהו של פעם בחיים, ממש פוקס. בדיעבד התברר לי שבהרווארד ראו במחקרים שלי פוטנציאל לזכייה בפרס טיורינג" (מעין מקבילה לפרס נובל במדעי המחשב ומהפרסים הנחשבים בעולם).

נראה שמשהו בבית הגידול של זינגר הופך הצטיינות מדעית לעניין כמעט מובן מאליו, לא חריג כפי שזה נראה לעיני אחרים. שני הורים מדענים, למשל. או אשתו, מרומית, שגם היא בת לפרופסורים למדעים מדויקים ומצטיינת בתחום בעצמה. הם אולי היו יכולים להיפגש באוניברסיטה, אבל בכלל הכירו — גם זה כנראה "פוקס" — בתאילנד, בין השירות הצבאי לתואר הראשון.

"תכננתי לנסוע לטפס על צוקים בתאילנד, ומי שהיה אמור לטוס איתי קיבל התקף אפילפסיה שבוע לפני הנסיעה. טסתי לבד, ושם הכרתי את מרומית, היא חיפשה שותף לטיפוס למי שהיה אז בן זוג שלה. אז טיפסתי איתו, ואחר כך הלכנו כולנו יחד למסעדה, מרומית, בן הזוג שלה, אני ועוד אנשים שטיפסו איתנו. כולם קיבלו קלקול קיבה, חוץ ממרומית וממני — אנחנו צמחונים, אז לא אכלנו את מה שהם אכלו. כשכולם היו חולים, היא ואני טיפסנו יחד, ודיברנו הרבה. אחרי שחזרנו לארץ היא נפרדה מבן הזוג שלה, ומ־2003 אנחנו יחד".

בין השאר, גם הנטייה המדעית חיברה ביניהם. "היא היתה הארד קור ביולוגיה, ואני שכנעתי אותה להיכנס גם למחשבים", מספר זינגר. "היא עשתה דוקטורט בביולוגיה חישובית בברקלי ולימדה בבית הספר לרפואה של הרווארד, וכיום היא עובדת בחברת Guardant Health" (שעוסקת בגילוי מוקדם של סרטן ונסחרת בנאסד"ק לפי שווי של 9 מיליארד דולר).

"במערכת AI יכול לקרות מצב שבו, למשל, בשדה של גיל מזינים שנת לידה, ובמקום שהמערכת תחשוב שהמועמד בן 36 היא תחשוב שהוא בן 1,985. או שהיא תתבלבל כי הקלט לא הגיע בדולר אלא במטבע אחר, או לא תזהה התפלגות לא תקינה"

3. ניל יאנג של הבינה המלאכותית

להמשיך לרוץ דווקא בשיא

קצת מוזר שאתה מדבר על פוקסים בתחום המורכב כל כך של בינה מלאכותית, וכשאתה מוביל חברה שגייסה כבר קרוב ל־50 מיליון דולר ממשקיעי ענק, ושבניגוד לסטארט־אפים אחרים בשלב הזה כבר מוכרת, ובעשרות מיליוני דולרים.

"הנושא שחקרתי אכן חשוב ופורץ דרך בסיבוכיות חישובית. בדקתי אם לכל האלגוריתמים יש אותה יכולת חישובית, והראיתי שלא. רציתי להוכיח מתמטית שיש דברים ב־AI שלא עובדים, לזהות את המגבלות בסיבוכיות החישובית. רציתי להסתכל בלבן של העיניים של למידת המכונה ולהראות שיש מקומות שבהם זה לא עובד. בהתחלה זה גם נתקל בלא מעט ביקורת והתנגדות מתוך התעשייה והברנז'ה האקדמית. גם עם כל ההוכחות המתמטיות שהצגתי, רבים אמרו שמה שאנחנו מציגים לא יכול להיות. נתתי עשרות הרצאות על כמה זה עדין, וחשפתי את האמת הלא נוחה על AI. יש כאן בעיה יסודית אמיתית, ועדיין כולם אמרו שזה לא יכול להיות".

זינגר לא ניגף, המשיך במחקר ופרסם שלל מאמרים, עד שהמומחים השתכנעו. גם באקדמיה: ב־2018, עוד לפני שהיה בן 40, הוא נהפך לאחד הפרופסורים הצעירים בהרווארד והוקפץ במהירות שיא ממעמד של פרופסור רגיל ל־Tenure, בעל קביעות.

בשלב הזה תסמונת המתחזה נרגעה?

"זה היה נחמד, כי לא יוצא להרבה אנשים לעשות קפיצה אקספוננציאלית", הוא מודה בחיוך, מתייחס הן לזינוק במעמדו האקדמי והן להאצה במחקרים שלו. "אבל היתה שוב תחושה של מיצוי, והבנה שיהיה קשה להמשיך לצמוח. ואז הבנתי שאני צריך לעבור למדיום אחר, כי באקדמיה כבר יהיה קשה להגיע לעוד פריצת דרך מסדר גודל כזה".

כלומר כשזכית לשיא ההכרה באקדמיה, הגעת לשלב שבו מי שמגיעים לשם בדרך כלל מתרווחים בנוחות ומורידים הילוך במרוץ, דווקא אז התחלת מרוץ חדש, לקחת חל"ת מהרווארד והלכת להקים סטארט־אפ.

"באחד השירים שאני הכי אוהב ניל יאנג שר 'It's better to burn out than to fade away' (מתוך 'Hey Hey, My My'). גם לשיר יש סיפור בדיוק כזה — כשהפאנק צמח ניל יאנג התחיל להאמין שהוא והסגנון שלו כבר פאסה. הוא הוציא את השיר הזה כמעין פרדה, ופתאום הוא לא רק פתח שלב חדש בקריירה שלו אלא גם בעצם הניח את הבסיס לגראנג'. ההתחדשות הזאת היא מה שמניע אותי".

"בסטארט־אפ הראשון שלי זו היתה הפעם הראשונה מאז הצבא שבאמת הרגשתי שאני באלמנט שלי. אבל סיימתי את הדוקטורט והמשכתי באקדמיה, כי כשאתה מתקבל להרווארד אתה לא יכול לא ללכת. בסתר לבי המשכתי לחלום על סטארט־אפ"

תמחיש לי רגע מה זה אומר טעות בבינה מלאכותית ששווה הרבה כסף.

"קחי למשל מערכת AI שצריכה לקבוע מה הסיכוי של מבוטח לחלות בשנה הקרובה ולפי זה לתמחר את פוליסת הביטוח שלו. אחד הפרמטרים החשובים כאן הוא גיל. מערכת AI עובדת יפה ונכון, אבל יכול לקרות מצב שבו חלק קטן מהדאטה מגיע כך שבמקום גיל מזינים שנת לידה. במקום 36, כתוב 1985. אם אין פיירוול, לא תקפוץ התראה שזה נתון לא תקין, והמערכת תחשוב שהמועמד בן 1,985. או מערכות בעולם הפיננסים שאמורות לזהות אם העברת כסף מסוימת היא תקינה או שמדובר בהונאה, אבל הבדל בין אותיות קטנות לגדולות יכול לבלבל אותן".

אלה דברים שאדם היה עולה עליהם, אבל הבינה המלאכותית לא.

"בדיוק. לכן כל מערכות הבינה המלאכותית טועות, זה מובנה בתוך האלגוריתמים. וקשה לדמיין שבעוד חמש שנים יהיו חברות שלא ישתמשו ב־AI, כך שכולן יצטרכו פיירוול למערכות האלה — ואנחנו היחידים שעושים את זה היום. הידיעה שמערכות כאלה מיושמות ללא הגנה מפחידה מאוד, כך שהמשימה שלנו היא לצמצם את הסיכונים שחברות לוקחות על עצמן כשהן מיישמות מערכות בינה מלאכותית. אנחנו חוסכים להן הרבה מאוד זמן וכסף, וחשוב מכך — מגינים על אנשים מפני החלטות מוטעות שעלולות להיווצר משגיאות בבינה מלאכותית. המחסום הטכנולוגי גבוה מאוד, אנחנו עושים משהו שעד לפני מעט זמן הוגדר מדע בדיוני, כמשהו שבלתי אפשרי לעשות. אבל הוא קורה. והכל נכתב בדם בתחום הזה".

למה טעויות הן עניין מובנה בתוך בינה מלאכותית, כהגדרתך?

"כי אלה מודלים סטטיסטיים שרגישים מאוד לנתונים נקודתיים. נגיד, המודל נבנה על דולרים ופתאום נכנס קלט של ין — כל שינוי כזה גורם לכך שהתוצאה לא נכונה, שההחלטות של המודל שגויות. ואז, למשל, מחיר כרטיס הטיסה שמוצג ללקוח יכול להיות שגוי. המודל לא יודע לזהות לבד שהנתונים הם לא מהסוג הנכון, כל עוד מדובר במספר לשדה שהוגדר במספר הוא יחשוב שזה בסדר. וזו טעות כל כך קטנה בדאטה, שלעין אנושית לוקח חודשים למצוא אותה. חברות אומרות לנו: 'חסכתם לנו חצי שנה'. וזה במקרה הטוב שהן מבינות שיש טעות בבסיס הנתונים; במקרים אחרים בכלל לא יודעים שיש טעות. וכשמבינים שיש טעות, זה לא עניין של המהנדס שמתריע שיש טעות במודל, זה משהו שהמנהלים מבינים, כי חברת הביטוח לא מאשרת פוליסה, או טועה לרעתה בתמחור. יש כאן משמעויות כלכליות אדירות".

דוגמה טרייה למשמעות הכלכלית מספקת חברת הנדל"ן האמריקאית Zillow. לפני כחודשיים החברה הודיעה כי היא סוגרת את החטיבה שלה שעוסקת בקנייה ומכירה מהירות של בתים, כי במודל ה־AI שמתמחר את הנכסים התגלתה שגיאה קריטית. מניית החברה קרסה מיד ב־50%. "זילו השקיעו המון כסף בתמחור בתים בעזרת AI והיו שם טעויות דרמטיות, משום שהמודלים נבנו על דאטה שנאסף לפני הקורונה והופעלו על דאטה מתקופת הקורונה", מסביר זינגר. "הפיירוול שלנו היתה יכול לזהות את הכשל מבעוד מועד, כי התוכנה יודעת לזהות אם ההתפלגות הסטטיסטית הגיונית או לא".

כלומר יש לכם כלי שלא רק מאתר טעויות בנתוני הבסיס כי הם בקנה מידה אחר, הוא ממש יודע להגיד "זה לא הגיוני"?

"כן. למשל, התפלגות הגיונית של מחירי טיסות היא בין 100 ל־2,000 דולר לכרטיס, אבל אם המחיר נקוב במטבע היפני מדובר בערכים שונים לגמרי, והתוכנה תזהה את זה. באותה מידה גם לפרמטר של כמה זמן בית עומד למכירה ללא עסקה יש התפלגות הגיונית. לפני הקורונה ברוב האזורים בארצות הברית הממוצע היה משהו כמו שבוע, ואם נכס לא נמכר בטווח זמן כזה סביר להניח שמחירו יירד. בקורונה הבתים עמדו למכירה יותר זמן, וזה היה צריך לבוא לידי ביטוי במודל התמחור, מה שלא קרה כי המודל לא הבחין בזה".

בעצם אתם רוצים להחזיר את ההיגיון האנושי הפשוט, הבסיסי, לתוך כל עניין ה"סיבוכיות החישובית".

"מעט אנשים מבינים עד כמה המערכות האלה פשוטות — אלה הם מודלים סטטיסטיים שרצים על דאטה ונותנים תחזיות. אבל הם כן מאוד רגישים, והפיירוול שלנו יודעת להגיד: רגע, זה לא כזה פשוט, בואו נבדוק שהנתונים נכונים".

המחקר שלך היה חדשני באופן שהראה טעויות בסיסיות בבינה מלאכותית. במקביל בשנים האחרונות שלל מחקרים הציגו את ההטיות העקרוניות של מערכות כאלה, למשל אלה שמסננות מועמדים לעבודה ונבנו כך שהן מעדיפות עובדים ממוצאים מסוימים. גם על בעיות כאלה אתם יכולים להתגבר?

"כן, הפיירוול יכולה להתמודד גם, למשל, עם הנטייה של מערכות לסינון קורות חיים להעדיף מועמדים מסוימים. יש לנו בחברה לא רק שיחות טכניות אלא גם שיחות פילוסופיות־ערכיות בנושא, ואנחנו מנסים לתרגם את הפילוסופי לטכני. בסוף זו אותה הבעיה, בין שזה בלבול בין דולר לין או בעיה במודל קבלה לעבודה — בסוף זה דאטה לא נכון שעליו מתבססת הבינה המלאכותית".

אפשר להניח שאתה לא ממש שותף לקולות שמפחדים מעליית המכונות, מעידן שבו ה־AI משתלט על חיינו בתרחישי אימה שהכרנו בספרי מדע בדיוני.

"מערכת בינה מלאכותית היא כלי עבודה שהעולם מאמץ, כי הוא תורם מאוד לפרודוקטיביות ומספק קפיצת מדרגה באוטומציה. האנלוגיה הכי טובה שאני יכול לתת בהקשר הזה היא כלי רכב — הם לא דבר טוב או רע בפני עצמם, יש להם תפקידים חשובים, הם משרתים אותנו בהמון אופנים, אבל כלי רכב בידיים של אנשים לפעמים גם הורגים. אנחנו שמים חגורות בטיחות ומנסים להתקדם כמה שיותר במניעת תאונות".

5. מטאור גם בעסקים

ליצור לגמרי לבד שוק חדש

אם בתוך חמש שנים כל חברות הטכנולוגיה ישתמשו, בהיקף כזה או אחר, בבינה מלאכותית, אפשר להבין את ההתלהבות של הקרנות מרובאסט. לפי תחזיות עדכניות, ההוצאה העולמית על מערכות בינה מלאכותית תכפיל את עצמה בתוך שנתיים, מ־50 מיליארד דולר בשנה החולפת ל־110 מיליארד ב־2024, כאשר את המגמה יובילו בעיקר חברות בנקאות וקמעונאות. רובאסט מכוונת אליהן, ובעצם ממציאה בעצמה שוק חדש.

"שיטת המכירות שלנו די אפקטיבית", מתגאה זינגר. "מה שאני אוהב בסטארט־אפ זה גם את היצירתיות — אף אחד בעולם לא מוכר היום AI פיירוול, אז אין ספר חוקים. גם במובן הזה אני כמו גיל שויד שמכר פיירוול בשנות התשעים. בנינו תהליך מכירות ייחודי לנו. ברוב החברות התהליך פרסונלי וממושך, ברמה של חצי שנה ואפילו שנה. אצלנו זה הרבה יותר מהיר — אנחנו שולחים מיילים לחברות שבחיים לא פגשנו, מראים להן את הטעויות, ובתוך שלושה־ארבעה שבועות הן כבר לקוחות שלנו".

ברובאסט מסבירים שהתוכנה שלהם עושה "מבחני מאמץ" למודל ה־AI, "מאתגרת אותו בטעויות בסיסיות, בחשיפת תנאי קצה ובניטור אנומליות בקלט ופלט של כל מודל", והיא מושכרת במודל SAAS (מנוי חודשי) לחברות גדולות, למשל פייפאל וענקית התיירות אקספדיה. זו תוכנה אחת שמתאימה לכולם, הכל מתבסס על צוות מצומצם, 50 עובדים בלבד.

גם בישראל יש לה כמה לקוחות באזורי הפיננסים והביטוח, ועכשיו זינגר רוצה להקים כאן גם מרכז פיתוח, או לפחות לגייס כאן מפתחים. "יש לנו פרויקטים מורכבים, והעובדים יכולים להתנהל בצורה עצמאית. אז הייתי שמח אם היו לנו כאן עובדים, וגם אם היה לנו כאן מרכז חדש, כי החדירה של הבינה המלאכותית לחברות הישראליות גבוהה מאוד יחסית לעולם. יש עם מה לעבוד".

ואיך בהרווארד מקבלים את החל"ת המתמשך שלך?

"זה מורכב. מצד אחד הם אוהבים את זה שיוצאים מהאוניברסיטה רעיונות, ומצד אחר לקחתי גם כמה דוקטורנטים מהמחלקה. עכשיו ביקשתי להאריך שוב את החל"ת, ורק הרווארד זה מקום שיכול לענות לך לבקשה כזאת בתשובה: 'הנרי קיסינג'ר לא קיבל עוד שנה, אז למה שניתן לך?'".