ראש בינה

רוני דורי

ראש בינה

//

רוני דורי

"הבינה המלאכותית צריכה להיות יותר כמו התלמוד"

ג'רון לאניר הוא גורו טכנולוגיה מהמשפיעים בעולם, ממייסדי האינטרנט שחתום על המצאת המציאות המדומה. אבל הוא בעיקר מבקר חריף ומבריק של תעשיית הטכנולוגיה, אף שהוא עובד בכיר במיקרוסופט. בריאיון מאלף הוא מסביר למה אינו שותף לבהלה מבינה מלאכותית: "אין סכנה שישות חייזרית תשתלט עלינו דרך הטכנולוגיה, אלא שאנו נשתמש בטכנולוגיה באופן הרסני". איך נמנעים מזה? בעזרת עקבות דיגיטליים ומודל שפיתחו חכמי התלמוד

לאניר. "ההתמקדות בבני אנוש במקום במכונות אינה מפחיתה מהאיומים הפוטנציאליים של הטכנולוגיה, היא רק נותנת לנו דרכים פרקטיות לשפר אותה". צילום: Saroyan Humphrey

מוסף כלכליסט | 08.06.23

"

אין בינה מלאכותית, אין שם ישות. כשבוחנים את הטכנולוגיה הזו לעומק מבינים שהיא לא יותר ממאמץ משותף של אנשים בשר ודם. ולכן הסכנה היא לא שישות חייזרית חדשה תדבר אלינו דרך הטכנולוגיה, תשתלט עלינו ותהרוס אותנו, אלא שאנחנו נשתמש בטכנולוגיה באופן שיהפוך אותנו לחסרי אינטליגנציה כמותה או שיוציא אותנו מדעתנו", אומר גורו הטכנולוגיה ג'רון לאניר (Lanier) בריאיון בלעדי ל"מוסף כלכליסט".

לאניר הוא אבי המציאות הווירטואלית, מדען ופילוסוף מחשבים, אמן ועתידן, שמכהן כ־Prime Unifying Scientist של מיקרוסופט. כן, אותה מיקרוסופט שהולכת ומהדקת את אחיזתה ב־OpenAI, שחתומה על סוכני הכאוס הראשיים של תחום הבינה המלאכותית, Dall–E ו־ChatGPT. זה שני עשורים שהוא מבקר את תעשיית הטכנולוגיה בחריפות מתוך הצריח ממש. ובכל זאת לטרנד הרותח של אזהרות מפני נזקיה הפוטנציאליים של הבינה המלאכותית הוא לא הצטרף.

"האם עלינו לאפשר למכונות להציף את כל ערוצי המידע שלנו בפרופגנדה ומידע לא אמיתי?", נכתב במכתב של מכון Future of Life ממרץ שהיווה את יריית הפתיחה לטרנד. "האם עלינו לעשות אוטומציה לכל המשרות, כולל המספקות? האם עלינו לפתח מוחות לא אנושיים, שבסופו של דבר יהיו רבים מאיתנו, חכמים מאיתנו, ישנו ויחליפו אותנו? האם עלינו להסתכן באובדן שליטה על הציביליזציה שלנו?".

מנסחי המכתב קראו לתעשייה לקחת פסק זמן, שישמש "כדי לפתח ולהטמיע יחד סט של פרוטוקולים שיתופיים לבטיחות". אלפי פיגורות נחשבות בענף חתמו על המכתב הזה, ובהן יובל נח הררי, מייסד אפל סטיב ווזניאק ואלון מאסק. אבי תחום הבינה המלאכותית ג'פרי הינטון ואפילו מייסד ומנכ"ל OpenAI סם אלטמן חתמו על מכתבים אחרים באותה רוח. אבל לאניר לא חתם על אף אחד מהם.

למה לא חתמת?

"לא בגלל ניגוד אינטרסים או משהו כזה, הרי עובדים אחרים של מיקרוסופט כן חתמו על המכתב. אני פשוט חושב שהגישה במכתב של Future of Life לא נכונה, ועושה יותר מדי מיסטיפיקציה לבינה המלאכותית. היא מדברת עליה כעל איזו ישות מיסטית, ומה שנגזר מזה הוא שאנחנו צריכים למצוא איזו דרך לשלוט בה. אבל אין לנו אפילו שפה שאפשר להשתמש בה כדי להפוך את הרעיון הזה למשהו הגיוני".

למה הכוונה?

"בשיח על הסכנות הטמונות בטכנולוגיה אנחנו משתמשים הרבה במונחים 'בטיחות' ו'הוגנות', בלי שאנחנו יודעים מה הם בתכלס אומרים. אנחנו חושבים שאנחנו יודעים, אבל לא באמת. קשה להפוך את המונחים האלה למשהו קונקרטי, כמו שורת קוד, מכיוון שמדובר בקונספטים חמקמקים. אבל אם תעקבי אחרי מי שתרם לבינה המלאכותית, פתאום תוכלי לעשות דברים ספציפיים במקום ללכת לאיבוד במילים שאי אפשר להגדיר כל כך טוב".

תן לי דוגמה.

"אם יש לך בינה מלאכותית מוזרה, נניח, כמו אחד הצ'אטבוטים שאמר לעיתונאית של ה'ניו יורק טיימס' שהוא מתאהב בה, תוכלי להגיד: 'אוקיי, מאיפה הוא הגיע לזה?', והוא יוכל להגיד שזה הגיע מספרות מעריצים ומאופרות סבון ועוד קצת מזה וקצת מההוא, ופתאום הכל נעשה הגיוני. זו גישה מאוד ספציפית וקונקרטית, והיא מפנה את הזרקור לאנשים שמאחורי הטכנולוגיה. זו גם גישה בריאה רוחנית משום שאם נשכח אנשים, יהיה לנו קשה לייצר עולם טוב עבורם".

אז אתה לא חושש שהדור הבא של הבינה המלאכותית יביא איתו סט שלם חדש של סיכונים?

"אני בהחלט חושש, למשל, שייעשה שימוש במודלים מתקדמים של GPT כדי לתמרן אנשים באופן יותר אפקטיבי, להפוך את החברה לעוד יותר משוגעת, ולהעצים עוד יותר גורמי זדון. זה באמת תרחיש נורא, שצריך לתת עליו את הדעת כי הוא יכול להוביל להשלכות איומות עבור האנושות.

"אבל החדשות הטובות הן שאנשים בתעשייה הפכו מודעים לסכנות האלה, וחברות טכנולוגיה שמפתחות בינה מלאכותית פונות ביוזמתן לרגולטורים ואומרות: 'אנחנו זקוקות לרגולציות שלכם, זה הזמן שלכם לפעול, מכיוון שזה שונה מכל הדברים הרגילים ואתם צריכים להיות מעורבים'. אני חושב שמכירים בסכנה, ושהיא מאוד אמיתית".

איזה מודל AI אתה רואה בעיני רוחך?

"הבינה המלאכותית צריכה להיות יותר כמו התלמוד, שבו דורות שונים במקומות שונים מוסיפים הערות על מסמך אחיד, והן מאורגנות באופן לא היררכי — זה מדהים ורלבנטי מאוד לחשיבה שלי על מציאות מדומה. העיצוב של התלמוד מוכיח את ההיתכנות של עבודה קולקטיבית, שבה אנשים משתפים פעולה בלי לשכוח את האנשים.

"לא צריך ליצור פנטזיה שבה אין אנשים, ויש רק ישות קולקטיבית חדשה. המשמעות היא שאפשר לייצר שיתופי פעולה בלי גולם (גוש של חומר בדמות אדם מהפולקלור היהודי, שיודעי תורת הנסתר הפיחו בו רוח חיים, ר"ד), והתלמוד מוכיח את זה.

"התלמוד הוא למעשה אנטי־גולם. ואם נתחיל לחשוב עליו ככה, כשנבקש תמונה של חתול בחליפת חלל על הירח, אופה פיצה בוואקום, או טקסט לקוד תכנות, נקבל תשובה שרוב התוצאה שקיבלנו משויכת ל־14 אנשים, וברמה פחותה יותר לעוד 1,000 איש וברמה פחותה עוד יותר לעוד עשרת אלפים איש, אבל יהיה אפשר להתחקות על עקבותיהם של אותם 14 איש ברשת, ובמקרים מסוימים הם גם יקבלו תשלום ותיווצר כלכלה חדשה — וזו תוצאה שאני אוהב.

"האנשים שתרמו לבינה הקולקטיבית צריכים לכל הפחות לקבל הכרה, יוקרה, אסור שישכחו אותם, כי הם בני אדם. והתלמוד עושה את כל זה, הוא אומר — הנה האנשים. וגם ויקיפדיה בנויה ככה, אם כי היא קצת פסיאודו־תלמוד, כי אפשר להציץ למאחורי הקלעים ולראות איפה אנשים עשו שינויים ותוספות, אבל בגרסה אחת מעורבבת, כאילו אנשים עשו סימולציה לדרך הלא נכונה לעשות בינה מלאכותית. התלמוד טוב יותר מוויקיפדיה ומהדרך הנוכחית שבה אנחנו ניגשים לבינה מלאכותית, ובעיניי הוא המודל שעלינו להשתמש בו עבור עתיד הבינה המלאכותית".

זה אמיתי?

דרמות AI מהחודשיים האחרונים

אמנות

מחווה ל"נערה עם עגיל פנינה" של ורמיר, שנוצרה במידג'רני, הפכה לתוצאה הראשונה שעולה בחיפוש האמן המקורי בגוגל.

"אם לכל קובץ יהיה פירוט היסטורי של, למשל, מי הזמין אותו ואילו חומרים שימשו להכנתו, בעיית הפייק תיעלם"

חדשות

תמונה מפוברקת של פיצוץ בפנטגון, שהופצה על ידי רויטרס, גרמה לירידות בבורסה בניו יורק.

"אנחנו עושים היסטוריה דיגיטלית למטבעות קריפטו, אז למה שלא נוכל לעשות את זה עבור תקשורת ברשת?"

מוזיקה

"Heart on My Sleeve", דואט בין דרייק לדה וויקנד, שנעשה ב־AI ללא ידיעתם, הופץ בשירותי הסטרימינג.

"AI שיוצרת מוזיקה חדשה מתבססת על יצירות וקולות של אנשים אמיתיים, וצריך לזכור אותם"

צילומים: אי.אף.פי, מתוך טוויטר, אינסטגרם

"אין בינה מלאכותית"

לאניר הוא ללא ספק אחד המוחות המבריקים והיצירתיים ביותר בתעשיית הטכנולוגיה. באמצע שנות השמונים הוא הקים עם תומאס צימרמן את VPL Research, החברה הראשונה ששיווקה ערכת מציאות מדומה שכללה משקפיים וכפפות, וב־1989 הוא טבע את המונח "מציאות וירטואלית". בשנות התשעים שיחק תפקיד מרכזי בשדרוג הרשת, כמדען הראשי של פרויקט אינטרנט2 (רשת מחשבים ללא כוונת רווח, שהוקמה בידי 207 אוניברסיטאות מארצות הברית וענקיות טכנולוגיה). לאחר מכן הקים סטארט־אפ לזיהוי פנים שנמכר לגוגל, ומ־2006 הוא נמצא במיקרוסופט, על תקן גאון אינטר־דיסציפלינרי שתורם ממוחו הקודח לשלל פרויקטים. בין היתר נטל חלק בפיתוח של קינקט, ממשק המשתמש שמאפשר לשחקן לשלוט בקונסולת המשחקים באמצעות מחוות גוף ודיבור; עיצב את הפיצ'ר Together לתוכנת שיחות הווידיאו של החברה, שבו נראים כל משתתפי השיחה ישובים בחדר אחד; והיה מעורב בפרויקטים של בינה מלאכותית, בייחוד כאלה שיש להם ממשק עם מציאות מדומה.

בין לבין לאניר חלטר כמלחין, ששיתף פעולה עם אגדות כמו יוקו אונו ופיליפ גלאס, וגם כתב שבעה ספרים, רובם רבי־מכר שמוקדשים לביקורת על המודל הנוכחי של האינטרנט. טענתו העיקרית של לאניר היא שהמודל הזה, שבו אנשים מוסרים את הדאטה שלהם בחינם בתמורה לשירותים שונים, כגון חיפוש ברשת או פלטפורמות חברתיות, יוצר ריכוז של העושר, מרדד את היצירתיות והופך את האנושות לעוד יותר מקוטבת, עצבנית ופרנואידית.

כנגד המודל הזה הוא מציע את קונספט הכבוד למידע (data dignity) שקורא להטמעת עקבות דיגיטליים לאיתור בני האדם שתרמו ליצירה, בין היתר כדי שיוכלו לקבל תשלום בגין אותן יצירות, גם כשהן מפולטרות ומשולבות מחדש דרך מודלים גדולים. הצד השני של המטבע הזה הוא שאנשים יידרשו לשלם עבור שירותים ברשת, מה שבעיניו רק יתרום לאיכות. לאניר נוהג לתת כדוגמה את האופן שבו נטפליקס — שירות שאנשים התרגלו לשלם עבורו — העירה את רשתות הטלוויזיה מתרדמת התוכן הגרוע שהיו שבויות בה.

"בינה מלאכותית שיוצרת מוזיקה חדשה מתבססת על יצירות וקולות של אנשים אמיתיים, וצריך לזכור את האנשים האלה", הוא מסביר. "אם תהפכי את זה לסטנדרט, שמוזיקאים תמיד נשכחים ואין שום דבר חוץ ממאש־אפים (הכלאות שירים), את תסיימי עם מוזיקה משעממת, ממוצעת ואפורה ועם מוזיקאים מדוכדכים. אבל כל עוד את זוכרת את המוזיקאים, את יכולה לעשות את כל המאש־אפים וענייני ה־AI המוזרים בכיף, וזה פנטסטי".

הפתרון הזה, מסביר לאניר, רלבנטי גם לסכנות של בינה מלאכותית משום שהוא נותן מענה לסיכון הפייק ניוז המוגבר — העקבות הדיגיטליים יאפשרו לדעת מה המקור של כל תוצר שהטכנולוגיה הזו מפיקה. "אם תדעי שמשהו מזויף, אז לא יהיה אפשר לעבוד עליך", הוא מסביר.

הגישה הזו הובילה אותו לפרסם באפריל מאמר של 4,000 מילה ב"ניו יורקר" עם הכותרת הפרובוקטיבית "אין בינה מלאכותית", שבו הוא מנסה לפוגג את המיסטיפיקציה סביב הטכנולוגיה החדשנית ולהחזיר אותה לפרופורציות. "תפיסת הבינה המלאכותית כדרך לעבוד יחד, ולא כטכנולוגיה ליצירת ישויות אינטליגנטיות עצמאיות, עשויה להפוך אותה לפחות מסתורית, פחות כמו האל 9000 (מ"2001: אודיסאה בחלל") או קומנדר דאטה (מ"מסע בין כוכבים")", הוא כותב שם. "אבל זה טוב, משום שהמסתורין רק מגביר את הסיכויים לניהול לא נכון.

"כל דבר מהונדס — רכבים, גשרים, בניינים — יכול לגרום נזק לאנשים, ועדיין בנינו ציביליזציה שלמה שמבוססת על הנדסה. נוכל להפוך את האוטומציה לבטוחה רק אם נגדיל ונרחיב את המודעות, האחריות וההשתתפות האנושית; אבל אם נתייחס להמצאות שלנו כאל אובייקטים נסתרים, הדבר יקשה עלינו להיות מהנדסים טובים. ראיית הבינה המלאכותית כצורה של שיתוף פעולה חברתי מאפשרת מרחב פעולה: היא נותנת לנו גישה לחדר המנועים, שעשוי מאנשים". המאמר נחתם במילים: "תחשבו על האנשים. הם התשובה לבעיית הביטים".

אתה לא קצת מגמד את הסכנות של בינה מלאכותית?

"ההתמקדות בבני אנוש במקום במכונות אינה מפחיתה מהאיומים הפוטנציאליים, או מהתועלות הפוטנציאליות", הוא אומר כעת. "מה שהיא עושה הוא לתת לנו דרכים יותר פרקטיות לשפר דברים בהמשך הדרך. זהו טיעון פרגמטי. החידוש כיום הוא שיש לנו אלגוריתמים שיכולים לזהות דברים, כמו אם תמונה מסוימת היא של חתול או כלב, או אם סביר ששייקספיר אכן כתב טקסט מסוים. אבל זה כל מה שבינה מלאכותית גנרטיבית עושה — לא שום דבר מעבר לזה.

"ב־20 השנה האחרונות אנשים מקבלים חוויות דרך האינטרנט, שמחושבות על ידי אלגוריתם, וזה פיתה אנשים רבים לנצל זאת לרעה כדי לתמרן אחרים באמצעות שינוי של האלגוריתם. לפעמים מדובר בלקוחות רשמיים של חברות כמו גוגל ומטא, שישלמו על פרסום כדי להשפיע על האנשים. ולעתים קרובות מאוד לא מדובר בפרסומת אלא בהמלצות מבוססות פילוחי אוכלוסייה, שגורמות לאנשים להיות יותר פרנואידים לגבי המידע האישי שלהם. ויש גם סתם גורמי זדון שרוצים לגרום הרס לחברות שלמות, כמו רוסיה, שיצרה צבאות של פייק יוזרים כדי להשפיע על הבחירות בארצות הברית".

"בשיח על הסכנות הטמונות בטכנולוגיה אנחנו משתמשים הרבה במונחים 'בטיחות' ו'הוגנות', בלי שאנחנו יודעים מה הם בתכלס אומרים. אבל אם נעקוב אחרי מי שתרם לתוצרי הבינה המלאכותית, נוכל לעשות דברים ספציפיים במקום ללכת לאיבוד במילים שאי אפשר להגדיר כל כך טוב"

אלטמן. "כמה מוזר זה שאנשים אומרים 'הממ, אנחנו עלולים להרוס את העולם', ואז פשוט הולכים ועושים את זה". צילום: אי.אף.פי

הרבה מהטיעון שלך מבוסס על פרספקטיבה, כאילו אם נגדיר את נזקי הטכנולוגיה מעשה ידי אדם, לא ניכנס לפאניקה. יכול להיות שזה פשוט ניחום עצמי ולא ראייה מפוכחת של האיום שבבינה מלאכותית?

"לא. שינוי השיח הכרחי כדי לאפשר לנו לפעול, כי כרגע אנחנו הולכים לאיבוד במילים ומונחים מופשטים. באמת קשה להגדיר את טווח הפעולות שגורמי זדון עלולים לנקוט — קצת כמו באגדות על הג'יני, שנותן לך שלוש משאלות, ואת מנסה לחשוב על כאלה שהוא לא יוכל לפרש באופן שאינו מה שרצית. זה בלתי אפשרי, נכון? כי השפה נתונה לפרשנות. עם זאת, אם לכל דבר שתקבלי תהיה היסטוריה מפורטת, אם תוכלי לומר 'זה מי שביקש את זה', 'אלה סוגי החומרים ששימשו בתוצאה הזו', וכו', אז פתאום הבעיה תיעלם. תוכלי להגיד: 'אה, התמונה שקיבלתי היא תוצר של איזה אפס שמנסה להפחיד אותי, אני לא צריכה לדאוג מזה'".

כן, רק לפני שבועיים חשבון מאומת של רויטרס פרסם תמונה מזויפת של פיצוץ ליד הפנטגון, והבורסה האמריקאית הגיבה בירידות חדות.

"וזה דבר קטנטן, מזערי ממש. יכולים לקרות דברים הרבה יותר משמעותיים מזה, אבל די קשה ליצור אלגוריתם שיזהה שזה קורה. ולכן היסטוריה של עקבות דיגיטליים יכולה לפתור את הבעיה הזאת".

אבל איך יוצרים היסטוריה כזאת? האינטרנט פשוט לא עובד ככה, לא?

"איך זה שזה כן אפשרי עם קריפטו? זה מכיוון שאלגוריתמים מאפשרים לנו לעשות דברים כאלה, ואם אנחנו עושים אותם עבור מטבעות קריפטו, למה שלא נוכל לעשות את זה עבור תקשורת ברשת כשזה כל כך חשוב? השורה התחתונה היא שההצעה שלי מזיזה אותנו ממונחים שאנחנו לא יכולים להבין למונחים שאנחנו כן יכולים להבין, וזה הדבר הכי חשוב לגביה".

"בתלמוד דורות שונים במקומות שונים הוסיפו הערות למסמך אחיד, והן מאורגנות באופן לא היררכי - זו עבודה קולקטיבית שלא שוכחת את האנשים. בדומה, AI שיוצרת תמונת חתול בירח צריכה לציין שהתוצאה משויכת ל־14 איש, וברמה פחותה לעוד 1,000 איש, ולאפשר להתחקות על עקבותיהם"

גייטס. "יש לי הסדר ייחודי עם מיקרוסופט, שמאפשר לי להתבטא באופן חופשי. לא צריך להפריד בין עשייה לביקורת"

ברין. "הוא אמר לי: 'אנחנו לא רוצים אצלנו אנשים שכותבים מאמרים שנויים במחלוקת'". צילום: רויטרס, בלומברג

לבקר את עמק הסיליקון מתוכו

קשה להפריז בהשפעה של לאניר על תעשיית הטכנולוגיה: בין היתר הוא נכלל ברשימת 100 האנשים המשפיעים בעולם של מגזין "טיים" לשנת 2010 וברשימת 25 האנשים המשפיעים ביותר בתעשיית הטכנולוגיה ב־25 השנה האחרונות של מגזין Wired (2018), וזכה בפרס השלום היוקרתי של התאחדות הספרים הגרמנית לשנת 2014.

למרות מעמדו הרם, הוא לא מהסס למתוח ביקורות מכאיבות על הענף, ובייחוד על הקולגות והחברים הקרובים ביותר שלו. "לפני בערך 15 שנה איבדתי הרבה מאוד חברים בגלל הביקורת שלי על המודל של הרשתות החברתיות, שבעצם נותן לאנשים דברים חינם באינטרנט בתמורה לזה שמתמרנים אותם", הוא אומר בעצב. "חשבתי שזה רע מאוד. בזמנו העמדה שלי היתה מאוד שנויה במחלוקת ואיבדתי חברים שמעולם לא שבו. וזה היה מכאיב למדי".

הביקורת הזו גם סיבכה אותו עם מייסד גוגל סרגיי ברין, שקנה מלאניר סטארט־אפ, אך לא גייס אותו עצמו לחברה. "סרגיי אמר לי, 'אנחנו לא רוצים אצלנו אנשים שכותבים מאמרים שנויים במחלוקת'", סיפר בעבר ל"ביזנס אינסיידר". "הייתי מודאג מכך שהטכנולוגיה הופכת אותנו לזומבים מרושעים כבר זמן רב, וסרגיי אמר: 'אנשים בגוגל לא יכולים לעשות את זה'. חשבתי לעצמי: באמת? ואז דיברתי עם ביל גייטס והוא אמר, 'אין שום דבר רע שאתה יכול להגיד עלינו שמישהו אחר לא אמר כבר. לא אכפת לנו. אולי תבוא להציץ במעבדות שלנו? הן ממש מגניבות'".

אילו תגובות קיבלת מהקולגות על המאמר "אין בינה מלאכותית"?

"זה מאוד מוזר. כרגע אין ביקורת משמעותית על המאמר מאף אחד בעולם הטכני, ואני לא יודע איך לאכול את זה. סם אלטמן אהב את המאמר והשתמש בחלק מהמונחים שבו בשימוע שלו בסנאט בחודש שעבר. קווין סקוט (מנהל הטכנולוגיות הראשי של מיקרוסופט, שאליו כפוף לאניר, ר"ד) ממליץ על המאמר בתחילת ההרצאות שלו. וכל זה קצת מעורר בי אי־נוחות משום שאני רוצה להאמין שאני הרדיקל הזה עם האדג'. ואם אני כותב משהו ואנשים סביבי אוהבים אותו, האם זה אומר שאיבדתי את האדג' הזה? אני לא רדיקלי יותר?".

יש מי שיטען שבתור עובד מיקרוסופט, אתה לא רק לא רדיקלי, אתה גם לא ממש אובייקטיבי.

"יש לי הסדר ייחודי עם מיקרוסופט, שמאפשר לי להביע את דעותיי באופן חופשי, ללא הגבלות, ובכל מקרה חשוב לי גם להבהיר שאני לא מדבר בשם החברה. כבר לא מעט זמן שיש לי תפקיד קצת מוזר בעמק הסיליקון — אני גם בתוכו, וגם מותח עליו ביקורת. תמיד הרגשתי שחשוב לעשות את שניהם, שאי אפשר פשוט לחלק את העולם לאלה שעושים דברים ואלה שמבקרים אותם. זה לא עובד".

איך זה שהאנשים שמביעים את החששות הכי כבדים מבינה מלאכותית כיום הם אלה שמפתחים אותה? אלטמן אמר בריאיון ל"ניו יורקר" ב־2016: "אני מנסה לא לחשוב על זה יותר מדי, אבל יש לי נשק, זהב, אשלגן יודי, אנטיביוטיקה, סוללות, מים, מסכות גז של צה"ל ושטח גדול בביג סור שאני יכול לטוס אליו".

"זה לא מצחיק? כמה מוזר זה שאנשים אומרים 'הממ, אנחנו עלולים להרוס את העולם', ואז פשוט הולכים ועושים את זה", הוא אומר ופורץ בצחוק גדול. "ההסבר שלי לזה — ואני אומר את זה עם המון כבוד כלפי האנשים האלה, כי אלה חברים וקולגות שלי — הוא שהרבה מאוד אנשים בתרבות הטק, התרבות של החנונים העשירים בעמק הסיליקון, כמוני למשל, גדלו על מדע בדיוני. גדלנו על קומנדר דאטה, ועל סרטים כמו 'שליחות קטלנית' ו'מטריקס', ועל חוקי הרובוטיקה של אייזק אסימוב, ועל האל 9000 ועוד הרבה מאוד דוגמאות כאלה, וכשאתה גדל על סיפורים כאלה הם נעשים עבורך קצת כמו התורה. הסיפורים האלה, שטבועים עמוק בתוכנו, הופכים להיות ההסבר החיצוני שלנו למה שקורה בעולם, גם אם אנחנו לא לגמרי ערים לזה.

"בסיפורי המדע הבדיוני האלה המכונות קמות לתחייה ונהפכות חכמות, ואנחנו צריכים לחשוש שהן ייהפכו לפרעה החדש. וכשאנשים חיים עם הדבר הזה טבוע כל כך עמוק בילדות שלהם, הם לא מרגישים שיש להם בחירה, אלא שבעל כורחם הם נוטלים חלק בסיפור שאין דרך לברוח ממנו".

אהבה למדע בדיוני שקולה לאמונה דתית?

"אני מאמין שבלתי אפשרי לתפקד בלי איזושהי מסגרת חשיבה רחבה על מה קורה בעולם הזה ובחיים, והמסגרת הזו יכולה להיות דת או מטאפיזיקה. אז תמיד אפשר לצחוק על הדת או המטאפיזיקה של אחרים, אבל האמת היא שאנשים שמתנגדים למסגרות כאלה סתם משטים בעצמם, בעיקר במעגלים של מדע וטכנולוגיה. לפעמים יש לנו האידאה הזו, שאנחנו אינטלקטואלים ממושמעים ואנחנו לא זקוקים לכל האמונות האלה, שאנחנו עובדים רק עם ראיות, ואנחנו מאוד רציונליים, אבל אני לא חושב שזה אפשרי. מחשבה מצריכה מסגרת, ומסגרות מצריכות מסגרות גדולות יותר, ובסופו של דבר את צריכה שיהיו לך מסגרות ממש גדולות".

"כל דבר מהונדס, מרכבים עד גשרים, יכול לגרום נזק לאנשים, ועדיין בנינו ציביליזציה שלמה שמבוססת על הנדסה. אם נתייחס להמצאות שלנו כאל אובייקטים נסתרים, הדבר יקשה עלינו להיות מהנדסים טובים. ראיית ה־AI כשיתוף פעולה חברתי נותנת לנו גישה לחדר המנועים, שעשוי מאנשים"

לאניר בראשית דרכו, 1983. המציא את המציאות המדומה. צילום: אימג'בנק/Gettyimages

מיתום עני וחולה לכוכב טק

לאניר נולד בניו יורק לזוג יהודים: אלרי, שרוב משפחתו נרצחה בפוגרומים באוקראינה, וליליאן, שנולדה בווינה, בת לפרופסור ורב שהיה קולגה של מרטין בובר, והצליחה לחמוק ממחנות הריכוז בזכות מראה ארי וערמומיות. "ממש ברגע האחרון היא זייפה מסמכים לאבא שלה והצילה גם אותו", הוא כתב בספרו "Dawn of the New Everything". "כל זה התאפשר רק משום שאלה היו ימיה המוקדמים של השואה, לפני שהחל הפתרון הסופי".

"ההיסטוריה המשפחתית של הוריי הפכה אותי לאסיר תודה על כל רגע שבו חיי בטוחים ושקטים", הוא אומר כעת. "וזה לא תמיד היה המקרה. הייתי בניו יורק בזמן אסון התאומים, ואיבדתי את הבית שלי, שהיה בסמוך למגדלים, כי התקרה שלו קרסה. אתה אף פעם לא חופשי מסכנה — ישראלים יודעים את זה היטב, אבל זה נכון גם באמריקה — אבל רוב הזמן אנחנו באשליה שאנחנו חופשיים ממנה. אני אסיר תודה שאני יכול להחזיק באשליה הזו, לפחות בחלק מהזמן".

הוריו עברו למסילה, ניו מקסיקו, מיד לאחר לידתו, ואמו החליטה לשלוח אותו לבית ספר מעבר לגבול, במקסיקו, בנימוק ש"בבתי הספר המקסיקניים החינוך טוב כמו באירופה". כשהוא תהה מה טוב באירופה ש"ניסתה להרוג את כולנו", היא השיבה לו ש"יש דברים יפים בכל מקום, גם באירופה. אנחנו חייבים ללמוד איך לא להיסגר בפני החשכה בעולם".

לאניר ואמו היו קרובים "עד כדי כך שבקושי תפסתי אותה כאדם נפרד ממני", הוא כתב. "אני זוכר שניגנתי בפסנתר סונטות של בטהובן עבורה ועבור חבריה, והרגשתי כאילו אנחנו מנגנים אותן יחד, מאותו גוף".

ליליאן נהרגה בתאונת דרכים כשלאניר היה בן תשע, במכונית הפולקסווגן שרכשה חודשים אחדים קודם לכן. "מדוע הוריי רכשו פולקסווגן? אומנם זו לא היתה חיפושית, הדגם שעוצב בידי היטלר, ובכל זאת. הבחירה ברכב גרמני ודאי היתה חלק מהתוכנית של אמא שלי למצוא את הטוב באירופה, בהכל". שמה של בתו בת ה־16 של לאניר ובת זוגו, לנה, ליליבל, הוא מחווה לאמו.

מותה של האם המיט על ג'רון רצף מחלות, ובהן דלקת ריאות קשה, שבעטיין היה מאושפז במצב קשה במשך שנה שלמה לאחר התאונה הקטלנית. נוסף על כל הצרות, המשפחה נותרה חסרת כל: ליליאן היתה המפרנסת במשפחה, והבית שרכש האב בכספו האחרון עלה באש.

כשג'רון השתחרר סוף סוף מבית החולים, הוא עבר לגור עם אביו, שהפך בינתיים למורה, באוהל. אחר כך עברו לבית שבנו בעצמם, שנראה כמו בטן הריונית וזוג שדיים. למזלו של הילד, אחד משכניו היה קלייד טומבו, האסטרונום שגילה את כוכב הלכת הננסי פלוטו. הוא עבד באתר הניסויים של הצבא האמריקאי בקרבת העיר, לימד באוניברסיטה המקומית ופרש את חסותו על לאניר.

בבגרותו הוא זכה במלגה מקרן המדע הלאומית ללימודי מתמטיקה, שהובילו אותו ללימודי תכנות. בשלב מאוחר יותר עבר לניו יורק ולמד אמנות. כדי לממן את לימודיו הוא חילטר כעוזר מיילדת, עובד בחנות דונאטים וחובץ גבינות מהעדר שרעה בעצמו. ב־1983 החל לעבוד בחברת אטארי, והשאר היסטוריה.

דיברנו כל כך הרבה על התלמוד ועל יהדות בכללי. אתה שומר מצוות?

"לא ממש. יש לי מזוזות בבית, אני הולך לבית הכנסת ביום כיפור ועושה עוד כל מיני דברים, אבל לא באמת שומר מצוות, ואני מרגיש אשמה מסוימת על זה. אבל את יכולה לחשוב על הראסטות שלי כעל פאות".

"למה מי שמפתח AI מפחד ממנה? רבים מאנשי הטק גדלו על סרטים כמו 'מטריקס' ו'שליחות קטלנית', שנהיו כמו התורה עבורם - ההסבר החיצוני למה שקורה בעולם. בסרטים הללו המכונות קמות לתחייה והופכות לפרעה החדש. וכשהסיפורים הללו טבועים בך עמוק, אתה חש שאין דרך לברוח מהם"

הפגנה נגד ההפיכה המשטרית, מרץ, תל אביב. "המנהיגים הפופוליסטיים של ימינו שונים ממנהיגי העבר, בכך שהם ילדותיים ובכיינים. הרשתות החברתיות עושות להם רגרסיה לגינת המשחקים". צילום: יובל חן

אתה קשור לישראל? מעורה במה שקורה כאן, כמו ההפיכה המשטרית שמקדמת ממשלת הימין?

"יש לי בעיה עם הפופוליזם של ימינו, שאינו אותו הדבר כמו הפופוליזם המסורתי. נתניהו של היום הוא לא נתניהו של פעם, וזה אפקט שרואים בכל העולם — גם בהונגריה, בהודו, בברזיל, בטורקיה, בסין, ובפולין — בכל המקומות האלה המנהיגים שונים ממנהיגי העבר, בכך שהם ילדותיים ובכיינים.

"קחי למשל את סטלין, איש הפלדה — לא היה אכפת לו מהרגשות שלך. אבל למנהיגים כיום כן אכפת, הם רוצים שתאהבי אותם. הכרתי קצת את דונלד טראמפ בשנות התשעים, והוא ממש השתנה מאז. המדיה החברתית הפכה אותו בחזרה לילד, בדומה למה שקרה גם לאלון מאסק ולעוד פיגורות. המדיה החברתית מגבירה בהם חרדה חברתית, שטחיות ונרגנות ובסופו של דבר הופכת אותם לילדים. הרשתות החברתיות עושות לנו רגרסיה לגינת המשחקים, ולכן יש לך מנהיגים שרוצים להיות אהובים, והמוני אנשים לא מרוצים — בעיקר גברים — שיוצאים להצביע, כי הם מזדהים איתם.

"אני לא רוצה להמעיט בערך של דברים רבים אחרים שקורים בישראל, כמו התיאוקרטיה הבעייתית מאוד שבה, אבל זה דבר שמשותף לה ולמדינות האחרות שהזכרתי — סינדרום מוזר של הילד הקטן במגרש המשחקים, מנהיג שהוא סוג של רודן מביך. וכולנו צריכים להיות נבוכים מזה שהמנהיגים המביכים האלה זוכים לכל כך הרבה תמיכה".

בינה מלאכותית משחקת תפקיד בהחמרת הטרנד הזה.

"נכון. בעיקר כי היא מעוררת בהרבה אנשים את החשש שהם יהפכו לזניחים בגללה, שקולם לא יישמע, שלא יהיו זקוקים להם. החרדה הזו מתערבבת עם ההרגשה של 'אני זקוק ליותר תשומת לב', וזו הסיבה לכך שהמנהיגים הפופוליסטיים זוכים לכל כך הרבה תמיכה. אז כן, מה שקורה בישראל מחריד בעיניי, אבל זה דומה להפליא לתהליכים שקורים בכל מקום אחר בעולם. זו תופעה כלל־עולמית, לא רק ישראלית, פשוט אנחנו כיהודים תמיד עושים דברים באינטנסיביות", הוא אומר ופורץ בצחוק גדול ומידבק.