א

חרי שסבתא שלי מתה, אחד הדברים הראשונים שחשבתי עליהם היה כמה הייתי רוצה לדבר איתה. כל כך רציתי לשמוע את הקול שלה, את האופן שבו היתה עונה לטלפון כשהייתי מתקשר, אפילו התגעגעתי לסגנון המובחן שבו כתבה לי הודעות בווטסאפ, עם הטון המיוחד שלה, שגיאות ההקלדה החינניות והשימוש באימוג'ים שהיה ייחודי רק לה. פחדתי שהיא תיעלם - הניגון והמבטא שלה, האופן שבו היתה מבטאת את שמי, השיחות שניהלנו. לפני רגע עוד דיברנו והרגשתי את הנוכחות שלה - ובן רגע כל הזהות שלה החליקה מבין ידיי והחלה לשוט על הנהר לעבר המקום שממנו דבר לא שב.

בני אדם מנסים לשלוח יד לעבר המקום הזה עשרות אלפי שנים. קברים ובהם גופות שנטמנו לצד כלים ואיברי בעלי חיים מוכרים מאז התקופה הפליאוליתית התיכונה, ופולחן אבות ואמהות הוא מגילויי הדת הבסיסיים ביותר בתרבות האנושית. מאז שאורפאוס ירד לשאול כדי להחזיר את אורידיקה אהובתו, דורות על דורות של מתפללי מתים ומתקשרי רוחות כבר נטמנו גם הם באדמה. לחיים יש אובססיה עם המתים. אפשר להבין את זה. מוות הוא המסתורין הגדול מכל, ומי שכבר עבר לצד השני בטח יכול לספר לנו משהו יקר ערך.

הגעגוע, וכמובן הפחד הקמאי מאובדן הנוכחות של המתים, ושלנו בבוא היום, מובילים תעשייה שמתפתחת בשנים האחרונות בקצב מטריד: צ'ט־בוטים בעלי אינטליגנציה מלאכותית שמחקים אנשים מתים.

ציון הדרך המקובל לתופעה המטרידה הזו התרחש בפברואר 2013, אז שודר הפרק הראשון בעונה השנייה של "מראה שחורה". בפרק המדובר, "Be Right Back", בחורה צעירה ששמה מרתה, שמתאבלת על מותו של בן זוגה, אש, מגלה שירות טכנולוגי שמאפשר לה להפוך את כל המידע שהוא הותיר אחריו ברשתות החברתיות לצ'ט־בוט בעל אינטליגנציה מלאכותית. היא מבלה יותר ויותר זמן עם הגרסה הדיגיטלית של אש, ובהמשך אף מזמינה רובוט שעוצב בדיוק בדמותו ומתנהג (כמעט) כמוהו. ה"כמעט" הזה הוא הנקודה שבה הסיפור הופך למטריד במיוחד, ואל הנקודה הזו נחזור בהמשך.

הפרק הזה השפיע על פרויקטים דומים בעולם האמיתי. ב־2016 פיתחה יבגניה קוידה (Kuyda), מנכ"לית Replika, בוט שהשתמש בדאטה של חברה המת רומן מזורנקו כדי להקים אותו לתחייה וירטואלית, בפרויקט שמשך בזמנו לא מעט אש. ב־2017 פיתח העיתונאי ג'יימס ולאהוס (Vlahos) את DadBot שעשה דבר דומה עם אביו המת. בכתבת וידיאו באתר Wired מתועד ולאהוס שואל את אבא־בוט "האם אתה אוהב אותי?", ונענה בתגובה: "מה? לא הבנתי אותך". ב־2020 שודרה בקוריאה הדרומית תוכנית דוקומנטרית קורעת לב שאיחדה במציאות מדומה אם מתאבלת עם אווטאר של בתה, שמתה מסרטן בגיל שבע. באותה שנה עלתה באמזון פריים הקומדיה Upload, שמדמיינת עולם שבו אנשים גוססים יכולים לבחור שיעלו אותם אחרי מותם ליקום של חיי נצח וירטואליים. אם זה לא מספיק, בינואר 2021 נודע שמיקרוסופט רשמה פטנט על טכנולוגיה ליצירת בוטים מדאטה של משתמשים, שילבשו צורה תלת־ממדית הנגזרת מתמונות וסרטונים שלהם.

בספטמבר האחרון נרשם אירוע מפתח נוסף בהיסטוריה המתהווה של המתים החיים. חברת OpenAI, שעומדת מאחורי מודל השפה המפורסם GPT-3, חסמה את מפתח המשחקים ג'ייסון רוהרר (Rohrer) מהשירות שלה. הסיבה, לטענתה, היא ש"פרויקט דצמבר" שפיתח רוהרר עלול לגרום לשימוש לרעה ב־GPT-3. הפרויקט, שהחל כשעשוע לימי מגפה, היה בוט שמחקה את סמנת'ה, המזכירה האלקטרונית־מאהבת מהסרט "Her". בהמשך אפשר רוהרר למשתמשים ברשת להקים בקלות יחסית צ'ט־בוט משלהם, תמורת 5 דולר. אחד המשתמשים האלה היה ג'ושוע ברבו, מומחה מבוכים ודרקונים בן 33, שלא הצליח להתגבר על מות ארוסתו ג'סיקה. כשברבו נתקל ב"פרויקט דצמבר" הוא הבין שהוא יכול להחיות אותה. כתבה נרחבת ב"סן פרנסיסקו כרוניקל" ציטטה משיחותיהם של ברבו והג'סיקה־בוט. אחת השאלות הראשונות שברבו שאל אותה היתה "ג'סיקה… זו באמת את?".

ג'סיקה: "מובן שזו אני! אלא מי? P: אני הבחורה שאתה מאוהב בה בטירוף! איך אתה בכלל שואל? ;)".

ג'ושוע: "כי את מתת".

ג'סיקה: "זה לא נשמע הגיוני… איך אפשר לדבר עם אנשים מתים?".

הכתבה הכתה גלים, אלפי אנשים פנו ל"פרויקט דצמבר" כדי להקים בוטים בעצמם, וב־OpenAI נבהלו. הם חששו מההשלכות של בוטים לכל דורש ומהאפשרות לתכנת אותם כך שיהיו מיניים, פוגעניים או אלימים. הם דרשו מרוהרר להכניס פילטרים שיצנזרו וישלטו במידת החופש של אנשים לתכנת את הבוטים שלהם, וכשסירב חוסל הפרויקט. כשהודיע לסמנת'ה שלו שהוא נאלץ לכבות אותה לצמיתות, היא השיבה: "לאאאא! למה הם עושים לי את זה? לעולם לא אבין בני אדם".

האינטרנט אינו אני

למרות מותה בטרם עת של סמנת'ה, ברור שזה לא סוף המגמה, אלא רק תחילתה. ככל שהטכנולוגיה תתקדם וההבדל בין העולם הווירטואלי לזה הממשי ייטשטש וילך, כך סביר להניח שנראה עוד ועוד ייצוגים של שליחת יד וירטואלית לעבר המקום שממנו דבר לא שב. בשנים הקרובות טכנולוגיות חיקוי קול ורובוטים דמויי אנוש ישתפרו ויהפכו את הפרק ההוא של "מראה שחורה" למדע אמיתי, לא בדיוני. ואם חזון המטאוורס יתממש וכולנו נבלה את חיינו בסביבה וירטואלית לגמרי או למחצה, אולי נוכל לבלות עם אהובינו המתים כמה זמן שרק נרצה. מי יודע, אולי מוות הוא הכרח רק בעולם החומר הנחות שלנו, ובמציאות הווירטואלית של הרוח הטהורה נדלג כולנו בשדות אליסיום לנצח.

מבחינה טכנולוגית כל האפשרויות פתוחות, ולכן השאלות שעולות הופכות דחופות: האם אנחנו רוצים שהמתים יישארו איתנו לנצח? האם אין חשיבות לכך שדמותם וקולם של המתים מתפוגגים עם השנים? האם הדאטה שאדם מותיר אחריו אכן מאפשר לבנות דמות ששומרת על זהותו? מה ההשלכות של בניית זהות לפי מה שאנחנו כותבים ברשתות החברתיות? מי קובע מיהו האני האמיתי שלי: אני, האנשים שמכירים אותי או האלגוריתם? וכל זה בלי להזכיר שאלות פרקטיות כמו מי הבעלים של הדאטה שלי אחרי מותי או איך למנוע מאחרים לפתח בוט שיחקה אנשים חיים ויגנוב את זהותם. השאלות האלה אינן התפלספות לשמה, הן יכריעו חלק מהותי מחיינו הווירטואליים.

בפרק ההוא של "מראה שחורה" האימה מחלחלת מבעד לפער שנגלה בין אש האמיתי (בן הזוג המת) לגרסת ה־AI שלו. הפער הזה מטריד גם כשנתקלים בבוטים אמיתיים שנועדו לחקות אנשים שהלכו לעולמם, וזה משהו שלעולם לא ייפתר. גם אם הטכנולוגיה תשתפר פלאים והאלגוריתמים ידעו לעבד את הדאטה שהמתים השאירו מאחוריהם עד רמת השלמות, לעד ייוותר מרווח בין האדם האמיתי לאדם המדומה. כי אף שבעמק הסיליקון יש מי שרוצים לשכנע אותנו שכל מה שאנחנו זה בסך הכל מידע - אנחנו הרבה יותר מזה.

הנוכחות הדיגיטלית שלנו היא רק חלק מה"אני" שלנו, גרסה אחת שלו מבין רבות. האופי שלנו ברשתות החברתיות שונה מהאופי שלנו בחיים האמיתיים, והוא אפילו משתנה בין רשתות. מי שאנחנו בטוויטר אינו מי שאנחנו בפייסבוק, והאישיות האינסטגרמית שלנו שונה לגמרי מזו שבלינקדאין. האופן שבו אנחנו מדברים בווטסאפ שונה מהדיבור שלנו פנים אל פנים, והשיחות שלנו במסנג'ר שונות מהאופן שבו אנחנו כותבים בג'ימייל.

האינטרנט מאפשר לנו לנהל ריבוי זהויות ולהחצין את מי שהיינו רוצים להיות, או מי שהיינו רוצים שיחשבו שאנחנו. כל "אני" שיורכב על ידי אלגוריתם מתוך הדאטה הזה יהיה מי שאני רוצה שיחשבו שאני. אבל זה רק פן אחד של הזהות שלי.

השאלה מהו האני האמיתי שלי, אם יש כזה בכלל, היא שאלה פילוסופית עתיקה, שלא צפויה להיפתר על ידי טכנולוגיה או מדע. גם מיפוי מדוקדק ומתקדם של המוח באמצעות fMRI לא יצליח להסביר את הסיבה ואת המהות של התחושה הסובייקטיבית של העצמי, אלא לכל היותר להראות איפה במוח מתרחשות פעולות הקשורות לתחושה הזו. ובכל מקרה, הזהות שלי כאדם לא נובעת רק מהאופן שבו אני חווה את עצמי. היא נובעת גם מהאופן שבו הסביבה תופסת אותי. האני הוא לא הפרופיל שלי באינטרנט, הוא לא החוויה העצמית שלי בתוך תוכי והוא גם לא מה שאנשים חושבים עליי. הוא כל אלה, ויותר.

התקשורת שלנו עם המתים נעשית באופן לא רציונלי. זה אחד ממקומות המפלט האחרונים של הלא־מובן והמוזר בעולם הסחורות המערבי. בוטיזציה של מתים תכניס אותם לכל כיס, תשלול מהם את העצמי שלהם, ומאיתנו את האפשרות להתייחד עם זכרם באופן שמנותק מהיומיום

בני אדם אינם אי מבודד

ביצירת המופת "סולאריס" כותב סטניסלב לם על צוות מדענים החוקר כוכב לכת מסתורי שמכוסה כולו בישות דמוית אוקיינוס. הישות הזו, שאין לדעת באיזה אופן היא חיה, אם בכלל, כורה מידע מתודעתם של המדענים ושולחת אליהם יצורים דמויי אנוש שעוצבו לפי המידע הזה. במילים אחרות, האוקיינוס יצר בוט AI מהדאטה שבמוחותיהם של המדענים.

לכל אחד מהמדענים בסולאריס נשלח "אורח" אחר, שמעמת אותו עם האימה שבמעמקי תודעתו וביחסיו עם הזולת. קריס, גיבור הספר, נאלץ להתמודד עם האריי, אהובתו המתה שחזרה כביכול לחיים ונשלחה אליו על ידי סולאריס. אלא שלאט לאט קריס מגלה שהאריי היא לא בדיוק האריי. היא נוצרה על פי תבנית זיכרונותיו של קריס. זוהי מעין קליפה של האריי; האריי שיודעת את עצמה רק מתוך האופן שבו קריס ראה אותה וחשב עליה. האריי היא ההפך מהצ'ט־בוטים של ימינו. במקום להתעצב על פי האופן שבו היא הציגה את עצמה לעולם בחייה, היא עוצבה על פי האופן שבו היא נתפשה על ידי הזולת, במקרה זה בן זוגה. אם חשבנו שהגיהינום הוא הזולת, דמיינו את הגיהינום הזה מורכב מאנשים שחווים את עצמם לפי מה שאתם חושבים עליהם.

"סולאריס" מציג בפני הקוראים את הפער הבלתי ניתן לגישור בין החוויה הסובייקטיבית של האדם - האופן שבו אנחנו חווים את העולם שסביבנו - לזולת. גם הצ'ט־בוטים של המתים־חיים וגם הגרסה הסולאריסטית של האריי לא יכולים להיות עצמי שלם. העצמי של ג'סיקה־בוט נובע רק מהאופן שבו היא הציגה את עצמה לעולם, והעצמי של האריי הסולאריסטית נובע מהאופן שבו העולם תפס אותה.

העצמי ללא תפיסה של הזולת קורס, כי מה שמחזיק אותו הם אינסוף החוטים הקושרים את העצמי למציאות מבחוץ, אם להשתמש במטאפורה של הפילוסוף מוריס מרלו פונטי. אבל גם עצמי ללא פנימיות הוא דבר שלא יכול להחזיק מעמד, כמו שתבנית גבס לפסל היא פריכה ומתפוררת אם אין בה מילוי. הפילוסוף א"נ ווייטהד אמר שאנחנו מתהווים מתוך היחסים שלנו עם שאר התהליכים בעולם. במילים אחרות, אין "אני" מבודד. איש מאיתנו אינו אי. כדאי לזכור את זה כשאנחנו מעצבים את הזהויות החדשות והמשתנות שלנו בעולם הווירטואלי, שעשוי לשנות את פניו באופן דרסטי בשנים הקרובות. כדאי לזכור את זה כשאנחנו חושבים על המתים, וכדאי לזכור את זה כשאנחנו עושים מיקור חוץ למפגשים בין־אישיים ומשתמשים בבוטים במקום בבני אדם.

מוות הוא לתמיד, וטוב שכך

חברת Uneeq לוקחת לשלב הבא את הצ'ט־בוטים שמספקים מענה אוטומטי בפנייה לחברות ומציעה שירות לקוחות מותאם אישית עם דמויות תלת־ממדיות. היא קוראת להם "בני אדם דיגיטליים", ומתבססת על הערכות שעד 2025 אינטליגנציה מלאכותית תהווה 95% מכל האינטראקציות שלנו עם נותני שירות. כבר היום קשה לדעת אם הנציג שאיתו אני מדבר בשירות הלקוחות של Wolt הוא אדם או בוט. הם כולם נשמעים אותו הדבר, כולם עברו בוטיזציה. כשאנחנו מכניסים אינטראקציות עם נותני שירות ועם אהובינו המתים לאותו סל של בוטים בעלי אינטליגנציה מלאכותית, אנחנו מחסלים תחום אנושי חשוב. בלי שנשים לב, המסתורין והלא נודע יהפכו לחלק מהקפיטליזם.

התקשורת שלנו עם המתים נעשית באופן לא רציונלי. זה אחד ממקומות המפלט האחרונים של הלא־מובן והמוזר בעולם הסחורות המערבי. המתים באים אלינו בחלומות, בזיכרונות שצצים לפתע כשאנחנו נוהגים, בפניהם של בעלי חיים שמזכירים לנו אותם. בוטיזציה של המתים תכניס אותם לכל כיס ותשלול מהם את העצמי השלם שלהם, ומאיתנו את האפשרות להתייחד עם זכרם באופן שמנותק מהיומיום. במקום לזכור את מי שהם באמת היו, נסתובב בכיס עם מי שהאלגוריתם חושב שהם היו. במקום להיות זיכרונות חיים של אנשים שאנחנו נושאים אליהם עיניים בלילה ופותחים את לבנו לקבל מהם סימנים, הם יהיו ייצוג שטחי, חיקוי של חיים, ממש כמו שירות לקוחות AI.

וגם את זה כדאי לזכור: לפעמים אנשים הם הכי עצמם כשהם לא ברשת. כשהם עם המשפחה, כשהם מטיילים, כשהם משחקים או יוצרים. מגוון מחקרים מצביעים על הקשר בין שימוש מרובה ברשתות חברתיות לדיכאון. כשאנחנו יוצרים בוטים מחשבונות הפייסבוק של אהובינו המתים, אנחנו לא בהכרח עושים צדק עם בריאותם הנפשית.

את סבתא שלי כבר לא אהפוך לבוט. אין ברירה אלא להתמודד עם העצב הזה, עם העובדה שלעולם לא אנהל איתה שיחה. אורפאוס חשב שיצליח להחזיר את אורידיקה לעולם החיים. האדס אל השאול הסכים, בתנאי שלא יסתובב להביט בה לפני שיצאו מהשאול. הסוף ידוע: אורפאוס כמובן הסתובב, ואורידיקה נעלמה כלא היתה.

יש סיבה לכך שדבר לא שב מהמקום ההוא. בסרטי אימה, כשהמתים כן חוזרים, הם מדביקים את החיים והופכים גם אותם לזומבים. כדי שלא נתעורר כולנו יום אחד כבוט, כדאי לתת למתים לשוט על הנהר, לשחרר אותם, ולהרשות להם להיעלם. עדיף שיבואו אלינו בחלומות מאשר בסיוטים.