ז

מן לא רב אחרי שפרסמה את ספרה "Weapons of Math Destruction" ב־2016, קתי אוניל החלה לבחון את האפשרות לעבור ניתוח בריאטרי — קיצור קיבה, בשמו העממי. אוניל, שהיתה אז בסכנה לחלות בסוכרת, כבר היתה מרצה בכירה, דוקטור למתמטיקה מאוניברסיטת הרווארד, סופרת עם רב־מכר מדובר ודמות חלוצית ומרכזית בקרב אלו שהצביעו על הסכנה שבמודלים מתמטיים ומערכות בינה מלאכותית. כולם רצו לראיין אותה, וכולם דיברו על הרעיונות שלה — "הניו יורק טיימס", "טיים", "הוול סטריט ג'ורנל", "האקונומיסט", "הניו יורקר".

אבל ההערכה והשבחים לא שינו דבר בעת שאוניל ישבה בביתה וחיפשה ספרות מדעית או חומרים אחרים באינטרנט כדי ללמוד על קיצור קיבה: המכונה הטכנולוגית הציפה אותה במודעות ותוצאות חיפוש שקראו לה לקבל אחריות לחייה ולעשות דיאטה, להפסיק להתעצל או לחפש פתרונות קלים. הוטחה בה בושה. והבושה עבדה.

"שבתי ונתקלתי בפרסומות שעשו לי Fat Shaming (בִּיּוּשׁ שמנים)", מספרת אוניל בריאיון בלעדי ל"מוסף כלכליסט". "לא יכולתי להתרכז. לא יכולתי להתמקד. כל הזמן חשתי לא ראויה. הרגשתי שאולי עליי פשוט להשלים עם זה שאחלה בסוכרת ואמשיך להיות אדם לא בריא, כי לא מגיע לי אחרת. כי אני שמנה. הפרסומות האלה חזרו שוב ושוב, ובכל פעם חשבתי מחדש, 'רגע, אני באמת צריכה להבין מה משווקים לי כאן כדי להימנע מסוכרת', וניסיתי שוב, ואותו הדבר שב והתרחש. בפעם השלישית שזה קרה שאלתי את עצמי, 'מה קורה כאן? זה משוגע'. ואז הבנתי שמביישים אותי. בושה היא רגש כל כך מבלבל ומדכא, שנעשה כל דבר כדי להתחבא מפניה. גם כשזה מסכן את בריאותנו".

התחושה הזו עוררה הד מוכר. אחת הדוגמאות המפורסמות מספרה הקודם עסקה באלגוריתם שדירג מורים במערכת החינוך האמריקאית, והשתמש בנוסחה עלומה כדי להפיק ציון, שעל בסיסו פוטרו מורים בסוף השנה. "מורים פשוט פוטרו בגלל האלגוריתם, ולא קיבלו שום הסבר מלבד הפיטורים עצמם", היא מספרת. "אמרתי למורים כאלה, 'האם ביקשתם שמישהו יסביר לכם את הנוסחה הבסיסית?' ובאופן עקבי הם ענו, 'שאלתי, אבל אמרו לי שזה מתמטיקה ושלא אבין'. זה עבד. מרבית המורים לא שאלו עוד שום שאלה.

"בעיניי זה מחפיר, בין השאר משום שהטיעון הזה לא היה עובד עליי. כמתמטיקאית עם דוקטורט, אם מישהו היה אומר לי את זה הייתי אומרת לו, 'אם אתה לא יכול להסביר את זה, זו בעיה שלך'. אני הייתי חסינה. אבל זה היה כל כך עקבי, שהבנתי שזה לא מקרי, שזו שיטה — מנגנון שבאמצעותו יגרמו לאנשים שלא 'הבינו במתמטיקה' להפסיק לשאול שאלות. שני הרגעים האלה, לכאורה ממש שונים, גרמו לי לתהות מהי בושה ואיך משתמשים בה נגדנו. הבנתי שעוצמתו של האלגוריתם נובעת מכך שהוא מחומש בבושה; הוא מבייש אנשים. בושה היא המנגנון החברתי שמאפשר לאלגוריתם להסיח את דעתנו. זה מכשיר שנועד לשמר כוח ולייצר רווח".

ובמקום שבו קיימים מנגנוני כוח, שם תמצאו את אוניל. אחרי שסיימה את הפוסט־דוקטורט שלה ב־MIT, המתמטיקאית המנוסה החלה את דרכה באחת מקרנות הגידור האגדיות בוול סטריט, D. E. Shaw, אבל עזבה בעקבות המשבר הפיננסי העולמי, לאחר שחזתה בנזק שחוללה מתמטיקה שגויה. ב־2011 היא החלה לכתוב באופן ביקורתי על עולמות הביג דאטה בבלוג Mathbabe, ובמהרה נהפכה לפעילה בולטת בתנועת אוקיופיי וול סטריט. חמש שנים אחר כך היא פרסמה את "Weapons of Math Destruction", שכיכב ברשימת רבי המכר של "הניו יורק טיימס" וזכה בפרסים. האופן שבו אוניל ביקרה מודלים סטטיסטיים טלטל לגמרי את עולם הביג דאטה, חשף את הכשלים המובנים שבו וביסס רעיון שנהפך בזכותו להנחת עבודה: אף שאלגוריתמים מוצגים ומשווקים ככלים אובייקטיביים, הם למעשה דעה שמוצגת כמתמטיקה.

לכן גם כשהיא פגשה אלגוריתמים מביישים, אוניל — שייסדה ומנהלת את אורקה, חברה שמבצעת ביקורות לאלגוריתם כדי לזהות הטיות — החליטה לצלול לתוכם. כך נולד "The Shame Machine" ("מכונת הבושה"), ספר על מנגנונים חברתיים של בושה, שלתוכו שזרה את חוויותיה כילדה, נערה ואשה שמנה, תיאורים שיגרמו לכל קורא להתכווץ מצער. אבל אוניל לא מספרת את סיפורה האישי כדי לזכות באמפתיה, והספר אינו ספר עזרה עצמית או ביוגרפיה של העצמה וצמיחה: הוא מתודי, כראוי למתמטיקאית שהיא, ומפרק בשיטתיות מנגנונים של כוח מוסתרים היטב. בספר, שראה אור ממש בשבוע שעבר וכבר זכה לשורת ביקורות מצוינות ("ניו יורקר" קבע שהוא מרגש ושההסברים שהוא מספק "צלולים להפליא", "פאבלישר'ס וויקלי" כתב שמדובר ב"מבט ייחודי ומרתק" ו"קירקוס ריוויוז" כינה אותו "מיזוג מעורר מחשבה של מדעי הטבע והחיים, היסטוריה, כלכלה ופוליטיקה"), אוניל מנתחת את הקשר שבין בושה למנגנוני צבירת כוח, של אנשים פרטיים ובעיקר של ארגונים, בוחנת כיצד מבני התמריצים הנוכחיים מנציחים מעגלי בושה, ובודקת את מי המערכות האלו משרתות: האם זה באמת מועיל לבייש גזענים, שונאי נשים, הומופובים או מתנגדי חיסונים? ואם כן, מתי צריך "לבטל" מישהו?

ממשלות ותאגידים מנצלים את הבושה כדי לחמוק מאחריות, מסבירה אוניל: למה לסייע לעניים? שימצאו עבודה. למה לממן תוכניות גמילה למכורים? Just Say No. למה לעודד שמנים לעבור ניתוח קיצור קיבה שישפר את איכות חייהם? פשוט שלטו בעצמכם

אמרו שאתם חלשי אופי?

כשהמערכת מביישת אתכם, היא מתנערת מחובתה כלפיכם

כותרת המשנה של "מכונת הבושה" היא "מי מרוויח מעידן ההשפלה החדש", ואוניל אכן מציגה בו טיעון משכנע ומבהיל, שלפיו ממשלות, תאגידים ואפילו מערכות בריאות מנצלים כולם מנגנונים של בושה: הם מרוויחים מלחבוט בפגיעים, ומשתמשים בבושה ככלי להעברת אחריות ממוסדות לפרטים. תעשיית הדיאטות למשל, מסבירה אוניל, מביישת אנשים שמנים באמצעות מסגור מציאות החיים שלהם כבחירה, בנוסח "אם הייתם מקבלים החלטות נכונות לגבי התזונה והפעילות הגופנית שלכם, הייתם יורדים במשקל ומפסיקים להיות חולים כל כך" — זאת אף ששמנים רבים מתאמצים כל חייהם לרזות, מנסים כל דיאטה בשוק, מוכנים לקנות כל ספר עזרה, סמינר אינטנסיבי או תרופת פלא, ובכל זאת מתקשים להוריד במשקל. באותו אופן, תעשיית הפארמה ומוסדות ממשל מאשימים ומביישים מכורים לסמים בשל מצבם, אף שפעמים רבות התמכרות קשורה ישירות למצבו הסוציו־אקונומי של המכור, לאפליה היסטורית ושיטתית של אוכלוסיות מסוימות, או אפילו למאמצי חברות הפארמה לדחוף לחלקים המוחלשים ביותר בחברה תרופות ממכרות, בשביל רווח. למרות כל זאת, המכורים מבוישים שוב ושוב כאנשים שהשליטה בידיהם, ושאילו רק בחרו להפעיל אותה, לא היו מגיעים לאן שהגיעו. וכמובן, אנשים עניים אינם שונים: הם "לא עובדים קשה מספיק", "לא מתנהלים נכון כלכלית", "מקבלים החלטות גרועות לגבי חייהם". חבל, הרי כל ההזדמנויות פתוחות לפניהם.

כשממסגרים כך מציאות חיים, מסבירה אוניל, אין סיבה לעזור למישהו. למה לגבות יותר מסים בשביל תוכניות סיוע לעניים? שימצאו עבודה. למה לממן תוכניות גמילה למי שניסו לברוח מהחיים באמצעות סמים? Just Say No. למה לעודד שמנים לעשות ניתוח בריאטרי שישפר את איכות חייהם? פשוט תשלטו בעצמכם. ובינתיים, התעשיות מגלגלות מיליארדי דולרים בשנה מרווחים. "הפקת רווח מבושה, בין שזה באמצעות שימור הסטטוס קוו או דיכוי החלשים, היא מנגנון בן מאות שנים. אנחנו מאשימים את קורבנות ההתעללות, מאשימים מכורים ומאשימים עניים. אלו מנגנונים חברתיים נצחיים. וכולם מכונות של בושה".  

שיתפו סרטון מביך שלכם?

בשביל הרשתות החברתיות, הבושה שלכם שווה הרבה כסף

כשנכנסו לחיינו הרשתות החברתיות, מסבירה אוניל, נפתח עידן חדש וקיצוני של ביוש. "בכלכלת הבושה יש אספקטים שקשורים עמוקות לאלגוריתם. הרשתות החברתיות הן מנועי בושה חדשים: בניגוד למנועי הבושה מהדור הישן כמו תעשיית הדיאטות או התרופות, שמביישים אותנו מכיוון שאנחנו שמנים או מכורים וגורמים לנו לרכוש מוצרים, הרשתות החברתיות הן מנועי בושה מסוג חדש: הן גורמות לנו לבייש זה את זו, ומפיקות מכך רווחים. זה קרנבל מגוחך, שעושים עלינו מניפולציה כדי שנשתתף בו".

אפילו אם המנהלים הבכירים בחברות הרשתות החברתיות לא מבססים את האסטרטגיה שלהם על בושה במוצהר, האלגוריתמים האוטומטיים שלהם עושים זאת: זה מגביר טראפיק ומגדיל הכנסות. הכעס והזעם שנוצרים מעודד אנשים לכתוב, לשתף או לעשות לייק, ההתנהגויות הללו מזכות את המשתמש בתגובות זועמות או אפילו בסוג של בושה, וחוזר חלילה. לחברות הטכנולוגיה זה מייצר דאטה שאותו הפלטפורמות לומדות וממנו הן משכללות את יכולתן להציף אותנו בפרסום ממוקד ולייצר רווח. מבחינה חברתית, מסבירה אוניל, ביוש אנשים אנונימיים באמצעות התנפלויות דיגיטליות הוא עניין חסר טעם לחלוטין. האנשים האלה, לדבריה, הם לא יותר מ"פיניאטה דיגיטלית".

היום, מסבירה אוניל, אנשים משתמשים בביוש ברשתות החברתיות כדי לגרש אנשים מקהילות, ולא כדי לתקן את התנהגותם. ייתכן שהמביישים אכן מקדישים את עצמם לצדק חברתי, אבל פעילותם ברשתות לא נועדה לשם כך, אלא כמעשה פרפורמטיבי: הם מאותתים התנהגויות וערכים לחבריהם ולעוקבים שלהם, ובונים את המותג האישי שלהם כדי להשיג עוד עוקבים ולהרגיש טוב עם עצמם. הם יביישו באלימות, כי זו הזדמנות להגביר את הנראות שלהם ולהשיג לייקים. המנגנונים המוקצנים האלו, טוענת אוניל, אינם חותרים לדיאלוג או הבנה, ואינם מספקים פלטפורמה לשמיעת "הנאשם": במקום זה הם דורשים רק התנצלות, שלרוב מעניקה סיפוק או הקלה מוגבלים מאוד, ומותירה את הדיון בלי התייחסות עמוקה.

מבחינת ענקיות הטכנולוגיה, כאמור, זה לא סתם מקרה ממוזל: הפלטפורמות שלהן מעוצבות כדי לייצר מחלוקות רווחיות, ודוחקות משתמשים לעבר עמדות קיצוניות, מה שמחמם עוד יותר את האיבה ומייצר סיטואציות שקשה למשתמשים לעמוד בפניהן. ביוש זרים מוחלטים באינטרנט לא ממשטר אותם בחזרה לנורמות חברתיות משותפות, מדגישה אוניל; לכל היותר, הוא משמש שמרנים שטוענים שהשיימינג הליברלי הוא התנהגות עדר ומשטרת מחשבות, בעת שהם עצמם מנדים אנשים בשל התנהגויות אחרות. כל זה מוגבר על ידי האופטימיזציה של אלגוריתמים של ענקיות האינטרנט, והכל חוזר חלילה.

"לאלגוריתמים של הרשתות החברתיות יש חלק גדול במה שקורה, אבל זה לא הדבר היחיד שמתרחש שם. שאלו אותי שוב ושוב, 'אם נתקן את האלגוריתם, האם הרשתות החברתיות יהפכו להיות נחמדות?', והתשובה היא לא, ברור שלא. זה הרבה יותר מזה. מה זה ה'הרבה יותר'? מה זה הדבר הרעיל הזה ברשתות החברתיות שלא מוסבר על ידי האלגוריתם? בושה. בושה היא הדבר שהתנו אותנו להפיץ אחד על השני, והפכנו מכורים לכך. אנחנו ממש נהנים מאותו רגע של זעם, של ציוץ מחדש של סרטון השיימינג האחרון. אנחנו ממש מתרגשים מזה. זה נורא".

"האמריקאים, בשמאל ובימין, רוצים לראות את האויבים שלהם נענשים באופן מפחיד. לא כי אנחנו לא סומכים על שוטרים שיבצעו את העבודה שלהם, אלא כי כולנו רוצים להיות השוטרים. אימצנו את גישת 'אין מחילה' של מערכת הענישה שלנו"

קראו לפטר אתכם?

אם המטרה קלה מדי, היא לא הכוח שצריך לבייש

זה מה שקרה, למשל, לאיימי קופר, אנליסטית בת 40, שטיילה בסנטרל פארק עם הכלב שלה ללא רצועה, באחד הבקרים במאי 2020. צפר חובב בן 57, אדם שחור ששמו כריסטיאן קופר (אין קשר משפחתי בין השניים), ביקש מהגברת בנימוס לקשור את הכלב, היא סירבה והדבר התלקח לאירוע גזעני ויראלי: איימי קופר מיהרה להתקשר למשטרה, טענה שגבר שחור תוקף אותה וביקשה סיוע בהול. עד לפני כמה שנים, אשה לבנה שמתלוננת על גבר שחור היתה זוכה לאמפתיה מיידית — אלא שהזמנים השתנו, התלונה השקרית צולמה בסמארטפון, שותפה במהרה ברשתות החברתיות והגיעה גם לחדשות. איימי קופר, מסבירה אוניל, לא התאימה את עצמה למציאות הנוכחית, שבה מנגנונים של בושה ברשתות החברתיות מופעלים במהירות כדי לתקן התנהגויות לא מקובלות. קופר התנצלה, אבל הרשתות החברתיות גזרו את דינה כ"קארן" — סלנג אמריקאי לאשה לבנה, פריבילגית, אנוכית וגזענית, שרגילה לא לשלם מחיר על הפגנת גזענות בוטה, ותכופות משמיעה תלונה מזויפת או מוגזמת ומשתמשת בנשיות שלה כדי להציג את עצמה כקורבן ולראות אדם אחר נענש. אם כינו אותך "קארן" ותיעדו את הפריבילגיה הלבנה שלך, סביר להניח שתחווי שיימינג אינטנסיבי. במקרה של איימי קופר, זה התבטא גם בכך שמעסיקיה פיטרו אותה כבר למחרת.

האם השיימינג שעברה קופר מוצדק או הולם? האם זה טוב שהיא פוטרה מעבודתה? אפשר בקלות להצדיק את שני הדברים: אם הפחד משיימינג יכול למנוע מקארן אחת להתקשר למשטרה בגין ויכוח רנדומלי עם שכן שחור, דיינו. הרי בדיוק בשביל זה קיימת בושה: הרעיון תמיד היה לעקוץ את החורגים ולכוון אותם בחזרה לערכי ההתנהגות המקובלת המשותפים. אבל במקרה הזה, עולות גם שאלות של פשע ועונש: האם למישהי מגיע אות קין דיגיטלי, רק מכיוון שנהגה בטיפשות יום אחד בפארק? האם היא צריכה לאבד את פרנסתה? אלו שאלות בסיסיות של הוגנות, אומרת אוניל — אבל הן גם מהותיות, משום שבושה שהופכת להתנפלות רבתי יכולה להצית תגובות־נגד חריפות: כך, התנפלות עזה יכולה לשמש כלי הגנה בידי אנשים חזקים כדי להתחמק מביקורת. אדם יכול לומר לפתע, "לא אתן יד להתנהגות זו ולתרבות הביטול".

איך מותחים קווים אדומים?

"לא קל לענות על זה. יש בהחלט קווים אפורים, יש נורמות של עוולות. אני כותבת, למשל, על 'מי טו', שהיא תנועה חיובית כי היא מחייבת אנשים לממש את האידיאלים המוצהרים שלהם. הרי אין אדם שאומר 'גברים בעמדות כוח צריכים להטריד מינית נשים במקומות עבודה'. זה לא דבר שאנשים אומרים שראוי שיקרה, אבל זה עדיין מתרחש. אז אם מי טו הצליחה להביא לכך שזה יקרה פחות, זה טוב. אבל צריך לזכור שיש אנשים שנודו אף שלא הגיע להם עונש שכזה".

המאמץ להבין למי יש קול או בחירה, מסבירה אוניל, חשוב כדי לזהות איזה סוג של ביוש מתרחש: האם זה ביוש שבו מכים מטה, את חסרי הקול והבחירה — או מכים מעלה, כשדורשים מבעלי כוח דין וחשבון על מעשיהם. "הרעיון הוא שכשאנחנו נתקלות במצב מסוים, עלינו לשאול את עצמנו אם לאדם הזה יש בחירה, אם יש לו קול, ואם יש דרך שבה אני יכולה לכוון גבוה יותר".

תסבירי.

"למשל, אם מדובר באדם שעשה טעות, וסביר להניח שלא תשובי ותשמעי עליו אי פעם, אז זה אדם שאין לו קול. אני לעולם לא אתקוף אדם ללא קול ברשתות חברתיות כדי לבייש אותו, אפילו אם הוא עשה משהו מביש. אני פשוט לא אעשה זאת. כי מבחינתי, חלק מהליך תקין הוא לראות את מי שעשה את המעשה המביש. הגיוני הרבה יותר לבייש דמות ציבורית שתמשיך להיות באור הזרקורים במשך שנים, מאשר לבייש אדם לא מוכר. ברגע שאת רואה שאת מנסה לנתח את ההתנהגות או המניעים של אדם אנונימי, את יודעת שאת מכוונת נמוך מדי. כי זה אדם שאת לא מכירה ולא תפגשי יותר בחייך. באופן כללי הייתי אומרת שאנחנו רואים היום הרבה יותר מדי בושה וביוש, בייחוד כלפי אנשים לא ידועים וחסרי כוח".