ב

שבועות האחרונים פייסבוק מסעירה (שוב) את העולם. הקריסה המהדהדת של יום שני הפכה לשיחת היום, אבל לפניה כבשה את הכותרות ההדלפה על אודות האדישות של מארק צוקרברג להפצת מידע לא מדויק ומפלג. בין שלל הפרטים המטרידים שחשפה פרנסס האוגן, לשעבר מנהלת מוצר במחלקת המיסאינפורמציה בחברה, היה מחקר פנימי שנערך השנה ושהראה כי הרשת החברתית נוקטת פעולה רק נגד 3%–5% מביטויי השטנה, ונגד 0.6% מביטויי האלימות וההסתה לאלימות. אם פייסבוק הענקית והכל־יכולה לא מתאמצת להתמודד עם התכנים הבעייתיים מי ייכנס לנעלי השוטר האינטרנטי? ומה יעשו הפלטפורמות הקטנות יותר שאין להן את התקציבים של פייסבוק או גוגל?

יש לפחות ארגון אחד שמסייע לפלטפורמות האלה: Tech Against Terrorism, שותפות ציבורית־פרטית שפועלת כזרוע של מועצת הביטחון של האו"ם למיגור הפצת תוכני טרור באינטרנט. ממקום מושבו בלונדון מוביל ראש הארגון, אדם הדלי (34), מעין יחידת מודיעין קטנה שפועלת לחשיפת הפעילות האינטרנטית של ארגוני טרור ותנועות ימין קיצוני ניאו־נאצי, לשיבוש יכולתם להתקשר באמצעות הרשת, ולהסרת תוכני השנאה והאלימות שהם מפיצים. המשאבים הפיננסיים שעומדים לרשות הדלי לא מתקרבים לאלו של פייסבוק — התקציב השנתי של הארגון הוא כמיליון דולר — אבל הוא נתמך על ידי מועצת הביטחון, כמה ממשלות דמוקרטיות ובראשן אלו של קנדה ובריטניה, וכמה ענקיות טק ובהן מיקרוסופט וגוגל. מאז הקמת הארגון לפני חמש שנים הדלי הפך למרואיין מבוקש שמפרסם מאמרים ב"Wired" ו"פוליטיקו", ובאחרונה הוא השתתף בכנס השנתי של המכון למדיניות נגד טרור (ICT) באוניברסיטת רייכמן, שנערך בסימן 20 שנה לפיגועי 11/9.

למה צריך קבוצת חוקרים קטנה כמוכם, כשענקיות הטק עצמן משקיעות תקציבים נרחבים בהסרת תכנים בעייתיים, בוודאי כשמדובר בתוכני טרור מובהקים?

"פייסבוק וגוגל לא צריכות אותנו. האלגוריתמים שלהן מסירים תכנים טרוריסטיים וניאו־נאציים בתוך שניות. העניין הוא שההסרה המהירה דוחפת את ארגוני הטרור לפלטפורמות קטנות יותר, מדיסקורד וטלגרם ועד JustPasteIt (ששימשה את פעילי דאעש) או Mega.nz. קיימות אלפי פלטפורמות כאלה, ולרובן אין תקציבים גדולים או ידע רב, והן זקוקות לסיוע של ארגון כמונו כדי למנוע ניצול לרעה בידי ארגוני טרור.

"הנחת הבסיס של כל חברת טק צריכה להיות שטרוריסטים יעשו שימוש בכל פלטפורמה שמאפשרת תקשורת. אפילו פלטפורמה תמימה כמו פינטרסט, שאנחנו מזהים התרחבות של הניצול שלה לרעה. אפילו אני עדיין מופתע עד כמה טרוריסטים יצירתיים בניצול כל פרצה, באמצעות כלים טכנולוגיים שזמינים ברשת.

"קחי למשל את Jihadology.net, בלוג אקדמי שנבנה לצרכים מחקריים. בין היתר היתה להם ספרייה של תוכני וידיאו של ארגוני טרור, והאתר הפך לחביב הטרוריסטים: הם הורידו ממנו סרטונים, העלו אותם בלינקים חדשים, ואפילו הכינו סרטים משלהם מתוך ארכיון הבלוג".

מה עושים במקרה הזה? הרי מדובר באתר לגיטימי, בסך הכל.

"בנינו את השרת שלהם מחדש כך שרק חוקרים ואקדמאים יכולים לקבל גישה לשם. היום יש שורת דרישות בכניסה לאתר, ובין היתר חובת הזדהות באמצעות כתובת מייל של מוסד אקדמי".

מהי השיטה החביבה על ארגוני הטרור להפצת התכנים שלהם?

"אנחנו רואים יותר ויותר מקרים שבהם ארגונים כאלה מקימים אתרי אינטרנט משלהם, שבהם הם משתפים תוכן, מקדמים אינדוקטרינציה, מגייסים מתנדבים ואפילו מדריכים אותם כיצד להכין פצצות. כדי לקדם אתר כזה די שתעביר לינק תמים באפליקציית מסרים; במצב כזה לא ניתן לסמן את התוכן כטרוריסטי".

אחת הפלטפורמות הגדולות בתחום הבנייה והאחסון של אתרים קטנים היא וויקס הישראלית.

"וויקס מטפלים בדברים במהירות. במרץ האחרון זיהינו בפלטפורמה שלהם אתר ששימש את זרוע מזרח אסיה של דאעש. פנינו לוויקס, והם הורידו את האתר בתוך שעות ספורות, מה שהיווה חדשות מצוינות".

איך אתם מוצאים את תוכני הטרור ברשת?

"יש לנו יחידת OSINT (מודיעין ממקורות גלויים, ס"ש) שמורכבת מאנליסטים לשעבר של ארגוני מודיעין".

וכשאתם מוצאים אותם, איך אתם מטפלים בזה?

"כשאנחנו מזהים קבוצות בעייתיות ברשת חברתית או בפלטפורמת מסרים, אנחנו מדווחים לרשת הרלוונטית על הפעילות שזיהינו, והתוכן מוסר בתוך דקות, או לכל היותר ימים ספורים.

"לעומת זאת, הסרה של אתר אינטרנט היא תהליך מתיש ואיטי שיכול להימשך גם 100 ו־200 ימים. קשה מאוד להסיר אתרים כאלה, מכיוון שאין גורם אחד שמנהל את האינטרנט, וגם החוק הבינלאומי בנושא אינו חד־משמעי. הממשלות כלל לא מתמקדות בסוגיית האתרים, והפלטפורמות דורשות שנוכיח שמדובר בתוכן של ארגוני טרור או ימין קיצוני, ושנסביר מדוע הוא חוצה את גבולות חופש הביטוי. ממש בימים האחרונים הצלחנו להוריד כך כמה אתרים רשמיים של הטליבאן, אחרי שהוכחנו שהיה בהם שיתוף של תוכן אלים ואפילו אלמנטים של תיאום אסטרטגי בין כוחות שונים.

"מעבר לפעילות הזו, אנחנו גם מייעצים לחברות איך לשפר את הטיפול בחומר הבעייתי, ועוזרים להן לפרסם דו"חות שקיפות".

יש לכם גם פעילות פיתוח?

"כן, אנחנו נעזרים בפרילנסרים כדי לפתח כלים טכנולוגיים, שמסייעים לפלטפורמות קטנות למנוע ניצול לרעה שלהן, ושאנחנו מספקים להן בחינם. לפני חצי שנה, למשל, השקנו תוכנה שמזהה תכנים בעייתיים, שפיתחנו בעזרת מימון מממשלת קנדה. מאז היא כבר התריעה על 50 אלף מקרים של תוכן אלים, ש־96% ממנו הוסר. הודות לתוכנה הזו, 75% מהתוכן חדש של ארגוני טרור מוסר תוך שבועיים מעלייתו לאוויר.

"הייחודיות שלה, למשל בהשוואה לאלגוריתמים של פייסבוק, היא שהתוכנה שלנו מזהה גם תכנים שבעבר לא סומנו כבעייתיים. תכנים כאלה מופיעים קודם כל בפלטפורמות קטנות ואזוטריות, אבל משם הם זולגים לרשתות הגדולות".

למה שפייסבוק וגוגל לא ישתפו את הפלטפורמות הקטנות בכלים שהן כבר פיתחו לטיפול בתכנים הבעייתיים?

"ראשית, הכלים של הרשתות הגדולות מתמקדים בתכנים עם אופי מוכר, שקל לזהות בהם סימנים בעייתיים, אבל בפלטפורמות הקטנות צומח תוכן חדש עם מאפיינים חדשים ולא מוכרים. שנית, הפלטפורמות הקטנות לא יכולות להשתמש בכלים של הרשתות הגדולות עקב מגבלות טכנולוגיות, מחיר גבוה וצורך בכוח אדם שיתפעל את הכלים האלה".

אתם מזהים קשר בין תכנים בעייתים להתקפות סייבר?

"ארגוני טרור מעדיפים התקפות פיזיות, ופחות מתמחים בסייבר: הוא דורש יותר מדי כישורים טכנולוגיים יקרים, עבודה בדארקנט. אז אנחנו מעריכים את הסיכון כנמוך, אבל צריך לנטר אותו בקביעות. לכל דבר יש פעם ראשונה".

אתם מסתפקים במניעת הפצה של תכנים, או גם מנסים למנוע מטרוריסטים לתקשר ביניהם באמצעות הרשת?

"גם וגם. טלגרם, למשל, עובדת קשה מאוד כדי להוריד את החומר של אל־קאעדה. היא גם מצליחה, אבל מובן שזה לא הרמטי. אצלם, אגב, למדנו שיעור חשוב: לפני שנתיים הם הורידו בלילה אחד אלפי ערוצים של קבוצות דעאש, מה ששימח אותנו מאוד, אבל מהר מאוד התברר שהטרוריסטים פשוט אימצו אפליקציות אחרות. מאז גילינו ומיפינו רבות מהאפליקציות האלה; אני עדיין לא יכול לפרסם את שמותיהן, כי אנחנו בתהליך פעיל של טיפול".

מיהם ארגוני הטרור הפעילים ביותר בזירה המקוונת?

"עיקר המלחמה שלנו היא מול אל־קאעדה, דעאש והטליבאן".

מה עם חמאס?

"אנחנו לא מתמקדים בהם, משום שאין הסכמה בינלאומית גורפת שמדובר בארגון טרור. אנחנו עובדים רק מול ארגונים שיש קונצנזוס לגבי הגדרתם.

"זה גם מה שמקשה על ההתמודדות עם ארגוני ימין קיצוני: אין קונצנזוס עולמי על הגדרתם, ולכן החוק הבינלאומי מתמקד רק בארגוני טרור. בכלל, האתגר שמציבים הימין הקיצוני והניאו־נאצים הוא קשה במיוחד, כיוון שהתכנים שלהם פחות חד־משמעיים, ולא תמיד קוראים ישירות לאלימות. בדרך כלל הארגונים האלה גם מבוזרים יותר".

איך החלוקה בעבודה בין תוכן טרוריסטי לימין קיצוני?

"בערך חצי־חצי, אם כי לפעמים הימין הקיצוני הוא גם טרוריסטי".

מהו האתגר המרכזי שלכם היום?

"ריבוי הפלטפורמות הקטנות. יש אלפי פלטפורמות כאלה שצצות משומקום, ואין לנו יכולת להתמודד עם כמות כזו. זו מלחמה קשה ואינסופית. אנחנו יודעים שלא נגרום לארגוני הטרור להפסיק, אבל תפקידנו הוא להקשות עליהם ככל הניתן".