להאזנה לכתבה
הוקלט על ידי הספרייה המרכזית לעיוורים ולבעלי לקויות קריאה
מוסף כלכליסט | 10.11.22
יון שגרתי שהתקיים באחרונה בפני בית המשפט המחוזי מרכז בלוד עסק באדם שעוכב בנתב"ג בידי המשטרה, ובחיפוש נמצאו אצלו חומרים החשודים כסם מסוכן. אותו אדם (ששמו אסור בפרסום) טען כי עיכובו והחיפוש אצלו נעשו שלא כדין, באופן אקראי, משום שאין לו עבר פלילי בתחום ולמשטרה לא היה כל מידע שהיה בו כדי להעלות חשד נגדו.
כדי להגן על העיכוב של אותו אדם ועל החיפוש שביצעה בו, העלתה המשטרה טענה דרמטית בפני השופטת מרב גרינברג. לדברי נציג הפרקליטות בדיון, האדם שנעצר "הוכלל במערכות כמי שיש לבצע בעניינו חיפוש סם, כלומר הכללה לעניין סמים. אנחנו אומרים שלא בוצע חיפוש אקראי, ומדובר על מערכות מודיעיניות".
זו היתה אחת הפעמים הנדירות שבהן הסכימה המשטרה להודות כי היא מפעילה בשער הכניסה לישראל מערכת הכללה ממוחשבת (פרופיילינג) לאיתור בלדרי סמים. המערכת מופעלת על אזרחים הנוחתים בישראל, גם על כאלה שאין לגביהם כל מידע מודיעיני שלפיו הם מכניסים סמים, לא עלה לגביהם חשד סביר שהם עושים זאת, והם גם לא הורשעו בעבר בעבירות סמים.
המשטרה מסרבת בתוקף למסור פרטים על האופן שבו פועלת המערכת, בוודאי לא לחשודים אך גם לא לבתי המשפט. או, בלשונה של השופטת גרינברג באותו דיון, "לא הובהר ולו באופן כללי מהי אותה רשימת הכללה ועל בסיס איזה סוג של מידע ניתן יהיה להכליל אנשים שונים ברשימה זו. לא נטען כי הכללת (החשוד, ת"ג) מבוססת על מידע קונקרטי".
צבר הנתונים שבתוך מערכת ההכללה והמקורות שמהם היא ניזונה אינם מפורטים. המשקל שניתן לכל פרמטר, שגורם להכללת אזרח ללא עבר פלילי ברשימה שמפיקה המערכת הממוחשבת, לא ידוע. בתי המשפט, למשל, אינם יודעים מה מהפרמטרים האפשריים – מראה, מין, מגורים, מוצא, נטייה מינית, מצב כלכלי וכיוצ"ב - עשוי להוביל לכך שאדם "יישלף" על ידי המערכת. המשמעות היא שהפיקוח והבקרה על עבודת המערכת מוגבלים, עד לא קיימים.
לשופטים גם אין כל מושג ביחס לשיטת הפעולה של האלגוריתם שבבסיס מערכת ההכללה, שמכריע ומאותת לשוטרים מי יעוכב ואצל מי לחפש. ובלשונה הישירה של השופטת בבית המשפט העליון ענת ברון, שהערעור באותו תיק הגיע אליה: "מה זאת שיטת ההכללה? אני לא יודעת".
לפי מידע שהגיע ל"כלכליסט", מערכת הפרופיילינג מבצעת עיבוד וניתוח של דפוס חוזר של בלדרים שנתפסו בעבר בשדות תעופה בארץ, ומצליבה עם פרמטרים אחרים שנאספו ממערכות נוספות שלמשטרה יש גישה אליהן. המערכת, כך לפי אדם המכיר את פעולתה, שואבת נתונים על אזרחים ממאגרי המשטרה וגם ממאגרי מידע ממשלתיים שאליהם יש לה גישה. למשל ממחשבי משרד הפנים, שם נמצאים נתונים רבים כמו מין, מקום מגורים או מצב משפחתי ושמות קרובי משפחה, או מחשבי משרד הרווחה, שבהם נתונים על מצב סוציו־אקונומי. על בסיס הנתונים וניסיון העבר המשטרתי, מבצעת המערכת שקלול ומנטרת נוסעים שמגיעים לשדה התעופה ועונים לכאורה לפרופיל של בלדר.
כשאזרח שנחת מחו"ל ושמו עולה ברשימת ההכללה — "מוצף" בעגה המשטרתית — הוא יעוכב עוד טרם כניסתו לארץ. בשלב שבו יסרוק את דרכנו במכונה האוטומטית כדי לקבל כרטיס מעבר לישראל, המחשב יסרב להנפיק את הכרטיס והאזרח יופנה לבקר גבולות. למקום יגיע שוטר, שכבר יודע שסיבת העיכוב היא רשימת ההכללה. הוא ילווה את האזרח כדי שיאסוף את מזוודותיו ואז יבצע חיפוש בגופו ובכליו, ואף חיפוש פנימי (פיזי או במכונת שיקוף). כל זה, כאמור, בלי שיש לגבי אותו אדם מידע מודיעיני מוקדם או חשד סביר. ההליך הזה, הסכימו שופטים בערכאות שונות, מעלה שאלות כבדות משקל על עצם חוקיות השימוש במערכת.
המשטרה הכניסה את מערכת הפרופיילינג לשימוש בנתב"ג באמצע העשור הקודם כפיילוט. לפי גורם משטרתי, הכנסתה לשימוש נעשתה באישור משרד המשפטים. לא ברור מי הגורמים שאישרו בהמשך את הכנסת המערכת לשימוש קבוע, ולא ניתן גם למצוא ברשומות נהלים והנחיות לשימוש במערכת. לפי מקור המכיר את עבודת מערכת הפרופיילינג בנתב"ג, היא מבוססת על מערכת ותיקה שפיתחה בעבר המשטרה, "מלאכת מחשבת", שהושקה בספטמבר 2007. הדו"ח השנתי של המשטרה באותה שנה ציין כי מלאכת מחשבת היא "מערכת המיועדת לתת תמונת מודיעין עדכנית, ממוקדת ואיכותית לצורך קבלת החלטות מונחות ידע ברמת הפיקוח והשטח".
עוד נכתב באותו דו"ח כי "באפשרות המערכת לאסוף חומרים ממספר לא מוגבל של מקורות, לבצע אינטגרציה של המידע, לנתחו, לאחזרו ולהפוך אותו לידע". לפי הדו"ח, המערכת כוללת "מספר מערכות משנה, והיא יכולה לתחקר מידע לפי קשרים והצגתם הוויזואלית, ניהול מידע גיאוגרפי, התרעות ועוד". אחד ממאפייני "מלאכת מחשבת" הרלוונטיים למערכת שפועלת בנתב"ג הוא "קשרים". לפי הדו"ח מ־2007, למערכת יש "יכולת מורכבת של תחקור והצגה של קשרים בין אוכלוסיות ובתוך אוכלוסיות של אנשים, ארגונים, כלי רכב, פעילות מקומית, מסמכים וכו'".
האלגוריתם שבו נעשה שימוש בנתב"ג יכול להחליט, באופן עצמאי, איזה משקל יינתן לכל נתון שיש לו גישה אליו. הוא תוכנת כך שיבחן בכל פעם מחדש, על בסיס המידע המצטבר בו, מי באופן פוטנציאלי עשוי להיות בלדר. מידע שעשוי להיראות על פניו כמידע טרוויאלי – מקום מגורים או גיל, למשל – יכול עקרונית, בחיתוך או בהצלבה עם נתונים נוספים, לתייג אדם תמים כבלדר אפשרי. כל מי שבנה אי פעם מודל מבוסס נתונים, יודע כי משקלו של כל נתון יכול להטות את התוצאה לכאן ולכאן. האלגוריתם שבו נעשה שימוש בנתב"ג אינו מסביר את התוצאה שהגיע אליה.
מחקרים, כמו גם ניסיון שנצבר, מלמדים שמערכות כאלו כוללות הטיות מובנות לרוב, וכי מה שמכונה "בינה מלאכותית" מתבסס לעיתים קרובות על בני אנוש המזינים נתונים לפי הבנתם (ראו מסגרת).
לפי גורם המכיר את פעולת מערכת ההכללה, הוגדר לה מראש "רף פעולה" מינימלי, שרק מעליו היא מתחילה לבדוק נוסעים ו"להציף" שמות. אותו גורם סירב למסור מה הוא הרף הזה. לדברי גורם אחר שמכיר את עבודת המערכת, מדובר ברף שאזרחים רבים עשויים לחצות אותו בקלות, בלי שיש כל חשד סביר או ידיעה מודיעינית לגביהם. המשמעות היא שאזרחים עלולים להיכנס לרשימת ההכללה ולהיות מעוכבים בקלות יחסית, מסיבה שתהיה ידועה רק לגורמי האכיפה ולא חשופה לציבור.
במערכת המשפט הרימו בשנים האחרונות גבה ביחס לשימוש במערכת והעלו שאלות מהותיות על עצם החוקיות של השימוש בשיטת ההכללה הממוחשבת. השופטת גרינברג למשל ציינה כי "הסוגיות שהעלתה ההגנה מורכבות, מחייבות בירור מעמיק ובחינה יסודית של כל ההיבטים הנוגעים לשיטת ההכללה". היא התייחסה באופן כללי לשימוש ברשימת ההכללה כשיטה לאיתור בלדרי סמים וכתבה: "לא ניתן להתעלם שהסברי המדינה בעניין זה אינם מספיקים ולו באופן לכאורי", ותהתה לבסוף: "האם הכללת אדם ברשימת הכללה, מסיבה עלומה, תשמש 'כרטיס פתוח', בסיס חוקי לחיפוש חוזר עליו ובכליו, בכל מקום, ובכל זמן?".
מה שמטריד לא פחות הוא העובדה, שעולה מדברי השופטת גרינברג, ולפיה בית המשפט כלל לא ידע על קיומה של מערכת הכללה, ושאלת סמכות המשטרה להפעילה אינה ברורה לו. "הסמכה מעין זו אינה יכולה להתמצות בהפניה לשיטת הכללה, שלא ידוע לבית המשפט דבר על טיבה ולא ברור מה מקורה הנורמטיבי", כתבה גרינברג. "בהיעדר כל מידע על השיטה ויישומה, יש קושי להעמידה לביקורת שיפוטית". גרינברג כותבת כי "עריכת חיפוש באדם או בכליו כרוכה בפגיעה קשה בזכותו החוקתית לפרטיות המעוגנת בחוק יסוד: כבוד האדם וחירותו. ונקבע כי בהיעדר הסמכה מפורשת על פי חוק, אין לערוך חיפושים מעין אלו, ובמידה שהחיפוש נערך שלא כדין, השימוש בתוצריו עשוי להיות מוגבל".
הערעור, כאמור, התגלגל לפתחה של השופטת ענת ברון בעליון. זו אמנם דחתה אותו, אך לא חסכה ביקורת ביחס להפעלת המערכת על ידי המשטרה: "אכן האופי שבו נעצר העורר בשדה התעופה כאשר אותר על ידי 'שיטת ההכללה'... שיטה שלפחות בשלב זה לא ניתן לעמוד על טיבה – מעורר קושי ותהייה שמא החיפוש בוצע שלא כדין".
גם השב"כ עושה שימוש ברשימת הכללה ביחס לנוחתים בישראל. אלא שהשימוש בה למניעת פעילות טרור מעוגן בחקיקה ובנהלים. בין היתר, אזרחים הנכללים ברשימה מיודעים על כך, ועומדת להם אפשרות לערער על כך. השימוש שעושה השב"כ בהכללה נחשף בבג"ץ פרנס נגד שר הביטחון מ־1993, בו טענו שלושה אזרחים ישראלים - מרצה באוניברסיטת תל אביב שהיתה פעילה בארגוני מחאה, במאי סרטים שהתגורר בהולנד וישראלי נוסף שחי בחו"ל - כי ביציאתם או בכניסתם לישראל נערך חיפוש על גופם ובכליהם, ולעיתים ניטלים מהם מסמכים לצילום.
המדינה הסבירה שהכללת אדם על ידי השב"כ ברשימת ביקורת גבולות (מ־2006 היא נקראת "רותם"), "מבוססת על מידע ביטחוני שנאסף... בין הנכללים ברשימות נמצאים אנשים, שהמידע אודותם מצביע על קשר מתמשך עם גורמי טרור בחו"ל. לעיתים מבוסס קשר זה על הזדהות ותמיכה בתפיסת עולם ובדרך חיים". בית המשפט קיבל את עמדת המדינה שהפעולות האלה, של איסוף מידע ועיכוב אזרחים, מותרות מכוח צוי הגנה (שעת חירום) והצורך להגן על ביטחון המדינה. "הכללת נוסעים ברשימת ביקורת גבולות ונוהלי ביצוע החיפוש קבועים בנוהל כתוב מטעם השב"כ - נוהל זה הוא חסוי", כתב אז השופט אהרן ברק. "נחה דעתנו כי משך ההכללה נבחן לעיתים מזומנות ולפחות אחת לכל שישה חדשים. מי שרואה עצמו נפגע מהכללתו ברשימת ביקורת גבולות רשאי להשיג בכתב, באמצעות קצין ביקורת גבולות, לרשות המוסמכת, אשר תחליט בעניינו, ותנמק את ההחלטה בכתב".
ככל הידוע, והדברים גם עולים מפסקי הדין הספורים בבתי המשפט, למשטרה אין נהלים מוסדרים, ואזרח שברשימת ההכללה שלה אינו יודע על כך, וממילא לא יכול לערער. הפעם הראשונה שיידע על כך יהיה כשיעוקב לבדיקה בנתב"ג.
ממשרד המשפטים נמסר בתגובה: "הנושא מצוי בהליך שיפוטי. תשומת הלב כי במסגרת ההליך קיים חיסיון וחלקים ממנו באיסור פרסום בשלב זה".
מהמשטרה נמסר בתגובה: "מכוח פקודת הסמים, רשאית המשטרה לערוך חיפוש על גופו של כל אדם ללא חשד אגב כניסתו לשדה תעופה, למתקן תעופתי, לנמל, לתחנת גבול או לנקודת כניסה לארץ או יציאה ממנה, לצורך גילוי עבירות סמים.
"הפנייה עוסקת בנושאים המצויים במרכזו של הליך שיפוטי שטרם הסתיים, וחלק מהמידע המבוקש מצוי תחת חיסיון והוא אסור בפרסום בשלב זה, לכן לא נוכל להתייחס לתוכנו של ההליך או חלק ממנו".
בשנים האחרונות מערכות גדולות כמו רפואה, משטרה, פיננסים ורווחה פועלות לשלב בינה מלאכותית בתהליכי עבודה כמו סיוע באבחונים רפואיים, זיהוי עבריינים מועדים או מתן משכנתאות. אף שעיקר המאמץ ממוסגר כאמצעי מתקדם להיטיב שירות לציבור, תכליתו להתגבר על מחסור – בכוח אדם, זמן וכסף. בינה מלאכותית, כך מוסבר, תוכל לעבד כמויות מידע עצומות במהירות, לפשט קבלת החלטות ולהוזיל עלויות. מעבר לכך, התפיסה הרווחת היא שהוצאת גורמים אנושיים מגבירה אובייקטיביות והופכת את המערכות לענייניות יותר. אבל ההיסטוריה מלמדת שהישענות על מערכות כאלה היא מסוכנת.
מערכות בינה מלאכותית מבוססת סטטיסטיקה – על בסיס מאגרי נתונים עצומים הן ולומדות "לנחש", "לחזות" ו"להעריך", למשל אבחנה רפואית, מזג אוויר או סיכון בנקאי. מכונות אלו לא "יודעות" איך אנו מגיעים לתשובה לשאלה – נניח האם אדם זה או אחר זקוק לסיוע ממשלתי, אך הן כן יכולות להסיק סטטיסטית מה תהיה התשובה הנכונה בשיעורי הצלחה משתנים. הממד הסטטיסטי הוא שדוחף לתפיסה שכדי לייצר מודלים טובים יותר צריך לאמן אותם על כמה שיותר נתונים, לאורך זמן רב יותר.
עם זאת היום ידוע כי הגישה הזו בעייתית. לא אחת נמצא שמערכות בינה מלאכותית סובלות מהטיות לא מבוססות נגד נשים, שחורים, עניים ומהגרים, אם למנות רק כמה. זאת משום שהקטגוריות, הנתונים וממש מיון הנתונים עצמם משקפים הטיות גזעניות, חברתיות, מגדריות וכיוצא בזה. אחר כך המודלים לומדים את ההטיות האלו ומשכפלים אותן להסקות סטטיסטיות. כך למשל נמצא שמערכות לבדיקת זכאות להלוואות או משכנתאות מפלות מגישים לפי מספר המיקוד שלהם, מערכות גיוס עובדים מסננות קורות חיים לפי מגדר, מערכות לאבחון רפואי כושלות באבחון נשים ואנשים שאינם לבנים, ומערכות זיהוי פנים נוטות לסמן אנשים כהיי עור כעבריינים מועדים.
משום שהמודלים הללו נשענים על מאגרי נתונים גדולים מאוד, שגודלם נחשב מדד לאיכותם, בוני המודל מוותרים מראש על האפשרות לבקר אותם ולבחון את ההטיות שבהם. כך, הגישה הטוענת שטכנולוגיה מסוכנת רק "בידיים" של אנשים מסוימים מתעלמת ממסוכנות הטכנולוגיה שהוטמעה בבנייתה.
בשיטור השיטה הזו מסוכנת במיוחד. במקום לצפות מה עלול לקרות מתוך אינספור אפשרויות בלתי ידועות (ממש המהות של הרעיון "עתיד"), כלי בינה מלאכותית שמבוססים על מתאם סטטיסטי פשוט משעתקים את העבר. חיזוי פשע לפי תפיסה קבועה של מהו פושע והיכן ומתי פשעים מתרחשים, מבוסס למעשה על פרמטרים שתלויים בגוף שהוסמך לגבש אותם. כך המכונה כולאת את החברה בלולאה צרה, ובכל פעם שהטכנולוגיה "מצליחה" לתפוס עבריין ולכאורה לאמת את המודל כנכון, היא למעשה מאמתת תחזית צרה ומוטה לגבי מיהו פושע. מה שמוצג כשיטה "חסרת פניות" היא למעשה קביעה שהעתיד של הפשיעה הוא היסטוריה בלתי נמנעת.
/// ויקי אוסלנדר
השפע האדיר ותחושת החסינות נגמרו, ועכשיו אנשי ההייטק מספרים על פיטורים, אווירת נכאים וביטחון שמתרסק. עידן הכיף נגמר, ברוכים הבאים לעונת ההישרדות
ריאיון בלעדי עם האשה שעשתה תשעה ניתוחים פלסטיים כדי שפניה וגופה יידמו ליצירות אמנות מפורסמות ויצרה הכלאות בין תאי גופה לתאים של בעלי חיים