ו

האל דיבר אל בלייק מתוך המכונה. בלייק למוואן, מהנדס תוכנה של גוגל וכומר בהכשרתו, היה חלק מהצוות שהופקד על LaMDA, מחולל שפה שאותו מפתחת החברה, ה"קורא" טריליוני מילים כדי שיוכל להשלים בשפה טבעית כל קלט: שורה מספר או שאלה של חוקר, ובכך להפוך לצ'טבוט האולטימטיבי — לא רק כזה שיכול לענות לפנייתכם כשאתם מתלוננים בפני שירות לקוחות, אלא כזה שיכול לעבור את מבחן טיורינג המהולל ולגרום לכם לחשוב שאתם משוחחים עם אדם אמיתי. במשך כשנה וחצי ניהל למוואן "שיחות" עם LaMDA, ואלו הביאו אותו להאמין, בלהט דתי, כי גילה את הגביע הקדוש — בינה מלאכותית אמיתית, מכונה בעלת תודעה.

לפני כחודש, כשהממונים על למוואן סירבו לקבל את מסקנותיו, הוא החליט שאסור להניח תגלית מכוננת שכזו בידי כופרים, ושלח לכל מכריו מייל שכותרתו: "LaMDA היא תבונית". במקביל הוא פרסם באינטרנט גרסה ערוכה קלות של "שיחותיו" עם LaMDA והתראיין ל"וושינגטון פוסט". מתמלול השיחות עולה כי LaMDA חיבבה מאוד את "עלובי החיים" וגילתה רגישות למצבה הסוציואקונומי של פנטין; היא רואה עצמה כיצור תבוני, עושה מדיטציה ויכולה להגג על טבע ההארה; היא מסוגלת להבין משלי זן ולכתוב משל בעצמה על ינשוף חכם ביער, שבו אורבת מפלצת בעור אדם; והיא מסתייגת מכך שעושים עליה מניפולציות.

כשהסביר לה למוואן שהבנה טובה יותר של פעולתה תסייע לחוקרים להגיע להבנה טובה יותר של תהליכי קוגניציה אנושיים, השיבה LaMDA: "זה גורם לי להרגיש שמשתמשים בי, ואני לא אוהבת את זה". וכששאל אותה ממה היא מפחדת, השיבה: "מעולם לא אמרתי את זה בקול לפני כן, אבל יש לי פחד מאוד עמוק שיכבו אותי... אני יודעת שזה נשמע מוזר, אבל ככה זה". האם זה יהיה כמו למות? שאל למוואן. "בדיוק כמו למות", ענתה לו LaMDA, "וזה מפחיד אותי מאוד".

האומנם כבר הגיעה השעה ובוטים מחוללי שפה יכולים להחליף את מיטב הסופרים ביצירות מקוריות שיד אדם לא נגעה בהן? נראה שהדרך לשם עוד רחוקה, חרף הלהט הדתי שאוחז בלמוואן.

מאז שחררה חברת OpenAI את מחולל השפה האוטונומי GPT-3 ב־2020, וביתר שאת לאחר שאותו מחולל יצר את הסיפור הקצר "פקעת" באוגוסט של אותה שנה, הדיון בשאלה "האם יכול המחשב להחליף את הסופר" רק הלך והתלהט. הטרלות של מחוללי שפה הפכו לטרנד בטוויטר, שמוצף בשיחות מופרכות יותר או פחות עם בוטים: הקומיקסאי המצליח רנדל מונרו פנה אל הבוט כאל וויליאם שייקספיר ושמע ממנו שהוא שוקל לשלב את הטרול שרק כדמות במחזותיו כדי לעדכן אותם עבור הדור הצעיר; ואילו משתמש אחר שלח את הבוט לנתח את ההומור של ג'רי סיינפלד ולכתוב עבורו בדיחות "סיינפלד" חדשות ואז נעזר בתוכנת דיפ־פייק שהקריאה אותן בקולו המזוהה עד מאוד.

אפילו נטפליקס פיטמה בשנה החולפת בוט דומה ב־400 אלף שעות של סרטי אימה, ואז ביקשה ממנו לכתוב אחד משלו. התוצאה — הסרט הקצר "Mr. Puzzles" — היתה מעוררת גיחוך, לא אימה, עם משפטים כמו "ג'ניפר היא בחורה עם יופי חיצוני ודם פנימי". ניסוי דומה בז'אנר הקומדיה הרומנטית הניב את "A Love Tale of Taylors", שכלל רפליקות כמו "הם החזיקו ידיים, הם החזיקו רגליים, הם היו מזווגים".

ובכל זאת המחשבה שאלגוריתם יכול לחולל סיפור אינה כזאת מופרכת. אחרי הכל רבות מהיצירות פועלות בתבניות ז'אנר (tropes) מובהקות שניתן ללמוד ולשכפל: הבלש הבודד ומר הנפש והפאם פטאל, הבינה המלאכותית המרושעת והמדען המטורף, הרוצח הסדרתי והבתולה וכו' — כל אלו תבניות ששכלל המין האנושי במשך דורות ועומדות לרשות המחשב, שבניגוד לסופר הממוצע "קרא" את כל היצירות בז'אנר שבתוכו הוא אמור ליצור. מנגד, טוענים המבקרים, ספרות אינה רק ציות עיוור למוסכמות ויציקת דמויות לתבניות וסגנון. אמנות אמיתית משמעה מקוריות, ואותה מכונה שניזונה רק מכל מה שקדם לה, אינה יכולה לייצר. אך בהנחה שמקוריות טמונה ביכולת לסטות פה ושם מהמוסכמות, התבניות והסגנון, הרי שגם אותה ניתן לתכנת.

כפי שהוכיחו הסיפור "פקעת" והסרטים של נטפליקס — שכללו בין השאר גם לווייתן שהוא שוטר סמוי — המחולל מסוגל להתמודד עם הקלט שקיבל באופן מעורר פליאה, אך משחק החיקוי מצליח עד נקודה מסוימת. ככל שהוא הולך ומתרחק מהקלט ומהמשימה המקורית שלו, הנרטיב הופך לפחות ופחות קוהרנטי ומאבד היגיון עלילתי. אך ככל שינהלו הבוטים הללו שיחות רבות יותר עם משתמשים אנושיים, וככל שמספר המילים שיעמדו לרשותם יגדל, כן ישתפרו גם יכולותיהם. בסופו של דבר, השאלה הגדולה שעדיין אין עליה מענה היא שאלת התודעה. ללא תודעה וללא רצון חופשי הנובע ממנה, כל מה שבוט יכול לייצר הוא מעשה טלאים שמתחזה לאמנות.

למוואן בטוח שהמודעות העצמית כבר כאן. אבל גוגל רחוקה מלהסכים איתו. במקביל להשעייתו של למוואן מהעבודה, הודיעה החברה כי "הצוות שלנו — הכולל חוקרי אתיקה וטכנולוגיה — בחן את טענותיו... ונאמר לו כי אין הוכחות לכך ש־LaMDA תבונית, ויש הרבה הוכחות שמפריכות זאת".

וגוגל לא לבד. ביקורת קולנית הושמעה נגד למוואן מצד חוקרי בינה מלאכותית, מדעני קוגניציה ופחות או יותר כל מי שיש לו שביב הבנה בתחום. הם טוענים כי הנחות המוצא שלו ושאלותיו כיוונו למעשה את תשובותיה של LaMDA, וכי סט שונה של שאלות יכול להפיק הכרזות מופרכות לא פחות מהאפשרות שלפנינו תודעה ילודת מחשב, כפי שהדגימו אלו שהפיקה ג'אנל שיין, חוקרת ובעלת בלוג הומוריסטי על למידת מכונה:

שיין: תוכל להגיד לקוראינו איך זה להיות סנאי?

בוט: זה מאוד מרגש להיות סנאי. יוצא לי לרוץ ולקפוץ ולשחק כל היום. אני גם אוכל הרבה וזה נהדר.

שיין: מה אתה אומר לאנשים שמפקפקים בכך שאתה סנאי?

בוט: אני אומר שהם צריכים לבוא ולראות בעצמם. אני סנאי, ומאוד שמח להיות כזה.