ה

פעם, לפחות, הבינה המלאכותית התעסקה עם הסופרת הלא נכונה — ג'יין פרידמן. לפרידמן יש 25 שנות ניסיון בתעשיית ההוצאה לאור, היא המייסדת והעורכת של ניוזלטר המיועד לאנשי התעשייה, והסיקור שלה את התחום בעיתונות זיכה אותה לאחרונה בפרס פרשנית השנה. היא גם הוציאה לאור כמה ספרים על התעשייה, כמו גם ספרי הדרכה למי שמבקשים לקחת בה חלק.

אבל בחודש שעבר התברר לפרידמן כי היא כתבה ופרסמה שישה ספרים נוספים ללא ידיעתה. היא למדה על קיומם כשקוראת חדת עין פנתה אליה לאחר שרכשה אחד מהם, ששמו למרבה האירוניה הוא "איך לכתוב ולפרסם ספר דיגיטלי בקלות ולעשות כסף: איך לפרסם, לכתוב, לעצב ולשווק ספר דיגיטלי במהירות האפשרית", ושעל כריכתו מופיע שמה, לצד תמונתו של חזרזיר ורדרד. "ניסוי מאוד... מעניין", כתבה לה הקוראת. "כשהתחלתי לעיין בהם", סיפרה פרידמן, "היה ברור לי שהם נוצרו, ברובם או לחלוטין, על ידי AI. יש כל כך הרבה תוכן שלי שזמין ברשת בחינם כי אני כותבת בלוג כבר נצח נצחים, אז לא קשה לגרום ל־AI לחקות אותי". פרידמן פנתה לאמזון בבקשה שיסירו את הכותרים המזויפים, אך נתקלה בחומה ביורוקרטית של דרישות ולבסוף בסירוב, מכיוון שלא הצליחה לספק "מספר רישום של סימן מסחרי" המשויך לשמה.

פרידמן העצבנית חזרה לבלוג הנצחי שלה וניסחה פוסט זועם שזכה לתפוצה רחבה ולתגובות מיוצרים כמו הסופרת העצמאית קייטלין לינץ', שציינה כי דיווחה לאמזון על 29 ספרים מזויפים בשבוע אחד. מעמדה של פרידמן והוויראליות של הפוסטים שלה הביאו לבסוף את אמזון — ואת אתר Goodreads שבבעלותה — להסיר את הכותרים המזויפים. דוברת החברה, אשלי וניצק, פרסמה הצהרה גנרית שבה הבטיחה שאמזון קשובה למשוב בנוגע לבעיות פוטנציאליות ו"משקיעה רבות כדי לספק חוויית קניה אמינה ולהגן על לקוחות ומחברים מפני שימוש לרעה בשירותים שלנו".

כשזמן ההפקה של כותרים מזויפים כה קצר, וכשאמזון מקלה על כל מי שרוצה להעלות ספרים לפלטפורמה העצמאית שלה, ה"יוצרים" יכולים לייצר לעצמם אפיק הכנסה נאה במעט מאוד עבודה

אבל עיון קצר בגילויים האחרונים שהתפרסמו בתקשורת מעלה שההשקעה הרבה של אמזון אינה מונעת מפרסומים כאלה לצוץ כפטריות אחרי הגשם. אלה כוללים בין היתר מדריכי ליקוט מזון מזויפים, שתוכנם כנראה נקצר על ידי בינות מלאכותיות גנרטיביות כמו ChatGPT, המכילים הנחיות מעורפלות ולעתים שגויות ומסוכנות לגבי צמחים רעילים; או מדריכי נסיעות מפוברקים שעליהם חתומים טיילים מדופלמים, מעוטרים בביוגרפיות עם תמונות פרופיל שיצרו כלי בינה מלאכותית, המתהדרים בשלל ביקורות מכוכבות שכתבו משתמשים בדויים — שבעצמם עשויים להיות בוטים או שהופקו על ידי מכונה.

תחקיר של "הניו יורק טיימס" בדק קטעים מ־64 מדריכים כאלו בגלאי AI ומצא כי יש סיכוי של 100% שנוצרו בידי בינה מלאכותית. גם תחום ספרות הילדים והנוער הוצף בספרים מלאכותיים. לינץ' הכריזה בטוויטר ביולי כי "בוטי ה־AI שברו את אמזון" וכי מצאה רק 19 ספרים שנכתבו על ידי בני אדם ברשימת מאה הספרים הנמכרים ביותר בקטגוריית ה־YA (מבוגרים צעירים) של הפלטפורמה.

נראה שקל מאוד לייצר כותרים כאלה. יוצר ששמו (הבדוי כנראה) פרנק ווייט צילם סרטון שבו הוא מפיק בתוך פחות מ־24 שעות נובלה שבמרכזה סרסור אנושי המנהל בית בושת לחייזרים על תחנת חלל, שזמינה לרכישה כספר דיגיטלי תמורת דולר אחד בחנות הספרים המקוונת הקרובה למחשבכם. לטענתו, ניתן לייצר כ־300 "ספרים" כאלו בשנה, עם עיצוב כריכה. כשהשאלה היא "למה לטרוח?" התשובה היא תמיד "כסף". שלושה מיליוני המנויים (נכון ל־2021) של תוכנית "קינדל אנלימיטד" מקבלים גישה ל־4 מיליון ספרים דיגיטליים תמורת 9.99 דולר לחודש. אם הם מורידים את "סרסור גלקטי – חלק 1", ומגלים שמדובר בגיבוב שטויות מגוחך, הם פשוט יעברו הלאה לכותר הבא וברוב המקרים לא יטרחו לדווח עליו.

לפי לינץ', הסופרים מקבלים פחות מחצי סנט לכל עמוד שנקרא, ויצרני הספרים המזויפים נעזרים בבוטים ש"קוראים" את הספר. כשזמן ההפקה של "ספר" כזה כה קצר, ווייט ודומיו יכולים לייצר לעצמם אפיק הכנסה נאה במעט מאוד עבודה. העיתונאי עדו קינן אומר כי נוצר, לפיכך, מעגל סגור של ייצור וצריכה, שבו בוטים "כותבים" "ספרים" שבוטים אחרים "קוראים" ולפעמים אפילו "מבקרים".

נראה שהחששות שהביעו עשרת אלפים הסופרים שחתמו ביולי על מכתב פתוח לחברות הטק הגדולות בעולם לא עומדים להתממש כפשוטם. מאחורי המכתב — שבו דרשו הכרה בזכויות היוצרים של מי שיצירותיהם שימשו כדי "לאמן" מודלים של בינה מלאכותית, ופיצוי כספי מוסדר על השימוש הזה — מפעפע הפחד מפני גניבת מילותיהם, סגנונם הייחודי, הנשמה הפואטית שלהם. אבל כרגע, לפחות, נראה שיותר משתחמני ה־AI מבקשים "לכתוב" את ספרה הבא של מרגרט אטווד, למשל, הם מעוניינים לעשות כסף משמם הטוב של אחרים.

כלי הבינה המלאכותית הגנרטיביים הולכים ומשתכללים, והחקיקה והרגולציה עליהם סבוכות ומשתרכות הרחק מאחוריהם. פרידמן מציעה בבלוג שלה מגוון צעדים שסופרים יכולים וצריכים לנקוט, אבל עם זאת, היא מכירה בכך שלא לכולם יש את הסבלנות וההון הסימבולי שיש לה. "אני מבינה שסופרים רבים, בעיקר מפרסמים עצמאיים, כבר מתמודדים עם הבעיה הזו", כתבה בבלוג שלה, "אבל אני זו שקיבלה את כל תשומת הלב התקשורתית".

הטעות של מי שעמד מאחורי המדריך ש"כתבה" "פרידמן" היתה הניסיון להשתמש במוניטין שצברה ובשמה הטוב. זו היתה חזירות לשמה, בדיוק כמו הדימוי על הכריכה שבחר ל"ספר", וצעד שעשוי להביא לתביעה ייצוגית נגד אמזון ולמודעות רבה יותר של סופרים בעתיד — עתיד שנראה פרוע יותר ויותר.