לסרוק ולגרוס: חברות AI קונות ספרים מודפסים בכמויות ומשמידות אותם אחרי הסריקה
לפי דיווחים מהחודשים האחרונים, חברות AI קונות ספרים מודפסים בכמויות גדולות, כולל ספרים נדירים. הן חותכות את השדרה, סורקות את הדפים וגורסות את המקור כדי לאמן מודלי שפה. הסנאטור האמריקאי כריס מרפי תוקף את הנוהג ומזכיר במפורש את אנתרופיק, שפרויקט Project Panama שלה נחשף בהליך משפטי. ברשת מופצות גם טענות שהנוהג מגיע לספרים קוריאניים, אבל אי אפשר לאמת אותן מהמקורות שבידינו.
חברות בינה מלאכותית קונות ספרים מודפסים בכמויות גדולות, לפעמים גם עותקים נדירים. הן סורקות אותם במכונות מהירות שחותכות את השדרה, ואחר כך גורסות את המקור. כך דיווח האתר 404 Media, ולפי ה-Jerusalem Post המטרה היא להשיג טקסט "נקי" לאימון מודלי שפה. לאחרונה הצטרף לביקורת הסנאטור הדמוקרטי כריס מרפי מקונטיקט, שתקף את הנוהג בסרטון ברשתות החברתיות, כפי שדווח בסוף אוגוסט.
ברשת מופצות גם טענות שחברות AI אוספות ומשמידות בדרך הזאת גם ספרים קוריאניים, ושהדבר פוגע בסופרים ובשוק הספרים המקומי. מקור הדיווח, ככל הנראה, בעיתונות הקוריאנית, אבל הפוסט שהפיץ אותו לא כלל פרטים, ואין במקורות שבידינו מידע שמאשר את הטענה. לכן היא נשארת בגדר דיווח לא מאומת.
למה דווקא ספרים ישנים
ההיגיון העסקי מוסבר היטב בפוסט של ISBNdb, חברה שמתארת את עצמה כבעלת "מאגר הספרים הגדול בעולם". את הפוסט היא מחקה מאז. "נתוני האימון הטובים בעולם מונחים על המדף", נכתב שם. לפי החברה, ספרים מודפסים שיצאו לפני 2022, כלומר לפני עידן ה-LLM, הם "נקיים מבחינה מבנית" מטקסט שנוצר על ידי AI.
החשש שעומד מאחורי זה נקרא model collapse (קריסת מודל): מודלים שמתאמנים על תוכן שמודלים אחרים יצרו נוטים לאבד מאיכותם עם הזמן. לפי הדיווח, בכירים בתעשייה מאמינים שמאגרי ספרים גדולים חיוניים כדי לספק למודלים נתונים חדשים ולמנוע את התופעה. לפי ה-Washington Post, אחד ממייסדי אנתרופיק העריך שספרים יכולים ללמד מודלים "לכתוב היטב" במקום "שפת אינטרנט באיכות נמוכה".
ISBNdb וחברות דומות עוזרות, לפי הדיווח, להזמין בין 1,000 למיליון ספרים בכל פעם. סוחרי ספרים עתיקים כבר שמו לב לתופעה. "בשוק הספרים הנדירים מאוד נדיר שמישהו רוצה לקנות יותר מספר אחד", אמר הסוחר פיטר דה פריס ל-The Telegraph. "אז אם מישהו בא ואומר 'אני רוצה כמה מאות מהספרים שלך', זה מוזר מאוד".
Project Panama ובית המשפט
הדוגמה המתועדת ביותר היא של אנתרופיק. במסמך פנימי שנחשף בהליך משפטי ודווח ב-Washington Post נכתב: "Project Panama הוא המאמץ שלנו לסרוק באופן הרסני את כל הספרים בעולם. אנחנו לא רוצים שיידעו שאנחנו עובדים על זה". גם ב-ISBNdb הודו בבעיה: "בעיית התדמית אמיתית. 'חברת AI משמידה שני מיליון ספרים' היא לא כותרת שמעוררת אהדה".
באופן פרדוקסלי, דווקא ההשמדה חיזקה את עמדתה המשפטית של אנתרופיק. השופט ויליאם אלסופ פסק שהשימוש של החברה ביצירות לאימון Claude הוא fair use (שימוש הוגן). "עותק הדפוס המקורי הושמד. אחד החליף את השני", כתב, והוסיף שאין ראיות שהעותק הדיגיטלי הוצג, שותף או נמכר מחוץ לחברה. מנגד, הוא קבע שאנתרופיק פגעה בזכויות הסופרים כשהחזיקה יותר משבעה מיליון ספרים מפוירטים ב"ספרייה מרכזית". התביעה הייצוגית הסתיימה בהסדר של 1.5 מיליארד דולר.
הטענה של מרפי
מרפי הרחיק לכת. לטענתו, החברות קונות "לעתים קרובות את העותק היחיד" של ספרים, מזינות אותם למודל ואז משמידות אותם "כדי שאיש לא יראה את הראיות לאופן שבו אימנו את המודל". לדבריו, חלק מהמטרה הוא שהציבור לא יוכל עוד להבחין בין תוכן שיצר אדם לתוכן שיצרה מכונה. אלה טענות של הסנאטור, לא ממצאים מתועדים.
למה זה חשוב
הוויכוח כבר לא עוסק רק בשאלה אם מותר לאמן מודלים על ספרים. הוא עוסק גם במחיר הפיזי של האימון. המשמעות, ככל הנראה, היא שהפסיקה בעניין אנתרופיק יוצרת תמריץ משפטי לסרוק ולהשמיד במקום לשמור את העותק. אם הדיווחים על ספרים קוריאניים יאומתו, הם עשויים להצביע על כך שהנוהג חוצה את גבולות ארצות הברית ומגיע לשווקים קטנים יותר, שבהם לכל עותק שנגרס יש משקל גדול יותר.