סופרים שמואשמים בשימוש ב-AI מחפשים דרך להוכיח שכתבו בעצמם. האם כלי "מסלול נייר" יספיקו?
אחרי שהוצאת Hachette ביטלה את הרומן Shy Girl בעקבות חשדות שנכתב ב-AI, קמו כלים שמתעדים את תהליך הכתיבה ומאפשרים לסופרים להוכיח שהם כתבו את הטקסט. ב-Authors Guild אומרים שכדאי להכיר את הכלים, אבל שאסור שיהפכו לחובה. בינתיים אף אחד מהם לא חסין לפריצה.
סופרים שמואשמים בכתיבה בעזרת בינה מלאכותית יכולים להיעזר כיום בכמה כלים חדשים שמתעדים את תהליך הכתיבה ומספקים להם "מסלול נייר", כלומר תיעוד שמראה מה הם כתבו בעצמם. אבל כתבה של Wired מעלה ספק אם זה מספיק, בתקופה שבה עולם המו"לות חושש לגבי המקוריות של כתבי היד.
מתובעת לחשודה
אנדראה בארץ (Andrea Bartz) מכירה היטב את המאבק של סופרים בתעשיית ה-AI. מאז 2019 פרסמה חמישה מותחנים, הגיעה לרשימת רבי המכר של הניו יורק טיימס, Netflix ו-Hulu רכשו זכויות אופציה על ספריה, ומועדון הספר של ריס וית'רספון המליץ עליה. היא גם הייתה התובעת הראשית בתביעה ייצוגית נגד אנתרופיק. התביעה טענה שהחברה הורידה מיליוני ספרים מוגנים בזכויות יוצרים מאתרים פיראטיים, כדי לאמן עליהם את המודלים שלה. אנתרופיק הסכימה לשלם 1.5 מיליארד דולר, הסדר זכויות היוצרים הגדול בתולדות ארה"ב.
אבל בזמן שהסופרים נאבקו בשימוש ביצירות שלהם, צצה בעיה אחרת: מה קורה כשסופר עצמו מואשם בשימוש ב-AI?
בחודש מרץ זה קרה בפועל. ברשתות החברתיות התפשטו השערות שרומן האימה Shy Girl נוצר ברובו בידי AI, ועיתון ה"טיימס" פרסם כתבה על הטענות. בעקבות זאת ביטלה Hachette Book Group את ההוצאה המתוכננת של הספר בארה"ב, והפסיקה למכור אותו בבריטניה, שם כבר יצא לאור. לפי Pangram, כלי לזיהוי טקסט שנוצר ב-AI שנחשב אמין אך רחוק מלהיות חסין לטעויות, כ-78% מהטקסט נוצרו ב-AI. המחברת, מיה באלארד (Mia Ballard), מכחישה שהשתמשה ב-AI. לטענתה, עורך הכניס שינויים בעזרת AI לגרסה קודמת של הספר שהוציאה בהוצאה עצמית. היא גם אמרה שהיא נוקטת צעדים משפטיים. מאז הואשמו בכך עוד כמה סופרים: אחד אחרי שזכה בפרס לסיפור קצר, ואחר אחרי שהוצאות לאור הציעו מיליונים על רומן הפשע שלו. גם הם מכחישים.
"מיד הרגשתי שזה עלול להוביל לציד מכשפות", אומרת בארץ. לדבריה, בקרוב כל אחד יוכל להאשים כל אחד, ולסופרים אין כמעט דרך להתגונן. "אין סטנדרט מוסכם" להוכחת כתיבה אנושית, היא אומרת.
הכלים: תיעוד של כל הקשה
כמה חברות מנסות לתת מענה לבעיה. פלטפורמות כמו Workings, Blindproof, Wintertext, Human Ink ו-ObraVera עוקבות אחרי תהליך הכתיבה ומתעדות אותו. חלקן מצפינות את הטקסט ויוצרות לו "טביעת אצבע" דיגיטלית, וחלקן עושות זאת גם לקצב ההקלדה של הכותב. התוצאה היא תיעוד של המחבר, בין שהטקסט אנושי לגמרי ובין שנכתב בסיוע AI. הכלים לא נועדו רק להגנה מפני האשמות. הם אמורים גם להוכיח מאיפה הגיע טקסט, למשל כשהוא נאסף למאגרי אימון של AI בלי ייחוס ובלי מידע מזהה.
"מעליב" ו"נטל"
מרי רזנברגר (Mary Rasenberger), מנכ"לית Authors Guild, ארגון הסופרים המקצועי, אומרת שהארגון לא ממליץ על כלי מסוים, אבל רוצה שסופרים יידעו שהכלים קיימים, כסוג של רשת ביטחון. לדברי אומאיר קאזי (Umair Kazi), מנהל המדיניות של הארגון, רבות מהחברות פנו לארגון כדי להציע את שירותיהן. במקביל, רזנברגר אומרת ל-Wired שזה "מעליב" ו"נטל" לדרוש מסופרים לשמור הוכחות, ושלדעת הארגון זה לא צריך להיות חובה.
היא מודאגת מאווירת החשדנות בקהילה הספרותית, וגם מהאמון המופרז בכלי זיהוי AI, שאפשר להטעות ושכבר ידוע שהם מסמנים בטעות טקסטים אנושיים. חברת Pangram טוענת לשיעור התראות שווא של 0.01% בלבד בכתיבה יוצרת. אבל לדברי רזנברגר, הארגון "שמע על הרבה מקרים" שבהם אנשים הזינו לכלי טקסט שכתבו בעצמם וקיבלו תשובה שהוא נוצר ב-AI.
גם הכלים לתיעוד הכתיבה לא חסינים לחלוטין. מירוץ החימוש סביב AI יוצר מחזור מתמשך של פרצות ותיקונים, הן אצל מי שמנסה לזייף והן אצל מי שמנסה לזהות זיופים.
למה זה חשוב
המקרה של Shy Girl מראה שהאשמה לבדה עלולה לפגוע בקריירה עוד לפני שמישהו הוכיח משהו. המשמעות היא ככל הנראה שינוי בחלוקת האחריות. בעבר מי שהאשים היה צריך להביא הוכחות, ועכשיו הסופרים עלולים להידרש להוכיח מראש שהם כתבו בעצמם. כלי התיעוד יכולים לתת להם משהו להציג, אבל כל עוד אין סטנדרט מוסכם בתעשייה, והכלים משני הצדדים ממשיכים להשתפר, ספק אם סופרים יקבלו הגנה של ממש.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות