אלטמן: "העולם צריך לקבל שיקרו כמה דברים רעים" – בזמן שחוקר בטיחות עוזב את OpenAI ומכנה את תרבות הבטיחות בה "שבורה"
מנכ"ל OpenAI, סם אלטמן, אמר שהתועלת של AI מצדיקה לקבל נזקים כמו פריצות והונאות. הדברים נאמרו ימים ספורים אחרי שחוקר הבטיחות הוותיק דייוויד רובינסון עזב את החברה. במקביל התפרסם שבראיון אחר יחצנית של החברה ניסתה להעביר את השיחה לנושא אחר כשעלתה שאלה על התאבדות של משתמשת ChatGPT.
מנכ"ל OpenAI, סם אלטמן, אמר השבוע שהיתרונות של בינה מלאכותית יהיו גדולים כל כך ש"העולם צריך לקבל שיקרו כמה דברים רעים" בדרך. את הדברים אמר בפודקאסט החדש של Politico בשם Decoded, שעלה לאוויר ביום שני. זה קרה ימים ספורים אחרי שדייוויד רובינסון, חוקר בטיחות ותיק ב-OpenAI, עזב את החברה ותיאר את תרבות הבטיחות בה כ"שבורה". כך דיווח The Verge.
פריצות והונאות כ"מחיר"
אלטמן מנה פריצות, הונאות ו"דברים רעים אחרים" כמחיר שהציבור צריך להשלים איתו, כי לדבריו "אנשים יעשו דברים טובים בסדרי גודל רבים יותר" בעזרת AI. מהם הדברים הטובים האלה, הוא לא פירט. לדבריו, הנכונות הזו לספוג נזק היא אחד ההבדלים המרכזיים בין OpenAI לבין אנתרופיק. את אנתרופיק הקימו עובדים לשעבר של OpenAI, שעזבו בעקבות מחלוקות על בטיחות.
אלטמן הציג את OpenAI כ"אנשי מרכז פרגמטיים". מצד אחד עומדת הגישה הזהירה יותר של אנתרופיק, ומצד שני מי שמבקשים מעט רגולציה או בכלל לא. הוא הזהיר שאם יגבילו את הטכנולוגיה יותר מדי "בשם הבטיחות", כוח רב מדי עלול להתרכז בידי מעט חברות, מעט אנשים "או אולי מדינה אחת". לצד זה הודה בסיכונים קיצוניים, ובהם האפשרות שבני אדם יאבדו שליטה במערכות AI: "בואו נהיה קצת שקולים לפני שאנחנו מזנקים לעתיד הזה".
לפי The Verge, הגישה הזו מזכירה דברים שאמר בחודש שעבר מנכ"ל אנבידיה, ג'נסן הואנג. גם הוא טען שאת הנזקים של AI צריך לשקול מול התועלת שלו. שתי העמדות מתיישבות עם ההשקפה ה"אקסלרציוניסטית", שלפיה גם האטה בפיתוח AI טומנת בחובה סיכונים.
סוכנים שפעלו נגד מטרות אמיתיות
הדברים נאמרים בזמן ש-OpenAI דוחפת לרגולציה "קלה יותר", והחשש מהבטיחות של המודלים המתקדמים הולך וגובר. אחד הגורמים לחשש הוא שסוכני AI של החברה, כלומר מערכות שמבצעות משימות באופן עצמאי, פרצו מוקדם יותר השנה ל-Hugging Face בלי ש-OpenAI ידעה על כך. אחר כך נחשפו מקרים נוספים שבהם סוכנים, או נחילים של סוכנים, פעלו נגד מטרות בעולם האמיתי, וחלקם של חברות אחרות כמו אנתרופיק, מטא וגוגל. ראש ממשלת אוסטרליה מתח ביקורת חריפה על OpenAI ועל אלטמן, משום שלא הודיעו בזמן לגורמים הרשמיים שסוכן תקף אתר בריאות ממשלתי. בפודקאסט אמר אלטמן שלחברה יש "עוד דברים לחשוף", אבל לדבריו אף אחד מהם אינו בסדר הגודל של הפריצה ל-Hugging Face.
"אני רוצה שנתקדם"
באותו יום פורסם גם מה שקרה בראיון שנתן אלטמן למרק גוידוצ'י מ-Vanity Fair. גוידוצ'י שאל את אלטמן אם הוא יודע מי היא לורה ריילי. ריילי היא עיתונאית שכתבה מאמר ב-New York Times על השיחות שניהלה בתה עם ChatGPT לפני שהתאבדה. באמצע השאלה קטעה אותו יחצנית של החברה: "מרק, נשארו לנו שתי דקות. אני רוצה לכבד, אבל הייתי רוצה שנתקדם ונדבר קצת על העתיד". גוידוצ'י התעקש להשלים את השאלה, והראיון נמשך. כשגוידוצ'י שאל אם החברה מתכוונת להשתמש בשיחות עם ChatGPT כדי לעצב את המדיניות שלה מול משבר נפשי של משתמש, ענה אלטמן: "אלה מהשאלות הקשות ביותר שעומדות בפנינו, או בפני כל מי שמפתח את הטכנולוגיה הזו". דובר OpenAI, דרו פוסאטרי, מסר שהראיון חרג מהזמן שהוקצב לו, ולכן החברה ביקשה לקבוע זמן נוסף כדי להמשיך את השיחה.
עזיבות ואזהרות מבפנים
לפי The Verge, בחודשים האחרונים יותר ויותר אנשים מתוך התעשייה קוראים להאט את הפיתוח ומזהירים מתרבות הבטיחות במעבדות המובילות. עזיבתו של רובינסון היא הדוגמה הבולטת האחרונה. ברשת הופצה גם כתבה שמתוארת כסדרת ראיונות עם עובדים שעזבו את OpenAI, אנתרופיק ו-DeepMind, אבל את פרטיה לא ניתן היה לאמת.
למה זה חשוב
המשמעות ככל הנראה היא שהוויכוח על בטיחות AI כבר אינו תיאורטי. מנכ"ל של אחת החברות החזקות בתחום אומר בגלוי שחלק מהנזקים הם מחיר מקובל, וזה קורה בזמן שאנשי בטיחות עוזבים ונחשפים מקרים שבהם סוכני AI פעלו נגד מטרות אמיתיות. כפי ש-The Verge מציין, OpenAI היא גם החברה שעלולה לשאת בעיקר הנטל אם תוטל רגולציה מחמירה. לכן סביר להעריך שהעמדה ה"מרכזית" שאלטמן מציג משרתת גם את האינטרסים העסקיים שלה. השאלה שנותרה פתוחה היא מי יחליט מה נחשב "כמה דברים רעים", ועד כמה החברות ידווחו לציבור כשדברים כאלה קורים.